迁移学习手册_记录笔记_1

初入门迁移学习，很多内容都一知半解，有幸遇到王晋东的迁移学习手册，感觉受益匪浅，故记录一些内容，以便后续翻看。

1 迁移学习基本概念

迁移学习的核心问题是，找到新问题和原问题之间的相似性，即找到不变量，才可以顺利地实现知识的迁移。

为什么使用迁移学习？

1. 大数据与少标注之间的矛盾。——>迁移数据标注，利用与目标数据相近的有标注数据，增加目标数据标注；
2. 大数据与弱计算之间的矛盾。——>模型迁移，微调或者自适应更新；
3. 普适化模型与个性化需求之间的矛盾。（提高模型的泛化能力）——>自适应学习；
4. 特定应用的需求。——>相似领域知识、数据迁移

区别：

迁移学习 VS 领域自适应：
领域自适应问题是迁移学习的研究内容之一，它侧重于解决特征空间一致、类别空间一致，仅特征分布不一致的问题。而迁移学习也可以解决上述内容不一致的情况。

迁移学习 VS 自我学习：
自我学习指的是模型不断地从自身处进行更新，而迁移学习强调知识在不同的领域间进行迁移。

迁移学习 VS 协方差漂移
协方差漂移指数据的边缘概率分布发生变化。领域自适应研究问题解决的就是协方差漂移现象。

负迁移：
在源域上学到的知识，对目标域上的学习产生负面作用。

2 迁移学习的研究领域

按特征分类中的同构与异构：
如果特征语义和维度都相同，那么就是同构；反之，如果特征完全不相同，那么就是异构。举个例子来说，不同图片的迁移，就可以认为是同构；而图片到文本的迁移，则是异构的。

迁移学习手册_记录笔记_1

原文：https://www.cnblogs.com/Wiikk/p/12853131.html