实例介绍
【实例简介】Python:迁移学习简明手册
【实例截图】
【核心代码】
目录
写在前面
I
致谢
II
手册说明
III
1 迁移学习基本概念
1
1.1 引子 . . . . . . . . . . . . . .
1
1.2 迁移学习的概念 . . . . . . . .
1
1.3 为什么需要迁移学习？ . . . .
2
1.4 与已有概念的区别和联系 . .
4
1.5 负迁移 . . . . . . . . . . . . .
5
2 迁移学习的研究领域
7
2.1 按目标域标签分 . . . . . . . .
7
2.2 按学习方法分类 . . . . . . . .
7
2.3 按特征分类 . . . . . . . . . .
8
2.4 按离线与在线形式分 . . . . .
8
3 迁移学习的应用
9
3.1 计算机视觉 . . . . . . . . . .
9
3.2 文本分类 . . . . . . . . . . .
9
3.3
时间序列 . . . . . . . . . . . 10
3.4
医疗健康
. . . . . . . . . . .
11
4 基础知识
12
4.1 迁移学习的问题形式化 . . . . 12
4.1.1
领域 . . . . . . . . . . 12
4.1.2
任务 . . . . . . . . . . 12
4.1.3
迁移学习 . . . . . . . 12
4.2 总体思路 . . . . . . . . . . . 13
4.3 度量准则 . . . . . . . . . . . 14
4.3.1
常见的几种距离 . . . . 14
4.3.2
相似度 . . . . . . . . . 14
4.3.3 KL 散度与 JS 距离 . . 15
4.3.4
最大均值差异 MMD . 15
4.3.5 Principal Angle . . . .
16
4.3.6 A-distance . . . . . . .
16
4.3.7 Hilbert-Schmidt In
dependence Criterion .
16
4.3.8 Wasserstein Distance .
16
4.4 迁移学习的理论保证 * . . . . 17
5 迁移学习的基本方法
19
5.1 基于样本迁移 . . . . . . . . . 19
5.2 基于特征迁移 . . . . . . . . . 20
5.3 基于模型迁移 . . . . . . . . . 20
5.4 基于关系迁移 . . . . . . . . . 21
6 第一类方法：数据分布自适应
23
6.1 边缘分布自适应 . . . . . . . . 23
6.1.1
基本思路 . . . . . . . 23
6.1.2
核心方法 . . . . . . . 23
6.1.3
扩展 . . . . . . . . . . 25
6.2 条件分布自适应 . . . . . . . . 26
6.3 联合分布自适应 . . . . . . . . 27
6.3.1
基本思路 . . . . . . . 27
6.3.2
核心方法 . . . . . . . 27
6.4 动态分布自适应 . . . . . . . . 30
6.5 小结 . . . . . . . . . . . . . . 32
7 第二类方法：特征选择
34
7.1 核心方法 . . . . . . . . . . . 34
7.2 扩展 . . . . . . . . . . . . . . 34
7.3 小结 . . . . . . . . . . . . . . 35
8 第三类方法：子空间学习
36
8.1 统计特征对齐 . . . . . . . . . 36
8.2 流形学习 . . . . . . . . . . . 38
8.3 扩展与小结 . . . . . . . . . . 40
9 深度迁移学习
41
9.1 深度网络的可迁移性 . . . . . 41
9.2 最简单的深度迁移：finetune . 45
9.3 深度网络自适应 . . . . . . . . 46
9.3.1
基本思路 . . . . . . . 46
9.3.2
核心方法 . . . . . . . 47
9.3.3
小结 . . . . . . . . . . 52
9.4 深度对抗网络迁移 . . . . . . 52
9.4.1
基本思路 . . . . . . . 52
9.4.2
核心方法 . . . . . . . 52
9.4.3
小结 . . . . . . . . . . 55
10 上手实践
56
10.1 TCA 方法代码实现 . . . . . . 56
10.1.1 Matlab
. . . . . . . . 56
10.1.2 Python . . . . . . . . 60
I迁移学习简明手册
10.2 深度网络的 finetune 代码实现 62
10.3 深度网络自适应代码 . . . . . 63
11 迁移学习前沿
66
11.1 机器智能与人类经验结合迁移
66
11.2 传递式迁移学习 . . . . . . . . 66
11.3 终身迁移学习 . . . . . . . . . 67
11.4 在线迁移学习 . . . . . . . . . 68
11.5 迁移强化学习 . . . . . . . . . 69
11.6 迁移学习的可解释性 . . . . . 69
12 总结语
70
13 附录
71
13.1 迁移学习相关的期刊和会议 . 71
13.2 迁移学习研究学者 . . . . . . 71
13.3 迁移学习资源汇总 . . . . . . 74
13.4 迁移学习常用算法及数据资源
75
II迁移学习简明手册
写在前面
一直以来都有这样的愿望：无论学习什么知识，总是希望可以快速准确地找到对应的有
价值资源进行学习。我相信我们每个人都梦寐以求。然而，越来越多的学科，尤其是我目前
从事的计算机科学、人工智能领域，当下正在飞速地发展着。太多的新知识都难以事半功倍
地找到快速入手的教程。庄子曰：“吾生也有涯，而知也无涯。以有涯随无涯，殆已。”
我只是迁移学习领域一个很普通的博士生，也同样经历了由“一问三不知”到“稍稍理
解”的艰难过程。我在 2016 年初入门迁移学习之时，迁移学习这个概念还未曾像今天一样
炙手可热。当时所能找到的学习资源只有两种：别人已发表的论文和已做过的演讲。这些还
是不够简单、不够直观。我需要从如此众多的材料中不断归纳，才能站在博
标签： 迁移学习
好例子网口号：伸出你的我的手 — 分享！
小贴士
感谢您为本站写下的评论，您的评论对其它用户来说具有重要的参考价值，所以请认真填写。
- 类似“顶”、“沙发”之类没有营养的文字，对勤劳贡献的楼主来说是令人沮丧的反馈信息。
- 相信您也不想看到一排文字/表情墙，所以请不要反馈意义不大的重复字符，也请尽量不要纯表情的回复。
- 提问之前请再仔细看一遍楼主的说明，或许是您遗漏了。
- 请勿到处挖坑绊人、招贴广告。既占空间让人厌烦，又没人会搭理，于人于己都无利。
关于好例子网
本站旨在为广大IT学习爱好者提供一个非营利性互相学习交流分享平台。本站所有资源都可以被免费获取学习研究。本站资源来自网友分享，对搜索内容的合法性不具有预见性、识别性、控制性，仅供学习研究，请务必在下载后24小时内给予删除，不得用于其他任何用途，否则后果自负。基于互联网的特殊性，平台无法对用户传输的作品、信息、内容的权属或合法性、安全性、合规性、真实性、科学性、完整权、有效性等进行实质审查；无论平台是否已进行审查，用户均应自行承担因其传输的作品、信息、内容而可能或已经产生的侵权或权属纠纷等法律责任。本站所有资源不代表本站的观点或立场，基于网友分享，根据中国法律《信息网络传播权保护条例》第二十二与二十三条之规定，若资源存在侵权或相关问题请联系本站客服人员，点此联系我们。关于更多版权及免责申明参见 版权及免责申明
网友评论
我要评论