第1章 绪论 1
1.1 机器学习概述 1
1.1.1 机器学习的主要步骤 1
1.1.2 机器学习的分类 3
1.2 迁移学习的基本概念 5
1.2.1 迁移学习的定义 5
1.2.2 域和任务 7
1.2.3 迁移学习的数学表示 8
1.2.4 迁移学习的基础研究问题 9
1.3 迁移学习方法的分类 10
1.3.1 根据目标域中所包含的有标签数据情况分类 10
1.3.2 根据源域与目标域的数据和任务的不同分类 11
1.3.3 根据源域与目标域的特征空间或标签是否同构分类 14
1.3.4 迁移学习方法的总结分类 14
1.4 迁移学习的发展历史 16
1.5 其他学习方法 17
1.5.1 主动学习 17
1.5.2 在线学习 18
1.5.3 度量学习 19
1.5.4 深度迁移学习 20
1.5.5 强化学习 24
参考文献 25
第2章 基础知识 32
2.1 矩阵分析 32
2.1.1 基本概念 32
2.1.2 矩阵分解 36
2.2 概率论 39
2.2.1 随机变量 39
2.2.2 概率分布 39
2.2.3 随机变量的数字特征 41
2.3 最优化方法 42
2.3.1 梯度下降法 43
2.3.2 牛顿法 44
2.3.3 拟牛顿法 45
2.4 神经网络 46
2.4.1 神经元模型 46
2.4.2 单层感知器 48
2.4.3 多层感知器 49
2.5 支持向量机 53
2.5.1 线性SVM 53
2.5.2 非线性SVM 56
参考文献 57
第3章 迁移学习基本方法 59
3.1 基于样本迁移学习 59
3.1.1 基于样本迁移基本思想 59
3.1.2 基于样本迁移经典方法 60
3.2 基于特征迁移学习 67
3.2.1 基于特征迁移基本思想 67
3.2.2 基于特征迁移经典方法 67
3.3 基于模型迁移学习 72
3.3.1 基于模型迁移基本思想 72
3.3.2 基于模型迁移经典方法 72
3.4 基于关系迁移学习 78
3.4.1 基于关系迁移基本思想 78
3.4.2 基于关系迁移经典方法 78
3.5 异构迁移学习 80
3.5.1 同构迁移 80
3.5.2 异构迁移 80
参考文献 82
第4章 深度迁移学习 85
4.1 深度神经网络基础 85
4.1.1 卷积神经网络 85
4.1.2 生成对抗网络 92
4.1.3 网络优化 95
4.2 深度神经网络微调迁移 99
4.2.1 网络微调基本思想 99
4.2.2 网络微调经典方法 99
4.2.3 网络微调性能分析 106
4.3 深度神经网络自适应迁移 108
4.3.1 网络自适应迁移基本思想 108
4.3.2 网络自适应迁移经典方法 108
4.3.3 网络自适应迁移性能分析 112
4.4 深度神经网络对抗迁移 114
4.4.1 网络对抗迁移基本思想 114
4.4.2 对抗迁移经典方法 115
4.4.3 网络对抗迁移性能分析 124
参考文献 126
第5章 其他迁移学习 131
5.1 部分域适应 131
5.1.1 部分域适应基本思想 131
5.1.2 部分域适应经典方法 132
5.1.3 性能分析 140
5.2 开集域适应 143
5.2.1 开集域适应基本思想 144
5.2.2 开集域适应经典方法 145
5.2.3 性能分析 150
参考文献 152
第6章 迁移学习在动作识别中的应用 155
6.1 动作识别介绍 155
6.2 动作识别基本方法 155
6.2.1 动作特征提取 155
6.2.2 动作分类 158
6.2.3 动作识别深度模型 159
6.3 迁移学习动作识别 162
6.3.1 自适应多核学习动作识别 163
6.3.2 多语义分组域适应动作识别 166
6.3.3 生成对抗学习动作识别 175
参考文献 183
第7章 迁移学习在目标检测中的应用 190
7.1 目标检测介绍 190
7.2 目标检测经典方法 191
7.3 迁移学习目标检测方法 194
7.3.1 域适应目标检测 194
7.3.2 渐进域适应弱监督目标检测 196
7.4 常用数据集 198
7.4.1 PASCAL VOC数据集 198
7.4.2 Cityscapes数据集和Foggy Cityscapes数据集 200
7.4.3 Clipart1k数据集 202
7.4.4 KITTI数据集 203
7.4.5 SIM系列数据集 205
7.4.6 目标检测评价指标 205
7.5 方法性能分析 206
7.5.1 域适应目标检测结果 206
7.5.2 渐进域适应弱监督目标检测结果 207
参考文献 208
第8章 迁移学习在语义分割中的应用 211
8.1 语义分割介绍 211
8.2 语义分割经典方法 212
8.3 迁移学习的语义分割方法 213
8.3.1 基于全局和局部对齐的域适应语义分割 214
8.3.2 双向学习的域适应语义分割 216
8.4 常用数据集 219
8.4.1 GTA5数据集 219
8.4.2 SYNTHIA数据集 220
8.4.3 语义分割评价指标 221
8.5 方法性能分析 222
8.5.1 基于全局和局部对齐的域适应语义分割方法结果 222
8.5.2 双向学习的域适应语义分割方法结果 225
参考文献 227