9深度置信网络和深度玻尔兹曼机 1
9.1深度置信网络和深度玻尔兹曼机的起源 1
9.1.1玻尔兹曼机 1
9.1.2受限玻尔兹曼机 2
9.2模型参数学习 7
9.2.1吉布斯采样 7
9.2.2对比散列算法 7
9.3深度置信网络 9
9.3.1深度置信网络模型 9
9.3.2深度置信网络训练 10
9.4深度玻尔兹曼机 11
9.4.1深度玻尔兹曼机模型 11
9.4.2深度玻尔兹曼机参数学习 13
9.5深度置信网络和深度玻尔兹曼机的应用 15
9.5.1深度置信网络的应用 15
9.5.2深度玻尔兹曼机的应用 17
9.6阅读材料 28
参考文献 29
10自编码器 31
10.1自编码器介绍 31
10.1.1自编码器的结构 31
10.1.2自编码器的训练 33
10.2深度自编码器 34
10.3自编码器的变形 36
10.3.1稀疏自编码器 36
10.3.2降噪自编码器 37
10.3.3收缩自编码器 38
10.3.4掩码自编码器 39
10.3.5其他自编码器 42
10.4变分自编码器 42
10.4.1变分推断 42
10.4.2详解变分自编码器 45
10.5变分自编码器的变形 50
10.5.1半监督变分自编码器 50
10.5.2反向自回归流变分自编码器 54
10.5.3信息最大化变分自编码器 56
10.5.4最大均值差异变分自编码器 58
10.5.5向量量化变分自编码器 59
10.5.6降噪变分自编码器 62
10.5.7梯形变分自编码器 64
10.6变分自编码器的应用 68
10.6.1机器翻译 68
10.6.2文本分类 72
10.7阅读材料 76
参考文献 76
11生成对抗网络 79
11.1原始生成对抗网络 79
11.1.1生成对抗网络的基本结构 79
11.1.2深入理解生成对抗网络 82
11.1.3原始生成对抗网络中的问题 95
11.2生成对抗网络的发展 96
11.2.1深度卷积生成对抗网络 96
11.2.2基于Wasserstein距离的生成对抗网络 97
11.2.3加罚项的基于Wasserstein距离的生成对抗网络 102
11.2.4带有一致化项的生成对抗网络 104
11.2.5损失敏感的生成对抗网络 106
11.2.6信息最大化生成对抗网络 110
11.3生成对抗网络的训练 112
11.3.1训练生成对抗网络的问题与发展 113
11.3.2训练生成对抗网络的一些技巧 115
11.3.3渐进增大方式训练生成对抗网络 116
11.3.4生成对抗网络的谱归一化 118
11.3.5通过原始-对偶次梯度方法训练生成对抗网络 121
11.3.6用优化镜像下降的方法训练生成对抗网络 123
11.3.7一阶惩罚生成对抗网络 125
11.4深度生成模型的联合模型 126
11.4.1对抗变分贝叶斯方法 127
11.4.2建立深度生成模型之间的原则性联系 133
11.4.3对抗自编码器 140
11.4.4 Wasserstein自编码器 144
11.5最优传输理论与生成对抗网络 147
11.5.1从最优传输理论到生成模型 147
11.5.2利用最优传输理论改善生成对抗网络 150
11.6生成对抗网络的评估 152
11.6.1几何评分：一种比较样本的方法 153
11.6.2调节生成器对生成对抗网络性能的影响 156
11.7生成对抗网络的其他模型 157
11.8生成对抗网络的应用 160
11.8.1图像的生成与操作 160
11.8.2文本 172
11.9早期的对抗模型 175
11.10生成对抗网络的总结 177
11.11阅读材料 179
参考文献 180
12像素级生成模型 184
12.1 PixelCNN 184
12.1.1 PixelCNN介绍 184
12.1.2 mask卷积 185
12.1.3盲点问题 186
12.2 PixelRNN 188
12.2.1行LSTM PixelRNN 188
12.2.2对角线BiLSTM PixelRNN 189
12.3门PixelCNN 192
12.4条件PixelCNN 193
12.5 PixelVAE 194
12.6 PixelGAN 195
12.7阅读材料 197
参考文献 197
13深度聚类 198
13.1聚类概述 198
13.1.1传统聚类与深度聚类之间的关系 198
13.1.2深度聚类模型结构 199
13.1.3深度聚类损失函数 199
13.1.4簇的更新策略 201
13.2深度嵌入聚类算法 202
13.2.1自编码器与聚类结合 202
13.2.2变分自编码器与聚类的结合 207
13.2.3梯子网络与聚类的结合 210
13.2.4卷积神经网络与聚类的结合 213
13.3深度谱聚类 217
13.4深度子空间聚类 220
13.5阅读材料 224
参考文献 225
14深度强化学习 230
14.1基于值函数的深度强化学习 230
14.1.1深度Q网络 231
14.1.2双重深度Q网络 238
14.1.3优先化经验回放的深度Q网络 241
14.1.4基于竞争网络架构的深度Q网络 243
14.2基于策略搜索的深度强化学习 246
14.2.1深度确定性策略梯度算法 246
14.2.2异步的优势行动者-评论家算法 250
14.3基于模型的深度强化学习 252
14.3.1 AlphaGo发展史 253
14.3.2 AlphaGo原理介绍 255
14.4深度强化学习的应用 264
14.5深度强化学习的未来 266
14.6阅读材料 269
参考文献 269
15深度学习的可解释性 272
15.1可解释性概述 272
15.1.1什么是可解释性 273
15.1.2可解释的必要性 273
15.1.3可解释性研究进展 274
15.2可视化 277
15.2.1可视化方法分类 277
15.2.2特征可视化 278
15.2.3关系可视化 289
15.2.4过程可视化 297
15.3深度学习内部工作机制探查 300
15.3.1局部可解释模型 300
15.3.2关系反向传播 304
15.3.3决策树量化解释 311
15.3.4信息论的角度解释模型 317
15.4深度学习工作机制理论分析 321
15.4.1基于统计的分析 321
15.4.2基于信息论的分析 327
15.4.3基于认知科学的分析 342
15.5阅读材料 347
参考文献 348
16对抗样本攻防和深度学习的鲁棒性 355
16.1深度神经网络的脆弱性 355
16.2对抗样本攻击 357
16.2.1攻击策略 357
16.2.2对抗样本的产生 373
16.2.3对抗样本的迁移 380
16.3对抗攻击的检测与防御 383
16.3.1对抗样本的检测 383
16.3.2对抗攻击的防御 385
16.4深度神经网络的鲁棒性 391
16.4.1分类器的鲁棒性 391
16.4.2 Parseval网络 399
16.4.3评估神经网络的鲁棒性 400
16.4.4为深度神经网络提供可保证的鲁棒性 403
16.5深度学习测试 405
16.5.1白盒测试 405
16.5.2黑盒测试 414
16.6深度学习验证 422
16.6.1可满足性模理论 423
16.6.2线性实数算法和单纯形 424
16.6.3从Simplex到Reluplex 425
16.6.4有效实施Reluplex 428
16.6.5案例研究：ACAS Xu系统 429
16.7阅读材料 431
参考文献 432
- 《深度学习系列 深度学习与TensorFlow实战》李建军，王希铭，潘勉 2018
- 《深度学习教学改进丛书 深度学习 走向核心素养 理论普及读本》刘月霞，郭华主编；教育部基础教育课程教材发展中心，课程教材研究所组织编写 2018
- 《KERAS高级深度学习》（菲）罗韦尔·阿蒂恩扎著 2020
- 《深度学习》刘玉良 2020
- 《深度学习图解》（美）安德鲁·特拉斯克（Andrew W. Trask）著；王晓雷 2020
- 《深度学习图像识别技术》庄建，张晶，许钰雯编著 2020
- 《智能问答与深度学习》王海良，陈可心，李思珍等著 2019
- 《MXNet深度学习实战》 2019
- 《深度学习的探索之路》刘哲雨著 2018
- 《深度学习与医学大数据》乔霓丹著 2019
- 《Townsend Press 英语词汇学习丛书 英语词汇入门 第2版》（美）纳代尔（Nadell.J）等编著 2018
- 《THE GOVERNMENT/PRESS CONNECTION PRESS OFFICERS AND THEIR OFFICES》STEPHEN HESS 1984
- 《PRESS》POLITICS & PUBLIC OPINION IN BIHAR 1912-1947 2010
- 《Press law》Robin Callender Smith. 1978
- 《SUING THE PRESS》RODNEY A.SMOLLA 1986
- 《THE PRESS AND AMERICA》 2222
- 《FREEDOM OF THE PRESS》ERIC BARENDT 2009
- 《FREEDOM OF THE PRESS》ROB EDELMAN 2006
- 《FREEDOM OF THE PRESS》DAVID L.GEBERT 2005
- 《Racism and the press》Teun A.van Dijk 2016
