本书由智能信息处理领域的专家进行编写，涵盖了深度学习的标准算法及精选的应用案例，总结了近年来数据智能研究的最新发展与成果。

由中国科学院院士和国家重点基础研究计划973的首席科学家徐宗本，以及千人计划特聘教授和“长江学者”特聘教授姚新合力编写。

[内容简介]

　数据智能是以数据为中心、以“感知用”为模式的人工智能，也可以说是以数据获取、加工、处理、分析、应用为智能特征的人工智能。数据智能包括智能感知、智能认知（机器学习）、智能控制／ 智能决策等方面，是近代人工智能研究最为活跃、应用最为普遍的部分。本分册主要从深度生成模型、生成式对抗网络、模型驱动深度学习、自步课程学习、强化学习、迁移学习及演化智能方面进行阐述，涵盖标准算法及精选的应用案例，总结了近年来数据智能研究的最新发展与成果。

 [作者简介]

徐宗本，中国科学院院士，博导，国家重点基础研究计划973首席科学家。研究领域：Banach 空间几何理论与智能信息处理的数学基础方面，主持完成国家863、国家自然基金等国家级科研课题15项。

姚新，千人计划特聘教授，“长江学者”特聘教授，博导，南方科技大学计算机科学与工程系系主任。研究领域：神经计算、演化计算、机器学习、大数据分析、自适应优化等，获 IEEE 计算智能学会演化计算先驱奖，英国皇家学会沃尔夫森杰出研究奖。

[目录]  

人工智能、数据智能与数据科学          … 1
1 深度生成模型／朱军            … 1
  1.1 引言              … 3
  1.2 模型定义             … 4
1.2.1 生成模型基本概念           4
1.2.2 基于层次化贝叶斯的建模        … 5
1.2.3 基于深度神经网络的建模        … 6
  1.3 学习方法             … 8
1.3.1 *大似然估计            8
1.3.2 对抗式生成网络           11
1.3.3 矩匹配深度生成模型          13
  1.4 “珠算”概率编程库            19
1.4.1 模型构建           … 19
1.4.2 推断和学习算法           24
  1.5 典型应用            … 28
1.5.1 生成高质量的图片、视频、音频        28
1.5.2 半监督学习            31
1.5.3 风格迁移           … 32
1.5.4 强化学习           … 34
  1.6 总结与展望             34
  参考文献              … 35
2 生成式对抗网络／王飞跃 戴星原 严岚 李小双      41
  2.1 引言             … 43
  2.2 生成式对抗网络概况          … 44
2.2.1 GAN提出的背景           44
2.2.2 GAN的基本概念           46
2.2.3 GAN的优势            48
2.2.4 GAN面临的挑战           48
2.2.5 小结            … 49
  2.3 GAN的网络结构           … 50
2.3.1 DCGAN             50
2.3.2 CGAN           … 53
2.3.3 InfoGAN             55
2.3.4 其他网络结构          … 57
  2.4 GAN的损失函数           … 60
2.4.1 LSGAN             61
2.4.2 WGAN             61
2.4.3 WGAN-GP            64
2.4.4 EBGAN             65
2.4.5 BEGAN             67
2.4.6 RGAN           … 69
  2.5 GAN的正则化方法            71
2.5.1 批归一化           … 71
2.5.2 权值归一化            72
2.5.3 谱归一化           … 72
2.5.4 正则化方法比较           73
  2.6 GAN的训练与评价            74
2.6.1 训练技巧           … 74
2.6.2 优化算法           … 75
2.6.3 评价指标           … 78
  2.7 GAN的应用            … 87
2.7.1 计算机视觉            87
2.7.2 自然语言处理          … 95
2.7.3 智能语音           … 99
2.7.4 其他领域           … 100
  2.8 总结与展望            … 104
  参考文献              … 104
3 模型驱动深度学习／孙剑           123
  3.1 模型驱动深度学习概述           125
  3.2 优化模型驱动的深度学习         … 128
3.2.1 稀疏编码优化深度网络        … 128
3.2.2 ADMM深度网络及其在压缩传感成像中的应用   … 131
  3.3 统计模型驱动的深度学习         … 137
3.3.1 MRF统计分布参数估计的深度学习方法      138
3.3.2 条件随机场模型驱动的深度学习      … 143
3.3.3 小结            … 146
  3.4 其他领域模型驱动的深度学习方法      … 147
  3.5 总结与展望            … 148
  参考文献              … 150
4 自步-课程学习／孟德宇            157
  4.1 课程学习              159
  4.2 自步学习              162
  4.3 自步正则              166
  4.4 自步-课程学习            169
  4.5 用武之地              172
  4.6 从强监督到弱监督            174
4.6.1 零样本学习            176
4.6.2 弱监督学习———多示例学习       … 180
4.6.3 半监督学习———自步协同学习        182
  4.7 自步-课程学习理论          … 186
4.7.1 稳健性理论            186
4.7.2 收敛性理论            192
4.7.3 凹共轭理论            194
  4.8 元学习方法            … 196
  4.9 总结与展望            … 202
  参考文献              … 203
5 强化学习／章宗长 郝建业 俞扬        … 209
  5.1 强化学习简介             211
5.1.1 强化学习模型          … 212
5.1.2 马尔可夫决策过程         … 213
5.1.3 学习*优策略：无模型方法       … 217
5.1.4 通过学习模型来计算*优策略        220
  5.2 深度强化学习             221
5.2.1 基于值函数的深度强化学习       … 222
5.2.2 基于策略梯度的深度强化学习        226
5.2.3 基于行动者-评论家的深度强化学习     … 230
  5.3 迁移强化学习             232
5.3.1 迁移强化学习的定义          233
5.3.2 基于样例迁移的迁移强化学习        234
5.3.3 基于表示迁移的迁移强化学习        235
5.3.4 基于参数迁移的迁移强化学习        236
5.3.5 基于关系迁移的迁移强化学习        237
5.3.6 迁移强化学习的评估          238
  5.4 分层强化学习             238
5.4.1 基于选项的分层强化学习         240
5.4.2 基于MaxＱ函数分解的分层强化学习     … 241
5.4.3 基于分层抽象机的分层强化学习      … 241
5.4.4 深度分层强化学习和自动分层        242
  5.5 逆向强化学习             244
5.5.1 基本概念           … 245
5.5.2 求解奖励函数          … 247
5.5.3 大状态空间下的奖励函数求解        249
5.5.4 基于*大熵的逆向强化学习       … 250
5.5.5 生成对抗模仿学习算法        … 252
  5.6 多智能体强化学习            255
5.6.1 多智能体学习目标         … 256
5.6.2 基于表格表征的多智能体强化学习       257
5.6.3 深度多智能体强化学习        … 262
  参考文献              … 269
6 迁移学习／龙明盛            … 279
  6.1 迁移学习的概念           … 283
6.1.1 迁移学习的定义           283
6.1.2 迁移学习的问题设定          284
  6.2 迁移学习的理论基础          … 285
6.2.1 数据集偏移及其原因          285
6.2.2 转导迁移学习经典理论        … 286
6.2.3 间隔分歧散度          … 290
6.2.4 归纳迁移学习的经典理论         293
  6.3 归纳迁移学习             297
6.3.1 有监督预训练          … 297
6.3.2 无监督预训练          … 298
6.3.3 微调            … 300
  6.4 转导迁移学习             301
6.4.1 样本重要性加权方法          301
6.4.2 基于距离约束的领域适应方法        304
6.4.3 基于对抗学习的领域适应方法        307
  6.5 无监督迁移学习           … 312
6.5.1 双向生成式对抗网络          312
  6.6 迁移学习的相关范式          … 313
6.6.1 多任务学习            313
6.6.2 少样本学习            315
6.6.3 持续学习           … 316
6.6.4 元学习             318
  6.7 迁移学习的应用           … 319
6.7.1 智慧医疗           … 319
6.7.2 自动驾驶           … 320
6.7.3 机器人控制            321
  参考文献              … 322
7 演化智能／姚新 唐珂          … 327
  7.1 演化人工神经网络            329
7.1.1 权值演化           … 330
7.1.2 网络结构和学习规则的演化       … 333
7.1.3 EPNet：一种混合型演化神经网络方法    … 335
  7.2 多目标演化            … 335
7.2.1 演化多目标优化           336
7.2.2 演化多目标机器学习          339
  7.3 协同演化              340
7.3.1 协同演化算法          … 341
7.3.2 合作型协同演化算法在类脑智能中的具体应用   … 346
7.3.3 竞争型协同演化算法在类脑智能中的具体应用   … 351
  7.4 动态优化              354
7.4.1 问题描述与定义           354
7.4.2 类脑智能系统中的动态自适应        355
  7.5 演化算法理论             362
7.5.1 基本介绍           … 362
7.5.2 理论分析的工具           364
7.5.3 离散优化理论分析的相关结果        369
7.5.4 连续优化相关工作         … 376
  7.6 人工生命              377
7.6.1 波形运动模型          … 377
7.6.2 神经网络实现和演化          378
  参考文献              … 379