大约在一百年前，电气化改变了交通运输行业、制造业、医疗行业、通信行业，如今AI带来了同样巨大的改变。AI的各个分支中发展最为迅速的方向之一就是深度学习。

本书主要涉及以下内容：第1部分是神经网络的基础，学习如何建立神经网络，以及如何在数据上面训练它们。第2部分进行深度学习方面的实践，学习如何构建神经网络与超参数调试、正则化以及一些高级优化算法。第3部分学习卷积神经网络(CNN)，以及如何搭建模型、有哪些经典模型。它经常被用于图像领域，此外目标检测、风格迁移等应用也将涉及。最后在第4部分学习序列模型，以及如何将它们应用于自然语言处理等任务。序列模型讲到的算法有循环神经网络（RNN）、长短期记忆网络（LSTM）、注意力机制。

通过以上内容的学习，读者可以入门深度学习领域并打下扎实基础，为后续了解和探索人工智能前沿科技做知识储备。

本书配有电子课件，需要配套资源的教师可登录机械工业出版社教育服务网www.cmpedu.com免费注册后下载。

目  录

前言

第1部分神经网络和深度学习

第1章深度学习简介

1.1神经网络

1.2神经网络的监督学习应用

1.3为什么深度学习会兴起

第2章神经网络的编程基础 

2.1二分类

2.2逻辑回归

2.3逻辑回归的代价函数

2.4梯度下降法

2.5计算图

2.6使用计算图求导数

2.7逻辑回归中的梯度下降

2.8m个样本的梯度下降

2.9向量化

2.10向量化逻辑回归

2.11向量化逻辑回归的输出

2.12Python中的广播

2.13numpy向量

2.14logistic损失函数的解释

第3章浅层神经网络

3.1神经网络概述

3.2神经网络的表示

3.3计算一个神经网络的输出

3.4多样本向量化

3.5激活函数

3.6激活函数的导数

3.7神经网络的梯度下降

3.8理解反向传播

3.9随机初始化

第4章深层神经网络

4.1深层神经网络概述

4.2前向传播和反向传播

4.3深层网络中矩阵的维数

4.4为什么使用深层表示

4.5超参数

第2部分改善深层神经网络：超参数调试、正则化以及优化

第5章深度学习的实践

5.1训练、验证、测试集

5.2偏差、方差

5.3机器学习基础

5.4正则化

5.5正则化如何降低过拟合

5.6dropout正则化

5.7理解dropout

5.8其他正则化方法

5.9归一化输入

5.10梯度消失/梯度爆炸

5.11梯度的数值逼近

5.12梯度检验

第6章优化算法 

6.1mini-batch梯度下降

6.2理解mini-batch梯度下降法

6.3动量梯度下降法

6.4RMSprop

6.5Adam 优化算法

6.6学习率衰减

6.7局部优问题

第7章超参数调试、正则化

7.1调试处理

7.2超参数的合适范围

7.3归一化网络的激活函数

7.4将batch norm拟合进神经网络

7.5batch归一化分析

7.6softmax回归

7.7训练一个softmax分类器

7.8TensorFlow

第3部分卷积神经网络及应用

第8章卷积神经网络

8.1计算机视觉

8.2边缘检测示例

8.3边缘检测内容

8.4填充

8.5卷积步长

8.6三维卷积

8.7单层卷积网络

8.8简单卷积网络示例

8.9池化层

8.10卷积神经网络示例

8.11为什么使用卷积

第9章深度卷积网络：实例探究

9.1经典网络

9.2残差网络

9.3残差网络为什么有用

9.4网络中的1×1卷积

9.5谷歌Inception网络

9.6迁移学习

9.7数据增强

第10章目标检测

10.1目标定位

10.2特征点检测

10.3目标检测

10.4滑动窗口的卷积实现

10.5Bounding Box预测

10.6交并比

10.7非极大值抑制

10.8Anchor Boxes

10.9YOLO算法

第11章特殊应用：人脸识别和神经风格迁移

11.1One-Shot学习

11.2Siamese网络

11.3Triplet损失

11.4人脸验证与二分类

11.5神经风格迁移

11.6深度卷积网络学习什么

11.7代价函数

11.8内容代价函数

11.9风格代价函数

11.10一维到三维推广

第4部分序列模型

第12章循环序列模型

12.1为什么选择序列模型

12.2数学符号

12.3循环神经网络模型

12.4通过时间的反向传播

12.5不同类型的循环神经网络

12.6语言模型和序列生成

12.7对新序列采样

12.8循环神经网络的梯度消失

12.9GRU单元

12.10长短期记忆

12.11双向循环神经网络

12.12深层循环神经网络

第13章序列模型和注意力机制

13.1序列结构的各种序列

13.2选择最可能的句子

13.3集束搜索

13.4改进集束搜索

13.5集束搜索的误差分析

13.6注意力模型直观理解

13.7注意力模型

附录

附录A深度学习符号指南

A.1数据标记与上下标

A.2神经网络模型

A.3正向传播方程示例

A.4通用激活公式

A.5损失函数

A.6深度学习图示

附录B线性代数

B.1基础概念和符号

B.2矩阵乘法〖＝（〗