前 言随着神经网络逐渐成为机器学习中的主流方法，神经网络的结构也在不断迭代的过程中变得更加复杂。 近些年，为了满足更复杂的神经网络运算需求，芯片不断发展，计算机算力持续增长，这也加速了神经网络向深度学习的方向发展。深度学习的研究已经在各个领域内取得了优异的成果，尤其是在自然语言处理与图像生成领域，深度学习已经成为领域内效果最好的方法。现阶段，GPT_4、DeepSeek 等一些基于深度学习的项目，已经完成了从科研环境到工业环境的落地，并能够帮助人们完成各种各样的任务。令人惊叹的是，这些事情仅仅发生在编写本书的两三年之前。随着越来越多的科研工作者投入深度学习的研究，深度学习的新方法也层出不穷。在编写本书的过程中，不断出现新的研究成果以及新的深度学习范式，这些情况是作者始料未及的。因此，本书尽量对当前深度学习中使用的主流范式以及方法进行提炼与总结，对这些复杂网络的结构进行拆分，从基础层面阐明这些网络的数学结构与运行机理。本书是为想要了解并学习深度学习的人编写的入门书籍。它面向具有一定神经网络基础知识、希望学习深度学习相关知识的读者。本书首先从人工智能与深度学习的基本概念与历史入手帮助读者了解深度学习。然后，介绍当前深度学习中较为主流的结构与方法，通过案例与理论的结合，使用简明易懂的方式使读者更好地了解深度学习的内容。掌握这些知识后，读者将了解深度学习中常用的方法，并且可以针对任务独立自主地构建深度学习模型。本书共包含 9 章，主要内容如下：. 第 1 章对深度学习的历史和应用进行概述，也会讨论深度学习的基本构成、现阶段深度学习存在的一些争议以及传统机器学习与深度学习的区别。. 第 2 ～ 8 章主要介绍现阶段深度学习中主流的学习方法和范式，也是目前深度学习的一些主要研究方向。每一章会详细介绍这些范式中的经典方法，包括输入和输出的结构、训练流程、优化方式等，并通过代码和样例帮助读者构建这些主流方法的深度学习模型。. 第 9 章介绍相关深度学习工具的安装与使用方式。读者可以通过本书中提供的参考案例来学习与使用不同的深度学习工具。但是，目前很多深度学习工具仍然处在开发过程中，随着全世界新科研成果的产出，这些工具可能会不断进行升级和更新。所以，本书所述的安装方法和实现方式可能会随之改变，敬请理解。本书中设置了一些;思考模块，它们可以作为课堂互动问题。在每一章的末尾配有练习，方便读者检验自己的学习成果，也可以作为作业和考试题，以及教师备课的参考。在本书中，我们使用代码与数学相结合的方式来帮助大家理解概念与实现。本书使用 Python 作为主要的编程语言，并使用 PyTorch 深度学习框架作为主要深度学习模型的搭建平台来进行代码编写。本书涉及深度学习模型的搭建，因此部分深度模型的训练与部署在一定程度上依赖于 GPU 硬件辅助设备。倘若只是想要了解深度模型中部分模块的实现，可以单独实现这些模块，在普通计算机上即可进行测试验证。本书作为入门书籍，尽力做到少用晦涩的数学公式，多用示例来完成知识的展示。在使用数学理论说明的部分，会对理论推导过程进行详细的说明，方便读者理解。虽然作者已努力避免疏漏，但书中可能仍然存在需要修改的部分，甚至是错误，如果有读者发现，敬请指正。最后，希望这本书可以为各位读者学习深度学习知识提供帮助。同时，也希望读者能在阅读过程中产生新的想法和思考，并将自己的好方法与思路分享出来。祝大家阅读愉快！

本书是南京大学人工智能学院核心课程配套教材，由南京大学人工智能学院副院长申富饶教授编著。

本书系统介绍深度学习的核心概念、主流模型与实战方法，内容涵盖神经网络基础、卷积神经网络、循环神经网络、图神经网络、生成对抗神经网络、Transformer、扩散模型、深度强化学习等前沿方向，详细阐述各类模型的数学原理、网络结构、训练流程与优化方法。全书以Python为主要编程语言，结合PyTorch框架提供丰富的代码示例与完整项目解析，同时每章配有;思考模块与练习，帮助读者理解算法实现细节并巩固所学知识。本书适合高等学校人工智能及相关专业的本科生、研究生，以及相关工程技术人员学习参考。

申富饶　南京大学人工智能学院副院长，计算机软件新技术全国重点实验室教授、博导。先后在南京大学数学系获学士、硕士学位，在日本东京工业大学获博士学位。主要研究方向为神经网络、计算机视觉、机器人智能，主持多项国家级项目，在包括ICML、CVPR等顶级会议和IEEE TPAMI等期刊发表论文130余篇，出版教材、专著、译著10余部。

目 录

前言主要符号表

第 1 章 绪论 11.1 深度学习的定义　　 21.1.1 深度神经网络　 21.1.2 深度学习与神经科学　　　　　 41.1.3 深度学习的争议 41.2 深度学习与传统机器学习方法的区别　 61.3 人工智能和深度学习的发展历程　　　 71.3.1 人工智能的历史发展　　　　　 71.3.2 深度学习的历史变迁　　　　　 81.4 本书结构　　　　 10练习　 10

第 2 章 卷积神经网络　　 122.1 卷积神经网络概述　 122.1.1 引言　　　 122.1.2 基本网络结构　 132.1.3 卷积层　　　 142.1.4 与全连接层的对等关系　　　 172.1.5 池化层　　　 212.1.6 卷积的变体　 232.2 卷积神经网络的训练 282.2.1 前馈运算　　 292.2.2 反馈运算　　 292.3 经典的卷积神经网络模型　　　　 352.3.1 LeNet　　　 352.3.2 AlexNet　 37 2.3.3 U_Net　　　 392.3.4 VGG　　　 402.3.5 ResNet　　 412.4 项目示例和代码解析 442.4.1 准备工作　　 442.4.2 数据准备　　 442.4.3 模型构建　　 472.4.4 训练与测试　 482.4.5 结果可视化　 502.4.6 拓展：ResNet 可视化　　　　 522.5 小结　　　　　 57练习　 57

第 3 章 循环神经网络　　 603.1 循环神经网络概述　 603.1.1 引言　　　 603.1.2 循环神经网络的结构与数学表示　 623.2 循环神经网络的训练方法　　　　 653.2.1 随时间反向传播算法　　　　 653.2.2 实时循环学习算法　　　　　693.3 经典的循环神经网络模型　　　　 703.3.1 针对梯度问题的循环神经网络改进 713.3.2 循环神经网络变体　　　　　753.4 项目示例和代码解析 813.4.1 数据准备　　 813.4.2 数据预处理　 833.4.3 模型构建　　 863.5 小结　　　　　 90练习　 90

第 4 章 图神经网络　　　 924.1 图神经网络概述　 924.1.1 引言　　　 924.1.2 图的表示方法　 94 4.1.3 图神经网络的基本任务　　　 954.2 图神经网络的训练方法　　　　　 964.2.1 图信号与图卷积 974.2.2 空域图卷积　 994.2.3 谱域图神经网络的训练　　　 1004.2.4 空域图神经网络的训练　　　 1024.3 经典的图神经网络模型　　　　　1064.3.1 GCN　　　 1064.3.2 GraphSAGE 1084.3.3 GAT　　　 1104.3.4 R_GCN　　 1124.4 项目示例和代码解析 1144.4.1 PyTorch 工具简介　　　　　 1144.4.2 问题描述　　 1144.4.3 数据简介　　 1154.4.4 数据处理　　 1164.4.5 模型构建　　 1184.5 小结　　　　　 121练习　 121

第 5 章 生成对抗神经网络 1235.1 生成对抗神经网络概述　　　　　1235.1.1 引言　　　 1235.1.2 从概率到模型　　　　　 1245.1.3 基本结构　　 1255.2 生成对抗神经网络的训练方法　　　 1265.2.1 GAN 的优化问题　　　　　 1265.2.2 GAN 的训练流程　　　　　 1285.2.3 GAN 中的梯度消失问题　　　 1305.2.4 评估指标设计　　　　　 1315.3 经典的生成对抗神经网络模型　　　 1335.3.1 CGAN　 1335.3.2 CycleGAN　 135 5.3.3 StyleGAN 1365.4 项目示例和代码解析 1395.4.1 项目简介　　 1395.4.2 数据处理　　 1395.4.3 模型构建　　 1405.4.4 训练过程　　 1415.4.5 结果展示　　 1445.5 小结　　　　　 145练习　 146

第 6 章 Transformer　　 1486.1 Transformer 概述　 1486.1.1 引言　　　 1486.1.2 Transformer 模型结构　　　　 1496.2 Transformer 关键技术　　　　　 1536.2.1 编码方式　　 1536.2.2 注意力机制　 1546.2.3 前馈网络　　 1596.2.4 残差连接与归一化　　　　 1596.3 Transformer 的训练和推理　　　　 1606.4 Vision Transformer 1616.4.1 图像分块与嵌入　　　　　 1626.4.2 位置编码与类标记　　　　 1626.4.3 Transformer 编码与分类　　　 1626.4.4 ViT 的优势与挑战　　　　　 1636.5 自监督预训练与大语言模型　　　 1636.5.1 BERT　　 1646.5.2 GPT　　　 1656.5.3 BART　　 1666.5.4 商用大语言模型　　　　　 1666.6 项目示例和代码解析 1676.6.1 项目简介　　 1676.6.2 项目代码　　 167 6.7 小结　　　　　 183练习　 183

第 7 章 扩散模型　　　 1857.1 扩散模型概述　　 1857.1.1 引言　　　 1857.1.2 变分自编码器　　　　　 1867.1.3 扩散模型网络结构　　　　 1877.2 扩散模型的训练与推理　　　　　1887.2.1 去噪扩散概率模型　　　　 1887.2.2 扩散模型的训练过程　　　　 1927.2.3 扩散模型的推理过程　　　　 1937.3 经典的扩散模型 1937.3.1 类别标签条件　　　　　 1937.3.2 图片条件　　 1957.3.3 文本条件　　 1967.4 项目示例和代码解析 1987.4.1 搭建 U_Net 网络　　　　　 1987.4.2 实现 DDPM 算法　　　　　 2027.4.3 训练与推理代码　　　　　 2047.5 小结　　　　　 205练习　 205

第 8 章 深度强化学习　 2078.1 强化学习概述　　 2078.1.1 引言　　　 2078.1.2 强化学习的基本概念　　　　 2088.1.3 马尔可夫决策过程　　　　 2088.2 基本强化学习算法 2128.2.1 有模型学习　 2128.2.2 无模型学习　 2148.3 深度强化学习算法 2188.3.1 基于值函数的方法　　　　 2188.3.2 基于策略梯度的方法　　　　 220 8.3.3 Actor_Critic　 2238.4 项目示例和代码解析 2258.4.1 Gym 简介 2258.4.2 算法构建　　 2268.4.3 训练与测试　 2308.4.4 结果展示　　 2328.5 小结　　　　　 232练习　 232

第 9 章 深度学习工具　 2349.1 深度学习框架概述 2349.1.1 发展背景　　 2349.1.2 基础概念和操作　　　　　 2359.2 TensorFlow 及其应用　　　　　 2449.2.1 简介　　　 2449.2.2 安装和初步设置　　　　　 2459.2.3 深度学习应用　　　　　 2469.3 PyTorch 及其应用 2539.3.1 简介　　　 2539.3.2 安装和初步设置　　　　　 2559.3.3 深度学习应用　　　　　 2579.4 飞桨及其应用　　 2619.4.1 简介　　　 2619.4.2 安装和初步设置　　　　　 2639.4.3 深度学习应用　　　　　 2649.5 框架选择建议　　 2699.6 小结　　　　　 270练习　 271