目录
●目 录<br /><br />前言<br />主要符号表<br /><br />第 1 章 绪论 1<br />1.1 深度学习的定义 2<br />1.1.1 深度神经网络 2<br />1.1.2 深度学习与神经科学 4<br />1.1.3 深度学习的争议 4<br />1.2 深度学习与传统机器学习方法的区别 6<br />1.3 人工智能和深度学习的发展历程 7<br />1.3.1 人工智能的历史发展 7<br />1.3.2 深度学习的历史变迁 8<br />1.4 本书结构 10<br />练习 10<br /><br />第 2 章 卷积神经网络 12<br />2.1 卷积神经网络概述 12<br />2.1.1 引言 12<br />2.1.2 基本网络结构 13<br />2.1.3 卷积层 14<br />2.1.4 与全连接层的对等关系 17<br />2.1.5 池化层 21<br />2.1.6 卷积的变体 23<br />2.2 卷积神经网络的训练 28<br />2.2.1 前馈运算 29<br />2.2.2 反馈运算 29<br />2.3 经典的卷积神经网络模型 35<br />2.3.1 LeNet 35<br />2.3.2 AlexNet 372.3.3 U-Net 39<br />2.3.4 VGG 40<br />2.3.5 ResNet 41<br />2.4 项目示例和代码解析 44<br />2.4.1 准备工作 44<br />2.4.2 数据准备 44<br />2.4.3 模型构建 47<br />2.4.4 训练与测试 48<br />2.4.5 结果可视化 50<br />2.4.6 拓展:ResNet 可视化 52<br />2.5 小结 57<br />练习 57<br /><br />第 3 章 循环神经网络 60<br />3.1 循环神经网络概述 60<br />3.1.1 引言 60<br />3.1.2 循环神经网络的结构与数学表示 62<br />3.2 循环神经网络的训练方法 65<br />3.2.1 随时间反向传播算法 65<br />3.2.2 实时循环学习算法 69<br />3.3 经典的循环神经网络模型 70<br />3.3.1 针对梯度问题的循环神经网络改进 71<br />3.3.2 循环神经网络变体 75<br />3.4 项目示例和代码解析 81<br />3.4.1 数据准备 81<br />3.4.2 数据预处理 83<br />3.4.3 模型构建 86<br />3.5 小结 90<br />练习 90<br /><br />第 4 章 图神经网络 92<br />4.1 图神经网络概述 92<br />4.1.1 引言 92<br />4.1.2 图的表示方法 944.1.3 图神经网络的基本任务 95<br />4.2 图神经网络的训练方法 96<br />4.2.1 图信号与图卷积 97<br />4.2.2 空域图卷积 99<br />4.2.3 谱域图神经网络的训练 100<br />4.2.4 空域图神经网络的训练 102<br />4.3 经典的图神经网络模型 106<br />4.3.1 GCN 106<br />4.3.2 GraphSAGE 108<br />4.3.3 GAT 110<br />4.3.4 R-GCN 112<br />4.4 项目示例和代码解析 114<br />4.4.1 PyTorch 工具简介 114<br />4.4.2 问题描述 114<br />4.4.3 数据简介 115<br />4.4.4 数据处理 116<br />4.4.5 模型构建 118<br />4.5 小结 121<br />练习 121<br /><br />第 5 章 生成对抗神经网络 123<br />5.1 生成对抗神经网络概述 123<br />5.1.1 引言 123<br />5.1.2 从概率到模型 124<br />5.1.3 基本结构 125<br />5.2 生成对抗神经网络的训练方法 126<br />5.2.1 GAN 的优化问题 126<br />5.2.2 GAN 的训练流程 128<br />5.2.3 GAN 中的梯度消失问题 130<br />5.2.4 评估指标设计 131<br />5.3 经典的生成对抗神经网络模型 133<br />5.3.1 CGAN 133<br />5.3.2 CycleGAN 1355.3.3 StyleGAN 136<br />5.4 项目示例和代码解析 139<br />5.4.1 项目简介 139<br />5.4.2 数据处理 139<br />5.4.3 模型构建 140<br />5.4.4 训练过程 141<br />5.4.5 结果展示 144<br />5.5 小结 145<br />练习 146<br /><br />第 6 章 Transformer 148<br />6.1 Transformer 概述 148<br />6.1.1 引言 148<br />6.1.2 Transformer 模型结构 149<br />6.2 Transformer 关键技术 153<br />6.2.1 编码方式 153<br />6.2.2 注意力机制 154<br />6.2.3 前馈网络 159<br />6.2.4 残差连接与归一化 159<br />6.3 Transformer 的训练和推理 160<br />6.4 Vision Transformer 161<br />6.4.1 图像分块与嵌入 162<br />6.4.2 位置编码与类标记 162<br />6.4.3 Transformer 编码与分类 162<br />6.4.4 ViT 的优势与挑战 163<br />6.5 自监督预训练与大语言模型 163<br />6.5.1 BERT 164<br />6.5.2 GPT 165<br />6.5.3 BART 166<br />6.5.4 商用大语言模型 166<br />6.6 项目示例和代码解析 167<br />6.6.1 项目简介 167<br />6.6.2 项目代码 1676.7 小结 183<br />练习 183<br /><br />第 7 章 扩散模型 185<br />7.1 扩散模型概述 185<br />7.1.1 引言 185<br />7.1.2 变分自编码器 186<br />7.1.3 扩散模型网络结构 187<br />7.2 扩散模型的训练与推理 188<br />7.2.1 去噪扩散概率模型 188<br />7.2.2 扩散模型的训练过程 192<br />7.2.3 扩散模型的推理过程 193<br />7.3 经典的扩散模型 193<br />7.3.1 类别标签条件 193<br />7.3.2 图片条件 195<br />7.3.3 文本条件 196<br />7.4 项目示例和代码解析 198<br />7.4.1 搭建 U-Net 网络 198<br />7.4.2 实现 DDPM 算法 202<br />7.4.3 训练与推理代码 204<br />7.5 小结 205<br />练习 205<br /><br />第 8 章 深度强化学习 207<br />8.1 强化学习概述 207<br />8.1.1 引言 207<br />8.1.2 强化学习的基本概念 208<br />8.1.3 马尔可夫决策过程 208<br />8.2 基本强化学习算法 212<br />8.2.1 有模型学习 212<br />8.2.2 无模型学习 214<br />8.3 深度强化学习算法 218<br />8.3.1 基于值函数的方法 218<br />8.3.2 基于策略梯度的方法 2208.3.3 Actor-Critic 223<br />8.4 项目示例和代码解析 225<br />8.4.1 Gym 简介 225<br />8.4.2 算法构建 226<br />8.4.3 训练与测试 230<br />8.4.4 结果展示 232<br />8.5 小结 232<br />练习 232<br /><br />第 9 章 深度学习工具 234<br />9.1 深度学习框架概述 234<br />9.1.1 发展背景 234<br />9.1.2 基础概念和操作 235<br />9.2 TensorFlow 及其应用 244<br />9.2.1 简介 244<br />9.2.2 安装和初步设置 245<br />9.2.3 深度学习应用 246<br />9.3 PyTorch 及其应用 253<br />9.3.1 简介 253<br />9.3.2 安装和初步设置 255<br />9.3.3 深度学习应用 257<br />9.4 飞桨及其应用 261<br />9.4.1 简介 261<br />9.4.2 安装和初步设置 263<br />9.4.3 深度学习应用 264<br />9.5 框架选择建议 269<br />9.6 小结 270<br />练习 271
内容介绍
本书系统介绍深度学习的核心概念、主流模型与实战方法,内容涵盖神经网络基础、卷积神经网络、循环神经网络、图神经网络、生成对抗神经网络、Transformer、扩散模型、深度强化学习等前沿方向,详细阐述各类模型的数学原理、网络结构、训练流程与优化方法。全书以Python为主要编程语言,结合PyTorch框架提供丰富的代码示例与完整项目解析,同时每章配有“思考”模块与练习,帮助读者理解算法实现细节并巩固所学知识。本书适合高等学校人工智能及相关专业的本科生、研究生,以及相关工程技术人员学习参考。