本书全面系统地介绍了机器学习的基础理论、经典算法与实际应用，适合初学者和有一定基础的读者。全书分为两大部分：第一部分涵盖机器学习的基本概念、数学基础、数据预处理与特征工程，以及模型评估与选择；第二部分深入讲解线性模型、支持向量机、决策树、贝叶斯分类器等经典算法，并提供丰富的案例与Python代码示例。刘雪飞，博士，教授，博士生导师，全国21届青年岗位能手，贵州省第二届"最美劳动者”，贵州省教育厅功能材料与器件科技创新团队带头人，贵州省高层次创新人才，贵州省青年拔尖人才，贵州省集成电路学会副理事长兼秘书长，主要从事新能源材料相关理论以及基于机器学习、深度学习在能源材料领域的算法开发和应用研究，目前以第一或通讯作者在国内外核心期刊发表SCI学术论文60余篇，主持国家及省厅级项目多项，主持省级金课1门；参编教材1部，获得贵州省自然科学二等奖1项，省级教学成果三等奖1项、贵州省教学创新大赛二等奖2项。目 ???录第1章 ?机器学习概述11.1 ?什么是机器学习11.2 ?机器学习的主要类型21.2.1 ?监督学习21.2.2 ?无监督学习21.2.3 ?半监督学习31.2.4 ?强化学习31.3 ?机器学习的应用领域41.3.1 ?图像识别41.3.2 ?数据分析41.3.3 ?推荐系统41.4 ?机器学习的发展历程与当前趋势41.4.1 ?机器学习的发展历程41.4.2 ?机器学习的当前趋势61.5 ?习题7第2章 ?数学基础82.1 ?线性代数基础82.1.1 ?向量、矩阵与张量92.1.2 ?矩阵运算122.1.3 ?特征值与特征向量172.2 ?概率论与统计学182.2.1 ?基本概率理论192.2.2 ?条件概率与贝叶斯定理222.2.3 ?概率分布与极大似然估计232.3 ?优化与梯度282.3.1 ?梯度下降法282.3.2 ?最优化问题与收敛性302.4 ?习题33第3章 ?数据预处理与特征工程353.1 ?数据清理353.1.1 ?缺失值处理353.1.2 ?异常值检测与处理363.2 ?数据规范化与离散化383.2.1 ?数据规范化383.2.2 ?数据离散化393.3 ?特征选择与提取403.3.1 ?过滤式特征选择413.3.2 ?包裹式特征选择443.3.3 ?嵌入式特征选择443.3.4 ?特征提取453.4 ?类别变量的编码方法473.5 ?习题48第4章 ?模型评估与选择494.1 ?分类模型评估指标494.1.1 ?准确率、精确率、召回率和F1分数494.1.2 ?ROC曲线与AUC524.2 ?聚类模型评估指标554.2.1 ?内部评估指标554.2.2 ?外部评估指标574.3 ?数据集划分584.3.1 ?训练集、验证集与测试集584.3.2 ?数据集分割594.4 ?习题61第5章 ?回归模型635.1 ?线性回归与多项式回归635.1.1 ?最小二乘法及其推导645.1.2 ?多元线性回归665.1.3 ?矩阵方法下的线性回归675.1.4 ?多项式回归685.1.5 ?回归模型评估（R2、MSE等）685.2 ?逻辑回归705.2.1 ?二分类与多分类逻辑回归705.2.2 ?逻辑回归的几何解释与权重分析715.2.3 ?逻辑回归损失函数及参数优化735.3 ?模型正则化755.3.1 ?岭回归（L2正则化）765.3.2 ?LASSO回归（L1正则化）775.3.3 ?ElasticNet：L1与L2正则化结合775.3.4 ?正则化对模型的影响775.4 ?回归模型应用示例775.4.1 ?示例背景与任务定义785.4.2 ?数据处理的关键步骤785.4.3 ?基于PyTorch的线性回归实现785.4.4 ?结果分析与讨论835.5 ?习题84第6章 ?支持向量机856.1 ?线性SVM的基本原理856.1.1 ?间隔最大化与支持向量856.1.2 ?拉格朗日乘子法与对偶问题886.1.3 ?线性SVM的模型优化916.2 ?非线性SVM与核方法916.2.1 ?核函数的概念与选择916.2.2 ?高维特征空间与核方法的数学背景926.2.3 ?非线性SVM的应用场景936.3 ?支持向量回归936.3.1 ?SVR的基本原理946.3.2 ?Epsilon不敏感损失函数及其优化946.3.3 ?SVR应用示例956.4 ?习题99第7章 ?决策树与集成学习1017.1 ?决策树1017.1.1 ?决策树构建的基本过程及优缺点1017.1.2 ?信息增益与Gini系数1037.1.3 ?决策树剪枝与过拟合控制1097.1.4 ?样本不平衡问题与决策树的应用1107.2 ?集成学习概述1157.2.1 ?Bagging与随机森林1157.2.2 ?Boosting与AdaBoost1237.2.3 ?梯度提升树与极限提升树1307.2.4 ?随机森林回归应用示例1367.3 ?习题141第8章 ?贝叶斯分类器1438.1 ?朴素贝叶斯分类器1438.1.1 ?贝叶斯定理与条件独立假设1438.1.2 ?高斯朴素贝叶斯与伯努利朴素贝叶斯1458.2 ?贝叶斯网络1508.2.1 ?贝叶斯网络的定义与构建1508.2.2 ?结构学习与参数估计1528.2.3 ?贝叶斯网络应用示例1558.3 ?习题167第9章 ?聚类分析1689.1 ?聚类基础与距离度量1689.1.1 ?聚类目标与应用场景1689.1.2 ?数学符号与术语定义1689.1.3 ?常见距离公式及其性质1699.2 ?基于划分的聚类方法―K_Means算法1709.2.1 ?目标函数与推导过程1709.2.2 ?迭代优化步骤1709.2.3 ?初始簇中心选择1719.2.4 ?算法的收敛性分析1719.3 ?层次聚类1739.3.1 ?自底向上层次聚类1749.3.2 ?距离更新策略1749.3.3 ?树状图可视化1759.4 ?密度聚类算法1779.4.1 ?DBSCAN的核心思想1779.4.2 ?邻域密度定义1779.4.3 ?核心点/边界点/噪声点判定1779.4.4 ?聚类形成流程1799.5 ?概率聚类模型1809.5.1 ?高斯混合模型（GMM）1809.5.2 ?EM算法推导1809.5.3 ?参数估计过程1849.6 ?聚类分析在材料深度学习中的应用1849.6.1 ?数据集处理1859.6.2 ?聚类分析示例1869.7 ?习题193缩略语表194参考文献196