本书基于MM算法原理和组装分解技术系统地介绍了统计优化问题中MM算法的构造方法及其性质特征。本书共分7章内容，具体包括绪论、凸性、MM算法与组装分解技术、单（多）元分布参数估计的MM算法、混合模型的MM算法、生存模型的半参数估计与MM算法、收敛性与加速算法。本书的目的在于为读者特别是统计工作者提供一套简单、有效、可靠的优化工具构造方法，强调的是广度而非深度，希望本书所介绍的算法开发方法能够为更多的实际问题而服务。

本书基于 MM 算法原理和组装分解技术系统地介绍了统计优化问题中 MM 算法的构造方法及其性质特征。本书共分7章内容，具体包括绪论、凸性、MM 算法与组装分解技术、单 (多)元分布参数估计的 MM 算法、混合模型的 MM 算法、生存模型的半参数估计与 MM 算法、收敛性与加速算法。本书的目的在于为读者特别是统计工作者提供一套简单、有效、可靠的优化工具构造方法，强调广度而非深度，希望本书所介绍的算法开发方法能够为更多的实际问题而服务。本书既适合高等院校数学、统计学、计算机科学、航空航天、电气工程、运筹学专业的本科生和研究生阅读，也适合作为相关技术人员的参考书。

黄希芬黄希芬，女，博士，现任云南师范大学数学学院统计系副主任，硕士生导师。兼任中国现场统计研究会多元分析应用专业委员会理事、中国现场统计研究会统计交叉科学研究分会理事，云南省应用统计学会理事。主要从事大数据统计建模、高维统计推断、统计优化算法和生存分析等方面的研究。在国内外期刊发表学术论文20余篇。主持国家自然科学基金项目2项，省部级项目2项。曾获云南省社会科学奖三等奖，是全国科普教育基地、首批;大思政课实践教学基地（科技部科学精神专题实践教学基地）、中国数学会科普教育基地;西南联大数学文化馆成员。

第1章 绪论 11.1 引言 11.2 极大似然估计 21.3 牛顿法 41.3.1 牛顿法与方程求根 51.3.2 牛顿法与最优化 61.4 牛顿_拉弗森算法 71.5 拟牛顿法 81.6 费希尔得分算法 101.7 EM 算法 111.7.1 EM 算法的迭代公式 121.7.2 EM 算法的上升性质 141.7.3 信息缺失准则和标准误差 151.8 蒙特卡罗EM 算法 161.9 ECM 算法 181.10 EM 梯度算法 20第2章 凸性 232.1 引言 232.2 凸集 232.3 凸函数 262.4 凸函数的性质322.5 闭合函数 342.6 强制函数 372.7 距离函数 38第3章 MM 算法与组装分解技术 413.1 引言 413.2 MM 算法原理 423.3 不等式 443.3.1 Jensen不等式及其应用 443.3.2 支撑超平面不等式及其应用 453.3.3 算术_几何均值不等式及其应用 473.3.4 Cauchy_Schwarz不等式及其应用 483.3.5 二次上界原理及其应用 493.4 组装技术 523.5 分解技术 553.5.1 对数似然函数的分解 553.5.2 双重极小化技术 57第4章 单 (多)元分布参数估计的 MM 算法 594.1 引言 594.2 零截断的二项分布 604.2.1 零截断的二项分布概述 604.2.2 基于LB函数族的第一个 MM 算法 604.2.3 基于LEB函数族的第二个 MM 算法 614.3 广义泊松分布 614.3.1 广义泊松分布概述 614.3.2 基于LG函数族的 MM 算法 624.4 左截断的正态分布 634.4.1 左截断的正态分布概述 634.4.2 MM 算法的构造流程 644.5 高维泊松回归模型与变量选择 664.5.1 透射断层扫描的泊松回归模型 664.5.2 基于LGM 函数族的 MM 算法 664.5.3 高维泊松回归模型的变量选择 674.5.4 高维泊松回归模型正则估计的 MM 算法 684.6 多元泊松分布 694.6.1 多元泊松分布概述 694.6.2 基于LG函数族的 MM 算法 704.7 I型多元零膨胀广义泊松分布 714.7.1 I型多元零膨胀广义泊松分布概述 714.7.2 基于LB和LG函数族的 MM 算法 734.8 多元复合零膨胀广义泊松分布 744.8.1 多元复合零膨胀广义泊松分布概述 744.8.2 基于LB和LG函数族的 MM 算法 76附录 78第5章 混合模型的 MM 算法 1095.1 引言 1095.2 混合分布的一般化 MM 算法 1105.2.1 连续/离散混合分布模型的一般化 MM 算法 1105.2.2 连续_离散混合分布模型的一般化 MM 算法 1125.3 混合正态分布 1145.4 混合T分布 1155.5 混合伽玛分布 1175.6 混合威布尔分布 1185.7 混合泊松分布 1195.8 混合几何分布 1215.9 正态_泊松混合分布 1225.10 指数_泊松混合分布 1235.11 伽玛_几何混合分布 1255.12 伽玛_泊松混合分布 127附录 128第6章 生存模型的半参数估计与 MM 算法 1756.1 引言 1756.2 Cox模型 1766.2.1 Cox模型与右删失数据 1766.2.2 Cox模型的轮廓 MM 算法 1766.2.3 Cox模型的非轮廓 MM 算法 1786.3 伽玛脆弱模型 1796.3.1 伽玛脆弱模型与右删失的集群失效时间数据 1796.3.2 伽玛脆弱模型的第一个轮廓 MM 算法 1806.3.3 伽玛脆弱模型的第二个轮廓 MM 算法 1826.3.4 伽玛脆弱模型的第三个轮廓 MM 算法 1836.4 脆弱模型 1866.4.1 脆弱模型与右删失的多元失效时间数据 1866.4.2 一般化脆弱模型的非轮廓 MM 算法 1876.4.3 脆弱模型高维回归向量的变量选择 1906.5 半竞争风险模型 1916.5.1 半竞争风险模型概述 1916.5.2 半竞争风险模型的轮廓 MM 算法 1926.6 比例优势模型 1956.6.1 比例优势模型概述 1956.6.2 比例优势模型的轮廓 MM 算法 1966.6.3 比例优势模型的非轮廓 MM 算法 1986.6.4 比例优势模型高维回归向量的变量选择 1996.7 混合比例优势模型 2016.7.1 混合比例优势模型概述 2016.7.2 混合比例优势模型的轮廓 MM 算法 2026.7.3 混合比例优势模型的非轮廓 MM 算法 204附录 206第7章 收敛性与加速算法 3067.1 引言 3067.2 局部收敛性 3077.3 全局收敛性 3107.4 SUMMA条件 3137.5 平滑算法的加速 315参考文献 318

处于大模型及大数据时代的现代统计分析方法极大地依赖统计计算技术的迅猛发展。算法作为统计计算的核心力量越来越频繁地影响着人们的生活。一个精心设计的算法能够有效地节省计算时间、存储空间并以尽量少的步骤终止计算为实际问题提供有效的解决方案或恰当的近似解决方案。在统计学领域许多问题都可以转化为某些目标优化问题来提出挑选恰当的优化算法或构造适合的优化算法成为解决问题的关键这也是统计工作者们极为关心且重视的一件工作。在统计学者的计算工具箱中第一个想到的优化方法大概是牛顿法(也称作牛顿_拉弗森算法)它是所有算法的基石。然而牛顿法有其局限性比如牛顿法对初始值的选取十分敏感且在高维优化问题中每一步迭代都面临着高维矩阵求逆的困难;此外牛顿法不能保证在每次迭代中目标函数总是递增的这导致该算法有时不能满足大规模或高维复杂数据分析的需要。当然牛顿法的各种变体比如费希尔得分算法、拟牛顿法等也存在类似的问题。第二个想到的优化方法是由统计学家提出的EM算法该算法主要用于解决包含不完全数据或缺失数据的优化问题具有概念简单、操作容易、单调收敛等优异特征。然而在实际中许多统计问题不能被转化为缺失数据的问题换句话说当我们找不到相应的潜在变量结构时EM算法就不能够被应用此外EM算法在高维优化问题中也面临着高维矩阵求逆的困难。由上可知在高维问题中标准的优化方法在实际应用中不切实际这就需要新的优化工具来解决这些非传统的优化问题。此时MM算法原理就是一个较好的候选工具因为MM算法原理是一种用于创建满足上升或下降性质的MM算法的装置并且MM算法原理可与其他优化方法很好地结合。在极大化目标函数时MM算法的基本思想是构造一个更简单的替代函数然后对替代函数进行操作以极大化目标函数。同样地在极小化问题中MM算法则是对替代函数进行操作以极小化目标函数。总的来说MM算法是处理优化问题的一个重要且可通用的工具其具有概念简单、操作容易、迭代数值结果稳定等优点。此外MM算法的简易性还体现在如下几个方面:(a)能避开高维矩阵求逆的困难;(b)能够将优化问题线性化;(c)能够将目标优化函数中的高维变量进行分离;(d)能够巧妙地处理等式和不等式约束;(e)能够将不可微的问题转化为连续可微的问题来处理。这些明显的优点使得MM 算法在统计数据分析中有着非常广泛的应用。然而需要指出的是构造一个MM 算法的关键在于如何寻找合适的替代函数这对于许多实际工作者来说是一件颇具挑战的工作。因为到目前为止现存的文献中对替代函数的构造都是个例研究缺乏一套统一的构造方法也缺乏一个系统的介绍。为了弥补这一空缺本书将基于MM 算法原理和组装分解技术系统地介绍替代函数的构造方法激发读者特别是统计工作者开发创造更多新的MM 算法以解决更多、更广泛的实际问题。本书配备大量的模型来说明MM 算法的开发过程同时在章中附录配备相应的程序供统计学专业本科生或应用统计专业硕士生参考。此外本书还可作为从事统计学、教育学、心理学、经济学、金融学等领域的研究工作者的参考书。本书旨在将理论方法与实际模型相结合着重讲授MM 算法的开发过程激发研究者们开发新的MM 算法以解决实际问题。由于时间仓促和著者水平有限书中难免会有错误和不足之处敬请读者和同行专家批评指正。著作者2024年2月