正版
最优化与机器学习
- 书名
- 最优化与机器学习
- 作者
- 王祥丰,蔡邢菊,陈彩华 编著
- 出版社
- 清华大学出版社
- 出版时间
- 2025-06-01
- ISBN
- 9787302691136
- 货号
- 1203771407
- 品相
- 全新
- 分类
- 当代·工业
- 书名
- 最优化与机器学习
- 作者
- 王祥丰,蔡邢菊,陈彩华 编著
- 出版社
- 清华大学出版社
- 出版时间
- 2025-06-01
- ISBN
- 9787302691136
- 货号
- 1203771407
- 品相
- 全新
- 分类
- 当代·工业
作者简介▼
“王祥丰 华东师范大学计算机科学与技术学院/数学科学学院教授,入选上海市青年科技英才启明星,担任上海市运筹学会副理事长、中国运筹学会算法软件与应用分会常务理事等。主要研究方向是智能体(最优化、强化学习、大语言模型驱动智能体)及应用等。曾获中国工业与应用数学学会落地应用成果、中国运筹学会青年科技奖提名奖、IEEE信号处理学会最佳论文奖、华为云技术合作优秀合作伙伴奖、上海开源创新卓越成果奖等。
蔡邢菊 南京师范大学教授,博士研究生导师。担任大规模复杂系统数值模拟教育部重点实验室(南京师范大学)副主任,中国运筹学会理事兼副秘书长,江苏省运筹学会理事长。主要从事最优化理论与算法、变分不等式、数值优化等领域的研究工作。先后主持多项国家级基金课题,获江苏省科技进步奖一等奖。
陈彩华 南京大学教授、博士生导师,国家优秀青年科学基金获得者,国家自然科学基金重大项目课题负责人,美国斯坦福大学访问学者,南京大学理学博士,新加坡国立大学联合培养博士。现任南京大学工程管理学院副院长、民建江苏省委大数据与人工智能委员会主任。曾获中国运筹学会青年科技奖、南京大学青年五四奖章、江苏省科学技术奖等奖励。”
目录▼
第1章机器学习中的最优化问题1
1.1为什么学习最优化2
1.2机器学习中的最优化问题3
1.2.1监督学习3
1.2.2无监督学习4
1.2.3深度学习6
1.2.4强化学习7
1.3本章小结8
第2章最优化基础理论9
2.1最优化问题基本形式9
2.2拉格朗日对偶问题12
2.3最优性条件与KKT条件15
2.4应用案例21
2.4.1Water-filling问题21
2.4.2最小二乘问题22
2.5本章小结23
2.6习题23
第3章梯度下降类方法25
3.1为什么需要利用梯度信息25
3.2梯度下降法.26
3.3梯度下降法收敛性分析27
3.4梯度类方法的一般形式29
3.5应用案例30
3.5.1最小二乘问题30
3.5.2逻辑回归问题31
3.6本章小结31
3.7习题31
第4章邻近梯度法及其扩展33
4.1邻近算子33
4.2邻近梯度40
4.3邻近梯度法41
4.4广义邻近梯度法42
4.5Nesterov加速方法43
4.6应用案例45
4.6.1Lasso问题45
4.6.2e1-正则逻辑回归问题46
4.7本章小结46
4.8习题46
第5章牛顿法和BFGS方法49
5.1牛顿法49
5.2BFGS方法50
5.3有限内存的BFGS方法53
5.4本章小结54
5.5习题55
第6章块坐标下降法56
6.1块坐标下降法基本架构56
6.2子问题更新机制57
6.3块坐标选择机制58
6.4系列块坐标下降法汇总60
6.5应用案例61
6.5.1e1-正则逻辑回归问题62
6.5.2非负矩阵分解问题62
6.6本章小结64
6.7习题64
第7章随机梯度类方法67
……
第8章增广拉格朗日方法和交替方向乘子法78
第9章双层规划87
第10章学习优化97
第11章总结107
附录A数学基础109
参考文献141
文摘▼
本书全面探讨了机器学习中的最优化理论、方法与实践,特别是在人工智能颠覆性发展的背景下,包括但不限于监督学习、无监督学习、深度学习及强化学习等的应用。本书详细介绍了最优性条件、KKT条件、拉格朗日对偶等核心最优化理论,探讨了梯度下降法、邻近梯度法、牛顿法、拟牛顿方法(BFGS方法)、块坐标下降法、随机梯度类方法、增广拉格朗日方法、交替方向乘子法、双层规划等经典最优化方法,最后介绍了机器学习与最优化深度融合的先进学习优化方法。通过本书的学习,读者将能够全面理解机器学习中最优化问题的建模和求解计算,及其在实际问题中的应用,为后续的机器学习研究和实践奠定坚实的基础。在机器学习领域,最优化方法不仅是实现模型学习的关键技术,也是提高模型性能、防止过拟合和增强泛化能力的基石。本书通过丰富的理论分析和实例演示,使读者能深入理解最优化方法在机器学习中的核心作用,并为解决实际问题提供有力的工具。本书适合作为高等院校计算机、运筹学、计算数学、大数据、统计学等相关专业的教材,是一本适合广大人工智能爱好者的优秀读物。





