书城首页 › 当代 › 工业 › 概率机器学习(进阶篇)(精装版)
当代·工业

概率机器学习(进阶篇)(精装版)

正版保障多仓发货48小时内发货2-3天送达可开发票
¥368.98 定价 ¥599.00 6.2折 立省 ¥230.02
现货库存 12 件 全新
商品参数
书名
概率机器学习(进阶篇)(精装版)
作者
[美]凯文·P.墨菲(Kevin P. Murphy) 著 江红 余青松 余靖 译
出版社
机械工业出版社
出版时间
2026-08-01
ISBN
9787111812081
货号
1204479892
品相
全新
分类
当代·工业
购物车(0)
商品参数
书名
概率机器学习(进阶篇)(精装版)
作者
[美]凯文·P.墨菲(Kevin P. Murphy) 著 江红 余青松 余靖 译
出版社
机械工业出版社
出版时间
2026-08-01
ISBN
9787111812081
货号
1204479892
品相
全新
分类
当代·工业
编辑推荐▼

本书源自作者2012年的著作《机器学习:概率视角》,它不是一个简单的更新版本,而是一本全新的著作,反映了自2012年以来机器学习领域的巨大发展,尤其是深度学习方面的进展。全书通过概率建模和贝叶斯决策理论的统一视角,详细且与时俱进地介绍了机器学习(包括深度学习)的理论和方法。由于篇幅限制,新版分为上下两卷:《概率机器学习(基础篇)》和《概率机器学习(进阶篇)》。本书作为下卷进阶篇,进一步拓展了机器学习的研究范畴,聚焦更具挑战性的问题,力求对机器学习各主题展开更为深入的探讨。

进阶篇主要分为六个部分:第一部分主要讨论机器学习所涉及的数学知识,包括概率论、统计学、图模型、信息论以及优化;第二部分主要讨论机器学习的推理算法,包括高斯滤波与平滑、消息传递算法、变分推理、蒙特卡罗方法、马尔可夫链蒙特卡罗方法以及序列蒙特卡罗方法;第三部分主要讨论机器学习的预测算法,包括广义线性模型、深度神经网络、贝叶斯神经网络、高斯过程以及非独立同分布的假设;第四部分主要讨论机器学习的生成算法,包括变分自动编码器、自回归模型、归一化流、基于能量的模型、扩散模型以及生成式对抗性网络;第五部分主要讨论机器学习的发现方法,包括潜在因子模型、状态空间模型、图学习、非参数化贝叶斯模型、表征学习以及可解释性;第六部分主要讨论机器学习的行为算法,包括不确定性决策、强化学习以及因果关系。

作者简介▼

凯文·P. 墨菲(Kevin P. Murphy)剑桥大学文学学士、宾夕法尼亚大学工程硕士、加州大学伯克利分校博士、麻省理工学院博士后。2004年,他成为加拿大温哥华不列颠哥伦比亚大学的计算机科学和统计学教授。2011年,他前往谷歌进行学术休假。2012年,他成为谷歌的全职研究科学家。他在机器学习和图模型相关的会议和期刊上发表了50多篇论文,并撰写了3本书。

目录▼

目 录

对本书的赞誉

译者序

前言

第1章 导论 ┊1

第一部分 理论基础

第2章 概率论 ┊4

2.1 概述 ┊4

2.1.1 概率空间 ┊4

2.1.2 离散随机变量 ┊4

2.1.3 连续随机变量 ┊5

2.1.4 概率公理 ┊6

2.1.5 条件概率 ┊7

2.1.6 贝叶斯规则 ┊7

2.2 一些常见的概率分布 ┊8

2.2.1 离散分布 ┊8

2.2.2 实数上的连续分布 ┊10

2.2.3 正实数上的连续分布 ┊13

2.2.4 在\[0,1\]上的连续分布 ┊16

2.2.5 多元连续分布 ┊16

2.3 高斯联合分布 ┊21

2.3.1 多元高斯分布 ┊21

2.3.2 线性高斯系统 ┊27

2.3.3 线性高斯系统的通用微积分知识 ┊30

2.4 指数族 ┊33

2.4.1 定义 ┊33

2.4.2 示例 ┊34

2.4.3 对数配分函数是累积量生成函数 ┊38

2.4.4 规范化(自然)参数与均值(矩)参数 ┊39

2.4.5 指数族的最大似然估计 ┊40

2.4.6 指数分散族 ┊41

2.4.7 指数族的最大熵推导 ┊41

2.5 随机变量的变换 ┊42

2.5.1 可逆变换(双射) ┊42

2.5.2 蒙特卡罗近似 ┊43

2.5.3 概率积分变换 ┊43

2.6 马尔可夫链 ┊45

2.6.1 参数化 ┊45

2.6.2 应用:语言建模 ┊47

2.6.3 参数估计 ┊47

2.6.4 马尔可夫链的平稳分布 ┊49

2.7 概率分布之间的散度度量 ┊53

2.7.1 f散度 ┊54

2.7.2 积分概率度量 ┊55

2.7.3 最大均值差异 ┊56

2.7.4 总变差距离 ┊59

2.7.5 使用二元分类器的密度比估计 ┊59

第3章 统计学 ┊61

3.1 概述 ┊61

3.2 贝叶斯统计 ┊61

3.2.1 投掷硬币 ┊62

3.2.2 对更复杂的数据建模 ┊68

3.2.3 选择先验 ┊69

3.2.4 计算问题 ┊69

3.2.5 可交换性和de Finetti定理 ┊70

3.3 频率学派统计 ┊70

3.3.1 采样分布 ┊71

3.3.2 采样分布的自举法近似 ┊72

3.3.3 最大似然估计采样分布的渐近正态性 ┊72

3.3.4 Fisher信息矩阵 ┊73

3.3.5 频率学派统计的反直觉性质 ┊77

3.3.6 为什么有人不坚持贝叶斯学派统计理论 ┊80

3.4 共轭先验 ┊82

3.4.1 二项式模型 ┊82

3.4.2 多项式模型 ┊82

3.4.3 单变量高斯分布模型 ┊83

3.4.4 多元高斯分布模型 ┊88

3.4.5 指数族模型 ┊93

3.4.6 超越共轭先验 ┊95

3.5 无信息性的先验 ┊99

3.5.1 最大熵先验 ┊99

3.5.2 Jeffreys先验 ┊100

3.5.3 不变性先验 ┊102

3.5.4 参照先验 ┊103

3.6 层次先验 ┊104

3.6.1 层次二项式模型 ┊105

3.6.2 层次高斯分布模型 ┊106

3.6.3 层次条件模型 ┊109

3.7 经验贝叶斯 ┊109

3.7.1 层次二项式模型的经验贝叶斯 ┊110

3.7.2 层次高斯分布模型的经验贝叶斯 ┊111

3.7.3 马尔可夫模型的经验贝叶斯(n元组平滑) ┊112

3.7.4 非共轭模型的经验贝叶斯 ┊114

3.8 模型选择 ┊114

3.8.1 贝叶斯模型选择 ┊114

3.8.2 贝叶斯模型平均 ┊115

3.8.3 估计边缘似然 ┊116

3.8.4 交叉验证与边缘似然之间的联系 ┊117

3.8.5 条件边缘似然 ┊118

3.8.6 贝叶斯留一估计 ┊119

3.8.7 信息准则 ┊120

3.9 模型检查 ┊122

3.9.1 后验预测性检查 ┊123

3.9.2 贝叶斯p值 ┊125

3.10 假设检验 ┊126

3.10.1 频率学派统计的方法 ┊126

3.10.2 贝叶斯方法 ┊127

3.10.3 常见的统计检验对应于线性模型中的推理 ┊131

3.11 缺失数据 ┊136

第4章 图模型 ┊138

4.1 概述 ┊138

4.2 有向图模型(贝叶斯网) ┊138

4.2.1 表示联合分布 ┊139

4.2.2 示例 ┊139

4.2.3 高斯贝叶斯网 ┊143

4.2.4 条件独立性 ┊144

4.2.5 生成(采样) ┊149

4.2.6 推理 ┊149

4.2.7 学习 ┊151

4.2.8 板块表示法 ┊155

4.3 无向图模型(马尔可夫随机场) ┊157

4.3.1 表示联合分布 ┊158

4.3.2 完全可见的马尔可夫随机场 ┊159

4.3.3 具有潜在变量的马尔可夫随机场 ┊165

4.3.4 最大熵模型 ┊167

4.3.5 高斯马尔可夫随机场 ┊169

4.3.6 条件独立性 ┊171

4.3.7 生成(采样) ┊173

4.3.8 推理 ┊173

4.3.9 学习 ┊174

4.4 条件随机场 ┊178

4.4.1 一维条件随机场 ┊178

4.4.2 二维条件随机场 ┊181

4.4.3 参数估计 ┊183

4.4.4 结构化预测的其他方法 ┊184

4.5 比较有向和无向概率图模型 ┊185

4.5.1 条件独立性质 ┊185

4.5.2 有向模型和无向模型之间的转换 ┊186

4.5.3 比较条件有向概率图模型和无向概率图模型与标签偏差问题 ┊188

4.5.4 有向图和无向图的组合 ┊188

4.5.5 比较有向高斯概率图模型和无向高斯概率图模型 ┊190

4.6 概率图模型扩展 ┊192

4.6.1 因子图 ┊192

4.6.2 概率电路 ┊194

4.6.3 有向关系概率图模型 ┊195

4.6.4 无向关系概率图模型 ┊197

4.6.5 开放宇宙概率模型 ┊200

4.6.6 作为概率模型的程序 ┊201

4.7 结构因果模型 ┊201

4.7.1 示例:教育对财富的因果影响 ┊202

4.7.2 结构方程模型 ┊203

4.7.3 do运算符和增强的有向无环图 ┊203

4.7.4 反事实推理 ┊205

第5章 信息论 ┊207

5.1 KL散度 ┊208

5.1.1 需求条件 ┊208

5.1.2 KL散度唯一满足需求条件 ┊210

5.1.3 关于KL散度的思考 ┊212

5.1.4 最小化KL散度 ┊214

5.1.5 KL散度的性质 ┊216

5.1.6 KL散度和最大似然估计 ┊218

5.1.7 KL散度和贝叶斯推理 ┊219

5.1.8 KL散度和指数族 ┊220

5.1.9 使用Fisher信息矩阵近似KL散度 ┊220

5.1.10 Bregman散度 ┊221

5.2 熵 ┊222

5.2.1 定义 ┊222

5.2.2 连续随机变量的微分熵 ┊223

5.2.3 典型集 ┊224

5.2.4 交叉熵与困惑度 ┊224

5.3 互信息 ┊225

5.3.1 定义 ┊225

5.3.2 解释 ┊226

5.3.3 数据处理不等式 ┊226

5.3.4 充分统计量 ┊227

5.3.5 多元互信息 ┊228

5.3.6 互信息的变分上下界 ┊231

5.3.7 相关性网络 ┊233

5.4 数据压缩(源编码) ┊235

5.4.1 无损压缩 ┊235

5.4.2 有损压缩和“数据率失真度”的权衡 ┊235

5.4.3 比特反向编码 ┊238

5.5 纠错码(信道编码) ┊239

5.6 信息瓶颈 ┊240

5.6.1 基本信息瓶颈 ┊240

5.6.2 变分信息瓶颈 ┊241

5.6.3 条件熵瓶颈 ┊243

第6章 优化 ┊245

6.1 概述 ┊245

6.2 自动微分 ┊245

6.2.1 函数形式的微分 ┊246

6.2.2 微分链、电路和程序 ┊249

6.3 随机优化 ┊255

6.3.1 随机梯度下降 ┊255

6.3.2 用于优化“有限和”目标的随机梯度下降 ┊256

6.3.3 用于优化分布参数的随机梯度下降 ┊257

6.3.4 得分函数估计器 ┊258

6.3.5 重新参数化的技巧 ┊259

6.3.6 Gumbel softmax技巧 ┊261

6.3.7 随机计算图 ┊262

6.3.8 直通式估计器 ┊262

6.4 自然梯度下降 ┊263

6.4.1 定义自然梯度 ┊264

6.4.2 自然梯度下降的解释 ┊264

6.4.3 自然梯度下降的优点 ┊265

6.4.4 近似自然梯度 ┊267

6.4.5 指数族的自然梯度 ┊268

6.5 边界优化算法 ┊270

6.5.1 通用算法 ┊270

6.5.2 示例:逻辑回归 ┊271

6.5.3 期望最大化算法 ┊272

6.5.4 示例:缺失数据多元正态分布的期望最大化算法 ┊275

6.5.5 示例:使用学生似然的稳健线性回归 ┊276

6.5.6 期望最大化算法的扩展 ┊278

6.6 贝叶斯优化方法 ┊281

6.6.1 基于序列模型的优化 ┊281

6.6.2 代理函数 ┊283

6.6.3 采集函数 ┊284

6.6.4 其他问题 ┊287

6.7 无导数优化 ┊288

6.7.1 本地搜索 ┊288

6.7.2 模拟退火 ┊291

6.7.3 进化算法 ┊291

6.7.4 分布估计算法 ┊294

6.7.5 交叉熵方法 ┊296

6.7.6 进化策略 ┊296

6.8 最优传输 ┊297

6.8.1 预热:最优匹配两个点族 ┊298

6.8.2 从最优匹配到Kantorovich和Monge公式 ┊299

6.8.3 求解最优传输 ┊301

6.9 子模优化 ┊305

6.9.1 直觉、示例和背景 ┊306

6.9.2 子模的基本定义 ┊309

6.9.3 子模函数示例 ┊310

6.9.4 子模优化方法 ┊313

6.9.5 子模在机器学习和人工智能中的应用 ┊317

6.9.6 草图、核心集、蒸馏、数据子集和特征选择 ┊317

6.9.7 组合信息函数 ┊321

6.9.8 聚类、数据划分和并行机器学习 ┊322

6.9.9 主动学习和半监督学习 ┊323

6.9.10 概率建模 ┊324

6.9.11 结构化范数和损失函数 ┊325

6.9.12 结论 ┊326

第二部分 推 理

第7章 推理算法:综述 ┊328

7.1 概述 ┊328

7.2 常见推理模式 ┊329

7.2.1 全局潜在变量 ┊329

7.2.2 局部潜在变量 ┊329

7.2.3 局部和全局潜在变量 ┊330

7.3 精确推理算法 ┊331

7.4 近似推理算法 ┊331

7.4.1 最大后验估计近似及其问题 ┊332

7.4.2 网格近似 ┊333

7.4.3 拉普拉斯(二次型)近似 ┊334

7.4.4 变分推理 ┊335

7.4.5 马尔可夫链蒙特卡罗 ┊337

7.4.6 序列蒙特卡罗 ┊338

7.4.7 挑战后验概率 ┊338

7.5 评估近似推理算法 ┊339

第8章 高斯滤波与平滑 ┊340

8.1 概述 ┊340

8.1.1 推理目标 ┊340

8.1.2 贝叶斯滤波方程 ┊342

8.1.3 贝叶斯平滑方程 ┊343

8.1.4 高斯假设 ┊344

8.2 线性高斯状态空间模型的推理 ┊344

8.2.1 示例 ┊345

8.2.2 卡尔曼滤波器 ┊346

8.2.3 卡尔曼平滑器 ┊350

8.2.4 信息形式的滤波和平滑 ┊353

8.3 基于局部线性化的推理 ┊355

8.3.1 泰勒级数展开 ┊356

8.3.2 扩展卡尔曼滤波器 ┊357

8.3.3 扩展卡尔曼平滑器 ┊359

8.4 基于无迹变换的推理 ┊360

8.4.1 无迹变换 ┊360

8.4.2 无迹卡尔曼滤波器 ┊361

8.4.3 无迹卡尔曼平滑器 ┊362

8.5 卡尔曼滤波器的其他变体 ┊363

8.5.1 广义高斯滤波 ┊363

8.5.2 条件矩高斯滤波 ┊366

8.5.3 迭代滤波器和平滑器 ┊367

8.5.4 集成卡尔曼滤波器 ┊368

8.5.5 鲁棒卡尔曼滤波器 ┊369

8.5.6 双扩展卡尔曼滤波器 ┊370

8.6 假设密度滤波 ┊370

8.6.1 与高斯滤波的连接 ┊371

8.6.2 切换线性动力系统的假设密度滤波(“高斯和”滤波器) ┊372

8.6.3 在线逻辑回归的假设密度滤波 ┊374

8.6.4 在线深度神经网络的假设密度滤波 ┊377

8.7 状态空间模型的其他推理方法 ┊377

8.7.1 基于网格的近似 ┊377

8.7.2 期望传播 ┊378

8.7.3 变分推理 ┊379

8.7.4 马尔可夫链蒙特卡罗 ┊379

8.7.5 粒子滤波 ┊379

第9章 消息传递算法 ┊380

9.1 概述 ┊380

9.2 链上的信念传播 ┊381

9.2.1 隐马尔可夫模型 ┊381

9.2.2 前向算法 ┊382

9.2.3 “前向后向”算法 ┊383

9.2.4 前向滤波后向平滑 ┊386

9.2.5 时间复杂度和空间复杂度 ┊387

9.2.6 Viterbi算法 ┊387

9.2.7 前向滤波后向采样 ┊390

9.3 树上的信念传播 ┊390

9.3.1 有向树与无向树 ┊391

9.3.2 和积算法 ┊392

9.3.3 最大乘积算法 ┊393

9.4 循环信念传播 ┊395

9.4.1 成对无向图的循环信念传播 ┊396

9.4.2 因子图的循环信念传播 ┊396

9.4.3 高斯信念传播 ┊397

9.4.4 收敛 ┊398

9.4.5 准确率 ┊401

9.4.6 广义信念传播 ┊401

9.4.7 凸信念传播 ┊402

9.4.8 应用:纠错码 ┊402

9.4.9 应用:近邻传播 ┊403

9.4.10 使用图神经网络模拟信念传播 ┊405

9.5 变量消除算法 ┊406

9.5.1 算法的推导 ┊406

9.5.2 变量消除的计算复杂度 ┊407

9.5.3 选择一个好的消除顺序 ┊409

9.5.4 精确推理的计算复杂度 ┊410

9.5.5 变量消除的缺点 ┊411

9.6 联结树算法 ┊412

9.7 作为优化的推理 ┊412

9.7.1 作为反向传播的推理 ┊412

9.7.2 扰动和最大后验估计 ┊413

第10章 变分推理 ┊416

10.1 概述 ┊416

10.1.1 变分目标 ┊416

10.1.2 变分后验的形式 ┊418

10.1.3 使用变分期望最大化的参数估计 ┊419

10.1.4 随机变分推理 ┊420

10.1.5 摊销变分推理 ┊421

10.1.6 半摊销推理 ┊421

10.2 基于梯度的变分推理 ┊422

10.2.1 重新参数化变分推理 ┊422

10.2.2 自动微分变分推理 ┊428

10.2.3 黑盒变分推理 ┊430

10.3 坐标上升变分推理 ┊431

10.3.1 坐标上升变分推理算法的推导 ┊431

10.3.2 示例:Ising模型的坐标上升变分推理 ┊433

10.3.3 变分贝叶斯 ┊434

10.3.4 示例:变分贝叶斯用于单变量高斯 ┊435

10.3.5 变分贝叶斯期望最大化 ┊438

10.3.6 示例:高斯混合模型的变分贝叶斯期望最大化 ┊439

10.3.7 变分消息传递 ┊444

10.3.8 autoconj ┊445

10.4 更准确的变分后验 ┊445

10.4.1 结构化均值场 ┊445

10.4.2 层次(辅助变量)后验 ┊446

10.4.3 归一化流后验 ┊446

10.4.4 隐式后验 ┊447

10.4.5 将变分推理与马尔可夫链蒙特卡罗推理相结合 ┊447

10.5 更严格的下界 ┊447

10.5.1 多样本证据下界 ┊447

10.5.2 热力学变分目标 ┊448

10.5.3 最小化证据上界 ┊449

10.6 唤醒睡眠算法 ┊449

10.6.1 “唤醒”阶段 ┊450

10.6.2 “睡眠”阶段 ┊451

10.6.3 “白日梦”阶段 ┊451

10.6.4 算法总结 ┊452

10.7 期望传播 ┊453

10.7.1 期望传播的算法 ┊453

10.7.2 示例 ┊455

10.7.3 作为广义假设密度滤波的期望传播 ┊455

10.7.4 优化问题 ┊455

10.7.5 幂期望传播和阿尔法散度 ┊456

10.7.6 随机期望传播 ┊456

第11章 蒙特卡罗方法 ┊458

11.1 概述 ┊458

11.2 蒙特卡罗积分 ┊458

11.2.1 示例:通过蒙特卡罗积分估计π ┊459

11.2.2 蒙特卡罗积分的准确度 ┊459

11.3 从简单分布生成随机样本 ┊460

11.3.1 使用反向累积分布函数进行采样 ┊461

11.3.2 高斯采样(BoxMuller法) ┊462

11.4 拒绝采样 ┊462

11.4.1 基本思想 ┊463

11.4.2 示例 ┊464

11.4.3 自适应拒绝采样 ┊464

11.4.4 高维空间中的拒绝采样 ┊465

11.5 重要性采样 ┊465

11.5.1 直接重要性采样 ┊466

11.5.2 自归一化重要性采样 ┊466

11.5.3 选择提议分布 ┊467

11.5.4 退火重要性采样 ┊468

11.6 控制蒙特卡罗方差 ┊469

11.6.1 常见随机数 ┊469

11.6.2 RaoBlackwellization ┊469

11.6.3 控制变量法 ┊470

11.6.4 对偶采样 ┊471

11.6.5 准蒙特卡罗 ┊472

第12章 马尔可夫链蒙特卡罗方法 ┊474

12.1 概述 ┊474

12.2 MetropolisHastings算法 ┊475

12.2.1 基本思想 ┊475

12.2.2 MetropolisHastings算法为什么有效 ┊476

12.2.3 提议分布 ┊477

12.2.4 初始化 ┊480

12.3 吉布斯采样 ┊480

12.3.1 基本思想 ┊480

12.3.2 吉布斯采样是MetropolisHastings的一种特殊情况 ┊481

12.3.3 示例:Ising模型的吉布斯采样 ┊481

12.3.4 示例:Potts模型的吉布斯采样 ┊483

12.3.5 示例:高斯混合模型的吉布斯采样 ┊483

12.3.6 吉布斯采样中的Metropolis算法 ┊485

12.3.7 分块吉布斯采样 ┊485

12.3.8 塌陷吉布斯采样 ┊486

12.4 辅助变量马尔可夫链蒙特卡罗方法 ┊488

12.4.1 切片采样 ┊488

12.4.2 SwendsenWang ┊490

12.5 哈密尔顿蒙特卡罗方法 ┊491

12.5.1 哈密尔顿力学 ┊492

12.5.2 积分哈密尔顿方程 ┊493

12.5.3 哈密尔顿蒙特卡罗算法 ┊494

12.5.4 微调哈密尔顿蒙特卡罗方法 ┊495

12.5.5 黎曼流形哈密尔顿蒙特卡罗方法 ┊496

12.5.6 朗之万蒙特卡罗方法 ┊496

12.5.7 随机梯度下降和朗之万采样之间的联系 ┊497

12.5.8 将哈密尔顿蒙特卡罗方法应用于受约束的参数 ┊498

12.5.9 加速哈密尔顿蒙特卡罗方法 ┊499

12.6 马尔可夫链蒙特卡罗收敛 ┊499

12.6.1 马尔可夫链的混合率 ┊500

12.6.2 实用收敛诊断 ┊501

12.6.3 有效样本容量 ┊504

12.6.4 提高收敛速度 ┊506

12.6.5 非中心参数化和Neal漏斗 ┊506

12.7 随机梯度马尔可夫链蒙特卡罗方法 ┊507

12.7.1 随机梯度朗之万动力学 ┊508

12.7.2 预处理 ┊508

12.7.3 降低梯度估计的方差 ┊509

12.7.4 SGHMC ┊510

12.7.5 欠阻尼朗之万动力学 ┊510

12.8 可逆跳跃(跨维)马尔可夫链蒙特卡罗 ┊511

12.8.1 基本思想 ┊512

12.8.2 示例 ┊512

12.8.3 讨论 ┊514

12.9 退火方法 ┊514

12.9.1 模拟退火 ┊514

12.9.2 并行回火 ┊516

第13章 序列蒙特卡罗方法 ┊518

13.1 概述 ┊518

13.1.1 问题陈述 ┊518

13.1.2 状态空间模型的粒子滤波 ┊519

13.1.3 用于静态参数估计的序列蒙特卡罗采样器 ┊520

13.2 粒子滤波 ┊520

13.2.1 重要性采样 ┊521

13.2.2 序列重要性采样 ┊521

13.2.3 带重新采样的序列重要性采样 ┊523

13.2.4 重新采样方法 ┊526

13.2.5 自适应重新采样 ┊528

13.3 提议分布 ┊529

13.3.1 局部最优提议分布 ┊529

13.3.2 基于扩展无迹卡尔曼滤波器的提议分布 ┊529

13.3.3 基于拉普拉斯近似的提议分布 ┊530

13.3.4 基于序列蒙特卡罗的提议分布(嵌套序列蒙特卡罗) ┊531

13.4 RaoBlackwellized粒子滤波 ┊532

13.4.1 卡尔曼滤波器的混合 ┊532

13.4.2 示例:跟踪机动物体 ┊534

13.4.3 示例:FastSLAM ┊535

13.5 粒子滤波器的扩展 ┊538

13.6 序列蒙特卡罗采样器 ┊538

13.6.1 序列蒙特卡罗采样器的成分 ┊539

13.6.2 似然回火(几何路径) ┊540

13.6.3 数据回火 ┊542

13.6.4 罕见事件和极值的采样 ┊543

13.6.5 序列蒙特卡罗近似贝叶斯计算和无似然推理 ┊544

13.6.6 SMC2 ┊544

13.6.7 变分滤波序列蒙特卡罗方法 ┊545

13.6.8 变分平滑序列蒙特卡罗方法 ┊545

第三部分 预 测

第14章 预测模型:概述 ┊548

14.1 概述 ┊548

14.1.1 预测模型的类型 ┊548

14.1.2 使用ERM、MLE和MAP的模型拟合 ┊549

14.1.3 使用贝叶斯、变分推理和广义贝叶斯的模型拟合 ┊550

14.2 评估预测模型 ┊551

14.2.1 适当的评分规则 ┊551

14.2.2 校准 ┊551

14.2.3 评估边缘概率以外的其他方法 ┊555

14.3 共形预测 ┊558

14.3.1 共形分类 ┊560

14.3.2 共形回归 ┊560

第15章 广义线性模型 ┊562

15.1 概述 ┊562

15.1.1 一些流行的广义线性模型 ┊562

15.1.2 具有非规范链接函数的广义线性模型 ┊565

15.1.3 最大似然估计 ┊566

15.1.4 贝叶斯推理 ┊567

15.2 线性回归 ┊567

15.2.1 普通最小二乘法 ┊567

15.2.2 共轭先验 ┊568

15.2.3 无信息性先验 ┊570

15.2.4 信息先验 ┊572

15.2.5 “尖峰和平板”先验 ┊574

15.2.6 拉普拉斯先验(贝叶斯套索) ┊575

15.2.7 “马蹄”先验 ┊576

15.2.8 自动相关性确定 ┊577

15.2.9 多元线性回归 ┊579

15.3 逻辑回归 ┊581

15.3.1 二元逻辑回归 ┊581

15.3.2 多项式逻辑回归 ┊582

15.3.3 处理类别不平衡和长尾问题 ┊582

15.3.4 参数先验分布 ┊583

15.3.5 后验的拉普拉斯近似 ┊584

15.3.6 近似后验预测分布 ┊586

15.3.7 马尔可夫链蒙特卡罗推理 ┊587

15.3.8 其他近似推理方法 ┊589

15.3.9 案例研究:伯克利分校的录取是否对女性有偏见 ┊589

15.4 probit回归 ┊591

15.4.1 潜在变量解释 ┊592

15.4.2 最大似然估计 ┊593

15.4.3 贝叶斯推理 ┊594

15.4.4 有序probit回归 ┊594

15.4.5 多项式probit模型 ┊595

15.5 多级(分层)广义线性模型 ┊595

15.5.1 广义线性混合模型 ┊596

15.5.2 示例:氡回归 ┊597

第16章 深度神经网络 ┊600

16.1 概述 ┊600

16.2 可微电路的构建块 ┊601

16.2.1 线性层 ┊601

16.2.2 非线性现象 ┊601

16.2.3 卷积层 ┊602

16.2.4 残差(跳过)连接 ┊603

16.2.5 归一化层 ┊604

16.2.6 dropout层 ┊604

16.2.7 注意力层 ┊605

16.2.8 循环层 ┊607

16.2.9 乘法层 ┊607

16.2.10 隐式层 ┊608

16.3 神经网络的典型例子 ┊609

16.3.1 多层感知器 ┊609

16.3.2 卷积神经网络 ┊610

16.3.3 自动编码器 ┊611

16.3.4 循环神经网络 ┊611

16.3.5 Transformer ┊612

16.3.6 图神经网络 ┊613

第17章 贝叶斯神经网络 ┊614

17.1 概述 ┊614

17.2 贝叶斯神经网络的先验 ┊615

17.2.1 高斯先验 ┊615

17.2.2 稀疏性提升先验 ┊617

17.2.3 学习先验 ┊617

17.2.4 函数空间中的先验 ┊617

17.2.5 架构先验 ┊618

17.3 贝叶斯神经网络的后验 ┊618

17.3.1 蒙特卡罗丢弃法 ┊618

17.3.2 拉普拉斯近似 ┊619

17.3.3 变分推理 ┊620

17.3.4 期望传播 ┊621

17.3.5 最后一层方法 ┊622

17.3.6 频谱归一化高斯过程 ┊622

17.3.7 马尔可夫链蒙特卡罗方法 ┊623

17.3.8 基于随机梯度下降轨迹的方法 ┊623

17.3.9 深度集成 ┊625

17.3.10 近似后验预测分布 ┊628

17.3.11 回火后验和冷却后验 ┊631

17.4 贝叶斯深度学习中的泛化 ┊632

17.4.1 尖锐与平坦的极小值 ┊632

17.4.2 模式连通性和损失景观 ┊633

17.4.3 模型的有效维度 ┊634

17.4.4 深度神经网络的假设空间 ┊635

17.4.5 PAC贝叶斯 ┊636

17.4.6 贝叶斯神经网络的分布外泛化 ┊637

17.4.7 贝叶斯神经网络的模型选择 ┊639

17.5 在线推理 ┊639

17.5.1 深度神经网络的序列拉普拉斯 ┊639

17.5.2 深度神经网络的扩展卡尔曼滤波 ┊640

17.5.3 深度神经网络的假设密度过滤 ┊642

17.5.4 深度神经网络的在线变分推理 ┊643

17.6 层次贝叶斯神经网络 ┊644

17.6.1 示例:多卫星分类 ┊645

第18章 高斯过程 ┊648

18.1 概述 ┊648

18.1.1 高斯过程的概念以及使用的原因 ┊648

18.2 Mercer核 ┊650

18.2.1 平稳核 ┊651

18.2.2 非平稳核 ┊655

18.2.3 非向量(结构化)输入的核 ┊656

18.2.4 从旧核中创建新核 ┊656

18.2.5 Mercer定理 ┊657

18.2.6 具有随机特征的近似核 ┊659

18.3 高斯似然的高斯过程 ┊660

18.3.1 使用无噪声观测的预测 ┊660

18.3.2 使用噪声观测的预测 ┊661

18.3.3 权重空间与函数空间 ┊662

18.3.4 半参数化高斯过程 ┊663

18.3.5 边缘似然 ┊663

18.3.6 计算和数值问题 ┊664

18.3.7 核岭回归 ┊664

18.4 具有非高斯似然的高斯过程 ┊667

18.4.1 二元分类 ┊668

18.4.2 多类别分类 ┊669

18.4.3 泊松回归的高斯过程(Cox过程) ┊670

18.4.4 其他似然 ┊671

18.5 将高斯过程推理扩展到大型数据集 ┊671

18.5.1 数据子集 ┊672

18.5.2 Nystrm近似 ┊672

18.5.3 诱导点方法 ┊673

18.5.4 稀疏变分法 ┊677

18.5.5 通过核矩阵乘法利用并行化和结构 ┊680

18.5.6 将高斯过程转换为状态空间模型 ┊683

18.6 学习核 ┊683

18.6.1 核参数的经验贝叶斯 ┊684

18.6.2 核参数的贝叶斯推断 ┊686

18.6.3 加性核的多核学习 ┊688

18.6.4 组成核的自动搜索 ┊689

18.6.5 谱混合核学习 ┊691

18.6.6 深度核学习 ┊692

18.7 高斯过程和深度神经网络 ┊694

18.7.1 源自无限宽深度神经网络的核 ┊694

18.7.2 神经正切核 ┊696

18.7.3 深度高斯过程 ┊697

18.8 时间序列预测的高斯过程 ┊698

18.8.1 示例:Mauna Loa ┊698

第19章 非独立同分布的假设 ┊700

19.1 概述 ┊700

19.2 分布偏移 ┊700

19.2.1 激励示例 ┊701

19.2.2 分布偏移的因果观 ┊702

19.2.3 分布偏移的4种主要类型 ┊703

19.2.4 选择偏差 ┊704

19.3 检测分布偏移 ┊705

19.3.1 使用双样本检验来检测偏移 ┊705

19.3.2 检测单个分布外输入 ┊706

19.3.3 选择性预测 ┊709

19.3.4 开放集识别和开放世界识别 ┊710

19.4 分布偏移的鲁棒性 ┊710

19.4.1 数据增强 ┊710

19.4.2 分布式鲁棒优化 ┊711

19.5 适应分布偏移 ┊711

19.5.1 使用迁移学习的监督适应 ┊711

19.5.2 协变量偏移的加权经验风险最小化 ┊713

19.5.3 协变量偏移的无监督领域自适应 ┊714

19.5.4 标签偏移的无监督技术 ┊715

19.5.5 测试时自适应 ┊716

19.6 从多种分布中学习 ┊717

19.6.1 多任务学习 ┊717

19.6.2 领域泛化 ┊718

19.6.3 不变风险最小化 ┊719

19.6.4 元学习 ┊720

19.7 持续学习 ┊722

19.7.1 领域漂移 ┊723

19.7.2 概念漂移 ┊723

19.7.3 任务增量学习 ┊724

19.7.4 灾难性遗忘 ┊726

19.7.5 在线学习 ┊727

19.8 对抗性样例 ┊728

19.8.1 白盒(基于梯度的)攻击 ┊729

19.8.2 黑盒(无梯度)攻击 ┊730

19.8.3 真实世界的对抗性攻击 ┊731

19.8.4 基于鲁棒优化的防御 ┊732

19.8.5 为什么模型具有对抗性样例 ┊733

第四部分 生 成

第20章 生成模型:概述 ┊736

20.1 概述 ┊736

20.2 生成模型的类型 ┊736

20.3 生成式建模的目标 ┊738

20.3.1 生成数据 ┊738

20.3.2 密度估计 ┊740

20.3.3 插值 ┊741

20.3.4 结构发现 ┊742

20.3.5 潜在空间插值 ┊742

20.3.6 潜在空间算术运算 ┊744

20.3.7 生成式设计 ┊744

20.3.8 基于模型的强化学习 ┊745

20.3.9 表征学习 ┊745

20.3.10 数据压缩 ┊745

20.4 评估生成模型 ┊745

20.4.1 基于似然的评估 ┊745

20.4.2 特征空间中的距离和离散度 ┊747

20.4.3 精度和召回率指标 ┊749

20.4.4 统计测试 ┊749

20.4.5 使用预训练分类器的挑战 ┊750

20.4.6 使用模型样本训练分类器 ┊750

20.4.7 评估过拟合 ┊750

20.4.8 人工评估 ┊751

第21章 变分自动编码器 ┊752

21.1 概述 ┊752

21.2 变分自动编码器的基础知识 ┊753

21.2.1 建模假设 ┊753

21.2.2 模型拟合 ┊753

21.2.3 变分自动编码器和自动编码器的比较 ┊754

21.2.4 变分自动编码器在增强空间中优化 ┊756

21.3 变分自动编码器泛化 ┊757

21.3.1 β变分自动编码器 ┊757

21.3.2 InfoVAE ┊759

21.3.3 多模态变分自动编码器 ┊761

21.3.4 半监督变分自动编码器 ┊763

21.3.5 带序列编码器/解码器的变分自动编码器 ┊764

21.4 避免后验塌陷 ┊767

21.4.1 KL退火 ┊767

21.4.2 限制速率下界 ┊768

21.4.3 免费比特 ┊768

21.4.4 添加跳跃连接 ┊768

21.4.5 改进的变分推理 ┊768

21.4.6 替代目标 ┊769

21.5 具有层次结构的变分自动编码器 ┊769

21.5.1 自底向上的推理和自顶向下的推理 ┊770

21.5.2 示例:超级深度变分自动编码器 ┊771

21.5.3 与自回归模型的联系 ┊772

21.5.4 变分剪枝 ┊773

21.5.5 关于优化的其他难点 ┊774

21.6 向量量化变分自动编码器 ┊774

21.6.1 带二元编码的自动编码器 ┊775

21.6.2 VQVAE模型 ┊775

21.6.3 学习先验知识 ┊777

21.6.4 层次扩展(VQVAE2) ┊777

21.6.5 离散变分自动编码器 ┊778

21.6.6 VQGAN ┊779

第22章 自回归模型 ┊780

22.1 概述 ┊780

22.2 神经自回归密度估计器 ┊781

22.3 因果卷积神经网络 ┊781

22.3.1 一维因果卷积神经网络 ┊782

22.3.2 二维因果卷积神经网络 ┊782

22.4 Transformer ┊783

22.4.1 文本生成 ┊784

22.4.2 图像生成 ┊785

22.4.3 其他应用 ┊786

第23章 归一化流 ┊787

23.1 概述 ┊787

23.1.1 准备工作 ┊787

23.1.2 如何训练流模型 ┊789

23.2 构造流 ┊790

23.2.1 仿射流 ┊790

23.2.2 逐元素流 ┊791

23.2.3 耦合流 ┊793

23.2.4 自回归流 ┊795

23.2.5 残差流 ┊799

23.2.6 连续时间流 ┊802

23.3 应用 ┊803

23.3.1 密度估算 ┊803

23.3.2 生成式建模 ┊804

23.3.3 推理 ┊804

第24章 基于能量的模型 ┊806

24.1 概述 ┊806

24.1.1 示例:专家乘积 ┊807

24.1.2 计算困难 ┊807

24.2 最大似然训练 ┊807

24.2.1 基于梯度的马尔可夫链蒙特卡罗方法 ┊809

24.2.2 对比散度 ┊809

24.3 得分匹配 ┊812

24.3.1 基本得分匹配 ┊813

24.3.2 去噪得分匹配 ┊813

24.3.3 切片得分匹配 ┊815

24.3.4 与对比散度的联系 ┊816

24.3.5 基于得分的生成模型 ┊817

24.4 噪声对比估计 ┊817

24.4.1 与得分匹配的联系 ┊819

24.5 其他方法 ┊819

24.5.1 最小化KL散度的差异/导数 ┊820

24.5.2 最小化Stein差异 ┊820

24.5.3 对抗性训练 ┊821

第25章 扩散模型 ┊823

25.1 概述 ┊823

25.2 去噪扩散概率模型 ┊824

25.2.1 编码器(前向扩散) ┊824

25.2.2 解码器(反向扩散) ┊825

25.2.3 模型拟合 ┊826

25.2.4 学习噪声调度计划 ┊828

25.2.5 示例:图像生成 ┊829

25.3 基于得分的生成模型 ┊829

25.3.1 示例 ┊830

25.3.2 在多个尺度上添加噪声 ┊830

25.3.3 等同于去噪扩散概率模型 ┊831

25.4 使用微分方程的连续时间模型 ┊832

25.4.1 前向扩散随机微分方程 ┊832

25.4.2 前向扩散常微分方程 ┊833

25.4.3 反向扩散随机微分方程 ┊834

25.4.4 反向扩散常微分方程 ┊835

25.4.5 随机微分方程和常微分方程方法的比较 ┊836

25.4.6 示例 ┊836

25.5 加速扩散模型 ┊837

25.5.1 DDIM采样器 ┊837

25.5.2 非高斯解码器网络 ┊837

25.5.3 蒸馏方法 ┊838

25.5.4 潜在空间扩散 ┊839

25.6 条件生成 ┊840

25.6.1 条件扩散模型 ┊840

25.6.2 分类器引导 ┊841

25.6.3 无分类器引导 ┊841

25.6.4 生成高分辨率图像 ┊842

25.7 离散状态空间的扩散 ┊842

25.7.1 离散去噪扩散概率模型 ┊843

25.7.2 前向过程的马尔可夫转移矩阵的选择 ┊844

25.7.3 反向过程的参数化 ┊845

25.7.4 噪声调度计划 ┊845

25.7.5 离散序列与其他概率模型的联系 ┊846

第26章 生成式对抗性网络 ┊847

26.1 概述 ┊847

26.2 通过比较进行学习 ┊849

26.2.1 指导原则 ┊849

26.2.2 使用二元分类器的密度比估计 ┊850

26.2.3 f散度的边界 ┊852

26.2.4 积分概率度量 ┊854

26.2.5 矩匹配 ┊855

26.2.6 关于密度比和密度差异 ┊856

26.3 生成式对抗性网络的训练与优化 ┊858

26.3.1 从学习原理到损失函数 ┊858

26.3.2 梯度下降 ┊859

26.3.3 生成式对抗性网络训练面临的挑战 ┊861

26.3.4 改进生成式对抗性网络优化 ┊862

26.3.5 生成式对抗性网络训练的收敛性 ┊862

26.4 条件生成式对抗性网络 ┊866

26.5 生成式对抗性网络推理 ┊867

26.6 生成式对抗性网络中的神经架构 ┊868

26.6.1 判别器架构的重要性 ┊868

26.6.2 架构归纳偏置 ┊868

26.6.3 生成式对抗性网络中的注意力 ┊869

26.6.4 渐进式生成 ┊870

26.6.5 正则化 ┊871

26.6.6 扩展生成式对抗性网络模型 ┊872

26.7 应用 ┊872

26.7.1 图像生成的生成式对抗性网络 ┊872

26.7.2 视频生成 ┊875

26.7.3 音频生成 ┊875

26.7.4 文本生成 ┊876

26.7.5 模仿学习 ┊877

26.7.6 领域自适应 ┊878

26.7.7 设计、艺术和创意 ┊878

第五部分 发 现

第27章 发现方法:概述 ┊880

27.1 概述 ┊880

27.2 第五部分的内容概述 ┊881

第28章 潜在因子模型 ┊882

28.1 概述 ┊882

28.2 混合模型 ┊883

28.2.1 高斯混合模型 ┊883

28.2.2 伯努利混合模型 ┊885

28.2.3 高斯尺度混合模型 ┊885

28.2.4 使用高斯混合模型作为逆成像问题的先验 ┊887

28.2.5 使用混合模型解决分类问题 ┊890

28.3 因子分析 ┊892

28.3.1 因子分析:基础 ┊892

28.3.2 概率主成分分析 ┊896

28.3.3 混合因子分析器 ┊899

28.3.4 成对数据的因子分析模型 ┊904

28.3.5 指数族似然的因子分析 ┊907

28.3.6 深度神经网络似然的因子分析 ┊908

28.3.7 高斯过程似然的因子分析 ┊909

28.4 具有非高斯先验的潜在因子模型 ┊910

28.4.1 非负矩阵分解 ┊910

28.4.2 多元主成分分析 ┊911

28.5 主题模型 ┊913

28.5.1 潜在狄利克雷分布 ┊914

28.5.2 相关主题模型 ┊917

28.5.3 动态主题模型 ┊918

28.5.4 LDAHMM ┊919

28.6 独立成分分析 ┊922

28.6.1 无噪声独立成分分析模型 ┊922

28.6.2 对非高斯先验的需求 ┊923

28.6.3 最大似然估计 ┊925

28.6.4 最大似然估计的替代方案 ┊925

28.6.5 稀疏编码 ┊927

28.6.6 非线性独立成分分析 ┊928

第29章 状态空间模型 ┊929

29.1 概述 ┊929

29.2 隐马尔可夫模型 ┊930

29.2.1 条件独立性 ┊930

29.2.2 状态转移模型 ┊930

29.2.3 离散似然 ┊931

29.2.4 高斯似然 ┊931

29.2.5 自回归似然 ┊932

29.2.6 神经网络似然 ┊933

29.3 隐马尔可夫模型:应用 ┊934

29.3.1 时间序列分割 ┊934

29.3.2 蛋白质序列比对 ┊936

29.3.3 拼写校正 ┊937

29.4 隐马尔可夫模型:参数学习 ┊940

29.4.1 BaumWelch算法 ┊940

29.4.2 使用随机梯度下降的参数估计 ┊943

29.4.3 使用谱方法的参数估计 ┊944

29.4.4 贝叶斯隐马尔可夫模型 ┊945

29.5 隐马尔可夫模型:泛化 ┊946

29.5.1 隐半马尔可夫模型 ┊946

29.5.2 层次化隐马尔可夫模型 ┊949

29.5.3 因子化隐马尔可夫模型 ┊950

29.5.4 耦合隐马尔可夫模型 ┊951

29.5.5 动态贝叶斯网络 ┊952

29.5.6 变化点检测 ┊952

29.6 线性动力系统 ┊956

29.6.1 条件独立性 ┊956

29.6.2 参数化 ┊956

29.7 线性动力系统:应用 ┊957

29.7.1 目标跟踪和状态估计 ┊957

29.7.2 在线贝叶斯线性回归 ┊958

29.7.3 自适应滤波 ┊960

29.7.4 时间序列预测 ┊960

29.8 线性动力系统:参数学习 ┊960

29.8.1 线性动力系统中的期望最大化 ┊960

29.8.2 子空间识别方法 ┊963

29.8.3 确保动力系统的稳定性 ┊963

29.8.4 贝叶斯线性动力系统 ┊963

29.9 切换线性动力系统 ┊964

29.9.1 参数化 ┊965

29.9.2 后验推理 ┊965

29.9.3 应用:多目标跟踪 ┊966

29.10 非线性状态空间模型 ┊969

29.10.1 示例:目标跟踪和状态估计 ┊969

29.10.2 后验推理 ┊969

29.11 非高斯状态空间模型 ┊970

29.11.1 示例:“尖峰”序列建模 ┊970

29.11.2 示例:随机波动率模型 ┊971

29.11.3 后验推理 ┊972

29.12 结构时间序列模型 ┊972

29.12.1 概述 ┊972

29.12.2 结构化构建块 ┊973

29.12.3 模型拟合 ┊975

29.12.4 预测 ┊975

29.12.5 示例 ┊975

29.12.6 时间序列干预的因果影响 ┊979

29.12.7 Prophet ┊983

29.12.8 神经预测方法 ┊983

29.13 深度状态空间模型 ┊984

29.13.1 深度马尔可夫模型 ┊985

29.13.2 循环状态空间模型 ┊986

29.13.3 改进多步骤预测 ┊986

29.13.4 变分循环神经网络 ┊988

第30章 图学习 ┊989

30.1 概述 ┊989

30.2 图的潜在变量模型 ┊989

30.3 图模型结构学习 ┊989

第31章 非参数化贝叶斯模型 ┊992

31.1 概述 ┊992

第32章 表征学习 ┊993

32.1 概述 ┊993

32.2 评估和比较学习到的表征 ┊994

32.2.1 下游性能 ┊994

32.2.2 表征相似性 ┊996

32.3 学习表征的方法 ┊1000

32.3.1 监督的表征学习和迁移 ┊1001

32.3.2 生成式表征学习 ┊1002

32.3.3 自监督的表征学习 ┊1005

32.3.4 多视图表征学习 ┊1008

32.4 表征学习的理论 ┊1012

32.4.1 可识别性 ┊1013

32.4.2 信息最大化 ┊1014

第33章 可解释性 ┊1016

33.1 概述 ┊1016

33.1.1 可解释性的作用:未知规范和弱规范 ┊1017

33.1.2 术语和框架 ┊1018

33.2 可解释的机器学习方法 ┊1022

33.2.1 内在可解释的模型:模型就是其解释 ┊1022

33.2.2 半内在可解释的模型:基于样例的方法 ┊1024

33.2.3 事后训练或联合训练:解释给出模型的部分视图 ┊1024

33.2.4 透明度和可视化 ┊1028

33.3 属性:上下文和方法之间的抽象 ┊1029

33.3.1 可解释机器学习中解释的属性 ┊1030

33.3.2 认知科学中解释的属性 ┊1032

33.4 可解释机器学习模型的评估 ┊1033

33.4.1 计算评估:该方法是否具有所需的属性 ┊1034

33.4.2 基于用户研究的评估:该方法是否有助于用户执行目标任务 ┊1037

33.5 讨论:如何思考可解释的机器学习 ┊1041

第六部分 行 为

第34章 不确定性决策 ┊1048

34.1 统计决策理论 ┊1048

34.1.1 基础理论 ┊1048

34.1.2 频率学派决策理论 ┊1049

34.1.3 贝叶斯决策理论 ┊1049

34.1.4 贝叶斯方法的频率学派最优性 ┊1050

34.1.5 一次性决策问题示例 ┊1051

34.2 决策(影响)图 ┊1054

34.2.1 示例:石油勘探者 ┊1055

34.2.2 信息弧 ┊1056

34.2.3 信息价值 ┊1057

34.2.4 计算最优策略 ┊1058

34.3 A/B测试 ┊1058

34.3.1 贝叶斯方法 ┊1058

34.3.2 示例 ┊1062

34.4 上下文游戏机 ┊1063

34.4.1 游戏机的类型 ┊1063

34.4.2 应用 ┊1065

34.4.3 “探索-利用”权衡 ┊1065

34.4.4 最优解 ┊1066

34.4.5 置信区间上界 ┊1067

34.4.6 汤普森采样 ┊1069

34.4.7 策略遗憾 ┊1071

34.5 马尔可夫决策问题 ┊1072

34.5.1 基础理论 ┊1072

34.5.2 部分可观测的马尔可夫决策过程 ┊1073

34.5.3 剧集和回报 ┊1074

34.5.4 价值函数 ┊1075

34.5.5 最优价值函数和策略 ┊1076

34.6 马尔可夫决策过程中的规划 ┊1078

34.6.1 价值迭代 ┊1078

34.6.2 策略迭代 ┊1079

34.6.3 线性规划 ┊1080

34.7 主动学习 ┊1081

34.7.1 主动学习场景 ┊1081

34.7.2 与其他形式的序列决策的关系 ┊1082

34.7.3 采集策略 ┊1083

34.7.4 批量主动学习 ┊1085

第35章 强化学习 ┊1088

35.1 概述 ┊1088

35.1.1 方法概述 ┊1089

35.1.2 基于价值的方法 ┊1090

35.1.3 策略搜索方法 ┊1090

35.1.4 基于模型的强化学习 ┊1091

35.1.5 “探索-利用”权衡 ┊1091

35.2 基于价值的强化学习 ┊1093

35.2.1 蒙特卡罗强化学习 ┊1093

35.2.2 时间差分学习 ┊1094

35.2.3 资格迹的时间差分学习 ┊1095

35.2.4 SARSA:同策略时间差分控制 ┊1096

35.2.5 Q学习:异策略时间差分控制 ┊1096

35.2.6 深度Q网络 ┊1099

35.3 基于策略的强化学习 ┊1100

35.3.1 策略梯度定理 ┊1100

35.3.2 REINFORCE ┊1101

35.3.3 “行动者-评论家”方法 ┊1102

35.3.4 边界优化方法 ┊1104

35.3.5 确定性策略梯度方法 ┊1105

35.3.6 无梯度方法 ┊1106

35.4 基于模型的强化学习 ┊1107

35.4.1 模型预测控制 ┊1107

35.4.2 结合基于模型和无模型的强化学习 ┊1109

35.4.3 使用高斯过程的基于模型的强化学习 ┊1109

35.4.4 使用深度神经网络的基于模型的强化学习 ┊1111

35.4.5 使用潜在变量模型的基于模型的强化学习 ┊1112

35.4.6 模型误差的鲁棒性 ┊1114

35.5 异策略学习 ┊1115

35.5.1 基本技术 ┊1115

35.5.2 时域的诅咒 ┊1119

35.5.3 致命的三要素 ┊1120

35.6 作为推理的控制 ┊1122

35.6.1 最大熵强化学习 ┊1122

35.6.2 其他方法 ┊1124

35.6.3 模仿学习 ┊1125

第36章 因果关系 ┊1128

36.1 概述 ┊1128

36.2 因果形式主义 ┊1130

36.2.1 结构因果模型 ┊1130

36.2.2 因果有向无环图 ┊1132

36.2.3 识别 ┊1134

36.2.4 反事实和因果层次 ┊1135

36.3 随机对照试验 ┊1137

36.4 混杂因素调整 ┊1138

36.4.1 因果估计目标、统计估计目标和识别 ┊1138

36.4.2 具有观测到的混杂因素情况下的平均处理效应估计 ┊1141

36.4.3 不确定性量化 ┊1146

36.4.4 匹配 ┊1147

36.4.5 实际考虑和过程 ┊1148

36.4.6 总结和实用建议 ┊1151

36.5 仪器变量策略 ┊1152

36.5.1 加性未观测到的混杂因素 ┊1154

36.5.2 仪器单调性和局部平均处理效应 ┊1155

36.5.3 两阶段最小二乘法 ┊1159

36.6 双重差分法 ┊1159

36.6.1 估计 ┊1162

36.7 可信度检查 ┊1163

36.7.1 安慰剂检查 ┊1163

36.7.2 对未观测到的混杂因素进行敏感性分析 ┊1164

36.8 do演算 ┊1172

36.8.1 三条规则 ┊1172

36.8.2 重新调整后门 ┊1173

36.8.3 前门调整 ┊1174

36.9 参考阅读资料 ┊1175

参考文献 ┊1177

文摘▼

全书通过概率建模和贝叶斯决策理论的统一视角,详细且与时俱进地介绍了机器学习(包括深度学习)的理论和方法。由于篇幅限制,新版分为上下两卷:《概率机器学习(基础篇)》和《概率机器学习(进阶篇)》。本书作为下卷进阶篇,进一步拓展了机器学习的研究范畴,聚焦更具挑战性的问题,力求对机器学习各主题展开更为深入的探讨。

进阶篇主要分为六个部分:第一部分主要讨论机器学习所涉及的数学知识,包括概率论、统计学、图模型、信息论以及优化;第二部分主要讨论机器学习的推理算法,包括高斯滤波与平滑、消息传递算法、变分推理、蒙特卡罗方法、马尔可夫链蒙特卡罗方法以及序列蒙特卡罗方法;第三部分主要讨论机器学习的预测算法,包括广义线性模型、深度神经网络、贝叶斯神经网络、高斯过程以及非独立同分布的假设;第四部分主要讨论机器学习的生成算法,包括变分自动编码器、自回归模型、归一化流、基于能量的模型、扩散模型以及生成式对抗性网络;第五部分主要讨论机器学习的发现方法,包括潜在因子模型、状态空间模型、图学习、非参数化贝叶斯模型、表征学习以及可解释性;第六部分主要讨论机器学习的行为算法,包括不确定性决策、强化学习以及因果关系。

¥368.98
🛒购物车