书城首页 › 当代 › 工业 › 大规模图神经网络:并行和分布式技术
当代·工业

大规模图神经网络:并行和分布式技术

正版保障多仓发货48小时内发货2-3天送达可开发票
¥50.01 定价 ¥89.00 5.6折 立省 ¥38.99
现货库存 13 件 全新
商品参数
书名
大规模图神经网络:并行和分布式技术
作者
邵蓥侠 等 著
出版社
机械工业出版社
出版时间
2025-11-01
ISBN
9787111788522
货号
1203994776
品相
全新
分类
当代·工业
购物车(0)
商品参数
书名
大规模图神经网络:并行和分布式技术
作者
邵蓥侠 等 著
出版社
机械工业出版社
出版时间
2025-11-01
ISBN
9787111788522
货号
1203994776
品相
全新
分类
当代·工业
编辑推荐▼

本书入选“十四五”国家重点出版物出版规划项目,2025国家出版基金项目。

作者简介▼

邵蓥侠,北京邮电大学计算机学院教授,博士生导师,国家级青年人才,北京市科技新星。

长期从事数据管理、大规模图计算、图学习等研究;长期担任多个重要国际会议的程序委员和著名国际期刊的审稿人;主持国家自然科学基金项目3项、科技创新2030“新一代人工智能”重大项目子课题1项以及CCF/CAAI产学研合作基金多项。在相关领域发表学术论文100余篇,其中CCF A类论文50余篇;获数据库领域顶级国际会议VLDB 2022最佳常规研究论文奖、数据库领域重要国际会议DASFAA 2020最佳学生论文奖等国内外学术会议论文奖8项。获中国电子学会科技进步一等奖、北京市高等教育教学成果奖二等奖、ACM SIGMOD中国新星奖等奖项。

目录▼

前言

第1章引言1

1.1图神经网络2

1.1.1什么是图神经网络2

1.1.2图神经网络的发展历史4

1.1.3图神经网络的现状6

1.2大规模图神经网络7

1.2.1大规模图神经网络的缘由8

1.2.2大规模图神经网络与分布式训练9

1.2.3分布式图神经网络的困难与挑战10

1.3本书组织11

参考文献12

第2章图神经网络模型16

2.1图的表示16

2.2图神经网络的表示17

2.3典型的图神经网络模型18

2.3.1门控图序列神经网络19

2.3.2图卷积神经网络20

2.3.3图注意力网络23

2.3.4生成式图神经网络模型25

2.4图神经网络的应用28

2.4.1社交网络29

2.4.2生物与医疗29

2.4.3金融与风控30

2.4.4物理领域31

2.4.5交通领域31

2.4.6推荐系统32

2.5小结32

参考文献32

第3章分布式并行机器学习37

3.1机器学习的基础知识38

3.1.1基本概念38

3.1.2模型训练38

3.1.3反向传播算法42

3.1.4梯度下降算法45

3.2分布式并行机器学习的流程47

3.3分布式并行机器学习的训练模式48

3.3.1数据并行49

3.3.2模型并行50

3.3.3流水并行51

3.3.4张量并行53

3.3.5混合专家并行58

3.3.6完全分片的数据并行60

3.4分布式并行机器学习的训练架构62

3.4.1分布式训练架构62

3.4.2模型更新策略66

3.5分布式并行机器学习的物理架构68

3.5.1单机多卡分布式并行训练环境68

3.5.2多机集群分布式并行训练环境69

3.6小结70

参考文献71

第4章分布式并行图神经网络训练75

4.1图神经网络训练的基本流程76

4.1.1全图训练76

4.1.2小批次训练78

4.2图神经网络与深度神经网络的比较81

4.3分布式并行图神经网络训练82

4.3.1小批次分布式并行图神经网络训练83

4.3.2全图分布式并行图神经网络训练84

4.4小结85

参考文献85

第5章小批次分布式并行图神经网络训练与优化87

5.1朴素的小批次分布式并行训练87

5.1.1训练流程87

5.1.2问题与不足88

5.2执行引擎优化90

5.2.1小批次间的算子并行训练90

5.2.2推拉混合的并行训练93

5.2.3基于历史嵌入的并行训练95

5.2.4基于计算分解的数据并行训练99

5.3图采样及其优化102

5.3.1基本的图采样方法102

5.3.2分布式图采样方法103

5.4数据缓存优化技术106

5.5通信机制及优化107

5.5.1集合通信107

5.5.2集合通信的死锁问题108

5.5.3通信链路优化109

5.6小结116

参考文献116

第6章全图分布式并行图神经网络训练与优化121

6.1全图分布式图神经网络训练基本并行方法122

6.1.1子图并行的全图分布式训练122

6.1.2算子并行的全图分布式训练124

6.1.3子图并行与算子并行对比129

6.1.4全图分布式并行图神经网络训练的效率瓶颈129

6.2基于同步模型计算的效率优化130

6.2.1图划分策略130

6.2.2预聚合执行模式135

6.2.3高效的同步通信协议138

6.3基于异步模型计算的通信优化140

6.3.1异步执行模型141

6.3.2异步图神经网络训练通信协议142

6.4小结144

参考文献145

第7章大规模图神经网络系统150

7.1图神经网络编程模型151

7.1.1以张量为中心的编程模型151

7.1.2以全图为中心的编程模型151

7.1.3以节点为中心的编程模型154

7.2图神经网络系统与图计算154

7.3面向单机多GPU的图神经网络系统155

7.4面向GPU集群的图神经网络系统157

7.5面向CPU集群的图神经网络系统159

7.6面向其他硬件平台的图神经网络系统161

7.7图神经网络系统的对比与选择162

7.7.1硬件设备162

7.7.2模型训练方法164

7.7.3模型更新策略164

7.8小结165

参考文献166

第8章大规模图神经网络编程实践170

8.1基于DGL的训练环境配置171

8.2单机单卡训练172

8.2.1基本训练流程172

8.2.2简单的图神经网络训练案例173

8.2.3基于小批次的图神经网络训练案例177

8.3分布式并行训练180

8.3.1数据集的预处理181

8.3.2分布式数据通信接口183

8.3.3单机多GPU的训练190

8.3.4基于集群的训练208

8.4小结214

参考文献214

第9章总结与展望216

参考文献218

文摘▼

本书系统介绍并行与分布式图神经网络的核心技术和实践方法,内容全面、结构清晰,既涵盖理论基础,又包含系统实现与编程案例,具有很高学术价值和工程指导意义。全书共9章。第1章介绍图神经网络的背景、发展历史和现状,并探索大规模图神经网络的缘由;第2章介绍图神经网络模型的基础知识及其应用;第3章介绍分布式并行机器学习的流程、训练模式、训练架构、物理架构等基础知识;第4章从整体上介绍分布式并行图神经网络训练的流程和方法;第5章和第6章分别介绍大规模图神经网络的小批次分布式并行训练和全图分布式并行训练方法及其优化技术;第7章介绍经典的大规模图神经网络系统;第8章介绍大规模图神经网络编程实践案例;第9章探讨大规模图神经网络技术的未来发展方向。

¥50.01
🛒购物车