●前言
章图的概述1
1.1图的基本定义1
1.1.1图的基本类型2
1.1.2邻居和度4
1.1.3子图与路径4
1.2图的存储与遍历5
1.2.1邻接矩阵与关联矩阵5
1.2.2图的遍历6
1.3图数据的应用场景7
1.4图数据深度学习10
1.5参考文献13
第2章神经网络基础17
2.1机器学习基本概念17
2.1.1机器学习分类17
2.1.2机器学习流程概述18
2.1.3常见的损失函数21
2.1.4梯度下降算法23
2.2神经网络25
2.2.1神经元25
2.2.2多层感知器27
2.3激活函数29
2.3.1S型激活函数30
2.3.2ReLU及其变种30
2.4训练神经网络33
2.4.1神经网络的运行过程34
2.4.2反向传播34
2.4.3优化困境36
2.5参考文献38
第3章卷积神经网络39
3.1卷积与池化39
3.1.1信号处理中的卷积39
3.1.2深度学习中的卷积操作42
3.1.3池化46
3.2卷积神经网络46
3.2.1卷积神经网络的结构47
3.2.2卷积神经网络的特点49
3.3特殊的卷积形式51
3.3.11×1卷积51
3.3.2转置卷积52
3.3.3空洞卷积54
3.3.4分组卷积55
3.3.5深度可分离卷积55
3.4卷积网络在图像分类中的应用56
3.4.1VGG56
3.4.2Inception系列57
3.4.3ResNet60
3.5参考文献62
第4章表示学习65
4.1表示学习65
4.1.1表示学意义65
4.1.2离散表示与分布式表示66
4.1.3端到端学习是一种强大的表示学习方法68
4.2基于重构损失的方法—自编码器69
4.2.1自编码器69
4.2.2正则自编码器71
4.2.3变分自编码器72
4.3基于对比损失的方法—Word2vec75
4.4参考文献79
第5章图信号处理与图卷积神经网络81
5.1矩阵乘法的三种方式81
5.2图信号与图的拉普拉斯矩阵83
5.3图傅里叶变换85
5.4图滤波器90
5.4.1空域角度93
5.4.2频域角度94
5.5图卷积神经网络96
5.6GCN实战101
5.7参考文献109
第6章GCN的性质111
6.1GCN与CNN的联系111
6.2GCN能够对图数据进行端对端学习115
6.3GCN是一个低通滤波器120
GCN的问题—过平滑122
6.5参考文献127
第7章GNN的变体与框架129
7.1GraphSAGE129
7.1.1采样邻居130
7.1.2聚合邻居131
7.1.3GraphSAGE算法过程132
7.2GAT134
7.2.1注意力机制134
7.2.2图注意力层137
7.2.3多头图注意力层138
7.3R-GCN140
7.3.1知识图谱140
7.3.2R-GCN141
7.4GNN的通用框架143
7.4.1MPNN143
7.4.2NLNN146
7.4.3GN147
7.5GraphSAGE实战148
7.6参考文献153
第8章图分类155
8.1基于全局池化的图分类155
8.2基于层次化池化的图分类156
8.2.1基于图坍缩的池化机制157
8.2.2基于TopK的池化机制165
8.2.3基于边收缩的池化机制168
8.3图分类实战169
8.4参考文献177
第9章基于GNN的图表示学习179
9.1图表示学习180
9.2基于GNN的图表示学习182
9.2.1基于重构损失的GNN183
9.2.2基于对比损失的GNN184
9.3基于图自编码器的推荐系统188
9.4参考文献195
0章GNN的应用简介197
10.1GNN的应用简述197
10.2GNN的应用案例199
10.2.13D视觉199
10.2.2基于社交网络的推荐系统203
10.2.3视觉推理205
10.3GNN的未来展望208
10.4参考文献209
附录A符号声明211