深度学习由于其强大的特征抽取能力和拟合能力，在不少领域取得很好的效果，替代了传统的机器学习和人工抽取特征的方法。但是传统的深度学习方法通常比较适用于欧式空间中表示的数据，而不能很好地解决非欧式空间的问题。非欧式空间的数据通常用图 (graph) 表示，用图表示对象之间的关系。为了更好地在图上应用深度学习，很多基于图的神经网络 (GNN) 算法被提出，本文重点 GNN 的开山之作图卷积神经网络 GCN。

1.前言

现在机器学习的研究领域存在很多神经网络模型，例如卷积神经网络 (CNN)，循环神经网络 (RNN)，自编码器 (AutoEncoder) 等，这些模型被用到很多人工智能任务中 (目标检测、人脸识别，文本情感分析等)，取得不错的效果。这些任务通常是在欧式空间中表示的，传统的深度学习算法也比较擅长提取欧式空间中的特征。

但是现在越来越多任务的数据是从非欧式空间中生成的，需要用的图 (graph) 结构来表示对象之间的关系。例如在一些社交媒体上有用户社交网络，用户有不同的好友 (两个为好友的用户是图中相邻的节点)，可以根据用户的好友关系对用户进行分类；在电子商务领域，用户和商品也可以构成网络，用户与其好友，用户与其买过的商品之间会存在连接，可以根据网络结构更好地推荐商品。

图结构相对比较复杂，一般不是整齐的，一个网络包含不同数量的节点，不同的节点也包含不同的邻居。这使得传统的神经网络操作 (如卷积操作等) 不能很好地用在图结构上，另外一点传统的机器学习方法通常假设样本之间是独立的，但是在图结构上，样本之间通常具有联系 (好友关系，购买关系) 等。图结构通常用 G=(V, E) 表示，V 表示节点集合，E 表示边的集合。

为了将深度学习的方法用到图结构上，图神经网络 (Graph Neural Network, GNN) 被提出。一些重要的神经网络操作在图结构上也被重新定义，如传统的卷积操作中，每一个像素可以看成一个点，然后和周围的点进行加权求和。而对于图 (graph) 结构，也可以采取类似的方法进行卷积，对节点在图上的邻居进行加权求和。

常见的图神经网络有很多种：图卷积网络 Graph Convolutional Network (GCN)；图循环网络 Graph Recurrent Network (GRN)；图注意力网络 Graph Attention Network (GAT)；图自编码器 Graph Autoencoders (GAE)。本文重点介绍最早被提出的图卷积网络 GCN，论文《Semi-Supervised Classification with Graph Convolutional Networks》。

2.图 (graph) 定义

下文用 G=(V, E) 表示图结构 (有向图或无向图)，V 表示节点的集合，E 表示边的集合，n 表示节点的个数，m 表示边的个数。

图 (graph) 定义

用 N(v) 表示节点 v 所有邻居的集合：

节点 v 的邻居集合

图结构也可以用邻接矩阵 (adjacency matrix) 进行表示，邻接矩阵 A 为 n×n 矩阵，其中 n 为图中节点数，Aij=1 表示节点 i 和节点 j 之间有边相连。

邻接矩阵 A

图的度矩阵 D，degree matrix，D 是对角矩阵，即除了对角线其他元素都为 0，对角值如下计算，Dii 表示与节点 i 相连的节点数：

度矩阵 D

图中的节点 v 带有特征向量，用矩阵 X 保存图节点的特征向量，特征向量维度是 d：

节点特征向量矩阵

3.图卷积神经网络网络 GCN

图卷积神经网络网络 Graph Convolutional Network (GCN) 最早是在 2016 年提出，2017 年发表在 ICLR 上。GCN 主要是将卷积操作应用到图结构上，如下图所示，GCN 输入的 chanel 为 C (即节点 Xi 特征向量的维度)，GCN 输出的 chanel 为 F，即每个节点 (Zi) 的特征向量维度为 F，最后用节点的特征对节点进行分类预测等：

GCN 卷积示意图

GCN 和 CNN 类似，具有强大的特征学习能力，它们的实质也是类似的，某个点的卷积可以看成对该点邻居的加权求和。下图为传统的图像 (image) 卷积操作，每个点表示一个像素，图像的像素也可以看成是一种图 (graph) 结构，相邻的像素之间有边连接，而卷积是对像素邻居进行加权平均得到的。

图像 (image) 的二维卷积

而对于图 (graph) 结构，也可以采取类似的方法进行卷积。例如对下图中红色的节点卷积就等于取其邻居节点进行加权平均。

图 (graph) 结构卷积

GCN 中给出了图卷积的计算公式，如下所示，其中 H(l) 表示节点在第 l 层的特征向量，H(l+1) 表示经过卷积后节点在第 l+1 层的特征向量，W(l) 表示第 l 层卷积的参数，σ 表示激活函数。而由矩阵 A、D 组成的部分是一种拉普拉斯矩阵 (Laplacian matrix)，A+I 中的 I 为单位矩阵，即对角线为 1，其他为 0 的矩阵：