147页详述结构在神经网络中的复兴,图注意力网络一作博士论文公开( 三 )


问题三
Q3:图卷积网络在何种程度上对于图结构数据的无监督学习是有意义的?在形式化图无监督目标时 , 是否可以有效利用图的全局结构属性?
论文第五章和《Deep Graph Infomax》研究了此前基于图进行无监督表征学习的方法(主要基于随机游走) , 发现这些方法不太适合与图卷积编码器结合使用 。
基于图像领域局部互信息最大化的之前工作 , 作者提出了针对图结构输入的 Deep Graph Infomax (DGI) 学习算法 。 该无监督目标使图的每个局部组件都能完美地记住图的全局结构属性 。 结果表明 , 该模型在生成节点嵌入方面与使用监督目标训练的类似编码器性能相当 , 甚至更优 。
除了介绍作者的主要研究贡献以外 , 这篇博士论文还对深度神经网络的背景信息进行了全面概括(第 2 章) , 尤其提供了具备结构归纳偏置的相关模型的基本数学细节(从 CNN 和 RNN 再到图卷积网络) 。 论文第六章对全文进行了总结 , 并描述了未来的工作方向 。
以下是这篇博士论文的目录:
147页详述结构在神经网络中的复兴,图注意力网络一作博士论文公开
本文插图

147页详述结构在神经网络中的复兴,图注意力网络一作博士论文公开
本文插图
147页详述结构在神经网络中的复兴,图注意力网络一作博士论文公开
本文插图