图卷积神经网络 国科大沈华伟 视频笔记

图卷积神经网络 国科大 沈华伟_哔哩哔哩_bilibili老师讲得很好（膜大佬orzhttps://www.bilibili.com/video/BV1dT4y1o7VF/CNN

• 平移不变性
• CNN可以通过卷积核，学习到局部的平稳的结构，然后通过层层堆叠，得到层次化的presentation
• 问题：如何将欧氏空间的CNN应用到非欧空间中去？
  • 欧式距离：非负，对称，三角不等式

什么是卷积

• 
  • h𝑡=𝑓∗𝑔𝑡=∫𝑓𝑡−𝜏𝑔𝜏𝑑𝜏
  • 围绕一个点，做一个带权的平均值
• 

CNN泛化到GCN的两种方法

1、谱方法

• 通过图上的傅里叶变换定义卷积核
• 𝐺=𝑉,𝐸,𝑊. 𝑊为带权零阶矩阵，𝑋∈𝑅𝑛×𝑑定义在节点上的信号
• 拉普拉斯矩阵
  • 
    • D为度
    • 沿着图上的边，对信号求的导数
• 图上的傅里叶变换
  • 
• 卷积定理：两信号的卷积，等于两信号傅里叶变换的点积
  • 

• 缺点
  • 求拉普拉斯矩阵的正交分解难做
  • 傅里叶逆变换的计算复杂度为On2
  • 全局变换，not localized in vertex domain

改进

• 
  • 𝜆为拉普拉斯矩阵的特征值
• 或者，使用小波代替图神经网络

2、空间方法----analogy（类比）

• CNN的三个步骤
  • 确定邻居、给邻居定序、参数共享
    • 
  • 迁移到图中
    • 
• graphSAGE
  • 随机游走采样、聚合函数（跳过去定序的步骤）
    • 
• GCN
  • 
• GAT：将硬编码的A做参数化
  • 
• MoNet
  • 

谱方法是空间方法的特殊形式