论文笔记：《GARNET: Reduced-Rank Topology Learning for Robust and Scalable Graph Neural Networks》

前言

今天分享的是来自2022年arXiv上的关于图神经网络防御方面的文章，这篇文章主要突出了减小秩近似的GARNET方法在异质图和大型数据集两个方面的运用。
论文链接：https://arxiv.org/pdf/2201.12741v2.pdf

一、本文贡献

首先介绍一下本文的贡献：

1. 使用谱图嵌入和概率图模型来提高GNN模型的鲁棒性
2. 引入图概率模型，通过最大似然估计来判别图中重要的边构建基础图G_base
3. 本文所提到的降秩拓扑学习的方法具有近似线性的时间和空间复杂度，从而可以使其使用在大型数据集中

二、GARNET是什么？

那么作者为什么会提出GARNET这种方法呢？GARNET到底对于之前以前提出的方法有什么样的改进和优势。目前来看我们所知道的是图卷积算法对于图网络攻击时很容易被攻击的，表现是十分脆弱的。从攻击角度来看，为了使攻击的扰动不被注意到，设计出了高秩的攻击方法，比如图对抗攻击中比较有名的方法：目标攻击Nettack方法和非目标攻击Metattack方法。Nettack攻击的本质是改变奇异值很小的部分，那么对于这种情况，从防御来说，我们只需要把奇异值大的部分保留着，进行网络重构，使用TSVD去除噪声，就还原网络真实情况。

对于上面的两张图，我做简单的分析。我们可以看到左边这张图，红色虚线代表的干净图的秩在2000～2500之间；通过高秩的攻击方法生成的黄色虚线对抗图的秩是比干净图的秩高一些；通过TSVD也就是截断奇异值分解形成的蓝色实现的对抗图的秩只有50左右，很明显如此低的秩不可