LIGHTGCL: 图对比学习在推荐系统中的应用

简介

在这篇ICLR 2023的论文中，作者提出了一种新颖的图对比学习框架——LIGHTGCL，用于图基础的推荐系统。该方法通过奇异值分解（SVD）增强用户-项目交互图结构，以提高推荐系统的鲁棒性和效率。本文将重点介绍LIGHTGCL的核心方法和创新点

核心方法

图神经网络（GNN）与对比学习

• GNN：用于提取基于图的用户-项目协同信号。
• 对比学习：通过数据增强来提升用户和项目表示，通过对比正样本和负样本对来增强模型性能。

LIGHTGCL框架

LIGHTGCL框架的核心在于利用SVD进行图增强，以保留用户-项目交互图中的重要语义信息，并注入全局协同关系。框架结构如下：

LIGHTGCL的主要方法步骤：

1. 局部图依赖性建模：

   • 使用图卷积网络（GCN）作为基础架构，通过多层消息传递来聚合邻居信息，从而学习用户和项目的嵌入表示。
   • 每层的聚合过程使用激活函数（本文中为恒等函数），并执行边缘dropout以减轻过拟合问题。

2. 全局协同关系学习：

   • 通过SVD对归一化的邻接矩阵进行分解，保留最大的q个奇异值，重构图结构。
   • 重构图结构考虑了每个用户-项目对，强调了全局协同信号。

3. 简化的局部-全局对比学习：

   • 直接对比SVD增强视图与主视图的嵌入，避免了额外的图增强步骤。
   • 使用InfoNCE损失函数来优化对比学习目标，提升模型性能。

4. 效率与鲁棒性：

   • 通过预处理阶段的SVD，避免了训练中的重复图增强，提高了模型效率。
   • 对数据稀疏性和流行性偏差有较好的抵抗力。

创新点

1. SVD增强

• SVD：通过SVD对邻接矩阵进行分解，保留最重要的q个奇异值，重构图结构。
• 全局协同：重构图结构考虑了每个用户-项目对，强调了全局协同信号。

2. 简化的对比学习

• 简化框架：直接对比SVD增强视图与主视图的嵌入，避免了额外的图增强步骤。

3. 效率与鲁棒性

• 效率：通过预处理阶段的SVD，避免了训练中的重复图增强，提高了模型效率。
• 鲁棒性：对数据稀疏性和流行性偏差有较好的抵抗力。

实验效果对比

结论

LIGHTGCL通过SVD增强图结构，有效地提升了推荐系统的鲁棒性和效率。未来的工作将探索将因果分析纳入LIGHTGCL，以进一步增强推荐系统。