时间序列预测：MTGNN学习笔记 Multivariate Time Series Forecasting with Graph Neural Networks

MTGNN学习笔记

Multivariate Time Series Forecasting with Graph Neural Networks
提出一个专门针对多元时间序列数据设计的通用图神经网络框架。
通过图学习模块自动提取变量之间的单向关系，变量属性等外部知识可以很容易地集成到图学习模块中。
进一步提出了一种新的混合跳传播层和扩展初始层来捕获时间序列中的时空依赖关系。

MTGNN的框架

• 1 × 1标准卷积首先将输入投影到潜在空间
• 然后将时间卷积模块和图卷积模块相互交错，分别捕获时间和空间依赖关系
• 控制时间卷积模块的接受域大小的超参数扩张因子d以q的指数速率增加
• 图学习层学习图卷积模块使用的隐藏图邻接矩阵
• 在模型中加入了残余连接和跳跃连接，避免了梯度消失的问题
• 输出模块将隐藏的特征投影到所需的维度以获得最终结果

一、Graph Learning Layer 图学习

[单向关系邻接矩阵怎么来? 单向关系怎么卷积? ]

图学习层的作用：

二、Graph Convolution Module 学习空间结构

1.模型结构

2.Mix-hop Propagation Layer

三、Temporal Convolution Module 学习时间序列信息

1.模型结构

2.Dilated+inception layer

四、跳跃连接层 Skip Connection Layer

本质上是1xLi的标准卷积，其中Li是第i个跳跃连接层输入的序列长度。它将跳转到输出模块的信息标准化，使其具有相同的序列长度1。

五、输出模块 output layer

由两个1x 1的标准卷积层组成，将输入的通道维度转换为所需的输出维度。如果我们只想预测未来的某个步骤，那么期望的输出维数是1。当我们想要预测连续Q步时期望的输出维数是Q。

六、空洞卷积与感受野计算

根据上图可以归纳出感受野的计算公式总结，一共有两种，一种是层-层之间的推导递推关系，一种是计算“最大感受野”——即计算最后一层的featuremap的一个像素点对应的感受野的范围。
论文对应代码中的感受野计算：

【1】 层与层之间的感受野：$r_l=r_{l-1}+$