论文笔记Autoregressive Denoising Diffusion Models for Multivariate Probabilistic Time Series Forecasting

论文针对多元概率时间序列预测（multivariate probabilistic time series forecasting）任务，提出了TimeGrad模型。
有开源的代码：PytorchTS
概率预测如下图所示，对未来的预测带有概率：

TimeGrad模型基于Diffusion Probabilistic Model，Diffusion Probabilistic Model这里不再介绍，可以简单认为是一个可以拟合复杂分布的概率模型。需要学习的请参见博客《Denoising Diffusion Probabilistic Models简介》。
在了解Diffusion Probabilistic Model的基础上，这篇文章的方法非常简单。如果把TimeGrad基于的Diffusion Probabilistic Model换成高斯分布，TimeGrad就类似DeepAR了。

方法

将多变量时间序列表示为 x i , t 0 ∈ R , i = { i , . . . , D } x_{i,t}^0\in \mathbb{R}, i=\{i,...,D\} xi,t0​∈R,i={ i,...,D}，其中$t$是时间index，$D$是多变量的变量数。给一个连续时间序列$t\in [1,T]$，将其划分为context window$[1,t_0)$和prediction window$[t_0,T]$。任务目的是用context window的时间序列预测prediction window的时间序列。

TimeGrad的是一个自回归（autoregressive）的模型：
$$q_{\mathcal{X}}({\mathbf{x}}_{t_0:T}^0|{\mathbf{x}}_{1:t_0-1}^0$$