图时空序列预测方法记录

本文为博客 VIP 文章,开通 VIP 后可阅读全文

开通 VIP

1、《Graph WaveNet for Deep Spatial-Temporal Graph Modeling》

2019年IJCAI的文章,亮点有三:①自适应邻接矩阵 self-adaptive adjancency matrix;②基于自适应矩阵的扩散图卷积 diffusion GCN;③空洞因果卷积 dilated causal temporal convolution。

其中,自适应邻接矩阵是通过两个node embedding矩阵基于ReLU和Softmax激活得出,优势在于对未知图结构的数据也适应,并可以挖掘潜在连接关系。

原文链接:https://arxiv.org/abs/1906.00121 

代码链接:https://github.com/nnzhan/Graph-WaveNet

训练细节:①扩散步K=2,②embedding维度设置为10,③学习率初始化为0.001的Adam优化器,④dropout设置为0.3,⑤空洞因子设置为1,2,1,2,1,2,1,2,⑥梯度裁剪gradient clip 设置为L2=5

2、《Incrementally Improving Graph WaveNet Performance on Traffic Prediction》

对Graph WaveNet做了改进,网络结构的主要改进为增加图卷积操作的残差链接,其他改进体现在训练细节上:①学习率衰减learning rate decay设置为0.97,每个e

用于深层时空建模的 Graph WaveNet 时空建模可用于分析空间关系和时间趋势。现有的方法大多捕捉固定形结构上的空间依赖性,假设实体之间的底层关系是预先确定的。显式结构(关系)不一定反映真实的依赖关系。且现有的方法对于捕捉时间趋势是无效的,因为其使用的RNN或CNN不能捕获长时间序列。本文提出了一种新的用于时空建模的神经网络结构Graph WaveNet。开发一种新的自适应依赖矩阵并通过节点嵌入进行学习,故可以捕获数据中隐藏的空间依赖。Graph WaveNet具有一个堆叠的扩展一维卷积组件,其感受野随着层数的增加呈指数增长,能够处理非常 阅读详情

相关推荐

【论文笔记】Graph WaveNet for Deep Spatial-Temporal Graph Modeling

现有模型大多是基于固定的结构,但由于数据的损失可能导致某些true dependency丢失。现有方法对捕获时间趋势不是很有效,因为RNN和CNN不能捕获长时间序列。GWN是通过更新一个自适应依赖矩阵,从而来捕获隐藏的空间依赖。GWN使用堆叠的1D卷积分结构,来使接受域不断扩大,从而使得模型可以处理非常长的序列。假设1:一个结点的未来信息取决于一个结点的历史信息与相邻结点的历史信息。问题1:中结点间相互信息可能出现缺失或增加。问题2:目前的时空建模难以学习到时间依赖。

lokol.的秘密基地 1506

cnn+transformer详细教程时间序列预测像分类

cnn+transformer详细教程时间序列预测像分类

2754

【论文泛读03】卷积LSTM网络:一种短时降雨量预测机器学习方法

贴一下汇总贴:论文阅读记录 论文链接:《Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting》 一、摘要 短时降雨量预报的目的是预测局部地区在较短时间内的未来降雨强度。以前很少有研究从机器学习的角度来研究这一至关重要且具有挑战性的天气预报问题。在本文中,我们将短时降雨量预报定义为一个输入和预报目标都是时空序列预测问题。通过扩展全连接LSTM (FC-LSTM),使其在输入到状态和状态到状态的

scu-liu的博客 5547

【交通流预测】《Graph WaveNet for Deep Spatial-Temporal Graph Modeling》论文详解

文章目录文章总结一、Abstract二、Introduction三、Methodology1. Problem Definition2. Graph Convolution Layer3. Temporal Convolution Layer 点击论文下载链接 点击代码下载链接 文章总结 - 现存问题: ① 捕获空间关系: 现有的方法大多捕捉对固定结构的空间依赖性。然而,这种固定结构不一定反应真实站点间的空间依赖关系,并且由于数据中不完整的连接,可能会丢失真正的关系。 ② 捕获空间关系:现存方法

stt666的博客 7645

论文笔记:Graph WaveNet for Deep Spatial-Temporal Graph Modeling

时空数据挖掘问题大多数使用邻接矩阵来建模节点之间的属性关系,这种思路的一个基本假设是:节点信息取决于自身和邻居的历史信息。但这类模型的假设存在着一些问题:未能充分建模节点之间的依赖关系两个节点之间没有连边,但是有依赖关系两个节点虽然是邻居节点,但是没有依赖关系未能有效学习到时间的依赖关系RNN:迭代传播耗时(无法并行)、存在梯度爆炸/消失的问题CNN:需要迭代很多层,才能得到较大的感受野。

qq_40206371的博客 1571

时空序列预测学习记录1

CNN类型RNN类型,这俩个都是比较基础的了E3D-LSTM:长期记忆建模一个交通流预测采用了ST-GCN模型:使用一维卷积进行时间维度的信息学习,这个是网络结构的时候可以用到感觉时空搜出来的模型都是(新的3D卷积方法+RNN),long-term搜出来的都是(Transform变型),这是因为在长序列方面,Transformer要比LSTM有优势。毕竟序列越长,LSTM丢失的信息越多。

CZY925323的博客 550

时空序列预测第八篇】Spatio-Temporal Graph Convolutional Networks: A Deep Learning Framework for Traffic Forec

作者| 大阳Vinc学校| 武汉大学研究| 深度学习出品 | AI蜗牛车前言时空序列问题包含两种形态:表格化数据和片数据。而在这个系列此篇之前的文章所介绍的模型都是针对于解决...

AI蜗牛车 1万+

时空序列预测之EIDETIC 3D LSTM: A MODEL FOR VIDEO PREDICTION AND BEYOND

1. 写在前面 今天分享的这篇文章

Miracle8070 7401

时空序列预测模型的仔仔们

1. ConvLSTM 来源: Convolutional LSTM network: A machine learning approach for precipitation nowcasting 结构介绍: 与FC-LSTM一样,ConvLSTM也可以用作更复杂结构的构建块。对于我们的时空序列预测问题,如下所示的结构,它由两个网络组成,一个编码网络和一个预测网络。与[21]类似,预测网络的初始状态和单元输出是从编码网络的最后一个状态复制过来的。两个网络都是由若干ConvLSTM层叠加而成。由于我们的

qq_30516823的博客 666

时空序列预测第二十篇】Model Prediction Error 是一个不错的基础特征

一、前言最近刷到这篇paper link:https://arxiv.org/pdf/1912.01277.pdftitle:Make Thunderbolts Less Frighten...

AI蜗牛车 1754

自学时空序列预测之什么是时空序列预测

摘要:本文为研一学生自学时空序列分析的阶段性总结,主要探讨了时间序列与时空序列的核心概念及异同。时间序列关注单一对象随时间的变化(如运输量、降雨量),而时空序列则包含时间与空间双重维度(如交通流量、气象数据)。两者均具有时间依赖性和预测功能,但时空序列增加了空间关联性,建模难度更高。文章推荐了"AI蜗牛车"公众号和Box的时间序列分析著作作为学习资源,并列举了CNN-LSTM、ConvLSTM等常用时空预测模型及其在交通、气象等领域的应用。作者欢迎读者对文中内容进行指正和讨论。

m0_68053003的博客 240

时空序列预测-论文阅读】ModeRNN: Harnessing Spatiotemporal Mode Collapse in Unsupervised Predictive Learning

首先点明本文的创新点:作者发现了视频预测类模型存在的一种实验现象:时空模式坍塌 spatiotemporal mode collapse (STMC);【也可翻译成时空模型奔溃,笔者这里翻译为时空模式坍塌】并在无监督预测学习的背景下对时空模式坍塌STMC现象进行量化,探索解决方案。然后提出了一个解耦聚合网络ModeRNN,它能发现循环状态之间时空模式的组成结构。

lisheng201314的博客 1940

时空序列预测paper】PredRNN: Recurrent Neural Networks for PredictiveLearning using Spatiotemporal LSTMs

PredRNN: Recurrent Neural Networks for Predictive Learning using Spatiotemporal LSTMs

qq_46919013的博客 8897

从天气预报到视频预测:ConvLSTM实战项目入门,用Python处理你的第一个时空序列数据

本文深入探讨了ConvLSTM在时空序列数据预测中的应用,从气象雷达到智能监控场景。通过Python实战项目,详细解析了ConvLSTM架构原理、PyTorch实现及优化策略,帮助读者掌握处理时空数据的核心技巧,提升预测模型性能。

weixin_29084111的博客 163

基于深度学习的时间序列预测方法

传统的时间序列预测方法如ARIMA模型和Holt-Winters季节性方法具有理论上的保证,但它们主要适用于单变量预测问题,并且要求时间序列是平稳的,这大大限制了它们在现实世界复杂时间序列数据中的应用。

jkevinking的博客 5075

视频预测领域有哪些最新研究进展?不妨看看这几篇顶会论文

作者丨文永亮学校丨哈尔滨工业大学(深圳)硕士生研究方向丨视频预测时空序列预测ICCV 2019这是卡耐基梅隆和 Facebook 的一篇 paper,这篇论文的关键在于分解实体预测再组...

Paper weekly 3482

Spatial-Temporal时间序列预测建模方法汇总

目前解决时间+空间预估的方法主要包括基于的时序预估和基于矩阵分解的时序预估两种方法。本文通过6篇顶会论文介绍了这两种类型方法的发展历程。

fareise的博客 2567

2022交通预测论文阅读笔记

交通预测

myblog 3565
上一篇: 关于Latex出现Package CJK Error
下一篇: 地形指导的深度学习风场空间降尺度 Terrain Guided Flatten Memory Network for Deep Spatial Wind Downscaling
Tsingzao-于廷照
博客等级 码龄14年 144粉丝 · 102原创
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值