Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs（TKDE）

长期以来，多元时间序列预测在能源消耗和交通预测等实际应用中受到了广泛关注。虽然最近的方法显示出良好的预测能力，但它们受到三个基本限制。(i).离散神经体系结构:交错单独参数化的空间和时间块来编码丰富的底层模式，导致不连续的潜在状态轨迹和更高的预测数值误差。(ii)高复杂性:离散方法通过专用设计和冗余参数使模型复杂化，导致更高的计算和内存开销。依赖于图先验:依赖于预定义的静态图结构限制了它们在现实应用中的有效性和实用性。在本文中，我们提出了一个用动态图神经常微分方程(MTGODE)预测多元时间序列的连续模型，解决了上述所有局限性。具体而言，我们首先将多元时间序列抽象成节点特征随时间演化、图结构未知的动态图。然后，我们设计并解决了一个神经ODE来弥补缺失的图拓扑，统一空间和时间消息传递，允许更深入的图传播和细粒度的时间信息聚合来表征稳定和精确的潜在时空动态。我们的实验从不同的角度证明了MTGODE在5个时间序列基准数据集上的优势

背景：1）多元时间序列预测在很大程度上依赖于对潜在的时空相关性建模，这直接影响了上述相关性和许多其他现实应用的可靠性。

2）神经网络图(gnn)在同时模拟多个时间序列之间的空间和时间相关性方面显示了巨大的潜力

挑战：

Challenge 1: Discrete Neural Architectures

Challenge 2: High Complexity.

Challenge 3: Rely on Graph Priors.

问题：

框架

our method mainly consists of three main components, namely the data preprocessing, continuous spatial-temporal encoding, and downstream task decoding

给定一组多元时间序列，首先将其映射到具有1x 1卷积核的潜在空间，通过图构造函数动态获取底层拓扑结构。然后，为了提取和编码输入序列丰富的交错时空模式，我们提出了一个动态图常微分方程，其特征是两个优雅耦合的连续过程，即连续图传播(CGP)和连续时间聚合(CTA)。

为了有效地提取和聚合细粒度的时间模式，我们用提出的CTA进程替代离散时间卷积，它不仅以连续的方式对底层复杂的时间动态建模，而且还解开聚合深度和内存瓶颈之间的联系。在MTGODE中，提出的连续空间和时间消息传递机制被优雅地统一起来，并由单一的ODE描述。这样，我们的方法可以通过简单求解此ODE，以完全连续的方式对任意多元时间序列的复杂潜在时空动力学进行有效建模。

1.1)Continuous Graph Propagation

在MTGODE中，我们基本上集成了时间聚合和图传播过程，以从历史观测中捕获丰富的时空模式。在每个聚合步骤中，为了简单起见，时间序列之间的空间依赖性可以通过特定图快照上的特征传播和线性变换的组合来表征

1.2)Continuous Temporal Aggregation

...........................(跳过)

EXPERIMENTAL STUDY

Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs（TKDE）相关推荐

Graph Neural Network（GNN）综述
关注"SIGAI",选择"星标"或"置顶" 技术文章,第一时间获取作者简介: 吴天龙香侬科技researcher 公众号(suanfa ...
COMBINING LABEL PROPAGATION AND SIMPLE MODELS OUT-PERFORMS GRAPH NEURAL NETWORKS（CorrectSmooth）阅读笔记
文章目录链接一.摘要二.引言三."修正和平滑"模型四.转导式节点分类实验四.总结总结红色部分为个人的一些解读,不足之处请多多指点! 链接论文题目:结合标签传播和简 ...
论文阅读”Multigraph Fusion for Dynamic Graph Convolutional Network“（TNNLS2022）
论文标题 Multigraph Fusion for Dynamic Graph Convolutional Network 论文作者.链接作者: Gan, Jiangzhang and Hu, R ...
综述论文阅读”A comprehensive survey on graph neural networks“（TNNLS2020）
论文标题 A comprehensive survey on graph neural networks 论文作者.链接作者:Wu, Zonghan and Pan, Shirui and Chen ...
Decoupling the Depth and Scope of Graph Neural Networks（ShaDow-GNN）论文阅读笔记
红色部分为个人的一些解读,不足之处请多多指点! 文章目录链接一.摘要二.引言三.前文总结链接论文题目:解耦图神经网络的深度和范围(ShaDow-GNN)(2021NIPS) 论文链接:2 ...
【推荐系统-＞论文阅读】Dynamic Graph Neural Networks for Sequential Recommendation（用于序列推荐的动态图神经网络）
Dynamic Graph Neural Networks for Sequential Recommendation(用于序列推荐的动态图神经网络) Mengqi Zhang, Shu Wu,Mem ...
Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks
Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks 摘要:长期以来,多元时间序列建 ...
ST-Norm: Spatial and Temporal Normalization for Multi-variate Time Series Forecasting（KDD2021）
ST-Norm: Spatial and Temporal Normalization for Multi-variate Time Series Forecasting(KDD2021) 多变量时间 ...
【论文导读】- Variational Graph Recurrent Neural Networks（VGRNN）
文章目录文章信息摘要 Background Graph convolutional recurrent networks (GCRN) Semi-implicit variational infe ...

Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs（TKDE）

Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs（TKDE）相关推荐

最新文章

热门文章