論文の概要: Incorporating Domain Differential Equations into Graph Convolutional Networks to Lower Generalization Discrepancy
- arxiv url: http://arxiv.org/abs/2404.01217v1
- Date: Mon, 1 Apr 2024 16:17:11 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-03 21:46:03.140120
- Title: Incorporating Domain Differential Equations into Graph Convolutional Networks to Lower Generalization Discrepancy
- Title(参考訳): グラフ畳み込みネットワークへの領域微分方程式の組み込みによる一般化離散化の低減
- Authors: Yue Sun, Chao Chen, Yuesheng Xu, Sihong Xie, Rick S. Blum, Parv Venkitasubramaniam,
- Abstract要約: グラフ畳み込みネットワーク(GCN)にドメイン微分方程式を組み込む方法を示す。
我々はリアクション拡散グラフ畳み込みネットワーク (RDGCN) と呼ばれる2つのドメイン差分時変インフォームドネットワークを提案する。
RDGCNとSIRGCNは、最先端のディープラーニング手法よりも、ミスマッチしたテストデータの方が堅牢であることを示す。
- 参考スコア(独自算出の注目度): 30.249981848630256
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Ensuring both accuracy and robustness in time series prediction is critical to many applications, ranging from urban planning to pandemic management. With sufficient training data where all spatiotemporal patterns are well-represented, existing deep-learning models can make reasonably accurate predictions. However, existing methods fail when the training data are drawn from different circumstances (e.g., traffic patterns on regular days) compared to test data (e.g., traffic patterns after a natural disaster). Such challenges are usually classified under domain generalization. In this work, we show that one way to address this challenge in the context of spatiotemporal prediction is by incorporating domain differential equations into Graph Convolutional Networks (GCNs). We theoretically derive conditions where GCNs incorporating such domain differential equations are robust to mismatched training and testing data compared to baseline domain agnostic models. To support our theory, we propose two domain-differential-equation-informed networks called Reaction-Diffusion Graph Convolutional Network (RDGCN), which incorporates differential equations for traffic speed evolution, and Susceptible-Infectious-Recovered Graph Convolutional Network (SIRGCN), which incorporates a disease propagation model. Both RDGCN and SIRGCN are based on reliable and interpretable domain differential equations that allow the models to generalize to unseen patterns. We experimentally show that RDGCN and SIRGCN are more robust with mismatched testing data than the state-of-the-art deep learning methods.
- Abstract(参考訳): 時系列予測における精度と堅牢性の両立は、都市計画からパンデミック管理まで、多くの応用において重要である。
すべての時空間パターンが適切に表現された十分なトレーニングデータによって、既存のディープラーニングモデルは合理的に正確な予測を行うことができる。
しかし、既存の手法は、テストデータ(例:自然災害後の交通パターン)と比較して、異なる状況(例:日常の交通パターン)からトレーニングデータが引き出されると失敗する。
このような問題は通常、領域の一般化の下に分類される。
本研究では、時空間予測の文脈において、この課題に対処する一つの方法は、領域微分方程式をグラフ畳み込みネットワーク(GCN)に組み込むことであることを示す。
このような領域微分方程式を包含したGCNが、ベースライン領域に依存しないモデルと比較して、ミスマッチしたトレーニングやテストデータに対して堅牢である条件を理論的に導出する。
本稿では,交通速度の進化に微分方程式を組み込んだリアクション・ディフュージョングラフ畳み込みネットワーク (RDGCN) と,病気伝播モデルを組み込んだSusceptible-Infectious-Recovered Graph Convolutional Network (SIRGCN) という2つのドメイン差分型インフォームドネットワークを提案する。
RDGCNとSIRGCNはどちらも信頼性と解釈可能な領域微分方程式に基づいており、モデルが目に見えないパターンに一般化することができる。
RDGCNとSIRGCNは、最先端のディープラーニング手法よりも、ミスマッチしたテストデータの方が堅牢であることを示す。
関連論文リスト
- DFA-GNN: Forward Learning of Graph Neural Networks by Direct Feedback Alignment [57.62885438406724]
グラフニューラルネットワークは、様々なアプリケーションにまたがる強力なパフォーマンスで認識されている。
BPには、その生物学的妥当性に挑戦する制限があり、グラフベースのタスクのためのトレーニングニューラルネットワークの効率、スケーラビリティ、並列性に影響を与える。
半教師付き学習のケーススタディを用いて,GNNに適した新しい前方学習フレームワークであるDFA-GNNを提案する。
論文 参考訳(メタデータ) (2024-06-04T07:24:51Z) - Advective Diffusion Transformers for Topological Generalization in Graph
Learning [69.2894350228753]
グラフ拡散方程式は、様々なグラフトポロジーの存在下で、どのように外挿して一般化するかを示す。
本稿では,新たなグラフエンコーダのバックボーンであるAdvective Diffusion Transformer (ADiT)を提案する。
論文 参考訳(メタデータ) (2023-10-10T08:40:47Z) - Dynamic Causal Explanation Based Diffusion-Variational Graph Neural
Network for Spatio-temporal Forecasting [60.03169701753824]
時間予測のための動的拡散型グラフニューラルネットワーク(DVGNN)を提案する。
提案したDVGNNモデルは最先端のアプローチよりも優れ,Root Mean Squared Errorの結果が優れている。
論文 参考訳(メタデータ) (2023-05-16T11:38:19Z) - Temporal Domain Generalization with Drift-Aware Dynamic Neural Network [12.483886657900525]
ドリフト対応動的ニューラルネットワーク(DRAIN)フレームワークを用いた時間領域一般化を提案する。
具体的には、この問題を、データとモデル力学の関係を共同でモデル化するベイズ的枠組みに定式化する。
モデルパラメータとデータ分布の時間的ドリフトをキャプチャし、将来のデータなしで将来モデルを予測することができる。
論文 参考訳(メタデータ) (2022-05-21T20:01:31Z) - PGCN: Progressive Graph Convolutional Networks for Spatial-Temporal Traffic Forecasting [4.14360329494344]
我々は、プログレッシブグラフ畳み込みネットワーク(PGCN)と呼ばれる新しいトラフィック予測フレームワークを提案する。
PGCNは、トレーニングおよびテストフェーズ中にオンライン入力データに段階的に適応することで、グラフのセットを構築する。
提案したモデルでは,すべてのデータセットの一貫性を保ちながら,最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2022-02-18T02:15:44Z) - Handling Distribution Shifts on Graphs: An Invariance Perspective [77.14319095965058]
グラフ上のノードレベルの予測にOOD問題を定式化する。
そこで我々は,探索から抽出までのリスク最小化という新たなドメイン不変学習手法を開発した。
理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2022-02-05T02:31:01Z) - Discovering Invariant Rationales for Graph Neural Networks [104.61908788639052]
グラフニューラルネットワーク(GNN)の固有の解釈可能性とは、入力グラフの特徴の小さなサブセットを見つけることである。
本稿では,本質的に解釈可能なGNNを構築するために,不変理性(DIR)を発見するための新しい戦略を提案する。
論文 参考訳(メタデータ) (2022-01-30T16:43:40Z) - Crime Prediction with Graph Neural Networks and Multivariate Normal
Distributions [18.640610803366876]
グラフ畳み込みネットワーク(GCN)のフレキシブルな構造を利用して,高分解能領域における疎結合問題に取り組む。
グラフ畳み込みGated Recurrent Units (Graph-ConvGRU) を用いてモデルを構築し,空間的・時間的・カテゴリー的関係を学習する。
モデルが生成性だけでなく,正確性も示しています。
論文 参考訳(メタデータ) (2021-11-29T17:37:01Z) - Regularized Sequential Latent Variable Models with Adversarial Neural
Networks [33.74611654607262]
逐次データの変動をモデル化するために,RNN で高レベル潜時確率変数を使用する方法を提案する。
変動RNNモデルの学習に逆法を用いる可能性を探る。
論文 参考訳(メタデータ) (2021-08-10T08:05:14Z) - Stochastic Graph Neural Networks [123.39024384275054]
グラフニューラルネットワーク(GNN)は、分散エージェント調整、制御、計画に応用したグラフデータの非線形表現をモデル化する。
現在のGNNアーキテクチャは理想的なシナリオを前提として,環境やヒューマンファクタ,あるいは外部攻撃によるリンク変動を無視している。
これらの状況において、GNNは、トポロジカルなランダム性を考慮していない場合、その分散タスクに対処することができない。
論文 参考訳(メタデータ) (2020-06-04T08:00:00Z) - Deep Learning of Dynamic Subsurface Flow via Theory-guided Generative
Adversarial Network [0.0]
動的偏微分方程式(PDE)の解法として理論誘導生成逆数ネットワーク(TgGAN)を提案する。
不均一モデルパラメータを持つ動的地下流れに対してTgGANを提案する。
数値計算により,TgGANモデルは動的PDEの深層学習において堅牢で信頼性が高いことが示された。
論文 参考訳(メタデータ) (2020-06-02T02:53:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。