論文の概要: Temporal Domain Generalization with Drift-Aware Dynamic Neural Network
- arxiv url: http://arxiv.org/abs/2205.10664v1
- Date: Sat, 21 May 2022 20:01:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-24 19:28:19.128860
- Title: Temporal Domain Generalization with Drift-Aware Dynamic Neural Network
- Title(参考訳): ドリフトアウェア動的ニューラルネットワークによる時間領域一般化
- Authors: Guangji Bai, Ling Chen, Liang Zhao
- Abstract要約: ドリフト対応動的ニューラルネットワーク(DRAIN)フレームワークを用いた時間領域一般化を提案する。
具体的には、この問題を、データとモデル力学の関係を共同でモデル化するベイズ的枠組みに定式化する。
モデルパラメータとデータ分布の時間的ドリフトをキャプチャし、将来のデータなしで将来モデルを予測することができる。
- 参考スコア(独自算出の注目度): 12.483886657900525
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Temporal domain generalization is a promising yet extremely challenging area
where the goal is to learn models under temporally changing data distributions
and generalize to unseen data distributions following the trends of the change.
The advancement of this area is challenged by: 1) characterizing data
distribution drift and its impacts on models, 2) expressiveness in tracking the
model dynamics, and 3) theoretical guarantee on the performance. To address
them, we propose a Temporal Domain Generalization with Drift-Aware Dynamic
Neural Network (DRAIN) framework. Specifically, we formulate the problem into a
Bayesian framework that jointly models the relation between data and model
dynamics. We then build a recurrent graph generation scenario to characterize
the dynamic graph-structured neural networks learned across different time
points. It captures the temporal drift of model parameters and data
distributions and can predict models in the future without the presence of
future data. In addition, we explore theoretical guarantees of the model
performance under the challenging temporal DG setting and provide theoretical
analysis, including uncertainty and generalization error. Finally, extensive
experiments on several real-world benchmarks with temporal drift demonstrate
the effectiveness and efficiency of the proposed method.
- Abstract(参考訳): 時間領域の一般化は、時間的に変化するデータ分布の下でモデルを学習し、変化の傾向に従って見つからないデータ分布に一般化するという、有望で非常に困難な領域である。
この地域の進歩は以下の通りである。
1)データ分布ドリフトの特徴とそのモデルへの影響
2)モデルダイナミクスの追跡における表現力,および
3) 性能に関する理論的保証。
そこで我々は, Drift-Aware Dynamic Neural Network (DRAIN) フレームワークを用いた時間領域一般化を提案する。
具体的には、データとモデルダイナミクスの関係を共同でモデル化するベイズフレームワークに問題を定式化する。
次に、異なる時点にわたって学習した動的グラフ構造ニューラルネットワークを特徴付けるために、リカレントグラフ生成シナリオを構築する。
モデルパラメータとデータ分布の時間的ドリフトをキャプチャし、将来のデータなしで将来モデルを予測することができる。
さらに, 時相DG設定におけるモデル性能の理論的保証について検討し, 不確実性や一般化誤差を含む理論的解析を行う。
最後に,時間的ドリフトを伴う実世界のベンチマーク実験を行い,提案手法の有効性と有効性を示した。
関連論文リスト
- Temporal Disentangled Contrastive Diffusion Model for Spatiotemporal
Imputation [36.80005620519233]
C$2$TSDは、トレンド情報と季節情報を条件付き特徴として取り入れ、モデル一般化性を改善するために対照的な学習を採用する新しいアプローチである。
3つの実世界のデータセットに対する実験は、様々な最先端ベースラインよりもC$2$TSDの方が優れた性能を示している。
論文 参考訳(メタデータ) (2024-02-18T11:59:04Z) - Out-of-Distribution Generalized Dynamic Graph Neural Network with
Disentangled Intervention and Invariance Promotion [61.751257172868186]
動的グラフニューラルネットワーク(DyGNN)は、グラフと時間力学を利用して強力な予測能力を実証している。
既存のDyGNNは、動的グラフに自然に存在する分散シフトを処理できない。
論文 参考訳(メタデータ) (2023-11-24T02:42:42Z) - Exploring Time Granularity on Temporal Graphs for Dynamic Link
Prediction in Real-world Networks [0.48346848229502226]
動的グラフニューラルネットワーク(DGNN)は、動的グラフ構造化データを処理するための主要なアプローチである。
本稿では,DGNNを訓練する際の時間粒度が動的グラフに与える影響について,広範な実験を通して検討する。
論文 参考訳(メタデータ) (2023-11-21T00:34:53Z) - CODA: Temporal Domain Generalization via Concept Drift Simulator [34.21255368783787]
現実世界のアプリケーションでは、基礎となる時間的傾向から生じる共同分布の変化により、機械学習モデルは時代遅れになることが多い。
本研究では,予測特徴相関行列を組み込んだCOncept Drift simulAtorフレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-02T18:04:34Z) - MemDA: Forecasting Urban Time Series with Memory-based Drift Adaptation [24.284969264008733]
本稿では,データの周期性を考慮してドリフトを符号化するコンセプトドリフト問題に対する新しい都市時系列予測モデルを提案する。
我々の設計は最先端の手法よりも優れており、既存の予測バックボーンに十分に一般化することができる。
論文 参考訳(メタデータ) (2023-09-25T15:22:28Z) - Dynamic Causal Explanation Based Diffusion-Variational Graph Neural
Network for Spatio-temporal Forecasting [60.03169701753824]
時間予測のための動的拡散型グラフニューラルネットワーク(DVGNN)を提案する。
提案したDVGNNモデルは最先端のアプローチよりも優れ,Root Mean Squared Errorの結果が優れている。
論文 参考訳(メタデータ) (2023-05-16T11:38:19Z) - EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。
メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文 参考訳(メタデータ) (2022-02-21T18:59:03Z) - Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs [65.18780403244178]
動的グラフニューラル正規微分方程式(MTGODE)を用いた多変量時系列予測連続モデルを提案する。
具体的には、まず、時間進化するノードの特徴と未知のグラフ構造を持つ動的グラフに多変量時系列を抽象化する。
そして、欠落したグラフトポロジを補完し、空間的および時間的メッセージパッシングを統一するために、ニューラルODEを設計、解決する。
論文 参考訳(メタデータ) (2022-02-17T02:17:31Z) - Handling Distribution Shifts on Graphs: An Invariance Perspective [77.14319095965058]
グラフ上のノードレベルの予測にOOD問題を定式化する。
そこで我々は,探索から抽出までのリスク最小化という新たなドメイン不変学習手法を開発した。
理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2022-02-05T02:31:01Z) - Disentangled Generative Models for Robust Prediction of System Dynamics [2.6424064030995957]
本研究では,動的システムの領域パラメータをデータ生成過程の変動要因として扱う。
教師付き不整合と因果分解のアイデアを活用することにより、生成モデルの潜在空間における力学から領域パラメータを分離することを目指す。
その結果,不整合VAEはトレーニングデータに存在しない領域パラメータ空間に適応することが示唆された。
論文 参考訳(メタデータ) (2021-08-26T09:58:06Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。