論文の概要: Temporal Disentangled Contrastive Diffusion Model for Spatiotemporal
Imputation
- arxiv url: http://arxiv.org/abs/2402.11558v1
- Date: Sun, 18 Feb 2024 11:59:04 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-20 20:19:09.849339
- Title: Temporal Disentangled Contrastive Diffusion Model for Spatiotemporal
Imputation
- Title(参考訳): 時空間インプットのための時間的遠方性コントラスト拡散モデル
- Authors: Yakun Chen, Kaize Shi, Zhangkai Wu, Juan Chen, Xianzhi Wang, Julian
McAuley, Guandong Xu, Shui Yu
- Abstract要約: C$2$TSDは、トレンド情報と季節情報を条件付き特徴として取り入れ、モデル一般化性を改善するために対照的な学習を採用する新しいアプローチである。
3つの実世界のデータセットに対する実験は、様々な最先端ベースラインよりもC$2$TSDの方が優れた性能を示している。
- 参考スコア(独自算出の注目度): 36.80005620519233
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Spatiotemporal data analysis is pivotal across various domains, including
transportation, meteorology, and healthcare. However, the data collected in
real-world scenarios often suffers incompleteness due to sensor malfunctions
and network transmission errors. Spatiotemporal imputation endeavours to
predict missing values by exploiting the inherent spatial and temporal
dependencies present in the observed data. Traditional approaches, which rely
on classical statistical and machine learning techniques, are often inadequate,
particularly when the data fails to meet strict distributional assumptions. In
contrast, recent deep learning-based methods, leveraging graph and recurrent
neural networks, have demonstrated enhanced efficacy. Nonetheless, these
approaches are prone to error accumulation. Generative models have been
increasingly adopted to circumvent the reliance on potentially inaccurate
historical imputed values for future predictions. These models grapple with the
challenge of producing unstable results, a particular issue in diffusion-based
models. We aim to address these challenges by designing conditional features to
guide the generative process and expedite training. Specifically, we introduce
C$^2$TSD, a novel approach incorporating trend and seasonal information as
conditional features and employing contrastive learning to improve model
generalizability. The extensive experiments on three real-world datasets
demonstrate the superior performance of C$^2$TSD over various state-of-the-art
baselines.
- Abstract(参考訳): 時空間データ分析は、輸送、気象学、医療など、さまざまな分野において重要である。
しかし、実際のシナリオで収集されたデータは、センサーの故障やネットワークの伝送エラーによって不完全性に悩まされることが多い。
時空間計算は、観測データに存在する空間的および時間的依存関係を利用して、欠落した値を予測する。
古典的な統計学や機械学習技術に依存した従来の手法は、特にデータが厳密な分布仮定を満たさない場合、しばしば不十分である。
対照的に、グラフとリカレントニューラルネットワークを利用する最近のディープラーニングベースの手法では、効果が向上している。
しかし、これらのアプローチはエラーの蓄積を招きやすい。
生成モデルは、将来の予測のために、潜在的に不正確な歴史的暗示値への依存を避けるために、ますます採用されている。
これらのモデルは、拡散モデルにおいて特に問題となる不安定な結果を生み出すという課題に対処する。
我々は,生成過程と迅速なトレーニングを導く条件的特徴を設計することで,これらの課題に対処することを目的とする。
具体的にはc$^2$tsdという,トレンド情報と季節情報を条件特徴として取り入れ,コントラスト学習を用いてモデルの一般化性を向上させる新しい手法を導入する。
3つの実世界のデータセットに関する広範な実験は、様々な最先端のベースラインよりもC$^2$TSDの方が優れた性能を示している。
関連論文リスト
- Towards Theoretical Understandings of Self-Consuming Generative Models [60.98692028151328]
本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。
我々は,この学習規則が将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。
我々は拡散モデルに一般結果を特化し、自己消費ループ内での最適な早期停止の有効性などの微妙な洞察を提供する。
論文 参考訳(メタデータ) (2024-02-19T02:08:09Z) - Data Attribution for Diffusion Models: Timestep-induced Bias in
Influence Estimation [58.20016784231991]
拡散モデルは、以前の文脈における瞬間的な入出力関係ではなく、一連のタイムステップで操作する。
本稿では、この時間的ダイナミクスを取り入れた拡散トラクInについて、サンプルの損失勾配ノルムが時間ステップに大きく依存していることを確認する。
そこで我々はDiffusion-ReTracを再正規化適応として導入し、興味のあるサンプルを対象にしたトレーニングサンプルの検索を可能にする。
論文 参考訳(メタデータ) (2024-01-17T07:58:18Z) - MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data
Augmentation [58.93221876843639]
本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。
トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。
ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
論文 参考訳(メタデータ) (2023-10-04T01:36:30Z) - OpenSTL: A Comprehensive Benchmark of Spatio-Temporal Predictive
Learning [67.07363529640784]
提案するOpenSTLは,一般的なアプローチを再帰的モデルと再帰的モデルに分類する。
我々は, 合成移動物体軌道, 人間の動き, 運転シーン, 交通流, 天気予報など, さまざまな領域にわたるデータセットの標準評価を行う。
リカレントフリーモデルは、リカレントモデルよりも効率と性能のバランスが良いことがわかった。
論文 参考訳(メタデータ) (2023-06-20T03:02:14Z) - An Extreme-Adaptive Time Series Prediction Model Based on
Probability-Enhanced LSTM Neural Networks [6.5700527395783315]
我々は、極端および正常な予測関数を同時に学習するNEC+と呼ばれる新しい確率強調型ニューラルネットワークモデルを提案する。
本研究では,カリフォルニアの9つの貯水池に適用された3日間の前向き水位予測課題について,提案モデルの評価を行った。
論文 参考訳(メタデータ) (2022-11-29T03:01:59Z) - Diffusion-based Time Series Imputation and Forecasting with Structured
State Space Models [2.299617836036273]
我々は、条件拡散モデルと構造化状態空間モデルという2つの新興技術に依存した計算モデルであるSSSDを提唱した。
我々は、SSSDが最先端の確率的計算値と一致し、幅広いデータセットと異なる欠点シナリオで性能を予測できることを実証する。
論文 参考訳(メタデータ) (2022-08-19T15:29:43Z) - Probabilistic AutoRegressive Neural Networks for Accurate Long-range
Forecasting [6.295157260756792]
確率的自己回帰ニューラルネットワーク(PARNN)について紹介する。
PARNNは、非定常性、非線形性、非調和性、長距離依存、カオスパターンを示す複雑な時系列データを扱うことができる。
本研究では,Transformers,NBeats,DeepARなどの標準統計モデル,機械学習モデル,ディープラーニングモデルに対して,PARNNの性能を評価する。
論文 参考訳(メタデータ) (2022-04-01T17:57:36Z) - Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
トレーニングセットとその構造が長期予測の品質に与える影響を考察する。
トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
論文 参考訳(メタデータ) (2021-12-15T20:09:20Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z) - RNN with Particle Flow for Probabilistic Spatio-temporal Forecasting [30.277213545837924]
古典的な統計モデルの多くは、時系列データに存在する複雑さと高い非線形性を扱うのに不足することが多い。
本研究では,時系列データを非線形状態空間モデルからのランダムな実現とみなす。
粒子流は, 複雑で高次元的な設定において極めて有効であることを示すため, 状態の後方分布を近似するツールとして用いられる。
論文 参考訳(メタデータ) (2021-06-10T21:49:23Z) - Training Deep Normalizing Flow Models in Highly Incomplete Data
Scenarios with Prior Regularization [13.985534521589257]
ハイパウシティシナリオにおけるデータ分布の学習を容易にする新しいフレームワークを提案する。
提案手法は,不完全データから学習過程を協調最適化タスクとして行うことに由来する。
論文 参考訳(メタデータ) (2021-04-03T20:57:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。