Fugu-MT 論文翻訳(概要): Interpretable mixture of experts for time series prediction under recurrent and non-recurrent conditions

論文の概要: Interpretable mixture of experts for time series prediction under recurrent and non-recurrent conditions

arxiv url: http://arxiv.org/abs/2409.03282v1
Date: Thu, 5 Sep 2024 06:47:01 GMT
ステータス: 処理完了
システム内更新日: 2024-09-06 21:30:40.466958
Title: Interpretable mixture of experts for time series prediction under recurrent and non-recurrent conditions
Title（参考訳）: リカレントおよび非リカレント条件下での時系列予測のための専門家の解釈可能な混合
Authors: Zemian Ke, Haocheng Duan, Sean Qian,
Abstract要約: 本研究では,2つの異なる条件下での交通速度予測を改善するため,新しいMixture of Experts(MoE)モデルを提案する。 MoEは、別々のリカレントと非リカレントの専門家モデルを活用して、各トラフィック条件の異なるパターンをキャプチャする。実際の道路ネットワーク上での評価は、MoEが他のベンチマークアルゴリズムと比較して低い誤差を達成していることを示している。
参考スコア（独自算出の注目度）: 2.510541034660409
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Non-recurrent conditions caused by incidents are different from recurrent conditions that follow periodic patterns. Existing traffic speed prediction studies are incident-agnostic and use one single model to learn all possible patterns from these drastically diverse conditions. This study proposes a novel Mixture of Experts (MoE) model to improve traffic speed prediction under two separate conditions, recurrent and non-recurrent (i.e., with and without incidents). The MoE leverages separate recurrent and non-recurrent expert models (Temporal Fusion Transformers) to capture the distinct patterns of each traffic condition. Additionally, we propose a training pipeline for non-recurrent models to remedy the limited data issues. To train our model, multi-source datasets, including traffic speed, incident reports, and weather data, are integrated and processed to be informative features. Evaluations on a real road network demonstrate that the MoE achieves lower errors compared to other benchmark algorithms. The model predictions are interpreted in terms of temporal dependencies and variable importance in each condition separately to shed light on the differences between recurrent and non-recurrent conditions.
Abstract（参考訳）: インシデントによる非リカレント条件は、周期的なパターンに従うリカレント条件とは異なる。既存の交通速度予測研究はインシデントに依存しず、1つのモデルを用いて、これらの非常に多様な状況から可能なすべてのパターンを学習する。本研究では,2つの異なる条件下での交通速度予測(リカレントと非リカレント(インシデントと無インシデント)を改善するための,新しいMixture of Experts(MoE)モデルを提案する。 MoEは、個別のリカレントおよび非リカレントエキスパートモデル(テンポラルフュージョントランスフォーマー)を活用して、各トラフィック条件の異なるパターンをキャプチャする。さらに、リカレントでないモデルに対して、限られたデータ問題を改善するためのトレーニングパイプラインを提案する。我々のモデルをトレーニングするために、交通速度、インシデントレポート、気象データを含むマルチソースデータセットを統合し、情報的特徴として処理する。実際の道路ネットワーク上での評価は、MoEが他のベンチマークアルゴリズムと比較して低い誤差を達成していることを示している。モデル予測は、時間的依存関係と各条件における変数の重要性の観点から解釈され、繰り返し条件と非繰り返し条件の差に光を当てる。

関連論文リスト

Moirai-MoE: Empowering Time Series Foundation Models with Sparse Mixture of Experts [103.725112190618]
本稿では,単一入出力プロジェクション層を用いたMoirai-MoEを紹介するとともに,多種多様な時系列パターンのモデリングを専門家の疎結合に委ねる。 39のデータセットに対する大規模な実験は、既存の基盤モデルよりも、分配シナリオとゼロショットシナリオの両方において、Moirai-MoEの優位性を実証している。
論文参考訳（メタデータ） (2024-10-14T13:01:11Z)
StreamEnsemble: Predictive Queries over Spatiotemporal Streaming Data [0.8437187555622164]
本稿では,時間的(ST)データ分布上の予測クエリに対する新しいアプローチであるStreamEnemblesを提案する。実験により,本手法は従来のアンサンブル手法や単一モデル手法よりも精度と時間で優れていたことが明らかとなった。
論文参考訳（メタデータ） (2024-09-30T23:50:16Z)
TESTAM: A Time-Enhanced Spatio-Temporal Attention Model with Mixture of Experts [6.831798156287652]
本稿では,再帰的および非帰的トラフィックパターンを個別にモデル化する,TESTAMという新しいディープラーニングモデルを提案する。我々は,TESTAMが再帰的および非再帰的トラフィックのより優れた表示とモデリングを実現することを示す。
論文参考訳（メタデータ） (2024-03-05T02:27:52Z)
Towards Theoretical Understandings of Self-Consuming Generative Models [56.84592466204185]
本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。我々は,このトレーニングが将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。カーネル密度推定の結果は,混合データトレーニングがエラー伝播に与える影響など,微妙な洞察を与える。
論文参考訳（メタデータ） (2024-02-19T02:08:09Z)
DynaConF: Dynamic Forecasting of Non-Stationary Time Series [4.286546152336783]
非定常条件分布を時間とともにモデル化する新しい手法を提案する。我々のモデルは、最先端のディープラーニングソリューションよりも定常的でない時系列に適応できることを示します。
論文参考訳（メタデータ） (2022-09-17T21:40:02Z)
Sharing pattern submodels for prediction with missing values [12.981974894538668]
機械学習の多くのアプリケーションでは欠落値は避けられず、トレーニング中もテスト時にも課題が提示される。パターンサブモデル(パターンサブモデル)と呼ばれる別の手法を提案する。これは、テスト時に欠落した値に対して、予測を堅牢にし、パターンサブモデルの予測力を維持または改善させる。
論文参考訳（メタデータ） (2022-06-22T15:09:40Z)
Continuous-Time Modeling of Counterfactual Outcomes Using Neural Controlled Differential Equations [84.42837346400151]
反現実的な結果を予測することは、パーソナライズされたヘルスケアをアンロックする可能性がある。既存の因果推論アプローチでは、観察と治療決定の間の通常の離散時間間隔が考慮されている。そこで本研究では,腫瘍増殖モデルに基づく制御可能なシミュレーション環境を提案する。
論文参考訳（メタデータ） (2022-06-16T17:15:15Z)
Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。本モデルは,多くの多変量データセット上での最先端性能を実現する。
論文参考訳（メタデータ） (2022-05-16T07:53:42Z)
Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder [59.69303945834122]
Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
論文参考訳（メタデータ） (2021-02-02T06:15:15Z)
Disentangled Recurrent Wasserstein Autoencoder [17.769077848342334]
Recurrent Wasserstein Autoencoder (R-WAE)はシーケンシャルデータの生成モデリングのための新しいフレームワークである。 R-WAEは入力シーケンスの表現を静的および動的因子に切り離す。私達のモデルは無条件のビデオ生成およびdisentanglementの点では同じ設定の他のベースラインを上回ります。
論文参考訳（メタデータ） (2021-01-19T07:43:25Z)
Generative Temporal Difference Learning for Infinite-Horizon Prediction [101.59882753763888]
我々は、無限確率的地平線を持つ環境力学の予測モデルである$gamma$-modelを導入する。トレーニングタイムとテストタイムの複合的なエラーの間には、そのトレーニングが避けられないトレードオフを反映しているかについて議論する。
論文参考訳（メタデータ） (2020-10-27T17:54:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。