論文の概要: Dynamic TMoE: A Drift-Aware Dynamic Mixture of Experts Framework for Non-Stationary Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2605.20678v1
- Date: Wed, 20 May 2026 03:45:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.469293
- Title: Dynamic TMoE: A Drift-Aware Dynamic Mixture of Experts Framework for Non-Stationary Time Series Forecasting
- Title(参考訳): 動的TMoE:非定常時系列予測のためのエキスパートフレームワークのドリフト対応動的混合
- Authors: Jiawen Zhu, Shuhan Liu, Di Weng, Yingcai Wu,
- Abstract要約: 学習段階における時間的連続性とアーキテクチャの進化を統一するフレームワークであるDynamic TMoEを提案する。
9つのベンチマークの実験では、最先端のパフォーマンスを示し、MSEを10.4%、MAEを7.8%削減した。
- 参考スコア(独自算出の注目度): 39.362777320328256
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Non-stationary time series forecasting is challenged by evolving distribution shifts that static models struggle to capture. While Mixture-of-Experts (MoE) architectures offer a promising paradigm for decoupling complex drift patterns, existing approaches are limited by fixed expert pools and memoryless routing, hampering their ability to adapt to abrupt regime shifts. To address this, we propose Dynamic TMoE, a framework that unifies architectural evolution with temporal continuity during learning phase. By detecting distribution shifts via Maximum Mean Discrepancy (MMD), we dynamically instantiate heterogeneous experts and prune redundant ones to optimize capacity. Additionally, a temporal memory router leverages recurrent states and an anomaly repository to ensure stable, context-aware expert selection without requiring test-time updates. Experiments on nine benchmarks demonstrate state-of-the-art performance, reducing MSE by 10.4% and MAE by 7.8%. Code is available at https://github.com/andone-07/Dynamic-TMoE.
- Abstract(参考訳): 非定常時系列予測は、静的モデルが捉えるのに苦労する分布シフトの進化によって挑戦される。
Mixture-of-Experts (MoE)アーキテクチャは複雑なドリフトパターンを分離するための有望なパラダイムを提供するが、既存のアプローチは固定されたエキスパートプールとメモリレスルーティングによって制限され、突然のシチュエーションシフトに適応する能力を妨げている。
そこで本稿では,動的TMoE(Dynamic TMoE)という,学習段階の時間的連続性とアーキテクチャの進化を統一するフレームワークを提案する。
最大平均離散度(MMD)を用いて分布シフトを検出することにより、異種の専門家と冗長な専門家を動的にインスタンス化し、キャパシティを最適化する。
さらに、テンポラリメモリルータは、リカレントステートと異常リポジトリを活用して、テスト時間更新を必要とせずに、安定したコンテキスト対応のエキスパート選択を保証する。
9つのベンチマークの実験では、最先端のパフォーマンスを示し、MSEを10.4%、MAEを7.8%削減した。
コードはhttps://github.com/andone-07/Dynamic-TMoEで入手できる。
関連論文リスト
- LiquidTAD: Efficient Temporal Action Detection via Parallel Liquid-Inspired Temporal Relaxation [2.3837169660687123]
LiquidTADは、液体神経力学以前の指数緩和を並列時間演算子に蒸留するフレームワークである。
LiquidTADは、モデルフットプリントを大幅に低下させながら、強力なベースラインと競合する精度を達成する。
論文 参考訳(メタデータ) (2026-04-20T13:48:17Z) - MEMTS: Internalizing Domain Knowledge via Parameterized Memory for Retrieval-Free Domain Adaptation of Time Series Foundation Models [51.506429027626005]
Memory for Time Series (MEMTS) は、時系列予測における検索不要領域適応のための軽量かつプラグアンドプレイ方式である。
MEMTSの鍵となるコンポーネントは知識永続化モジュール(KPM)であり、ドメイン固有の時間力学を内部化する。
このパラダイムシフトにより、MEMTSは定数時間推論とニアゼロレイテンシによる正確なドメイン適応を実現することができる。
論文 参考訳(メタデータ) (2026-02-14T14:00:06Z) - MoHETS: Long-term Time Series Forecasting with Mixture-of-Heterogeneous-Experts [0.8292000624465587]
実世界の時系列は、グローバルな傾向、局所的な周期性、非定常的な体制を含む複雑なマルチスケール構造を示すことができる。
MoHETSはSparse Mixture-of-Heterogeneous-Expertsレイヤを統合している。
パラメータ重リニアプロジェクションヘッドを軽量な畳み込みパッチデコーダに置き換える。
論文 参考訳(メタデータ) (2026-01-29T15:35:26Z) - Sparse-to-Field Reconstruction via Stochastic Neural Dynamic Mode Decomposition [12.812771670043212]
風力場や海流のような現実世界のシステムの多くは、動的でモデル化が難しい。
動的モード分解(DMD)は、単純でデータ駆動の近似を提供するが、実用性はスパース/ノイズの観測によって制限される。
DMDの確率的拡張であるNODE-DMDを導入する。
論文 参考訳(メタデータ) (2025-11-25T18:39:50Z) - TimeFlow: Towards Stochastic-Aware and Efficient Time Series Generation via Flow Matching Modeling [2.74279932215302]
時系列データは、下流の時系列マイニングタスクを幅広くサポートするため、重要な研究トピックとして浮上している。
エンコーダのみのアーキテクチャを統合する新しいフローマッチングフレームワークであるTimeFlowを提案する。
私たちのモデルは、生成品質、多様性、効率において、一貫して強力なベースラインを上回ります。
論文 参考訳(メタデータ) (2025-11-11T08:28:26Z) - EntroPE: Entropy-Guided Dynamic Patch Encoder for Time Series Forecasting [50.794700596484894]
IntroPE(Entropy-Guided Dynamic Patch)は,条件付きエントロピーによる遷移点を動的に検出する新しい時間情報フレームワークである。
これは、パッチの計算上の利点を維持しながら、時間構造を保存する。
長期予測ベンチマークによる実験では、EntroPEは精度と効率の両方を改善している。
論文 参考訳(メタデータ) (2025-09-30T12:09:56Z) - Dynamical Diffusion: Learning Temporal Dynamics with Diffusion Models [71.63194926457119]
動的拡散(DyDiff, Dynamical Diffusion)は, 時間的に意識された前と逆のプロセスを含む理論的に健全なフレームワークである。
科学的時間的予測、ビデオ予測、時系列予測に関する実験は、動的拡散が時間的予測タスクのパフォーマンスを一貫して改善することを示した。
論文 参考訳(メタデータ) (2025-03-02T16:10:32Z) - A Poisson-Gamma Dynamic Factor Model with Time-Varying Transition Dynamics [51.147876395589925]
非定常PGDSは、基礎となる遷移行列が時間とともに進化できるように提案されている。
後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。
実験により,提案した非定常PGDSは,関連するモデルと比較して予測性能が向上することを示した。
論文 参考訳(メタデータ) (2024-02-26T04:39:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。