論文の概要: NEST: Tackling Dataset-Level Distribution Shifts via Regime-Oriented Mixture-of-Experts
- arxiv url: http://arxiv.org/abs/2607.06607v1
- Date: Tue, 07 Jul 2026 05:36:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.150516
- Title: NEST: Tackling Dataset-Level Distribution Shifts via Regime-Oriented Mixture-of-Experts
- Title（参考訳）: NEST:Regime-Oriented Mixture-of-Expertsを通じて、データセットとレベルの分散シフトに対処する
- Abstract要約: NESTは、データセットを異なる運用体制のコンポジットとしてモデル化し、再構成するように設計された、特殊なフレームワークである。
NESTはまず、データセットを別の運用体制に分割することで、構造的な特殊化を促進する。
個々の専門家は、レギュラー固有のダイナミクスをキャプチャする特別なカーネルとして機能する。
- 参考スコア（独自算出の注目度）: 25.126587044094716
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Accurate long-term forecasting in complex systems is frequently compromised by dataset-level distribution shifts, where diverse underlying behavioral modes and evolving system states drive the dynamic multivariate time-series. While existing methods predominantly focus on local temporal shifts, they fail to explicitly model the global structural challenge where datasets are composites of distinct operational regimes. In this paper, we propose NEST, a specialized framework designed to model and recompose these evolving structures through a two-phase dense MoE architecture. NEST first facilitates structural specialization by partitioning the dataset into distinct operational regimes through unsupervised clustering in a principled moment-entropy space. We introduce a regime-oriented router mechanism that generates initial expert weights based on temporal content, subsequently refined through geometric modulation to regime centroids. Crucially, rather than acting as monolithic predictors, individual experts function as specialized kernels that capture regime-specific dynamics by evolving unique variate-attention patterns. Extensive evaluations on diverse benchmarks, including heterogeneous network traffic and physical phenomena, demonstrate that NEST consistently achieves state-of-the-art performance. Our code and datasets are available at https://github.com/Aaralshin/NEST
- Abstract（参考訳）: 複雑なシステムにおける正確な長期予測は、様々な振る舞いモードと進化するシステム状態が動的多変量時系列を駆動するデータセットレベルの分布シフトによってしばしば損なわれる。
既存の手法は、主に局所的な時間シフトに焦点を当てているが、データセットが異なる運用体制の合成であるような、グローバルな構造上の課題を明示的にモデル化することができない。
本稿では,2相密度MoEアーキテクチャを用いて,これらの進化する構造をモデル化・再構成する特化フレームワークであるNESTを提案する。
NESTはまず、原則化されたモーメントエントロピー空間における教師なしクラスタリングを通じて、データセットを異なる運用体制に分割することで、構造的な特殊化を促進する。
本稿では、時間的内容に基づいて初期専門家の重みを発生させ、その後、レギュラーセントロイドへの幾何変調により洗練するレギュラー指向ルータ機構を提案する。
重要なことに、個々の専門家はモノリシックな予測子として振る舞うのではなく、独自のバリアント・アテンションパターンを進化させることで、レシシブ固有のダイナミクスをキャプチャする特別なカーネルとして機能する。
異種ネットワークトラフィックや物理現象を含む多種多様なベンチマークに対する広範囲な評価は、NETが一貫して最先端のパフォーマンスを達成することを示す。
私たちのコードとデータセットはhttps://github.com/Aaralshin/NESTで公開されています。
関連論文リスト
- Learning Spatio-Temporal Foundation Models from Pure Synthetic Data [85.23980441738811]
NeoSTは、現実バイアスに対するスケーラブルな合成学習コーパスであり、複数の将来の軌跡を反復的に生成・洗練する潜在空間推論アーキテクチャであり、構造的ダイナミクスを強調し、分散シフトの下で推論時間補正を可能にする潜在空間目的である。
様々な実世界のベンチマークによる大規模な実験は、NeoSTが様々な実世界の時間系において既存のSTFMより一貫して優れていることを示している。
論文 参考訳（メタデータ） (2026-06-27T02:56:46Z) - UPLOTS: A Unified Pretrained Language Model for Constrained Time-series Generation [9.651308133504818]
UPLOTS(Unified, Prompt-guided Language framework fOrtrained Time-Series Generation)を提案する。
タスク固有のモデルを構築する代わりに、UPLOTSは学習された制約プロンプトによって導かれる1つの事前訓練されたトランスフォーマーバックボーンを利用する。
UPLOTSを4つの実世界のベンチマークと、ピーク時、カレンダー、負荷レベル、ボラティリティパターンを含む複数の制約設定で評価する。
論文 参考訳（メタデータ） (2026-06-09T06:36:06Z) - SPaRSe-TIME: Saliency-Projected Low-Rank Temporal Modeling for Efficient and Interpretable Time Series Prediction [0.0]
SPaRSe-TIME(サイト・英語)は、時系列を分解して3つの相補的なコンポーネント(サリエンシ、メモリ、トレンド)にモデル化するフレームワークである。
多様な実世界のデータセットの実験は、SPaRSe-TIMEが競合性能を達成することを示した。
全体として、SPaRSe-TIMEは、モノリシックシーケンスモデルの原則的な代替、ブリッジ効率、解釈可能性、パフォーマンスを提供し、時系列学習のためのスケーラブルなフレームワークを提供する。
論文 参考訳（メタデータ） (2026-04-19T09:55:28Z) - On the Identifiability of Regime-Switching Models with Multi-Lag Dependencies [42.274922469778545]
マルチラグレジームスイッチングモデル(RSM)の一般的な理論的枠組みを開発する。
非線形ガウス条件下では,レギュラー数とマルチラグ遷移の双方の識別可能性を示す。
我々の結果は、アーキテクチャとノイズの仮定を通して完全に教師なしの設定を保ちます。
論文 参考訳（メタデータ） (2026-01-06T15:12:39Z) - UniDiff: A Unified Diffusion Framework for Multimodal Time Series Forecasting [90.47915032778366]
マルチモーダル時系列予測のための統合拡散フレームワークUniDiffを提案する。
コアには統一的で並列な融合モジュールがあり、単一のクロスアテンション機構がタイムスタンプからの構造化情報とテキストからのセマンティックコンテキストを統合する。
8つの領域にわたる実世界のベンチマークデータセットの実験は、提案したUniDiffモデルが最先端のパフォーマンスを達成することを示す。
論文 参考訳（メタデータ） (2025-12-08T05:36:14Z) - Adaptive Fine-Tuning via Pattern Specialization for Deep Time Series Forecasting [0.8901073744693314]
時系列予測は、非定常環境において重要な課題である。
本稿では,モデル適応と選択を特化して,ディープニューラルネットワーク(DNN)の性能を向上させる新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2025-08-11T12:40:08Z) - STAR-Rec: Making Peace with Length Variance and Pattern Diversity in Sequential Recommendation [61.320991769685065]
STAR-Recは、好みを認識した注意と状態空間モデリングを組み合わせた新しいアーキテクチャである。
STAR-Recは、最先端のシーケンシャルレコメンデーション手法よりも一貫して優れていることを示す。
論文 参考訳（メタデータ） (2025-05-06T12:40:38Z) - Learning Interpretable Hierarchical Dynamical Systems Models from Time Series Data [6.3128614613706295]
単一ドメイン特性を維持しつつグループレベル(複数ドメイン)情報を収集できる階層型フレームワークを提案する。
全ての動的状態の忠実な再構築に加えて、我々の教師なし方法論は共通の低次元特徴空間を発見する。
論文 参考訳（メタデータ） (2024-10-07T07:54:53Z) - Attractor Memory for Long-Term Time Series Forecasting: A Chaos Perspective [63.60312929416228]
textbftextitAttraosはカオス理論を長期時系列予測に取り入れている。
本研究では,AttraosがPatchTSTと比較して,パラメータの12分の1しか持たない主流データセットやカオスデータセットにおいて,LTSF法よりも優れていることを示す。
論文 参考訳（メタデータ） (2024-02-18T05:35:01Z) - Causal Temporal Regime Structure Learning [49.77103348208835]
本稿では,DAG(Directed Acyclic Graph)を並列に学習する新しい手法であるCASTORを提案する。
我々は我々の枠組みの中で体制とDAGの識別可能性を確立する。
実験により、CASTORは既存の因果発見モデルより一貫して優れていることが示された。
論文 参考訳（メタデータ） (2023-11-02T17:26:49Z) - Disentangling Structured Components: Towards Adaptive, Interpretable and
Scalable Time Series Forecasting [52.47493322446537]
本研究では,時空間パターンの各コンポーネントを個別にモデル化する適応的,解釈可能,スケーラブルな予測フレームワークを開発する。
SCNNは、空間時間パターンの潜在構造を算術的に特徴づける、MSSの事前定義された生成プロセスで動作する。
SCNNが3つの実世界のデータセットの最先端モデルよりも優れた性能を達成できることを示すため、大規模な実験が行われた。
論文 参考訳（メタデータ） (2023-05-22T13:39:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。