論文の概要: Ada-MoGE: Adaptive Mixture of Gaussian Expert Model for Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2512.02061v1
- Date: Sat, 29 Nov 2025 02:08:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-03 21:04:45.543522
- Title: Ada-MoGE: Adaptive Mixture of Gaussian Expert Model for Time Series Forecasting
- Title(参考訳): Ada-MoGE:時系列予測のためのガウスエキスパートモデルの適応混合
- Authors: Zhenliang Ni, Xiaowen Ma, Zhenkai Wu, Shuai Xiao, Han Shu, Xinghao Chen,
- Abstract要約: 適応型ガウス混合エキスパートモデルであるAda-MoGEを提案する。
Ada-MoGEはスペクトル強度と周波数応答を統合し、専門家の数を適応的に決定する。
- 参考スコア(独自算出の注目度): 16.466584215901467
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multivariate time series forecasts are widely used, such as industrial, transportation and financial forecasts. However, the dominant frequencies in time series may shift with the evolving spectral distribution of the data. Traditional Mixture of Experts (MoE) models, which employ a fixed number of experts, struggle to adapt to these changes, resulting in frequency coverage imbalance issue. Specifically, too few experts can lead to the overlooking of critical information, while too many can introduce noise. To this end, we propose Ada-MoGE, an adaptive Gaussian Mixture of Experts model. Ada-MoGE integrates spectral intensity and frequency response to adaptively determine the number of experts, ensuring alignment with the input data's frequency distribution. This approach prevents both information loss due to an insufficient number of experts and noise contamination from an excess of experts. Additionally, to prevent noise introduction from direct band truncation, we employ Gaussian band-pass filtering to smoothly decompose the frequency domain features, further optimizing the feature representation. The experimental results show that our model achieves state-of-the-art performance on six public benchmarks with only 0.2 million parameters.
- Abstract(参考訳): 多変量時系列予測は、産業、輸送、財務予測など、広く使われている。
しかし、時系列における支配周波数は、データのスペクトル分布の進化とともに変化する可能性がある。
一定の数の専門家を雇用する伝統的なMixture of Experts(MoE)モデルは、これらの変更に適応するのに苦労し、周波数カバレッジの不均衡の問題を引き起こします。
具体的には、専門家が多すぎるとクリティカルな情報を見落としてしまうし、多くの人がノイズを発生させる可能性がある。
そこで本研究では,適応型ガウス混合エキスパートモデルであるAda-MoGEを提案する。
Ada-MoGEはスペクトル強度と周波数応答を統合して、専門家の数を適応的に決定し、入力データの周波数分布との整合性を確保する。
このアプローチは、専門家の不足による情報損失と、専門家の過剰による騒音汚染の両方を防止する。
さらに,周波数領域の特徴をスムーズに分解し,さらに特徴表現を最適化するために,ガウス帯域通過フィルタを用いる。
実験結果から, パラメータが0.2百万である6つの公開ベンチマークにおいて, 本モデルが最先端性能を達成できることが示唆された。
関連論文リスト
- FreIE: Low-Frequency Spectral Bias in Neural Networks for Time-Series Tasks [5.215187965365735]
モデルは高周波信号の前に低周波信号に適合する傾向があることを示す。
本稿では、暗黙の周波数正規化と暗黙の周波数正規化の両方を通してモデル一般化を強化するFreLEアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-10-29T03:22:51Z) - A Unified Frequency Domain Decomposition Framework for Interpretable and Robust Time Series Forecasting [81.73338008264115]
時系列予測の現在のアプローチは、時間領域であれ周波数領域であれ、主に線形層やトランスフォーマーに基づいたディープラーニングモデルを使用する。
本稿では,多種多様な時系列を数学的に抽象化する統合周波数領域分解フレームワークFIREを提案する。
火は長期予測ベンチマークで最先端のモデルを一貫して上回る。
論文 参考訳(メタデータ) (2025-10-11T09:59:25Z) - LSCD: Lomb-Scargle Conditioned Diffusion for Time series Imputation [55.800319453296886]
欠落または不規則なサンプルデータを持つ時系列は、機械学習において永続的な課題である。
我々は,不規則サンプルデータのパワースペクトルの信頼性の高い計算を可能にする,異なるLombiable-Scargle層を導入する。
論文 参考訳(メタデータ) (2025-06-20T14:48:42Z) - FreqMoE: Enhancing Time Series Forecasting through Frequency Decomposition Mixture of Experts [14.01018670507771]
本稿では,時系列データを周波数帯域に分解する周波数分解混合(FreqMoE)モデルを提案する。
ゲーティング機構は、周波数特性に基づいて専門家の各出力の重要度を調整する。
FreqMoEは最先端のモデルよりも優れています。
論文 参考訳(メタデータ) (2025-01-25T08:25:52Z) - Moirai-MoE: Empowering Time Series Foundation Models with Sparse Mixture of Experts [103.725112190618]
本稿では,単一入出力プロジェクション層を用いたMoirai-MoEを紹介するとともに,多種多様な時系列パターンのモデリングを専門家の疎結合に委ねる。
39のデータセットに対する大規模な実験は、既存の基盤モデルよりも、分配シナリオとゼロショットシナリオの両方において、Moirai-MoEの優位性を実証している。
論文 参考訳(メタデータ) (2024-10-14T13:01:11Z) - Mixture of Efficient Diffusion Experts Through Automatic Interval and Sub-Network Selection [63.96018203905272]
本稿では, 事前学習した拡散モデルを用いて, 効率の良い専門家の混入を図り, サンプリングコストを削減することを提案する。
提案手法であるDiffPruningの有効性を,複数のデータセットで示す。
論文 参考訳(メタデータ) (2024-09-23T21:27:26Z) - Deep Frequency Derivative Learning for Non-stationary Time Series Forecasting [12.989064148254936]
非定常時系列予測のためのディープ周波数微分学習フレームワークDERITSを提案する。
具体的には、DERITSは、新しい可逆変換、すなわち周波数微分変換(FDT)に基づいて構築される。
論文 参考訳(メタデータ) (2024-06-29T17:56:59Z) - On the Frequency Bias of Generative Models [61.60834513380388]
我々は、最先端のGANトレーニングにおいて、高周波アーティファクトに対する提案手法を解析した。
既存のアプローチでは、スペクトルアーティファクトを完全に解決できないことが分かっています。
以上の結果から,識別能力の向上に大きな可能性があることが示唆された。
論文 参考訳(メタデータ) (2021-11-03T18:12:11Z) - Deep Autoregressive Models with Spectral Attention [74.08846528440024]
本稿では,深部自己回帰モデルとスペクトル注意(SA)モジュールを組み合わせた予測アーキテクチャを提案する。
時系列の埋め込みをランダムなプロセスの発生としてスペクトル領域に特徴付けることにより,グローバルな傾向と季節パターンを同定することができる。
時系列に対するグローバルとローカルの2つのスペクトルアテンションモデルは、この情報を予測の中に統合し、スペクトルフィルタリングを行い、時系列のノイズを除去する。
論文 参考訳(メタデータ) (2021-07-13T11:08:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。