論文の概要: MDMLP-EIA: Multi-domain Dynamic MLPs with Energy Invariant Attention for Time Series Forecasting

• arxiv url: http://arxiv.org/abs/2511.09924v1
• Date: Fri, 14 Nov 2025 01:19:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-14 22:53:22.584489
• Title: MDMLP-EIA: Multi-domain Dynamic MLPs with Energy Invariant Attention for Time Series Forecasting
• Title（参考訳）: MDMLP-EIA:時系列予測のためのエネルギー不変を考慮したマルチドメイン動的MLP
• Authors: Hu Zhang, Zhien Dai, Zhaohui Tang, Yongfang Xie,
• Abstract要約: 我々は、季節的な信号を強い成分と弱い成分に分類する適応的融合二重領域季節区分を開発する。 第2に、トレンドや季節予測の中で異なる特徴チャネルに適応的に焦点をあてるエネルギー不変アテンション機構を導入する。 第3に,チャネル非依存ニューロンに対する動的容量調整機構を提案する。
• 参考スコア（独自算出の注目度）: 16.521290964369296
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Time series forecasting is essential across diverse domains. While MLP-based methods have gained attention for achieving Transformer-comparable performance with fewer parameters and better robustness, they face critical limitations including loss of weak seasonal signals, capacity constraints in weight-sharing MLPs, and insufficient channel fusion in channel-independent strategies. To address these challenges, we propose MDMLP-EIA (Multi-domain Dynamic MLPs with Energy Invariant Attention) with three key innovations. First, we develop an adaptive fused dual-domain seasonal MLP that categorizes seasonal signals into strong and weak components. It employs an adaptive zero-initialized channel fusion strategy to minimize noise interference while effectively integrating predictions. Second, we introduce an energy invariant attention mechanism that adaptively focuses on different feature channels within trend and seasonal predictions across time steps. This mechanism maintains constant total signal energy to align with the decomposition-prediction-reconstruction framework and enhance robustness against disturbances. Third, we propose a dynamic capacity adjustment mechanism for channel-independent MLPs. This mechanism scales neuron count with the square root of channel count, ensuring sufficient capacity as channels increase. Extensive experiments across nine benchmark datasets demonstrate that MDMLP-EIA achieves state-of-the-art performance in both prediction accuracy and computational efficiency.
• Abstract（参考訳）: 時系列予測は様々な領域で必須である。 MLPに基づく手法は、より少ないパラメータと優れたロバスト性でTransformer-comparableのパフォーマンスを達成するために注目されているが、それらは、弱い季節信号の損失、重量共有型MLPの容量制限、チャネルに依存しない戦略におけるチャネル融合の不足など、重大な制限に直面している。 MDMLP-EIA (Multi-domain Dynamic MLPs with Energy Invariant Attention) を3つの重要なイノベーションとともに提案する。 まず、季節的な信号を強い成分と弱い成分に分類する適応的融合二重領域季節性MLPを開発する。 適応的なゼロ初期化チャネル融合戦略を用いて、ノイズ干渉を最小限に抑えつつ、予測を効果的に統合する。 第2に,時間段階における傾向と季節予測の異なる特徴チャネルに適応的に焦点をあてるエネルギー不変アテンション機構を導入する。 この機構は、分解・予測・再構成の枠組みと整合し、障害に対する堅牢性を高めるために、一定の総信号エネルギーを維持する。 第3に,チャネル非依存型MPPの動的容量調整機構を提案する。 このメカニズムは、チャネル数の二乗根でニューロン数を拡大し、チャネルの増加とともに十分な容量を確保する。 9つのベンチマークデータセットにわたる大規模な実験により、MDMLP-EIAは予測精度と計算効率の両方で最先端のパフォーマンスを達成することが示された。

関連論文リスト

• WSM: Decay-Free Learning Rate Schedule via Checkpoint Merging for LLM Pre-training [64.0932926819307]
  本稿では,学習速度減衰とモデルマージの正式な関係を確立するフレームワークであるWarmup-Stable and Merge(WSM)を紹介する。 WSMは様々な崩壊戦略をエミュレートするための統一された理論基盤を提供する。 私たちのフレームワークは、複数のベンチマークで広く採用されているWarmup-Stable-Decay(WSD)アプローチよりも一貫して優れています。
  論文  参考訳（メタデータ） (2025-07-23T16:02:06Z)
• A Multi-scale Representation Learning Framework for Long-Term Time Series Forecasting [6.344911113059126]
  長期時系列予測(LTSF)は、エネルギー消費や天気予報といった実用的な設定において幅広い用途を提供する。 この研究は、多粒度情報の最適部分利用を含むLTSFの重要な問題に直面している。 提案手法は,様々なスケールにわたる明瞭で同時的な予測を用いて,複雑な時間的ダイナミクスを適切に解き放つ。
  論文  参考訳（メタデータ） (2025-05-13T03:26:44Z)
• OP-LoRA: The Blessing of Dimensionality [93.08208871549557]
  低ランクアダプタは、少数のパラメータしか持たない大型モデルの微調整を可能にする。 しばしば最適化の課題を提起するが、収束性は低い。 推論コストを増大させることなく、トレーニングを加速する過剰パラメータ化アプローチを導入する。 視覚言語タスクの改善、特に画像生成の顕著な向上を実現している。
  論文  参考訳（メタデータ） (2024-12-13T18:55:19Z)
• PointMT: Efficient Point Cloud Analysis with Hybrid MLP-Transformer Architecture [46.266960248570086]
  本研究は,効率的な特徴集約のための複雑局所的注意機構を導入することで,自己注意機構の二次的複雑さに取り組む。 また,各チャネルの注目重量分布を適応的に調整するパラメータフリーチャネル温度適応機構を導入する。 我々は,PointMTが性能と精度の最適なバランスを維持しつつ,最先端手法に匹敵する性能を実現することを示す。
  論文  参考訳（メタデータ） (2024-08-10T10:16:03Z)
• CMamba: Channel Correlation Enhanced State Space Models for Multivariate Time Series Forecasting [18.50360049235537]
  ステートスペースモデルであるMambaは、堅牢なシーケンスと機能ミキシング機能を備えている。 チャネル間の依存関係のキャプチャは、時系列予測のパフォーマンス向上に不可欠である。 時系列予測に適した改良されたマンバ変種を導入する。
  論文  参考訳（メタデータ） (2024-06-08T01:32:44Z)
• Frequency-domain MLPs are More Effective Learners in Time Series Forecasting [67.60443290781988]
  時系列予測は、金融、交通、エネルギー、医療など、さまざまな産業領域において重要な役割を果たしてきた。 最多ベースの予測手法は、ポイントワイドマッピングと情報のボトルネックに悩まされる。 本稿では、時系列予測のための周波数領域上に構築された、シンプルで効果的なアーキテクチャであるFreTSを提案する。
  論文  参考訳（メタデータ） (2023-11-10T17:05:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。