論文の概要: Adaptive Normalization Mamba with Multi Scale Trend Decomposition and Patch MoE Encoding
- arxiv url: http://arxiv.org/abs/2512.06929v1
- Date: Sun, 07 Dec 2025 17:14:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-09 22:03:54.594458
- Title: Adaptive Normalization Mamba with Multi Scale Trend Decomposition and Patch MoE Encoding
- Title(参考訳): マルチスケールトレンド分解とパッチMOE符号化による適応正規化マンバ
- Authors: MinCheol Jeon,
- Abstract要約: AdaMambaは適応正規化、マルチスケールトレンド抽出、コンテキストシーケンスモデリングを統合した統合予測アーキテクチャである。
AdaMambaの適応正規化と専門拡張文脈モデリングの組み合わせは、従来のトランスフォーマーベースラインよりも安定性と精度が一貫した改善をもたらす。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time series forecasting in real world environments faces significant challenges non stationarity, multi scale temporal patterns, and distributional shifts that degrade model stability and accuracy. This study propose AdaMamba, a unified forecasting architecture that integrates adaptive normalization, multi scale trend extraction, and contextual sequence modeling to address these challenges. AdaMamba begins with an Adaptive Normalization Block that removes non stationary components through multi scale convolutional trend extraction and channel wise recalibration, enabling consistent detrending and variance stabilization. The normalized sequence is then processed by a Context Encoder that combines patch wise embeddings, positional encoding, and a Mamba enhanced Transformer layer with a mixture of experts feed forward module, allowing efficient modeling of both long range dependencies and local temporal dynamics. A lightweight prediction head generates multi horizon forecasts, and a denormalization mechanism reconstructs outputs by reintegrating local trends to ensure robustness under varying temporal conditions. AdaMamba provides strong representational capacity with modular extensibility, supporting deterministic prediction and compatibility with probabilistic extensions. Its design effectively mitigates covariate shift and enhances predictive reliability across heterogeneous datasets. Experimental evaluations demonstrate that AdaMamba's combination of adaptive normalization and expert augmented contextual modeling yields consistent improvements in stability and accuracy over conventional Transformer based baselines.
- Abstract(参考訳): 実世界の環境における時系列予測は、非定常性、マルチスケールの時間パターン、モデルの安定性と精度を低下させる分布シフトといった大きな課題に直面している。
本研究では,適応正規化,マルチスケールトレンド抽出,コンテキストシーケンスモデリングを統合した統合予測アーキテクチャであるAdaMambaを提案する。
AdaMambaは適応正規化ブロック(Adaptive Normalization Block)から始まり、マルチスケールの畳み込みトレンド抽出とチャネルワイズ・リカレーションによって非定常成分を除去し、一貫した遅延と分散安定化を可能にする。
正規化シーケンスはContext Encoderによって処理され、パッチの適切な埋め込み、位置エンコーディング、およびMamba拡張トランスフォーマー層と専門家の混合したフィードフォワードモジュールを組み合わせることで、長距離依存と局所時間ダイナミクスの両方の効率的なモデリングを可能にする。
軽量予測ヘッドは多重水平予測を生成し、非正規化機構は局所トレンドを再統合して出力を再構成し、異なる時間条件下でロバスト性を確保する。
AdaMambaはモジュールの拡張性を備えた強力な表現能力を提供し、決定論的予測と確率的拡張との互換性をサポートする。
その設計は、共変量シフトを効果的に軽減し、異種データセット間の予測信頼性を高める。
AdaMambaの適応正規化と専門拡張文脈モデリングの組み合わせは、従来のトランスフォーマーベースラインよりも安定性と精度が一貫した改善をもたらすことを示した。
関連論文リスト
- Solving Inverse Problems with FLAIR [68.87167940623318]
本稿では,フローベース生成モデルを逆問題に先立って活用する学習自由変分フレームワークFLAIRを提案する。
標準画像ベンチマークの結果、FLAIRは再現性やサンプルの多様性の観点から、既存の拡散法や流れ法よりも一貫して優れていることが示された。
論文 参考訳(メタデータ) (2025-06-03T09:29:47Z) - Latent Convergence Modulation in Large Language Models: A Novel Approach to Iterative Contextual Realignment [0.0]
隠れ状態遷移を制御する構造変調機構が導入された。
格子調整は、パープレキシティ変動、エントロピー分散、および語彙不安定の低減に寄与した。
論文 参考訳(メタデータ) (2025-02-10T09:46:33Z) - Variational Bayesian Bow tie Neural Networks with Shrinkage [0.276240219662896]
我々は,層間における分布仮定や独立性を回避する高速で近似的な変分推論アルゴリズムを開発した。
我々はPolya-Gammaデータ拡張トリックを使用し、条件付き線形およびガウス的モデルを描画する。
論文 参考訳(メタデータ) (2024-11-17T17:36:30Z) - Timer-XL: Long-Context Transformers for Unified Time Series Forecasting [67.83502953961505]
我々は時系列の統一予測のための因果変換器Timer-XLを提案する。
大規模な事前トレーニングに基づいて、Timer-XLは最先端のゼロショット性能を達成する。
論文 参考訳(メタデータ) (2024-10-07T07:27:39Z) - Evolving Multi-Scale Normalization for Time Series Forecasting under Distribution Shifts [20.02869280775877]
本稿では,分散シフト問題に対処するモデル非依存型マルチスケール正規化(EvoMSN)フレームワークを提案する。
ベンチマークデータセット上での5つの主流予測手法の性能向上におけるEvoMSNの有効性を評価する。
論文 参考訳(メタデータ) (2024-09-29T14:26:22Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳(メタデータ) (2021-11-11T14:28:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。