論文の概要: Adaptive Normalization Mamba with Multi Scale Trend Decomposition and Patch MoE Encoding
- arxiv url: http://arxiv.org/abs/2512.06929v1
- Date: Sun, 07 Dec 2025 17:14:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-09 22:03:54.594458
- Title: Adaptive Normalization Mamba with Multi Scale Trend Decomposition and Patch MoE Encoding
- Title(参考訳): マルチスケールトレンド分解とパッチMOE符号化による適応正規化マンバ
- Abstract要約: AdaMambaは適応正規化、マルチスケールトレンド抽出、コンテキストシーケンスモデリングを統合した統合予測アーキテクチャである。
AdaMambaの適応正規化と専門拡張文脈モデリングの組み合わせは、従来のトランスフォーマーベースラインよりも安定性と精度が一貫した改善をもたらす。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time series forecasting in real world environments faces significant challenges non stationarity, multi scale temporal patterns, and distributional shifts that degrade model stability and accuracy. This study propose AdaMamba, a unified forecasting architecture that integrates adaptive normalization, multi scale trend extraction, and contextual sequence modeling to address these challenges. AdaMamba begins with an Adaptive Normalization Block that removes non stationary components through multi scale convolutional trend extraction and channel wise recalibration, enabling consistent detrending and variance stabilization. The normalized sequence is then processed by a Context Encoder that combines patch wise embeddings, positional encoding, and a Mamba enhanced Transformer layer with a mixture of experts feed forward module, allowing efficient modeling of both long range dependencies and local temporal dynamics. A lightweight prediction head generates multi horizon forecasts, and a denormalization mechanism reconstructs outputs by reintegrating local trends to ensure robustness under varying temporal conditions. AdaMamba provides strong representational capacity with modular extensibility, supporting deterministic prediction and compatibility with probabilistic extensions. Its design effectively mitigates covariate shift and enhances predictive reliability across heterogeneous datasets. Experimental evaluations demonstrate that AdaMamba's combination of adaptive normalization and expert augmented contextual modeling yields consistent improvements in stability and accuracy over conventional Transformer based baselines.
- Abstract(参考訳): 実世界の環境における時系列予測は、非定常性、マルチスケールの時間パターン、モデルの安定性と精度を低下させる分布シフトといった大きな課題に直面している。
本研究では,適応正規化,マルチスケールトレンド抽出,コンテキストシーケンスモデリングを統合した統合予測アーキテクチャであるAdaMambaを提案する。
AdaMambaは適応正規化ブロック(Adaptive Normalization Block)から始まり、マルチスケールの畳み込みトレンド抽出とチャネルワイズ・リカレーションによって非定常成分を除去し、一貫した遅延と分散安定化を可能にする。
正規化シーケンスはContext Encoderによって処理され、パッチの適切な埋め込み、位置エンコーディング、およびMamba拡張トランスフォーマー層と専門家の混合したフィードフォワードモジュールを組み合わせることで、長距離依存と局所時間ダイナミクスの両方の効率的なモデリングを可能にする。
軽量予測ヘッドは多重水平予測を生成し、非正規化機構は局所トレンドを再統合して出力を再構成し、異なる時間条件下でロバスト性を確保する。
AdaMambaはモジュールの拡張性を備えた強力な表現能力を提供し、決定論的予測と確率的拡張との互換性をサポートする。
その設計は、共変量シフトを効果的に軽減し、異種データセット間の予測信頼性を高める。
AdaMambaの適応正規化と専門拡張文脈モデリングの組み合わせは、従来のトランスフォーマーベースラインよりも安定性と精度が一貫した改善をもたらすことを示した。
関連論文リスト
- Simplifying Flow Matching Transformations with Low-Rank Mixture Models [58.797704398690165]
本稿では,確率的主成分分析器(MPPCA)の混合物を流動の正規化のための潜在密度として用いることを提案する。
我々は,KL分散の観点でデータ分布とより密接に一致した潜在分布を学習することにより,学習フロー変換を単純化する。
MPPCAモデルは期待最大化アルゴリズムを用いて迅速かつ安価に適合し、高次元生成タスクにおいても潜在分布を初期化するための実用的な選択となる。
論文 参考訳(メタデータ) (2026-06-29T03:03:06Z) - One Step Closer to Ground Truth: A Multi-Scale Residual-Aware Representation Learning Pipeline for Predicting Time Series Data [6.704099492625706]
本稿では,予測と残差学習を表現学習の異なる段階に明確に分離する2段階のモデル非依存フレームワークを提案する。
このパイプラインを仮説空間拡張として定式化することにより、我々のフレームワークは単一ステージアーキテクチャに固有の近似制限に対処する。
論文 参考訳(メタデータ) (2026-06-09T10:31:54Z) - AnchorMoE: Interpretable Time Series Classification via Anchor-Routed MoE [51.994752158953084]
AnchorMoEは、解釈可能な構成別分類フレームワークである。
ローカルパッチのマルチビュー表現をエンコードし、専門の専門家にルーティングする。
実世界のベンチマークと合成ベンチマークの実験は、AnchorMoEが非常に競争力のある分類性能を達成することを示した。
論文 参考訳(メタデータ) (2026-06-02T13:30:54Z) - Joint Model and Data Sparsification via the Marginal Likelihood [53.29070892356214]
本稿では,個々の特徴とサンプルの相違点を同時学習し,同時にモデルとデータスペーシングを実現することを提案する。
このモデルとデータの対称的なプルーニングは、共役を保存する自然な拡張を提供する。
多様な回帰タスクにわたる経験的結果は、共同ARDアプローチがスパースモデルとロバスト予測モデルの両方を一貫して生成することを確認した。
論文 参考訳(メタデータ) (2026-05-28T13:26:53Z) - Factorize to Generalize: Retrieval-Guided Invariant-Dynamic Decomposition for Time Series Forecasting [64.2640656619583]
時系列基礎モデル (TSFM) は, 大規模事前学習と検索強化予測により, ゼロショット予測性能が向上した。
本稿では時系列予測のための検索誘導不変動的分解フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-24T07:31:55Z) - Anomaly-Preference Image Generation [41.96735569500412]
本稿では,Anomaly Preference Optimizationを導入する。Anomaly Preference Optimizationは,Anomaly Generationを優先学習問題として再構成する新しいパラダイムである。
我々は,本手法が既存のベースラインを著しく上回り,現実主義と多様性の両面で最先端のパフォーマンスを実現していることを示す。
論文 参考訳(メタデータ) (2026-05-04T10:37:09Z) - PAMod: Modeling Cyclical Shifts via Phase-Amplitude Modulation for Non-stationary Time Series Forecasting [59.88916926133985]
正規化特徴空間における位相振幅変調による循環分布シフトをモデル化するフレームワークPAModを提案する。
PAModは計算資源を減らして最先端の性能を実現する。
我々の変調機構は,プラグイン・アンド・プレイ技術として,既存の時系列予測手法を簡易な統合で改善することができる。
論文 参考訳(メタデータ) (2026-05-01T07:09:23Z) - TimeAPN: Adaptive Amplitude-Phase Non-Stationarity Normalization for Time Series Forecasting [67.91113180885601]
TimeAPNは時間領域と周波数領域の両方から非定常因子を明示的にモデル化し、予測する。
TimeAPNは、複数の予測水平線にわたる長期的な予測精度を一貫して改善する。
これは最先端の可逆正規化法より優れている。
論文 参考訳(メタデータ) (2026-03-18T07:21:24Z) - UniMamba: A Unified Spatial-Temporal Modeling Framework with State-Space and Attention Integration [24.102050375727263]
UniMambaは、統合された時空間予測フレームワークである。
これは、効率的な状態空間のダイナミクスと注意に基づく依存性学習を統合する。
予測精度と計算効率の両方において、最先端の予測モデルより一貫して優れている。
論文 参考訳(メタデータ) (2026-03-06T05:00:28Z) - DiTS: Multimodal Diffusion Transformers Are Time Series Forecasters [50.43534351968113]
既存の生成時系列モデルは、時系列データの多次元特性にうまく対応していない。
動画生成にテキストガイダンスを組み込んだマルチモーダル拡散変換器に着想を得て,Diffusion Transformer for Time Series (DiTS)を提案する。
論文 参考訳(メタデータ) (2026-02-06T10:48:13Z) - SpanNorm: Reconciling Training Stability and Performance in Deep Transformers [55.100133502295996]
両パラダイムの強度を統合することでジレンマを解消する新しい手法であるSpanNormを提案する。
我々は、SpanNormと原則付きスケーリング戦略を組み合わせることで、ネットワーク全体にわたって有界信号のばらつきを維持できることを理論的に示す。
経験的に、SpanNormは、密集および混成実験(Mixture-of-Experts、MoE)のシナリオにおいて、標準正規化スキームを一貫して上回っている。
論文 参考訳(メタデータ) (2026-01-30T05:21:57Z) - Solving Inverse Problems with FLAIR [68.87167940623318]
本稿では,フローベース生成モデルを逆問題に先立って活用する学習自由変分フレームワークFLAIRを提案する。
標準画像ベンチマークの結果、FLAIRは再現性やサンプルの多様性の観点から、既存の拡散法や流れ法よりも一貫して優れていることが示された。
論文 参考訳(メタデータ) (2025-06-03T09:29:47Z) - ss-Mamba: Semantic-Spline Selective State-Space Model [0.0]
ss-Mambaは、セマンティック・アウェアの埋め込みと適応スプラインベースの時間符号化を統合することで時系列予測を強化する新しい基礎モデルである。
ss-Mambaは,時系列予測における従来のトランスフォーマーモデルに代わる汎用的で効率的な代替手段として,優れた精度,堅牢性,解釈性を提供することを示す。
論文 参考訳(メタデータ) (2025-06-03T03:26:57Z) - Latent Convergence Modulation in Large Language Models: A Novel Approach to Iterative Contextual Realignment [0.0]
隠れ状態遷移を制御する構造変調機構が導入された。
格子調整は、パープレキシティ変動、エントロピー分散、および語彙不安定の低減に寄与した。
論文 参考訳(メタデータ) (2025-02-10T09:46:33Z) - Ister: Inverted Seasonal-Trend Decomposition Transformer for Explainable Multivariate Time Series Forecasting [10.32586981170693]
Inverted Seasonal-Trend Decomposition Transformer (Ister)
本稿では,解釈可能性,計算効率,予測精度を向上させる新しいDotアテンション機構を提案する。
Isterはコンポーネントのコントリビューションを直感的に視覚化し、モデルの意思決定プロセスに光を流し、予測結果の透明性を高める。
論文 参考訳(メタデータ) (2024-12-25T06:37:19Z) - Neural Conformal Control for Time Series Forecasting [54.96087475179419]
非定常環境における適応性を高める時系列のニューラルネットワーク共形予測手法を提案する。
提案手法は,ニューラルネットワークエンコーダを用いた補助的マルチビューデータを活用することにより,望ましい対象範囲を達成するために設計されたニューラルネットワークコントローラとして機能する。
予測間隔の整合性に優れたキャリブレーションを組み合わさった手法は, 適用範囲と確率的精度の大幅な向上を実証的に示す。
論文 参考訳(メタデータ) (2024-12-24T03:56:25Z) - Variational Bayesian Bow tie Neural Networks with Shrinkage [0.276240219662896]
我々は,層間における分布仮定や独立性を回避する高速で近似的な変分推論アルゴリズムを開発した。
我々はPolya-Gammaデータ拡張トリックを使用し、条件付き線形およびガウス的モデルを描画する。
論文 参考訳(メタデータ) (2024-11-17T17:36:30Z) - Timer-XL: Long-Context Transformers for Unified Time Series Forecasting [67.83502953961505]
我々は時系列の統一予測のための因果変換器Timer-XLを提案する。
大規模な事前トレーニングに基づいて、Timer-XLは最先端のゼロショット性能を達成する。
論文 参考訳(メタデータ) (2024-10-07T07:27:39Z) - Evolving Multi-Scale Normalization for Time Series Forecasting under Distribution Shifts [20.02869280775877]
本稿では,分散シフト問題に対処するモデル非依存型マルチスケール正規化(EvoMSN)フレームワークを提案する。
ベンチマークデータセット上での5つの主流予測手法の性能向上におけるEvoMSNの有効性を評価する。
論文 参考訳(メタデータ) (2024-09-29T14:26:22Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳(メタデータ) (2021-11-11T14:28:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。