論文の概要: PIMSM: Physics-Informed Multi-Scale Mamba for Stable Neural Representations under Distribution Shift
- arxiv url: http://arxiv.org/abs/2605.16351v1
- Date: Fri, 08 May 2026 04:58:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 12:34:33.907593
- Title: PIMSM: Physics-Informed Multi-Scale Mamba for Stable Neural Representations under Distribution Shift
- Title(参考訳): PIMSM:分散シフト下における安定神経表現のための物理インフォームドマルチスケールマンバ
- Authors: Sangyoon Bae, Shinjae Yoo, Jiook Cha,
- Abstract要約: 科学的時間構造維持の失敗は分布シフトの不安定性に寄与すると主張する。
周波数状態間のスペクトル推定遷移点をマッピングする状態空間アーキテクチャである物理インフォームド・マルチスケールマンバを提案する。
Human Connectome Project fMRIでは、PIMSMは重度の時間的コンテキストトランケーション下での堅牢性と表現安定性を改善している。
- 参考スコア(独自算出の注目度): 16.230225739605316
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scientific foundation models are expected to reuse representations under changes in dataset, acquisition protocol, and deployment domain, yet many sequence backbones treat scientific temporal structure as an unconstrained pattern to be fitted. We argue that this misses a central property of natural dynamical systems: neural and atmospheric time series are organized by interacting processes across multiple physical timescales, and failure to preserve this multiscale structure contributes to brittleness under distribution shift. We formalize this failure mode as temporal kernel mismatch, where a model fits in-distribution dynamics with an effective memory policy that is not anchored to the signal's physical timescales, leading to representation drift and degraded transfer. We propose Physics-Informed Multi-Scale Mamba (PIMSM), a state-space architecture that maps spectrum-estimated transition points between frequency regimes (knee frequencies) to scale-specific discretization parameters and anchors them to acquisition time units. On Human Connectome Project fMRI, PIMSM improves robustness and representation stability under severe temporal-context truncation, extreme low-resource transfer, and resting-state-to-task-state generalization. Without modality-specific adaptation, the same architecture also attains the lowest variable-wise MAE across all reported horizons and variables on Weather-5K held-out-station spatial out-of-distribution forecasting. These results support temporal-scale alignment as a practical inductive bias for scientific foundation models that must preserve structure, not only fit correlations, under deployment shift.
- Abstract(参考訳): 科学基盤モデルは、データセット、取得プロトコル、デプロイメントドメインの変更の下で表現を再利用することが期待されているが、多くのシーケンスバックボーンは、科学的時間構造を適合すべき制約のないパターンとして扱う。
ニューラルネットワークと大気の時系列は、複数の物理的時間スケールで相互作用するプロセスによって構成され、このマルチスケール構造を維持できないことは、分布シフトの不安定性に寄与する。
我々は、この障害モードを時間的カーネルミスマッチとして定式化し、信号の物理的時間スケールに固定されていない効果的なメモリポリシーにより、モデルが分散力学に適合し、表現のドリフトとデグレード転送をもたらす。
物理インフォームド・マルチスケール・マンバ(PIMSM)は,周波数レシスタンス(ニー周波数)間のスペクトル推定遷移点をスケール特異的な離散化パラメータにマッピングし,それらを取得時間単位に固定する状態空間アーキテクチャである。
Human Connectome Project fMRIにおいて、PIMSMは、重度の時間的コンテキストトランケーション、極端な低リソース転送、静止状態からタスク状態への一般化の下で、堅牢性と表現安定性を向上させる。
モダリティ固有の適応がなければ、同じアーキテクチャは、観測されたすべての地平線と気象5K上の変数にまたがる最小の変動量MAEを達成できる。
これらの結果は、配置シフトの下で、相関に適合するだけでなく構造を保たなければならない科学基盤モデルの実践的帰納的バイアスとして、時間スケールアライメントをサポートする。
関連論文リスト
- FRACTAL: SSM with Fractional Recurrent Architecture for Computational Temporal Analysis of Long Sequences [13.320173396455226]
本稿では,長周期計算時間解析のためのフラクショナル・リカレント・アーキテクチャを提案する。
スペクトル特性とチューナブル指数を解析的に特徴づけた投影演算子を導出することにより,分数スケール不変メモリダイナミクスを符号化したスペクトル構造を保ちながら,近年の信号摂動に敏感な手法を提案する。
FRACTALはLong Range Arenaベンチマークで平均87.11%のスコアを獲得し、リストOpsタスクでは61.85%でS5モデルを上回った。
論文 参考訳(メタデータ) (2026-05-09T09:38:44Z) - TimeAPN: Adaptive Amplitude-Phase Non-Stationarity Normalization for Time Series Forecasting [67.91113180885601]
TimeAPNは時間領域と周波数領域の両方から非定常因子を明示的にモデル化し、予測する。
TimeAPNは、複数の予測水平線にわたる長期的な予測精度を一貫して改善する。
これは最先端の可逆正規化法より優れている。
論文 参考訳(メタデータ) (2026-03-18T07:21:24Z) - UniMamba: A Unified Spatial-Temporal Modeling Framework with State-Space and Attention Integration [24.102050375727263]
UniMambaは、統合された時空間予測フレームワークである。
これは、効率的な状態空間のダイナミクスと注意に基づく依存性学習を統合する。
予測精度と計算効率の両方において、最先端の予測モデルより一貫して優れている。
論文 参考訳(メタデータ) (2026-03-06T05:00:28Z) - MEMTS: Internalizing Domain Knowledge via Parameterized Memory for Retrieval-Free Domain Adaptation of Time Series Foundation Models [51.506429027626005]
Memory for Time Series (MEMTS) は、時系列予測における検索不要領域適応のための軽量かつプラグアンドプレイ方式である。
MEMTSの鍵となるコンポーネントは知識永続化モジュール(KPM)であり、ドメイン固有の時間力学を内部化する。
このパラダイムシフトにより、MEMTSは定数時間推論とニアゼロレイテンシによる正確なドメイン適応を実現することができる。
論文 参考訳(メタデータ) (2026-02-14T14:00:06Z) - A Representation-Consistent Gated Recurrent Framework for Robust Medical Time-Series Classification [0.0]
隠れ状態表現における時間的一貫性を強制する規則化された正規化戦略を導入するための表現一貫性を持つゲートリカレントフレームワーク(RC-GRF)を提案する。
提案するフレームワークはモデルに依存しないため,内部ゲーティング機構を変更することなく,既存のゲート型リカレントアーキテクチャに統合することができる。
論文 参考訳(メタデータ) (2026-02-10T17:16:49Z) - A Decomposition-based State Space Model for Multivariate Time-Series Forecasting [0.0]
本稿では,3つの並列状態空間モデル分岐を用いたエンドツーエンド分解フレームワークを提案する。
標準ベンチマーク全体では、DecompSSMは強力なベースラインを上回り、コンポーネントワイドな状態空間モデルとグローバルなコンテキスト改善の組み合わせの有効性を示した。
論文 参考訳(メタデータ) (2026-02-05T07:17:08Z) - Multivariate Long-term Time Series Forecasting with Fourier Neural Filter [42.60778405812048]
我々はFNFをバックボーンとして、DBDをアーキテクチャとして導入し、空間時間モデルのための優れた学習能力と最適な学習経路を提供する。
FNFは、局所時間領域とグローバル周波数領域の情報処理を単一のバックボーン内で統合し、空間的モデリングに自然に拡張することを示す。
論文 参考訳(メタデータ) (2025-06-10T18:40:20Z) - FR-Mamba: Time-Series Physical Field Reconstruction Based on State Space Model [9.340916033226604]
物理場再構成は、限られたセンサ測定に基づいて物理量の状態分布を予測することを目的としている。
既存のディープラーニングメソッドは、長い時間的・時間的依存関係のキャプチャに失敗することが多い。
状態空間モデリングに基づく新しい流れ場再構成フレームワークFR-Mambaを提案する。
論文 参考訳(メタデータ) (2025-05-21T23:54:36Z) - A Poisson-Gamma Dynamic Factor Model with Time-Varying Transition Dynamics [51.147876395589925]
非定常PGDSは、基礎となる遷移行列が時間とともに進化できるように提案されている。
後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。
実験により,提案した非定常PGDSは,関連するモデルと比較して予測性能が向上することを示した。
論文 参考訳(メタデータ) (2024-02-26T04:39:01Z) - Supporting Optimal Phase Space Reconstructions Using Neural Network
Architecture for Time Series Modeling [68.8204255655161]
位相空間特性を暗黙的に学習する機構を持つ人工ニューラルネットワークを提案する。
私たちのアプローチは、ほとんどの最先端戦略と同じくらいの競争力があるか、あるいは優れているかのどちらかです。
論文 参考訳(メタデータ) (2020-06-19T21:04:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。