論文の概要: Permutation-Equivariant 2D State Space Models: Theory and Canonical Architecture for Multivariate Time Series
- arxiv url: http://arxiv.org/abs/2603.08753v1
- Date: Sat, 07 Mar 2026 04:10:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-11 15:25:23.723469
- Title: Permutation-Equivariant 2D State Space Models: Theory and Canonical Architecture for Multivariate Time Series
- Title(参考訳): 置換同変2次元状態空間モデル:多変量時系列に対する理論と正準構造
- Authors: Seungwoo Jeong, Heung-Il Suk,
- Abstract要約: 置換対称性の原理の違反を定式化し、状態空間力学は変軸に沿った置換同変であることが要求される。
可変不変2次元状態空間モデル (VI 2D SSM) を導入し, 変分不変アグリゲーションによる正準同変形式を実現する。
- 参考スコア(独自算出の注目度): 16.396187082494958
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multivariate time series (MTS) modeling often implicitly imposes an artificial ordering over variables, violating the inherent exchangeability found in many real-world systems where no canonical variable axis exists. We formalize this limitation as a violation of the permutation symmetry principle and require state-space dynamics to be permutation-equivariant along the variable axis. In this work, we theoretically characterize the complete canonical form of linear variable coupling under this symmetry constraint. We prove that any permutation-equivariant linear 2D state-space system naturally decomposes into local self-dynamics and a global pooled interaction, rendering ordered recurrence not only unnecessary but structurally suboptimal. Motivated by this theoretical foundation, we introduce the Variable-Invariant Two-Dimensional State Space Model (VI 2D SSM), which realizes the canonical equivariant form via permutation-invariant aggregation. This formulation eliminates sequential dependency chains along the variable axis, reducing the dependency depth from $\mathcal{O}(C)$ to $\mathcal{O}(1)$ and simplifying stability analysis to two scalar modes. Furthermore, we propose VI 2D Mamba, a unified architecture integrating multi-scale temporal dynamics and spectral representations. Extensive experiments on forecasting, classification, and anomaly detection benchmarks demonstrate that our model achieves state-of-the-art performance with superior structural scalability, validating the theoretical necessity of symmetry-preserving 2D modeling.
- Abstract(参考訳): 多変量時系列モデリング(MTS)は、しばしば暗黙的に変数に対する人工的な順序付けを課し、標準変数軸が存在しない多くの実世界のシステムで見られる固有の交換性に違反する。
我々は、この制限を置換対称性の原理違反として定式化し、状態空間力学は変軸に沿った置換同変である必要がある。
本研究では、この対称性制約の下で線形変数結合の完全正準形式を理論的に特徴づける。
任意の置換同変線形2次元状態空間系が自然に局所的な自己力学と大域的なプール化相互作用に分解されることを証明した。
この理論の基盤により、変分不変な2次元状態空間モデル (VI 2D SSM) を導入し、変分不変アグリゲーションによる正準同変形式を実現する。
この定式化は、変数軸に沿ったシーケンシャルな依存性連鎖を排除し、依存関係の深さを$\mathcal{O}(C)$から$\mathcal{O}(1)$に減らし、2つのスカラーモードへの安定性解析を単純化する。
さらに,マルチスケール時間ダイナミクスとスペクトル表現を統合した統合アーキテクチャ VI 2D Mamba を提案する。
予測, 分類, 異常検出ベンチマークの広範囲な実験により, モデルが構造的スケーラビリティに優れた最先端性能を達成し, 対称性保存2次元モデリングの理論的必要性を検証した。
関連論文リスト
- Rethinking Diffusion Models with Symmetries through Canonicalization with Applications to Molecular Graph Generation [56.361076943802594]
CanonFlowは、挑戦的なGEOM-DRUGデータセット上で最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2026-02-16T18:58:55Z) - Generalized Linear Mode Connectivity for Transformers [87.32299363530996]
驚くべき現象はリニアモード接続(LMC)であり、独立に訓練されたモデルを低損失またはゼロ損失の経路で接続することができる。
以前の研究は主に置換によるニューロンの並べ替えに焦点を合わせてきたが、そのようなアプローチは範囲に限られている。
我々は、4つの対称性クラス(置換、半置換、変換、一般可逆写像)をキャプチャする統一的なフレームワークを導入する。
この一般化により、独立に訓練された視覚変換器とGPT-2モデルの間の低障壁とゼロバリア線形経路の発見が可能となった。
論文 参考訳(メタデータ) (2025-06-28T01:46:36Z) - Sequential-Parallel Duality in Prefix Scannable Models [68.39855814099997]
近年では Gated Linear Attention (GLA) や Mamba など様々なモデルが開発されている。
ニアコンスタント時間並列評価と線形時間、定数空間シーケンシャル推論をサポートするニューラルネットワークモデルの全クラスを特徴付けることができるだろうか?
論文 参考訳(メタデータ) (2025-06-12T17:32:02Z) - Improving Equivariant Networks with Probabilistic Symmetry Breaking [9.164167226137664]
同変ネットワークは既知の対称性をニューラルネットワークにエンコードし、しばしば一般化を強化する。
これは(1)自己対称性が共通な領域での予測タスク、(2)高対称性の潜在空間から再構成するために対称性を破らなければならない生成モデルの両方に重要な問題を引き起こす。
このような分布を表すのに十分な条件を確立する新しい理論結果を示す。
論文 参考訳(メタデータ) (2025-03-27T21:04:49Z) - Latent Space Energy-based Neural ODEs [73.01344439786524]
本稿では,連続時間列を表現するために設計された新しい深部力学モデルを提案する。
マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。
振動系, ビデオ, 実世界の状態系列(MuJoCo)の実験結果から, 学習可能なエネルギーベース先行モデルの方が既存のモデルより優れていることが示された。
論文 参考訳(メタデータ) (2024-09-05T18:14:22Z) - Entanglement and the density matrix renormalisation group in the generalised Landau paradigm [0.0]
我々は、ギャップ付き対称量子格子モデルの基底状態の絡み合い構造を決定する。
エンタングルメントスペクトルの退化は、元のモデルからユニークな双対モデルへの双対変換によって生じることを示す。
論文 参考訳(メタデータ) (2024-08-12T17:51:00Z) - Theory of mobility edge and non-ergodic extended phase in coupled random
matrices [18.60614534900842]
局所化-非局在化遷移の混乱モデルの中心概念であるモビリティエッジは、ランダム行列理論の文脈で議論されることは稀である。
重なり合うスペクトルと非重なりのないスペクトルが全く異なるスケーリング挙動を示し、調整可能なモビリティエッジを構築するために使用できることを示す。
我々のモデルは、RTTにおける制御可能な方法で、モビリティエッジと非エルゴード位相を実現するための一般的なフレームワークを提供する。
論文 参考訳(メタデータ) (2023-11-15T01:43:37Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳(メタデータ) (2023-07-11T16:51:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。