論文の概要: Beyond Diagonal State Space Models: Exact Non-Abelian Group Tracking, Solvability Barriers, and Geometric Physical Manifolds
- arxiv url: http://arxiv.org/abs/2610.00329v1
- Date: Tue, 29 Sep 2026 11:14:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.612092
- Title: Beyond Diagonal State Space Models: Exact Non-Abelian Group Tracking, Solvability Barriers, and Geometric Physical Manifolds
- Title（参考訳）: 対角状態空間モデルを超えて:非アベリア群追跡、可解性バリア、幾何学的物理多様体
- Abstract要約: 非可換状態空間モデルは、コンパクトリー群への状態遷移を持ち上げる。
Cayley-SO(5)-SSMは、S_5 (50.92% vs 5.25%, p = 0.0015) 上のクラインの1884年の天井を破り、SO(3) の7.8倍の分散還元をもたらす。
NC-SSMはS_3,D_4,Q_8および単純群A_5上で100%トラッキングし、3層深い対角線が6.60%に崩壊する。
- 参考スコア（独自算出の注目度）: 3.370742258560895
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Selective state space models (SSMs), such as Mamba, S4D, and LRU, are bounded by transition matrix commutativity (A_t A_t' = A_t' A_t) and solvable affine transformation groups (Aff_D of derived length <= 2). Consequently, stacked multi-layer diagonal networks face severe optimization degradation on non-solvable simple groups such as A_5 due to the exponential circuit emulation depth required to simulate non-abelian commutators. We propose Non-Commutative State Space Models (NC-SSM), their real-orthogonal counterpart SO(3)-SSM, and arbitrary-dimension Cayley-SSM, lifting state transitions to compact Lie groups SU(2), SO(3), and SO(N). Via closed-form Euler-Rodrigues maps and rational Cayley transforms, NC-SSM achieves exact norm-preserving isometry (||U_t|| = 1). We introduce pure Hopf-fibration Bloch projective readouts (S^3/{+-1} =~ S^2 =~ SO(3)) to eliminate sign ambiguity, true quaternion parallel prefix scans (9.06x speedup at T=2048), and Identity-Gated Lie SSMs to eliminate sparse syntax phase drift. Extensive benchmarks across 14 experimental regimes show: (1) NC-SSM achieves 100% tracking on S_3, D_4, Q_8 and simple group A_5, where a 3-layer deep diagonal baseline collapses to 6.60% (p = 8.81e-4); (2) Cayley-SO(5)-SSM breaks Klein's 1884 ceiling on symmetric group S_5 (50.92% vs diagonal 5.25%, p = 0.0015, delivering 7.8x variance reduction over SO(3)); (3) SO(3)-SSM preserves Riemannian manifolds across 300 steps (< 3.12e-6 drift, > 580,000x advantage), achieving 0.04 deg dead-reckoning error and active tangent denoising; (4) NC-SSM achieves 74.36% on Dyck-2 and 30.26% on deep AST scope tracking (p = 0.0081); and (5) ablation confirms strict isometry is mathematically necessary for lossless long-range associative memory.
- Abstract（参考訳）: Mamba, S4D, LRU などの選択状態空間モデル (SSM) は遷移行列可換性 (A_t A_t' = A_t' A_t) と可解なアフィン変換群 (Aff_D of derived length <= 2) で有界である。
その結果、積層多層対角ネットワークは、非アーベル換算器をシミュレートするために必要な指数回路エミュレーション深さにより、A_5のような非可解単純群に対して深刻な最適化劣化に直面した。
我々は,非可換状態空間モデル (NC-SSM) , 実直交対応SO(3)-SSM, および任意の次元ケイリー-SSMを提案し, コンパクトリー群 SU(2), SO(3), SO(N) への状態遷移を持ち上げる。
閉形式オイラー・ロドリゲス写像と有理ケイリー変換により、NC-SSM は正確なノルム保存等長 (||U_t|| = 1) を達成する。
我々は、符号曖昧さをなくすために純粋なホップフィブレーションブロッホ射出出力(S^3/{+-1} =~S^2 =~SO(3))、真の四元子並列プレフィックススキャン(T=2048で9.06倍高速化)、スパース構文位相ドリフトをなくすためにアイデンティティゲート付きリーSSMを導入する。
1) NC-SSM は S_3, D_4, Q_8 および単純群 A_5 上の100%追跡を達成し、3層深い対角線が6.60% (p = 8.81e-4), (2) Cayley-SO(5)-SSM は、対称群 S_5 (50.92% vs diagonal 5.25%, p = 0.0015, deliver 7.8x variance reduction over SO(3), (3) SO(3)-SSM は 300 ステップにわたるリーマン多様体 (<3.12e-6 drift, > 580,000x advantage), 0.04 deg decking error and tangentising denoizing (4) NC-SO(5)-SSM は 74.36%, NC-SSM の 1884 の天井を破る(50.92% vs diagonal 5.25%, p = 0.0015), (3) SO(3)-SSM は 300 ステップにわたるリーマン多様体 (<3.12e-6 drift, > 580,000x advantage)。
関連論文リスト
- Orbital Error Dynamics: Self-Organized Criticality, Ephemeral Parameter Resonance, and Non-Linear Biological Ontologies in Zero-Storage Neural Synthesis [0.0]
現代のディープニューラルネットワークは、パラメータを物理メモリに格納された静的浮動小数点行列として扱う。
本研究では,非平衡生体系が内向きに湾曲した場合に出現することを示すベント波仮説を紹介する。
論文 参考訳（メタデータ） (2026-09-24T16:55:06Z) - SeGDeP: Semantic- and Geometric-Aware Decoupled Prompts for Reasoning Segmentation [51.46828526392219]
推論セグメンテーションは暗黙の言語学的結論を正確なマスクに変換する。
既存のMLLMセグメンタインタフェースでは、特別なトリガーを使用するか、両方の信号を1つのコンテキストに圧縮する。
明示的なWhat-whereインターフェースであるSeGDePを提示する。
論文 参考訳（メタデータ） (2026-09-08T15:11:32Z) - A*-Thought-V2: Efficient Latent Reasoning via Geometric Dynamics of LLM [40.07171947823021]
CoT(Chain-of-Thought)は、LLM(Large Language Models)の推論能力を改善するが、かなりの計算とコンテキストコストを発生させる。
A*-Thought-V2 は LLM ガイドフレームワークの幾何学的ダイナミクスであり,COT を隠れ状態軌道としてモデル化し,ハード削除を明示的かつ単純でインターリーブな潜在アーキテクチャに置き換える。
論文 参考訳（メタデータ） (2026-09-07T17:56:20Z) - The Complexity Ceiling Benchmark: A Multi-Domain Evaluation of Sequential Reasoning Under Depth Scaling [8.616356693448987]
本稿では,言語モデル推論の減衰の制御された評価法である複雑性シーリングベンチマーク(CCB)を紹介する。
CCBはタスクのセマンティックな内容を修正し、その深さ N は3つの構造的に異なる状態に対して 5,...,50 でしか変化しない。
広く区切られた領域天井で幾何毎の崩壊のパターンが一貫することがわかった。
論文 参考訳（メタデータ） (2026-06-28T08:56:34Z) - Dead-Direction Conditioners: Gauge-Equivariant Preconditioning for Deep Networks [0.0]
ディープネットワークの損失はそのパラメータの連続対称性に不変である。
我々は、$G$-不変距離の軌道分解を条件付けるデッド・ディビジョン・コンディショナーであるDDCを構築する。
適合点を越えて訓練された言語モデルでは、DDCAdamはAdamWの過度のトレーニング崩壊に抵抗し、5.88に対して0.67のトレーニング損失ギャップを保持し、65層中32層でデッドダイレクト率を読み取る。
論文 参考訳（メタデータ） (2026-06-28T03:44:59Z) - Convergence Theory for Iterative LLM-Based Neural Architecture Search: A Parametric Cross-Entropy Framework with Closed-Form Proxy Reliability [48.83701310501069]
大規模言語モデル(LLM)は、反復型ニューラルアーキテクチャサーチ(NAS)におけるジェネレータとしてますます使われている。
我々は,LCM-NASを,実行可能プログラム上でのパラメトリッククロスエントロピー(CE)法としてモデル化する。
我々は,(1)エリートアーキテクチャの反復LEM微調整は,LLMファミリーに制限されたCE更新と同等であり,(2)期待されるアーキテクチャ品質はサイクル毎に単調に低下せず,(3)エリートセットの確率は幾何率で一定点に収束する,という6つの結果を示した。
論文 参考訳（メタデータ） (2026-05-28T15:45:19Z) - Looped SSMs: Depth-Recurrence and Input Reshaping for Time Series Classification [50.994194925685434]
パラメータが$k$のループSSMが$L$倍に反復され、標準SSMと一貫して一致し、性能が良くなることを示す。
また、入力再フォーマットは等しく無視された設計軸であることを示す。
論文 参考訳（メタデータ） (2026-05-15T15:18:12Z) - Entropic Riemannian Neural Optimal Transport [41.69130102668252]
本稿では,内在性エントロピーOTと外乱評価を併用した統合フレームワークを提案する。
私たちのメソッドは、$mathbbS2$, $mathrmSO(3)$, $mathrmSPD(3)$, $mathrmSE(3)$, $mathbbH2$のベンチマーク上で、Euclidean、tangent-space、log-Euclideanのベースラインと一致または改善します。
論文 参考訳（メタデータ） (2026-05-05T19:43:03Z) - The Evaluation Blind Spot: A Stereological Theory of Benchmark Coverage for Large Language Models [0.0]
実証的に、3つの独立したリーダーボード(Open LLM v2、拡張12ベンチマークスイート、LiveBench)は、いずれも[2.86, 4.80]のd_effを持つ。
Nemhauser (1 − 1/e) 保証付き部分モジュラーグリードアルゴリズムは、4つのベンチマークの安定なコアを見つける。
12のベンチマークと27のカテゴリの反実的な検証では、固有構造がどの評価が置き換えられないかを予測している。
論文 参考訳（メタデータ） (2026-04-15T08:56:58Z) - Hierarchical Kernel Transformer: Multi-Scale Attention with an Information-Theoretic Approximation Analysis [0.0]
階層カーネル変換器(Hierarchical Kernel Transformer, HKT)は、訓練可能な因果ダウンサンプリングを通じてL解像度レベルでシーケンスを処理するマルチスケールアテンション機構である。
全計算コストは標準注意の4/3倍に制限され、L = 3 に対して 1.3125x に達する。
論文 参考訳（メタデータ） (2026-04-10T00:00:11Z) - Optimistic Online Mirror Descent for Bridging Stochastic and Adversarial Online Convex Optimization [40.19608203064051]
本稿では,SEAモデルに対する楽観的オンラインミラー降下(OMD)の理論的保証について検討する。
強い凸と滑らかな関数に対して、$mathcalO(sigma_max2 + Sigma_max2) log T よりも優れた $mathcalO(sigma_max2 + Sigma_max2) log T を確立する。
非定常シナリオにおける静的な後悔境界よりも有利な凸関数と滑らかな関数を持つモデルに対する最初の動的後悔保証を確立する。
論文 参考訳（メタデータ） (2023-02-09T10:42:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。