論文の概要: Riccati State Space Models: Non-iterative Parallelization for Nonlinear Sequence Modeling

• arxiv url: http://arxiv.org/abs/2609.35441v1
• Date: Mon, 28 Sep 2026 15:40:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 05:25:55.536914
• Title: Riccati State Space Models: Non-iterative Parallelization for Nonlinear Sequence Modeling
• Title（参考訳）: Riccati状態空間モデル:非線形シーケンスモデリングのための非定常並列化
• Abstract要約: 状態空間モデル(SSM)は、アフィン状態の更新が合成の下でクローズされるため、効率的なシーケンス処理を実現する。 リカレントモデルはよりリッチで状態依存のダイナミクスを提供するが、一般的にこの構成構造を失う。 我々は、状態依存の非線形力学は正確に構成可能なままに設計できるのかと問う。 非線形SSMである RiccatiSSM を導入し、各状態は入力条件付き Riccati 微分方程式に従う。
• 参考スコア（独自算出の注目度）: 50.994194925685434
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: State space models (SSMs) achieve efficient sequence processing because their affine state updates are closed under composition and can therefore be evaluated with an associative parallel scan. Nonlinear recurrent models can provide richer, state-dependent dynamics, but generally lose this compositional structure: parallel evaluation then requires iterative methods that repeatedly linearize and scan the recurrence. We ask, what state-dependent nonlinear dynamics can be designed to remain exactly composable? We answer by introducing RiccatiSSM, a nonlinear SSM, in which each state dimension follows an input-conditioned Riccati differential equation. Its quadratic state dependence makes the local Jacobian explicitly state-dependent, while its exact per-step flow under piecewise-constant inputs is a Möbius transformation. Since Möbius maps are closed under composition and compose through $2\times 2$ matrix multiplication, the complete nonlinear state trajectory can be evaluated exactly with a single associative parallel scan, without iterative linearization. We further derive a constrained parameterization that ensures bounded, contractive dynamics, and avoids poles in the fractional-linear state update. Across long-sequence classification, regression, and forecasting tasks, RiccatiSSM achieves competitive predictive performance while reducing runtime by $22{-}33\%$ compared to the nonlinear LrcSSM under matched architectures. These results demonstrate that state-dependent nonlinear dynamics can retain exact composability and be evaluated efficiently within a single parallel scan.
• Abstract（参考訳）: 状態空間モデル(SSM)は、アフィン状態の更新が合成の下でクローズされているため、効率的なシーケンス処理を実現する。 非線形リカレントモデルはよりリッチで状態依存のダイナミクスを提供するが、一般的にこの構成構造を失う。 我々は、状態依存の非線形力学は正確に構成可能なままに設計できるのかと問う。 我々は、各状態次元が入力条件付き Riccati 微分方程式に従う非線形 SSM である RiccatiSSM を導入することで答える。 その二次状態依存は局所ヤコビアンを明示的に状態依存させるが、一方向の入力の下でのステップごとの正確な流れはメビウス変換である。 メビウス写像は合成の下で閉じており、2$ 2$行列乗法によって構成されるので、完全な非線形状態軌跡は反復線型化なしで単一の連想並列走査で正確に評価することができる。 さらに、制約付きパラメータ化を導出し、制約付き、契約型ダイナミクスを保証し、分数線形状態更新における極を回避する。 RiccatiSSMは、長いシーケンスの分類、回帰、予測タスク全体にわたって、一致したアーキテクチャの下での非線形LrcSSMと比較して、実行時の競合予測性能を22{-}33\%削減する。 これらの結果は、状態依存非線形力学が正確な構成性を保ち、単一の並列スキャン内で効率的に評価できることを証明している。

関連論文リスト

• Liquid Gated Attention [12.636376869841826]
  LGA(Liquid Gated Attention)は、ソルバフリーの並列時間演算子である。 LGA上に構築されたLFormerは,連続時間表現学習のためのモジュールバックボーンである。
  論文  参考訳（メタデータ） (2026-08-31T12:30:09Z)
• AdaKoop: Efficient Modeling of Nonlinear Dynamics from Nonstationary Data Streams with Koopman Operator Regression [16.514388442204446]
  本研究では,非定常データストリーム上の非線形ダイナミクスをモデル化する効率的なストリーミングアルゴリズムであるAdaKoopを提案する。 AdaKoopは、反復的非線形最適化の計算コストを抑え、ストリーミング方式で非線形力学の効率的かつ安定したモデリングを可能にする。
  論文  参考訳（メタデータ） (2026-06-03T14:23:32Z)
• Parallel Recursive LSTM [26.883902799977964]
  並列再帰型LSTM(Parallel Recursive LSTM)は,左から右への再帰を平衡計算木上の非線形状態合成に置き換える階層的再帰型アーキテクチャである。 PR-LSTMは、標準RNN、LSTM、Transformerベースラインよりも多くのタスクを解決し、注意の2次スケーリングを避けながら、フォーマルなベンチマーク上で強力なシーケンス長の一般化を実現する。
  論文  参考訳（メタデータ） (2026-05-16T18:28:59Z)
• PRISM: Parallel Residual Iterative Sequence Model [52.26239951489612]
  我々はこの緊張を解決するためにPRISM(Parallel Residual Iterative Sequence Model)を提案する。 PRISMは、パラレル化可能な形で多段階精製の重要な構造特性を捉える、ソルバに着想を得た帰納バイアスを導入している。 この定式化が Rank-$L$ の蓄積を達成することを証明し、更新多様体を単一ステップの Rank-$1$ ボトルネックを超えて構造的に拡張する。
  論文  参考訳（メタデータ） (2026-02-11T12:39:41Z)
• Equation-Free Coarse Control of Distributed Parameter Systems via Local Neural Operators [1.5484595752241122]
  本稿では,局所的ニューロ演算子を顕微鏡・メソスコピックデータで訓練し,効率的な短時間解演算子を得るデータ駆動型代替手法を提案する。 その後、Krylov-Arnoldi は支配的な固有スペクトルを近似し、ヤコビアン集合を明示せずに開ループのスローダイナミクスを捕捉する縮小モデルを生成する。
  論文  参考訳（メタデータ） (2025-09-28T17:01:53Z)
• Structured Sparse Transition Matrices to Enable State Tracking in State-Space Models [68.31088463716269]
  状態空間モデル(SSM)における遷移行列の構造的スパースパラメトリゼーションを提案する。 我々の方法PD-SSMは、遷移行列をカラム1ホット行列(P$)と複素数値対角行列(D$)の積としてパラメータ化する。 このモデルは、様々なFSA状態追跡タスクにおいて、現代のSSMの多種多様なバリエーションを著しく上回っている。
  論文  参考訳（メタデータ） (2025-09-26T12:46:30Z)
• Efficient Interpretable Nonlinear Modeling for Multiple Time Series [5.448070998907116]
  本稿では,複数時系列に対する効率的な非線形モデリング手法を提案する。 異なる時系列変数間の非線形相互作用を含む。 実験結果から,提案アルゴリズムは相似的にVAR係数の支持値の同定を改善することが示された。
  論文  参考訳（メタデータ） (2023-09-29T11:42:59Z)
• The Connection between Discrete- and Continuous-Time Descriptions of Gaussian Continuous Processes [60.35125735474386]
  我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。 この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
  論文  参考訳（メタデータ） (2021-01-16T17:11:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。