論文の概要: MaRK: Markov-adapted Recurrent Kernels for Dynamic Operator Conditioning in State Space Models

• arxiv url: http://arxiv.org/abs/2610.09092v1
• Date: Tue, 06 Oct 2026 20:46:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.600862
• Title: MaRK: Markov-adapted Recurrent Kernels for Dynamic Operator Conditioning in State Space Models
• Title（参考訳）: MaRK: 状態空間モデルにおける動的演算子コンディショニングのためのマルコフ適応リカレントカーネル
• Abstract要約: State Space Models (SSM) は、シーケンスモデリングのためのTransformerの効率的な代替手段を提供する。 凍結したSSMの繰り返しの有界変調に直接コンテキストベクトルをマッピングする動的演算子条件フレームワークであるMaRKを紹介する。 我々は,MRKが一致した仮定の下で座標不変時間演算子を復元し,時間ステップ条件の異なるメモリプロファイルを生成することを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: State Space Models (SSMs) offer an efficient alternative to Transformers for sequence modeling, yet conditioning pre-trained SSMs for iterative generation typically operates outside the recurrent operator, through input injection or activation modulation. While such mechanisms expose the model to conditioning information, they leave the underlying temporal dynamics fixed. We introduce MaRK (Markov-adapted Recurrent Kernels), a dynamic operator-conditioning framework that maps context vectors directly into bounded modulations of a frozen SSM's recurrence ($A$), read-in ($B$), read-out ($C$), skip ($D$), and discretization ($Δ$) parameters. Viewed through the lens of LPV-SSM systems, MaRK induces a context-indexed family of Markov parameter sequences, allowing each diffusion timestep to reshape the model's input-output memory kernel. We instantiate MaRK on a frozen 111M-parameter Hydra SSM backbone and study three adapter geometries: Hypernet, Chebyshev polynomial, and Discrete Cosine Transform kernels. Since these adapters modify the Markov parameter sequence through low-rank auxiliary maps on the frozen backbone, parameter-efficient fine-tuning arises as a structural consequence of the adaptation mechanism itself, requiring only 6.3--11M trainable auxiliary parameters to transition from a bidirectional objective to an iterative diffusion regime. The bounded recurrence parameterization further yields an analytic Affine Quadratic Stability certificate for the modulated recurrence. Through synthetic LPV recovery experiments and Markov-operator diagnostics, we show that MaRK recovers coordinate-invariant temporal operators under matched assumptions and produces distinct, stable timestep-conditioned memory profiles. Empirically, the Chebyshev variant yields the strongest performance, achieving an average validation loss of 2.55, followed by the DCT (2.59) and Hypernet (3.77) geometries.
• Abstract（参考訳）: 状態空間モデル(SSM)は、シーケンスモデリングのためのトランスフォーマーの効率的な代替手段を提供するが、反復生成のための事前訓練されたSSMは、通常、入力インジェクションやアクティベーション変調を通じて、リカレント演算子の外で動作する。 このようなメカニズムは、モデルを条件付け情報に公開するが、基礎となる時間的ダイナミクスは固定される。 MaRK(Markov-adapted Recurrent Kernels)は,凍結したSSMの繰り返し(A$),リードイン(B$),リードアウト(C$),スキップ(D$),離散化(Δ$)パラメータの有界変調にコンテキストベクトルを直接マップする動的演算子条件付きフレームワークである。 LPV-SSMシステムのレンズを通して見て、MaRKはマルコフパラメータ列のコンテキストインデクシングされたファミリーを誘導し、各拡散時間ステップがモデルの入力出力メモリカーネルを再生成する。 凍結した111MパラメータのHydra SSMバックボーン上でMaRKをインスタンス化し、ハイパーネット、チェビシェフ多項式、離散コサイン変換カーネルの3つのアダプタジオメトリを研究する。 これらのアダプタは、凍結したバックボーン上の低ランク補助写像を通してマルコフパラメータ配列を修飾するため、パラメータ効率の良い微調整は適応機構自体の構造的な結果として生じ、双方向の目的から反復拡散状態へ移行するためには6.3-11Mの訓練可能な補助パラメータしか必要としない。 さらに、有界反復パラメータ化により、変調繰り返しに対する解析的アフィン準安定証明が得られる。 合成LPVリカバリ実験とマルコフ・オペレーショナル診断により,MaRKは一致した仮定の下で座標不変時間演算子を復元し,異なる時間ステップ条件のメモリプロファイルを生成する。 経験的に、チェビシェフ変種は2.55の検証損失を達成し、続いてDCT (2.59) とHypernet (3.77) が続いた。

関連論文リスト

• Koopman Operator Identification of Model Parameter Trajectories for Temporal Domain Generalization (KOMET) [0.16311150636417257]
  我々は,パラメータベクトルの列を非線形力学系の軌道として扱うモデルに依存しない,データ駆動型フレームワークKOMETを提案する。 ウォームスタートシーケンシャルトレーニングプロトコルはパラメータ-軌道の滑らかさを強制し、フーリエ拡張可観測辞書は、多くの実世界の分布ドリフトに固有の周期構造を利用する。 KoMET は平均的な自律走行精度を 0.981 から 1.000 の保留時間ステップで達成している。
  論文  参考訳（メタデータ） (2026-03-27T18:58:45Z)
• Echo State Networks as State-Space Models: A Systems Perspective [10.710447183485284]
  本研究では, エコー状態特性が非線形SSMの入力状態安定性の例であることを示す。 また、解釈可能な極とメモリ水平線を持つ局所有効なLTI SSMを生成する2つの相補写像も開発する。 この観点は、メモリスペクトルの周波数領域の特徴を与え、ESNが構造化SSMカーネルをエミュレートするときに明確にする。
  論文  参考訳（メタデータ） (2025-09-04T17:42:03Z)
• Learning Nonautonomous Systems via Dynamic Mode Decomposition [0.0]
  動的モード分解(DMD)に基づく時間依存入力を持つ未知の非線形力学系に対するデータ駆動学習手法を提案する。 時間依存クープマン演算子を非正則系に近似することの難しさを回避するため、修正されたシステムは元の非正則系の近似として用いられる。
  論文  参考訳（メタデータ） (2023-06-27T16:58:26Z)
• Formal Controller Synthesis for Markov Jump Linear Systems with Uncertain Dynamics [64.72260320446158]
  マルコフジャンプ線形系に対する制御器の合成法を提案する。 本手法は,MJLSの離散(モードジャンピング)と連続(確率線形)の両方の挙動を捉える有限状態抽象化に基づいている。 本手法を複数の現実的なベンチマーク問題,特に温度制御と航空機の配送問題に適用する。
  論文  参考訳（メタデータ） (2022-12-01T17:36:30Z)
• Data-driven Control of Agent-based Models: an Equation/Variable-free Machine Learning Approach [0.0]
  複雑/マルチスケールシステムの集合力学を制御するための方程式/変数自由機械学習(EVFML)フレームワークを提案する。 提案手法は3段階からなる: (A) 高次元エージェントベースシミュレーション、機械学習(特に非線形多様体学習(DM)) 創発力学の数値分岐解析を行うために方程式のない手法を用いる。 我々は,エージェントをベースとしたシミュレータを本質的で不正確に知られ,創発的なオープンループ定常状態に駆動する,データ駆動型組込み洗浄制御器を設計する。
  論文  参考訳（メタデータ） (2022-07-12T18:16:22Z)
• Estimation of Switched Markov Polynomial NARX models [75.91002178647165]
  非線形自己回帰(NARX)成分を特徴とするハイブリッド力学系のモデル群を同定する。 提案手法は, 特定の回帰器を持つ3つの非線形サブモデルからなるSMNARX問題に対して実証される。
  論文  参考訳（メタデータ） (2020-09-29T15:00:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。