論文の概要: Regularity and Stability Properties of Selective SSMs with Discontinuous Gating
- arxiv url: http://arxiv.org/abs/2505.11602v1
- Date: Fri, 16 May 2025 18:08:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-20 14:57:10.732099
- Title: Regularity and Stability Properties of Selective SSMs with Discontinuous Gating
- Title(参考訳): 不連続ゲーティングを有する選択SSMの規則性と安定性
- Authors: Nikola Zubić, Davide Scaramuzza,
- Abstract要約: 本稿では, 連続時間選択SSMの安定性と規則性について検討する。
我々は、本質的なエネルギー散逸が過去の状態を指数的に忘れることを保証することを確証する。
本研究は,安定かつ信頼性の高い深層選択型SSMの理解と設計のための厳密な枠組みを提供する。
- 参考スコア(独自算出の注目度): 18.718025325906762
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep Selective State-Space Models (SSMs), characterized by input-dependent, time-varying parameters, offer significant expressive power but pose challenges for stability analysis, especially with discontinuous gating signals. In this paper, we investigate the stability and regularity properties of continuous-time selective SSMs through the lens of passivity and Input-to-State Stability (ISS). We establish that intrinsic energy dissipation guarantees exponential forgetting of past states. Crucially, we prove that the unforced system dynamics possess an underlying minimal quadratic energy function whose defining matrix exhibits robust $\text{AUC}_{\text{loc}}$ regularity, accommodating discontinuous gating. Furthermore, assuming a universal quadratic storage function ensures passivity across all inputs, we derive parametric LMI conditions and kernel constraints that limit gating mechanisms, formalizing "irreversible forgetting" of recurrent models. Finally, we provide sufficient conditions for global ISS, linking uniform local dissipativity to overall system robustness. Our findings offer a rigorous framework for understanding and designing stable and reliable deep selective SSMs.
- Abstract(参考訳): SSM(Deep Selective State-Space Models)は、入力依存の時間変化パラメータによって特徴づけられ、重要な表現力を提供するが、安定性解析、特に不連続なゲーティング信号に挑戦する。
本稿では,連続時間選択型SSMの透過率と入力状態安定性(ISS)のレンズによる安定性と規則性について検討する。
我々は、本質的なエネルギー散逸が過去の状態を指数的に忘れることを保証することを確証する。
決定行列がロバストな$\text{AUC}_{\text{loc}}$ regularity, accommodating discontinuous gating.
さらに、普遍二次記憶関数が全ての入力の通過性を保証すると仮定すると、パラメトリックなLMI条件と、ゲーティング機構を制限するカーネル制約を導出し、繰り返しモデルの「不可逆的忘れ」を定式化する。
最後に,地球規模のISSに十分な条件を提供し,局所的な均一な分散性とシステム全体の堅牢性をリンクする。
本研究は,安定かつ信頼性の高い深層選択型SSMの理解と設計のための厳密な枠組みを提供する。
関連論文リスト
- When Sensors Fail: Temporal Sequence Models for Robust PPO under Sensor Drift [64.37959940809633]
時間的持続的なセンサ故障下でのPPOのロバスト性について検討する。
トランスフォーマーを用いたシーケンスポリシーは, センサ数が少ない場合でも高いリターンを保ちながら, 堅牢性, RNN, SSMよりも大幅に優れていた。
論文 参考訳(メタデータ) (2026-03-04T22:21:54Z) - Spectral signatures of nonstabilizerness and criticality in infinite matrix product states [0.0]
非安定剤性は臨界と局所摂動のサインを捉えている。
その結果、量子多体系における計算資源と創発現象の相互作用に関する新たなレンズが提供される。
論文 参考訳(メタデータ) (2026-02-16T19:00:04Z) - Position: Certifiable State Integrity in Cyber-Physical Systems -- Why Modular Sovereignty Solves the Plasticity-Stability Paradox [0.0]
最近の証拠は、微調整された時系列基盤モデルが、以前の政権における破滅的な、劣化するパフォーマンスを忘れてしまうことを示唆している。
この位置紙は、塑性安定性パラドックスはグローバルパラメータ更新によって完全には解決できないと主張している。
代わりに、モジュール・ソブリンティ・パラダイム(Modular Sovereignty paradigm)を提唱する。
論文 参考訳(メタデータ) (2026-01-29T04:10:58Z) - Stability as a Liability:Systematic Breakdown of Linguistic Structure in LLMs [5.96875296117642]
安定なパラメータトラジェクトリが定常解を導出し、経験的分布へのKLの分岐を最小化することを示す。
制御されたフィードバックベースのトレーニングフレームワークを用いて,この効果を実証的に検証する。
これは、最適化の安定性と生成的表現性は本質的に一致していないことを示し、安定性のみが生成的品質の指標として不十分であることを示している。
論文 参考訳(メタデータ) (2026-01-26T15:34:50Z) - Universal energy-space localization and stable quantum phases against time-dependent perturbations [0.4743095079668966]
摂動に対する安定性は量子系の非自明な性質である。
エネルギー空間の局所化は、時間に依存した摂動の下で生き残ることを示す。
我々の研究は、ジェネリック量子系の非平衡ダイナミクスを分析するための新しいレンズを提供する。
論文 参考訳(メタデータ) (2025-10-15T23:16:15Z) - Echo State Networks as State-Space Models: A Systems Perspective [10.710447183485284]
本研究では, エコー状態特性が非線形SSMの入力状態安定性の例であることを示す。
また、解釈可能な極とメモリ水平線を持つ局所有効なLTI SSMを生成する2つの相補写像も開発する。
この観点は、メモリスペクトルの周波数領域の特徴を与え、ESNが構造化SSMカーネルをエミュレートするときに明確にする。
論文 参考訳(メタデータ) (2025-09-04T17:42:03Z) - The Vanishing Gradient Problem for Stiff Neural Differential Equations [3.941173292703699]
強靭なシステムでは、高速脱着モードを制御するパラメータに対する感度が訓練中に著しく小さくなることが観察されている。
ここでは, この勾配の消失現象は, 特定の手法の人工物ではなく, A-stable および L-stable の厳密な数値積分スキームの普遍的な特徴であることを示す。
論文 参考訳(メタデータ) (2025-08-02T23:44:14Z) - Canonical Bayesian Linear System Identification [2.60567273797562]
ベイズフレームワーク内のLTIシステムの標準形式を紹介する。
我々は、これらの最小パラメータ化における推論がすべての不変系の力学を完全に捉えることを厳格に証明する。
このアプローチは、意味のある構造を意識した事前の使用を解放する。
論文 参考訳(メタデータ) (2025-07-15T17:58:55Z) - Transformers Learn Faster with Semantic Focus [57.97235825738412]
学習性と一般化の観点からスパース変圧器について検討する。
入力依存のスパースアテンションモデルは、標準アテンションモデルよりも早く収束し、より一般化しているように見える。
論文 参考訳(メタデータ) (2025-06-17T01:19:28Z) - Learning to Dissipate Energy in Oscillatory State-Space Models [55.09730499143998]
状態空間モデル (SSM) はシーケンス学習のためのネットワークのクラスである。
我々は,D-LinOSSがLinOSSの手法を長距離学習タスクで一貫して上回っていることを示す。
論文 参考訳(メタデータ) (2025-05-17T23:15:17Z) - Regulating Model Reliance on Non-Robust Features by Smoothing Input Marginal Density [93.32594873253534]
信頼できる機械学習は、非ロバストな特徴に依存するモデルの厳密な規制を必要とする。
本稿では,モデル予測を入力に関連付けることによって,そのような特徴を記述・規制するフレームワークを提案する。
論文 参考訳(メタデータ) (2024-07-05T09:16:56Z) - Defining stable phases of open quantum systems [0.0]
標準セルオートマトンでは均一性が満足していることが示される。
チャネルが一様であること、従って安定性を示すのに十分な条件を推測する。
論文 参考訳(メタデータ) (2023-08-28T17:55:31Z) - Spectral stabilizability [0.0]
我々は,目標状態の固有分解に基づく安定化条件を開発する。
我々は、多くの模範的なオープンシステムシナリオに対する安定化性上の上限を導出するために、スペクトルアプローチを用いる。
論文 参考訳(メタデータ) (2022-12-23T10:38:31Z) - Formal Controller Synthesis for Markov Jump Linear Systems with
Uncertain Dynamics [64.72260320446158]
マルコフジャンプ線形系に対する制御器の合成法を提案する。
本手法は,MJLSの離散(モードジャンピング)と連続(確率線形)の両方の挙動を捉える有限状態抽象化に基づいている。
本手法を複数の現実的なベンチマーク問題,特に温度制御と航空機の配送問題に適用する。
論文 参考訳(メタデータ) (2022-12-01T17:36:30Z) - On the Sample Complexity and Metastability of Heavy-tailed Policy Search
in Continuous Control [47.71156648737803]
強化学習(Reinforcement learning)は、システムダイナミクスモデルなしで、時間をかけてインセンティブを順次明らかにする、インタラクティブな意思決定のためのフレームワークである。
定義された連鎖を特徴付け、テールインデックスのレヴィプロセスに関連するポリシーがより広いピークに収まることを識別する。
論文 参考訳(メタデータ) (2021-06-15T20:12:44Z) - Stability and Identification of Random Asynchronous Linear
Time-Invariant Systems [81.02274958043883]
線形力学系の安定性に対するランダム化と非同期化の付加的な利点を示す。
未知のランダム化LTIシステムに対して,基礎となる力学を復元するための系統的同定手法を提案する。
論文 参考訳(メタデータ) (2020-12-08T02:00:04Z) - Fine-Grained Analysis of Stability and Generalization for Stochastic
Gradient Descent [55.85456985750134]
我々は,SGDの反復的リスクによって制御される新しい境界を開発する,平均モデル安定性と呼ばれる新しい安定性尺度を導入する。
これにより、最良のモデルの振舞いによって一般化境界が得られ、低雑音環境における最初の既知の高速境界が導かれる。
我々の知る限りでは、このことはSGDの微分不能な損失関数でさえも初めて知られている安定性と一般化を与える。
論文 参考訳(メタデータ) (2020-06-15T06:30:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。