論文の概要: LipSSM: Structurally Lipschitz-Bounded Cascaded State-Space Model via Metric Transfer between Consecutive SSM Layers
- arxiv url: http://arxiv.org/abs/2609.30973v1
- Date: Fri, 25 Sep 2026 08:19:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.292901
- Title: LipSSM: Structurally Lipschitz-Bounded Cascaded State-Space Model via Metric Transfer between Consecutive SSM Layers
- Title(参考訳): LipSSM: 連続SSM層間の距離移動による構造的リプシッツ境界カスケード状態空間モデル
- Abstract要約: リプシッツ連続性は、確実に堅牢なディープニューラルネットワーク(DNN)の設計における基本原理である
本稿では、この概念をケースドステートスペースモデル(SSM)に拡張し、長期依存をモデル化できるLipschitz-Continuous DNNを構築する。
- 参考スコア(独自算出の注目度): 11.264138424053074
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Lipschitz continuity is a fundamental principle in the design of certifiably robust deep neural networks (DNNs), wherein adjusting the Lipschitz constant, which quantifies network robustness, is of central theoretical importance. A standard approach to enforcing Lipschitz continuity requires each layer of a DNN to be Lipschitz continuous, thereby guaranteeing overall Lipschitz continuity. However, this layer-wise approach typically imposes overly conservative restrictions by producing a loose estimate of the overall Lipschitz constant, which limits the expressive capacity of the DNN and degrades empirical performance at a prescribed level of robustness. To overcome this loose estimation, the recently proposed LipKernel transfers information across layers to yield a much tighter overall Lipschitz bound than conventional layer-wise construction. In this paper, we extend this concept to cascaded state-space models (SSMs) to construct Lipschitz-continuous DNNs capable of modeling longer-term dependencies. The proposed architecture, named LipSSM, is theoretically justified and empirically evaluated.
- Abstract(参考訳): リプシッツ連続性(英: Lipschitz continuity)は、ネットワークの堅牢性を定量化するリプシッツ定数の調整が中心的な理論的重要性を持つ、セルチフィイブル・ロバストなディープニューラルネットワーク(DNN)の設計における基本原理である。
リプシッツ連続性を強制する標準的なアプローチでは、DNNの各層がリプシッツ連続であることが必要であり、それによって全体のリプシッツ連続性を保証する。
しかし、この階層的なアプローチは一般的に、DNNの表現能力を制限するリプシッツ定数全体のゆるやかな推定を生成し、所定のロバスト度で経験的性能を低下させることによって、過度に保守的な制約を課す。
このゆるやかな推定を克服するために、最近提案されたLipKernelは、従来の階層構造よりもはるかに厳密な全リプシッツ境界となるように、レイヤ間で情報を転送する。
本稿では、この概念をケースドステートスペースモデル(SSM)に拡張し、長期依存をモデル化できるLipschitz-Continuous DNNを構築する。
提案したアーキテクチャはLipSSMと呼ばれ、理論的に正当化され、実証的に評価されている。
関連論文リスト
- Improved Scalable Lipschitz Bounds for Deep Neural Networks [3.195044561824979]
我々は、ECLipsE-Fastより優れた性能を実現するために、拡張性のあるリプシッツ境界の新たなファミリーを開発する。
具体的には、LipSDPの可能な点のより一般的なパラメータ化を利用して、様々な閉形式リプシッツ境界を導出する。
さらに,本手法はECLipsE-Fastを特殊なケースとして含み,拡張性のあるリプシッツ境界のクラスをはるかに大きくすることを示す。
論文 参考訳(メタデータ) (2025-03-18T14:39:47Z) - MIQCQP reformulation of the ReLU neural networks Lipschitz constant
estimation problem [0.0]
ニューラルネットワークのリプシッツ推定問題に対する2次拘束型MIP定式化を提案する。
これらの問題の解はリプシッツ定数の下限と上限を与える。
我々は、それらが正確なリプシッツ定数と一致するときの条件を詳述する。
論文 参考訳(メタデータ) (2024-02-02T07:55:42Z) - Lipschitz Continuity Retained Binary Neural Network [52.17734681659175]
我々は,BNNのモデルロバスト性を定義するための厳密な基準として,リプシッツ連続性を導入する。
次に、モデルロバスト性を改善するための正規化項としてリプシッツ連続性を維持することを提案する。
実験により,我々のBNN固有の正規化手法は,BNNの堅牢性を効果的に強化できることが証明された。
論文 参考訳(メタデータ) (2022-07-13T22:55:04Z) - Chordal Sparsity for Lipschitz Constant Estimation of Deep Neural
Networks [77.82638674792292]
ニューラルネットワークのリプシッツ定数は、画像分類の堅牢性、コントローラ設計の安全性、トレーニングデータを超えた一般化性を保証する。
リプシッツ定数の計算はNPハードであるため、リプシッツ定数を推定する手法はスケーラビリティと精度のトレードオフをナビゲートする必要がある。
本研究では,LipSDPと呼ばれる半定値プログラミング手法のスケーラビリティフロンティアを大幅に推し進め,精度の損失をゼロにする。
論文 参考訳(メタデータ) (2022-04-02T11:57:52Z) - Training Certifiably Robust Neural Networks with Efficient Local
Lipschitz Bounds [99.23098204458336]
認証された堅牢性は、安全クリティカルなアプリケーションにおいて、ディープニューラルネットワークにとって望ましい性質である。
提案手法は,MNISTおよびTinyNetデータセットにおける最先端の手法より一貫して優れていることを示す。
論文 参考訳(メタデータ) (2021-11-02T06:44:10Z) - On Lipschitz Regularization of Convolutional Layers using Toeplitz
Matrix Theory [77.18089185140767]
リプシッツ正則性は現代のディープラーニングの重要な性質として確立されている。
ニューラルネットワークのリプシッツ定数の正確な値を計算することはNPハードであることが知られている。
より厳密で計算が容易な畳み込み層に対する新しい上限を導入する。
論文 参考訳(メタデータ) (2020-06-15T13:23:34Z) - Exactly Computing the Local Lipschitz Constant of ReLU Networks [98.43114280459271]
ニューラルネットワークの局所リプシッツ定数は、堅牢性、一般化、公正性評価に有用な指標である。
ReLUネットワークのリプシッツ定数を推定するために, 強い不適合性を示す。
このアルゴリズムを用いて、競合するリプシッツ推定器の密度と正規化トレーニングがリプシッツ定数に与える影響を評価する。
論文 参考訳(メタデータ) (2020-03-02T22:15:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。