論文の概要: Hierarchical End-to-End Taylor Bounds for Complete Neural Network Verification
- arxiv url: http://arxiv.org/abs/2605.10621v1
- Date: Mon, 11 May 2026 14:16:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.883547
- Title: Hierarchical End-to-End Taylor Bounds for Complete Neural Network Verification
- Title（参考訳）: 完全ニューラルネットワーク検証のための階層型エンド・ツー・エンドテイラー境界
- Authors: Taha Entesari, Mahyar Fazlyab,
- Abstract要約: ニューラルネットワークの到達可能性解析は、与えられた入力領域上で達成可能な出力の集合を計算または束縛しようとする。
既存のアプローチは、ほとんどの2階情報を利用しており、高階情報を体系的に活用していない。
textscHiTaB は Hessian, $nabla2 f$ と Lipschitz 定数 $L_nabla2 f$ の2階スムーズ性を利用する新しい検証フレームワークである。
- 参考スコア（独自算出の注目度）: 10.685380941330687
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reachability analysis of neural networks, which seeks to compute or bound the set of outputs attainable over a given input domain, is central to certifying safety and robustness in learning-enabled physical systems. Since exact reachable set computation is generally intractable, existing methods typically rely on tractable overapproximations. Examining the state of the art for smooth, twice-differentiable networks, we observe that existing approaches exploit at most second-order information and do not systematically leverage higher-order information. In this work, we introduce \textsc{HiTaB}, a novel verification framework that exploits second-order smoothness through both the Hessian, $\nabla^2 f$, and its Lipschitz constant, $L_{\nabla^2 f}$. We further develop a unified hierarchy of zeroth-, first-, and second-order bounds, together with precise conditions under which higher-order approximations yield provable improvements. Our main technical contribution is a compositional procedure for efficiently bounding $L_{\nabla^2 f}$ in deep neural networks via layerwise propagation of curvature bounds. We extend the framework to both $\ell_2$- and $\ell_\infty$-constrained input sets and show how it can be integrated into branch-and-bound verification pipelines. To our knowledge, this is the first practical reachability analysis framework for smooth neural networks that systematically exploits Lipschitz continuity of curvature, leading to tighter and more informative safety certificates.
- Abstract（参考訳）: ニューラルネットワークの到達可能性分析(Reachability analysis)は、与えられた入力ドメイン上で達成可能な出力の集合を計算またはバウンドすることを目的としており、学習可能な物理システムにおける安全性と堅牢性の証明の中心である。
真に到達可能な集合の計算は一般に難解であるため、既存の手法は通常、難解なオーバー近似に依存する。
2次微分可能なスムーズなネットワークの最先端性を調べると、既存のアプローチがほとんどの2次情報を利用しており、高次情報を体系的に活用していないことが分かる。
本研究では,ヘッセン式, $\nabla^2 f$, そのリプシッツ定数, $L_{\nabla^2 f}$を通じて二階滑らか性を利用する新しい検証フレームワークである \textsc{HiTaB} を紹介する。
さらに、高次近似が証明可能な改善をもたらす正確な条件とともに、ゼロ階、第一階、第二階の境界の統一階層を開発する。
我々の主な技術的貢献は、曲率境界の階層的伝播を介して、ディープニューラルネットワークにおいて$L_{\nabla^2 f}$を効率的にバウンディングするための合成手順である。
フレームワークを$\ell_2$-と$\ell_\infty$-constrainedの入力セットに拡張し、ブランチとバウンドの検証パイプラインにどのように統合できるかを示す。
我々の知る限り、これはスムーズなニューラルネットワークのための最初の実用的なリーチビリティ分析フレームワークであり、リプシッツの曲率連続性を体系的に活用し、より厳密でより情報的な安全証明書をもたらす。
関連論文リスト
- TorchLean: Formalizing Neural Networks in Lean [71.68907600404513]
本稿では,学習モデルを一級数学的対象として扱うフレームワークであるTorchLeanを紹介する。
我々はTorchLeanのエンドツーエンドを、証明された堅牢性、PINNの物理インフォームド残差、Lyapunovスタイルのニューラルコントローラ検証で検証する。
論文 参考訳（メタデータ） (2026-02-26T05:11:44Z) - Probabilistically Tightened Linear Relaxation-based Perturbation Analysis for Neural Network Verification [83.25968588249776]
本稿では,LiRPAに基づく手法とサンプリングに基づく手法を組み合わせることで,厳密な中間到達性集合を計算できる新しいフレームワークを提案する。
無視可能な計算オーバーヘッドでは、$textttPT-LiRPA$は推定された到達可能な集合を利用し、ニューラルネットワークの出力の上下線形境界を著しく締め付ける。
論文 参考訳（メタデータ） (2025-07-07T18:45:53Z) - Computable Lipschitz Bounds for Deep Neural Networks [0.0]
我々は$l2$ノルムのために書かれた3つの既存の上限を分析する。
本稿では,フィードフォワード完全接続ニューラルネットワークと畳み込みニューラルネットワークの2つの新しい境界を提案する。
論文 参考訳（メタデータ） (2024-10-28T14:09:46Z) - Compositional Curvature Bounds for Deep Neural Networks [7.373617024876726]
安全クリティカルなアプリケーションにおけるニューラルネットワークの普及を脅かす重要な課題は、敵の攻撃に対する脆弱性である。
本研究では, 連続的に微分可能な深層ニューラルネットワークの2次挙動について検討し, 対向摂動に対する堅牢性に着目した。
ニューラルネットワークの第2微分の証明可能な上界を解析的に計算する新しいアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-06-07T17:50:15Z) - DualApp: Tight Over-Approximation for Neural Network Robustness
Verification via Under-Approximation [17.924507519230424]
本稿では,厳密なオーバー近似と2つの補足的アンダー近似アルゴリズムを定義するための新しいアンダー近似誘導手法を提案する。
過大評価領域は音質を保証し、過小評価領域はタイネスを誘導する。
我々は、DualAppと呼ばれるツールにアプローチを実装し、収集およびトレーニングされたニューラルネットワーク84のベンチマークでそれを広範囲に評価する。
論文 参考訳（メタデータ） (2022-11-21T05:09:34Z) - Robust Training and Verification of Implicit Neural Networks: A
Non-Euclidean Contractive Approach [64.23331120621118]
本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。
組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。
MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
論文 参考訳（メタデータ） (2022-08-08T03:13:24Z) - Scalable Lipschitz Residual Networks with Convex Potential Flows [120.27516256281359]
残差ネットワーク勾配流における凸ポテンシャルを用いることで,1ドルのLipschitz変換が組み込まれていることを示す。
CIFAR-10の包括的な実験は、アーキテクチャのスケーラビリティと、証明可能な防御に$ell$のアプローチの利点を実証している。
論文 参考訳（メタデータ） (2021-10-25T07:12:53Z) - Improved Branch and Bound for Neural Network Verification via Lagrangian
Decomposition [161.09660864941603]
ニューラルネットワークの入出力特性を公式に証明するためのブランチとバウンド(BaB)アルゴリズムのスケーラビリティを改善します。
活性化に基づく新しい分岐戦略とBaBフレームワークであるブランチとデュアルネットワーク境界(BaDNB)を提案する。
BaDNBは、従来の完全検証システムを大きなマージンで上回り、対数特性で平均検証時間を最大50倍に削減した。
論文 参考訳（メタデータ） (2021-04-14T09:22:42Z) - Lagrangian Decomposition for Neural Network Verification [148.0448557991349]
ニューラルネットワーク検証の基本的なコンポーネントは、出力が取ることのできる値のバウンダリの計算である。
ラグランジアン分解に基づく新しい手法を提案する。
ランニングタイムのごく一部で、既成の解法に匹敵するバウンダリが得られることを示す。
論文 参考訳（メタデータ） (2020-02-24T17:55:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。