論文の概要: Differential Zonotopes for Verifying Global Robustness of DNNs

• arxiv url: http://arxiv.org/abs/2606.21282v1
• Date: Fri, 19 Jun 2026 09:58:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 14:39:16.693805
• Title: Differential Zonotopes for Verifying Global Robustness of DNNs
• Title（参考訳）: DNNのグローバルロバスト性検証のための微分型ゾノトープ
• Authors: Anagha Athavale, Samuel Teuber, Matteo Maffei, Ezio Bartocci, Dejan Nickovic, Georg Weissenbacher,
• Abstract要約: ディープニューラルネットワーク(DNN)の堅牢性は、セキュリティに敏感なアプリケーションにおいて重要である。 DNNのグローバルロバスト性を検証するための新しい静的解析手法を提案する。 以上の結果から,TwoSafeは精度とスケーラビリティの両面で,最先端技術であることがわかった。
• 参考スコア（独自算出の注目度）: 10.969524099140814
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The robustness of deep neural networks (DNNs) is critical in security-sensitive applications, where small input perturbations should not alter model predictions. This property is commonly formalized as local or global robustness: the former considers perturbations around a single input, while the latter -- strictly stronger -- quantifies over all input pairs. While local robustness can be expressed as a safety property, global robustness is a 2-safety property, making it substantially more challenging to verify. We present a novel static analysis technique for verifying the global robustness of DNNs. Our approach is based on differential halo zonotopes, a new abstract domain that extends zonotopes to jointly propagate pairs of perturbed inputs in lock-step while tightly bounding their divergence. In addition, we introduce a symmetric variant of confidence-based global robustness that disregards perturbations leading to differing but low-confidence predictions. This relaxation yields a practically meaningful notion of robustness that applies to a broader class of networks. We implement our approach in a new tool, called TwoSafe, and evaluate it on standard DNN verification benchmarks, including widely deployed models. Our results show that TwoSafe significantly outperforms the state of the art in both precision and scalability, enabling the verification of networks an order of magnitude larger than those handled by prior techniques.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)の堅牢性は、小さな入力摂動がモデル予測を変更するべきではない、セキュリティに敏感なアプリケーションにおいて重要である。 この性質は一般に局所的あるいは大域的ロバスト性(英語版)として定式化され、前者は1つの入力に関する摂動を考えるが、後者は(強く強い)全ての入力対について定量化する。 局所的ロバスト性は安全性の特性として表すことができるが、大域的ロバスト性は2つのセーフティ性であり、検証は極めて困難である。 DNNのグローバルロバスト性を検証するための新しい静的解析手法を提案する。 我々のアプローチは微分ハロ・ゾノトープ(英語版)に基づいており、これはゾノトープを拡張する新しい抽象領域であり、それらの分岐を強く束縛しながら、ロックステップ内の摂動入力のペアを共同で伝播させる。 さらに、信頼性に基づく大域的ロバストネスの対称的変種を導入し、摂動を無視し、異なるが低信頼の予測をもたらす。 この緩和は、より広い階層のネットワークに適用できる、事実上意味のあるロバスト性の概念をもたらす。 我々は、TwoSafeと呼ばれる新しいツールでアプローチを実装し、広くデプロイされたモデルを含む標準のDNN検証ベンチマークで評価する。 以上の結果から,TwoSafeは精度とスケーラビリティの両面で技術水準を著しく上回り,従来の技術よりもネットワークの検証が桁違いに大きいことが示唆された。

関連論文リスト

• Calibrated Adversarial Sampling: Multi-Armed Bandit-Guided Generalization Against Unforeseen Attacks [10.840475405540458]
  ディープニューラルネットワーク(DNN)の堅牢性を高めるための最も効果的なパラダイムの1つとして、AT(Adversarial Training)が登場した。 本稿では,これらの問題に対処するため,Calibrated Adversarial Smpling (CAS) と呼ばれる効率的な微調整手法を提案する。 ベンチマークデータセットの実験では、CASは高いクリーンな精度を維持しながら、より優れた全体的な堅牢性を達成している。
  論文  参考訳（メタデータ） (2025-11-15T15:42:40Z)
• Advancing Neural Network Verification through Hierarchical Safety Abstract Interpretation [52.626086874715284]
  我々は、安全でない出力の階層構造を検証する抽象的DNN検証と呼ばれる新しい問題定式化を導入する。 出力到達可能な集合に関する抽象的解釈と推論を活用することにより,形式的検証プロセスにおいて,複数の安全性レベルを評価することができる。 我々の貢献には、新しい抽象的安全性の定式化と既存のアプローチとの関係を理論的に探求することが含まれる。
  論文  参考訳（メタデータ） (2025-05-08T13:29:46Z)
• Hierarchical Uncertainty-Aware Graph Neural Network [3.4498722449655066]
  この研究は、階層的不確実性認識グラフニューラルネットワーク(HU-GNN)という新しいアーキテクチャを導入している。 マルチスケールな表現学習、原則的不確実性推定、および単一エンドツーエンドフレームワークにおける自己監督型埋め込み多様性を統一する。 具体的には、HU-GNNはノードクラスタを適応的に形成し、個々のノードからより高いレベルまでの複数の構造スケールで不確実性を推定する。
  論文  参考訳（メタデータ） (2025-04-28T14:22:18Z)
• Enumerating Safe Regions in Deep Neural Networks with Provable Probabilistic Guarantees [86.1362094580439]
  安全プロパティとDNNが与えられた場合、安全であるプロパティ入力領域のすべての領域の集合を列挙する。 この問題の #P-hardness のため,epsilon-ProVe と呼ばれる効率的な近似法を提案する。 提案手法は, 許容限界の統計的予測により得られた出力可到達集合の制御可能な過小評価を利用する。
  論文  参考訳（メタデータ） (2023-08-18T22:30:35Z)
• Generalizability of Adversarial Robustness Under Distribution Shifts [57.767152566761304]
  本研究は, 実証的, 証明された敵対的堅牢性間の相互作用と, ドメインの一般化を両立させるための第一歩を踏み出した。 複数のドメインでロバストモデルをトレーニングし、その正確性とロバスト性を評価する。 本研究は, 現実の医療応用をカバーするために拡張され, 敵の増大は, クリーンデータ精度に最小限の影響を伴って, 強靭性の一般化を著しく促進する。
  論文  参考訳（メタデータ） (2022-09-29T18:25:48Z)
• Uncertainty-Aware Deep Calibrated Salient Object Detection [74.58153220370527]
  既存のディープニューラルネットワークに基づくサルエントオブジェクト検出(SOD)手法は主に高いネットワーク精度の追求に重点を置いている。 これらの手法は、信頼不均衡問題として知られるネットワーク精度と予測信頼の間のギャップを見落としている。 我々は,不確実性を考慮した深部SODネットワークを導入し,深部SODネットワークの過信を防止するための2つの戦略を提案する。
  論文  参考訳（メタデータ） (2020-12-10T23:28:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。