論文の概要: Complete Verification via Multi-Neuron Relaxation Guided Branch-and-Bound

• arxiv url: http://arxiv.org/abs/2205.00263v1
• Date: Sat, 30 Apr 2022 13:12:33 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-04 11:16:00.707884
• Title: Complete Verification via Multi-Neuron Relaxation Guided Branch-and-Bound
• Title（参考訳）: 多核緩和誘導分岐境界による完全検証
• Authors: Claudio Ferrari, Mark Niklas Muller, Nikola Jovanovic, Martin Vechev
• Abstract要約: 両パラダイムの強みを組み合わせた新しい完全検証器を提案する。 BaBプロセス中に生成されるサブプロブレムの数を劇的に減少させるために、マルチニューロン緩和を用いる。 評価の結果,既存のベンチマークと,従来考えられていたよりもはるかに高い精度のネットワークにおいて,検証が新たな最先端性を達成できることが確認された。
• 参考スコア（独自算出の注目度）: 2.896192909215469
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: State-of-the-art neural network verifiers are fundamentally based on one of two paradigms: either encoding the whole verification problem via tight multi-neuron convex relaxations or applying a Branch-and-Bound (BaB) procedure leveraging imprecise but fast bounding methods on a large number of easier subproblems. The former can capture complex multi-neuron dependencies but sacrifices completeness due to the inherent limitations of convex relaxations. The latter enables complete verification but becomes increasingly ineffective on larger and more challenging networks. In this work, we present a novel complete verifier which combines the strengths of both paradigms: it leverages multi-neuron relaxations to drastically reduce the number of subproblems generated during the BaB process and an efficient GPU-based dual optimizer to solve the remaining ones. An extensive evaluation demonstrates that our verifier achieves a new state-of-the-art on both established benchmarks as well as networks with significantly higher accuracy than previously considered. The latter result (up to 28% certification gains) indicates meaningful progress towards creating verifiers that can handle practically relevant networks.
• Abstract（参考訳）: 最先端のニューラルネットワーク検証器は、基本的に2つのパラダイムの1つに基づいている: 厳密なマルチニューロン凸緩和による検証問題を符号化するか、不正確だが高速なバウンディング手法を多くの簡単なサブプロブレムで活用するブランチ・アンド・バウンド(BaB)手法を適用する。 前者は複雑なマルチニューロン依存をキャプチャできるが、凸緩和の固有の制限のために完全性を犠牲にする。 後者は完全な検証を可能にするが、より大規模で困難なネットワークではますます効果が低下する。 本稿では,両パラダイムの強みを組み合わせた,新しい完全検証器を提案する。babプロセス中に発生するサブプロブレムの数を劇的に削減するために,マルチニューロリラクゼーションを利用して,残りの問題を解くためのgpuベースの効率的なデュアルオプティマイザを提案する。 評価の結果,既存のベンチマークと,従来考えられていたよりもはるかに高い精度のネットワークにおいて,検証が新たな最先端性を実現することが示された。 後者の結果(最大28%)は、実際に関連するネットワークを処理できる検証者作成に向けた有意義な進歩を示している。

関連論文リスト

• DualApp: Tight Over-Approximation for Neural Network Robustness Verification via Under-Approximation [17.924507519230424]
  本稿では,厳密なオーバー近似と2つの補足的アンダー近似アルゴリズムを定義するための新しいアンダー近似誘導手法を提案する。 過大評価領域は音質を保証し、過小評価領域はタイネスを誘導する。 我々は、DualAppと呼ばれるツールにアプローチを実装し、収集およびトレーニングされたニューラルネットワーク84のベンチマークでそれを広範囲に評価する。
  論文  参考訳（メタデータ） (2022-11-21T05:09:34Z)
• Zonotope Domains for Lagrangian Neural Network Verification [102.13346781220383]
  我々は、ディープニューラルネットワークを多くの2層ニューラルネットワークの検証に分解する。 我々の手法は線形プログラミングとラグランジアンに基づく検証技術の両方により改善された境界を与える。
  論文  参考訳（メタデータ） (2022-10-14T19:31:39Z)
• Provably Tightest Linear Approximation for Robustness Verification of Sigmoid-like Neural Networks [22.239149433169747]
  ディープニューラルネットワークの堅牢性は、現代のAI対応システムにとって不可欠である。 非線形性のため、Sigmoidのようなニューラルネットワークは広範囲のアプリケーションで採用されている。
  論文  参考訳（メタデータ） (2022-08-21T12:07:36Z)
• On Optimizing Back-Substitution Methods for Neural Network Verification [1.4394939014120451]
  本稿では, 後方置換がより厳密な境界を生じさせるアプローチを提案する。 我々の技術は、多くの既存のシンボル境界伝搬技術に統合できるという意味で、一般的なものである。
  論文  参考訳（メタデータ） (2022-08-16T11:16:44Z)
• Can pruning improve certified robustness of neural networks? [106.03070538582222]
  ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。 実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。 さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
  論文  参考訳（メタデータ） (2022-06-15T05:48:51Z)
• DeepSplit: Scalable Verification of Deep Neural Networks via Operator Splitting [70.62923754433461]
  入力摂動に対するディープニューラルネットワークの最悪の性能を分析することは、大規模な非最適化問題の解決につながる。 解析解を持つ小さなサブプロブレムに分割することで,問題の凸緩和を直接高精度に解ける新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-06-16T20:43:49Z)
• Scaling the Convex Barrier with Sparse Dual Algorithms [141.4085318878354]
  本稿では,ニューラルネットワークバウンダリングのための2つの新しい2重アルゴリズムを提案する。 どちらの方法も新しい緩和の強さを回復する: 厳密さと線形分離オラクル。 実行時間のほんの一部で、既製のソルバよりも優れた境界を得ることができます。
  論文  参考訳（メタデータ） (2021-01-14T19:45:17Z)
• Enabling certification of verification-agnostic networks via memory-efficient semidefinite programming [97.40955121478716]
  本稿では,ネットワークアクティベーションの総数にのみ線形なメモリを必要とする一階二重SDPアルゴリズムを提案する。 L-inf の精度は 1% から 88% ,6% から 40% に改善した。 また,変分オートエンコーダの復号器に対する2次安定性仕様の厳密な検証を行った。
  論文  参考訳（メタデータ） (2020-10-22T12:32:29Z)
• Global Optimization of Objective Functions Represented by ReLU Networks [77.55969359556032]
  ニューラルネットワークは複雑で非敵対的な関数を学ぶことができ、安全クリティカルな文脈でそれらの正しい振る舞いを保証することは困難である。 ネットワーク内の障害を見つけるための多くのアプローチ(例えば、敵の例)があるが、これらは障害の欠如を保証できない。 本稿では,最適化プロセスを検証手順に統合し,本手法よりも優れた性能を実現する手法を提案する。
  論文  参考訳（メタデータ） (2020-10-07T08:19:48Z)
• Debona: Decoupled Boundary Network Analysis for Tighter Bounds and Faster Adversarial Robustness Proofs [2.1320960069210484]
  ニューラルネットワークは、安全クリティカルな現実世界のアプリケーションで一般的に使用される。 このような敵の例が存在しないこと、あるいは具体的な例を提供することは、安全なアプリケーションを保証するために不可欠である。 畳み込みネットワークにおける最大プーリング層上層と下層の境界の厳密な証明を行う。
  論文  参考訳（メタデータ） (2020-06-16T10:00:33Z)
• ReluDiff: Differential Verification of Deep Neural Networks [8.601847909798165]
  我々は2つの密接に関連するネットワークの差分検証法を開発した。 我々は2つのネットワークの構造的および行動的類似性を利用して、2つのネットワークの出力ニューロン間の差異をより正確に拘束する。 実験の結果,最先端の検証ツールと比較して,精度向上が可能であることがわかった。
  論文  参考訳（メタデータ） (2020-01-10T20:47:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。