論文の概要: Boosting Few-Pixel Robustness Verification via Covering Verification Designs
- arxiv url: http://arxiv.org/abs/2405.10924v3
- Date: Mon, 30 Sep 2024 08:46:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-01 21:57:52.489432
- Title: Boosting Few-Pixel Robustness Verification via Covering Verification Designs
- Title（参考訳）: 被覆検証設計によるFew-Pixelロバスト性検証の高速化
- Authors: Yuval Shapira, Naor Wiesel, Shahar Shabelman, Dana Drachsler-Cohen,
- Abstract要約: ニューラルネットワークの信頼性を高めるためには、局所的な堅牢性を証明することが不可欠である。
多くの検証者は$L_infty$$epsilon$-ballsでロバスト性を証明するが、$L_infty$$epsilon$-ballsでロバスト性を検証する作業はほとんどない。
提案するCoVerDは,ブロックサイズ分布を予測せずに,異なる候補被覆を選択する,$L_$ロバスト性検証器である。
- 参考スコア（独自算出の注目度）: 1.3024517678456733
- License:
- Abstract: Proving local robustness is crucial to increase the reliability of neural networks. While many verifiers prove robustness in $L_\infty$ $\epsilon$-balls, very little work deals with robustness verification in $L_0$ $\epsilon$-balls, capturing robustness to few pixel attacks. This verification introduces a combinatorial challenge, because the space of pixels to perturb is discrete and of exponential size. A previous work relies on covering designs to identify sets for defining $L_\infty$ neighborhoods, which if proven robust imply that the $L_0$ $\epsilon$-ball is robust. However, the number of neighborhoods to verify remains very high, leading to a high analysis time. We propose covering verification designs, a combinatorial design that tailors effective but analysis-incompatible coverings to $L_0$ robustness verification. The challenge is that computing a covering verification design introduces a high time and memory overhead, which is intensified in our setting, where multiple candidate coverings are required to identify how to reduce the overall analysis time. We introduce CoVerD, an $L_0$ robustness verifier that selects between different candidate coverings without constructing them, but by predicting their block size distribution. This prediction relies on a theorem providing closed-form expressions for the mean and variance of this distribution. CoVerD constructs the chosen covering verification design on-the-fly, while keeping the memory consumption minimal and enabling to parallelize the analysis. The experimental results show that CoVerD reduces the verification time on average by up to 5.1x compared to prior work and that it scales to larger $L_0$ $\epsilon$-balls.
- Abstract（参考訳）: ニューラルネットワークの信頼性を高めるためには、局所的な堅牢性を証明することが不可欠である。
多くの検証者は$L_\infty$$\epsilon$-ballsでロバスト性を証明するが、$L_0$$\epsilon$-ballsでロバスト性を検証する作業はほとんど行わず、少数のピクセル攻撃に対してロバスト性を取得する。
この検証は、摂動に対するピクセルの空間が離散的で指数的な大きさであるため、組合せ的挑戦をもたらす。
以前の研究は、$L_\infty$近傍を定義するための集合を特定するために設計をカバーすることに依存しており、もし証明されたロバストであれば、$L_0$$\epsilon$-ballがロバストであることを暗示している。
しかし、検証対象の地区数は依然として非常に多く、分析時間も高い。
有効だが解析非互換な被覆を$L_0$ロバスト性検証に適合させる組合せ設計の検証設計を提案する。
問題となるのは、包括的検証設計の計算には高時間とメモリオーバーヘッドが伴うことだ。
提案するCoVerDは,ブロックサイズ分布を予測せずに,異なる候補被覆を選択する,$L_0$のロバスト性検証器である。
この予想は、この分布の平均と分散に対する閉形式表現を提供する定理に依存する。
CoVerDは、メモリ消費を最小限に抑え、分析を並列化しながら、選択したカバレッジ検証設計をオンザフライで構築する。
実験の結果、CoVerDは以前の作業と比べて平均5.1倍の検証時間を短縮し、より大きな$L_0$$\epsilon$-ballsにスケールすることがわかった。
関連論文リスト
- How to Verify Any (Reasonable) Distribution Property: Computationally Sound Argument Systems for Distributions [0.0]
本研究では,確率的検証器が解析結果がほぼ正しいことを確認するための証明システムについて検討する。
未知の分布が要求される特性を持っていることを検証する。
我々の主な貢献は、検証者と信頼できない証明者との間の対話的プロトコルであり、任意のプロパティを検証するのに使用できる。
論文 参考訳（メタデータ） (2024-09-10T15:37:23Z) - FABind: Fast and Accurate Protein-Ligand Binding [127.7790493202716]
$mathbfFABind$はポケット予測とドッキングを組み合わせたエンドツーエンドモデルで、正確で高速なタンパク質-リガンド結合を実現する。
提案モデルでは,既存手法と比較して有効性と効率性に強い利点が示される。
論文 参考訳（メタデータ） (2023-10-10T16:39:47Z) - ProtoBandit: Efficient Prototype Selection via Multi-Armed Bandits [9.333087475006003]
ProtoBanditは、ソースデータセットから情報的データインスタンスのコンパクトなセットを特定するための、マルチアームのBanditベースのフレームワークである。
提案アルゴリズムは,数桁の類似性計算コール数(100～1000倍)を削減し,最先端手法と同等の解を求める。
論文 参考訳（メタデータ） (2022-10-04T19:03:47Z) - Sharper Rates and Flexible Framework for Nonconvex SGD with Client and
Data Sampling [64.31011847952006]
我々は、平均$n$スムーズでおそらくは非カラー関数のほぼ定常点を求める問題を再考する。
我々は$smallsfcolorgreen$を一般化し、事実上あらゆるサンプリングメカニズムで確実に動作するようにします。
我々は、スムーズな非カラー状態における最適境界の最も一般的な、最も正確な解析を提供する。
論文 参考訳（メタデータ） (2022-06-05T21:32:33Z) - {\epsilon}-weakened Robustness of Deep Neural Networks [9.183179469739194]
本稿では,深層ニューラルネットワーク(DNN)の信頼性と安定性を解析するための,$varepsilon$-weakened robustnessの表記法を提案する。
我々は、$varepsilon$-weakened robustness decision problem is PP-complete and give a statistical decision algorithm with user-controllable error bound。
また、品質問題の解析にもその可能性を示します。
論文 参考訳（メタデータ） (2021-10-29T13:27:01Z) - Spatially relaxed inference on high-dimensional linear models [48.989769153211995]
本研究では,空間的に制約されたクラスタリング,統計的推論,アンサンブルを組み合わせ,複数のクラスタリング推論解を集約するアンサンブルクラスタリング推論アルゴリズムの特性について検討する。
アンサンブルクラスタ推論アルゴリズムは,最大クラスター径に等しい$delta$-FWERの標準仮定で$delta$-FWERを制御することを示す。
論文 参考訳（メタデータ） (2021-06-04T16:37:19Z) - The Sample Complexity of Robust Covariance Testing [56.98280399449707]
i. i. d.
形式 $Z = (1-epsilon) X + epsilon B$ の分布からのサンプル。ここで $X$ はゼロ平均で未知の共分散である Gaussian $mathcalN(0, Sigma)$ である。
汚染がない場合、事前の研究は、$O(d)$サンプルを使用するこの仮説テストタスクの単純なテスターを与えた。
サンプル複雑性の上限が $omega(d2)$ for $epsilon$ an arbitrarily small constant and $gamma であることを証明します。
論文 参考訳（メタデータ） (2020-12-31T18:24:41Z) - On $\ell_p$-norm Robustness of Ensemble Stumps and Trees [83.81523991945018]
我々は,アンサンブルスタンプの音響検証のための効率的なプログラムベースアルゴリズムを開発した。
我々は,アンサンブル・スタンプや木を訓練するための最初の認証された防御法を,$ell_p$ノルム摂動に関して実証した。
論文 参考訳（メタデータ） (2020-08-20T03:42:40Z) - From Information Theory Puzzles in Deletion Channels to Deniability in
Quantum Cryptography [0.0]
まず、実験データに基づいて、後部のエントロピーが定数列によって最小化されることを予想する。
次に,DC-QKEを提案するために,隠蔽通信とデニビリティの接続を確立する。
完全ホモモルフィック暗号をベースとした,効率的な耐保磁・量子セキュリティ投票方式を提案する。
論文 参考訳（メタデータ） (2020-03-25T22:20:47Z) - Black-Box Certification with Randomized Smoothing: A Functional
Optimization Based Framework [60.981406394238434]
本稿では,非ガウス雑音とより一般的な攻撃に対する対向的認証の一般的な枠組みを提案する。
提案手法は,従来の手法よりも優れた認証結果を得るとともに,ランダム化スムーズな認証の新たな視点を提供する。
論文 参考訳（メタデータ） (2020-02-21T07:52:47Z) - Minimax optimal goodness-of-fit testing for densities and multinomials
under a local differential privacy constraint [3.265773263570237]
適合性テストにおける局所的な差分プライバシー制約の影響を考察する。
本稿では,未知密度の滑らか度パラメータに適応し,対数係数まで最小限の最適値を維持するテストを提案する。
論文 参考訳（メタデータ） (2020-02-11T08:41:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。