論文の概要: GeoDA: a geometric framework for black-box adversarial attacks
- arxiv url: http://arxiv.org/abs/2003.06468v1
- Date: Fri, 13 Mar 2020 20:03:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-24 01:41:13.997607
- Title: GeoDA: a geometric framework for black-box adversarial attacks
- Title（参考訳）: GeoDA: ブラックボックス攻撃のための幾何学的枠組み
- Authors: Ali Rahmati, Seyed-Mohsen Moosavi-Dezfooli, Pascal Frossard, and
Huaiyu Dai
- Abstract要約: 我々は,最も困難なブラックボックス設定の1つにおいて,逆例を生成するためのフレームワークを提案する。
我々のフレームワークは、ディープネットワークの決定境界は通常、データサンプルの近傍で小さな平均曲率を持つという観察に基づいている。
- 参考スコア（独自算出の注目度）: 79.52980486689287
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Adversarial examples are known as carefully perturbed images fooling image
classifiers. We propose a geometric framework to generate adversarial examples
in one of the most challenging black-box settings where the adversary can only
generate a small number of queries, each of them returning the top-$1$ label of
the classifier. Our framework is based on the observation that the decision
boundary of deep networks usually has a small mean curvature in the vicinity of
data samples. We propose an effective iterative algorithm to generate
query-efficient black-box perturbations with small $\ell_p$ norms for $p \ge
1$, which is confirmed via experimental evaluations on state-of-the-art natural
image classifiers. Moreover, for $p=2$, we theoretically show that our
algorithm actually converges to the minimal $\ell_2$-perturbation when the
curvature of the decision boundary is bounded. We also obtain the optimal
distribution of the queries over the iterations of the algorithm. Finally,
experimental results confirm that our principled black-box attack algorithm
performs better than state-of-the-art algorithms as it generates smaller
perturbations with a reduced number of queries.
- Abstract（参考訳）: 敵対的な例は、画像分類器を騙す慎重な摂動画像として知られている。
我々は,最も困難なブラックボックス設定の1つにおいて,敵が少数のクエリしか生成できず,それぞれが分類器の最上位の$$$ラベルを返すような,敵のサンプルを生成する幾何学的フレームワークを提案する。
我々の枠組みは、深層ネットワークの決定境界が通常、データサンプルの近傍に小さい平均曲率を持つという観測に基づいている。
本稿では,検索効率のよいブラックボックス摂動を$p \ge 1$の$$\ell_p$ノルムで生成する効率的な反復アルゴリズムを提案する。
さらに、p=2$の場合、理論上、決定境界の曲率が有界であるとき、このアルゴリズムが実際に最小の$\ell_2$-摂動に収束することを示す。
また,アルゴリズムの反復によるクエリの最適分布を求める。
最後に, 実験結果から, 提案するブラックボックス攻撃アルゴリズムは, クエリの少ない小さな摂動を生成するため, 最先端のアルゴリズムよりも性能がよいことを確認した。
関連論文リスト
- Differentially-Private Hierarchical Clustering with Provable
Approximation Guarantees [79.59010418610625]
階層クラスタリングのための微分プライベート近似アルゴリズムについて検討する。
例えば、$epsilon$-DPアルゴリズムは入力データセットに対して$O(|V|2/epsilon)$-additiveエラーを示さなければならない。
本稿では,ブロックを正確に復元する1+o(1)$近似アルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-01-31T19:14:30Z) - Best Policy Identification in Linear MDPs [70.57916977441262]
縮退した線形マルコフ+デルタ決定における最適同定問題について, 生成モデルに基づく固定信頼度設定における検討を行った。
複雑な非最適化プログラムの解としての下位境界は、そのようなアルゴリズムを考案する出発点として用いられる。
論文 参考訳（メタデータ） (2022-08-11T04:12:50Z) - IWA: Integrated Gradient based White-box Attacks for Fooling Deep Neural
Networks [4.739554342067529]
Adversarial White-box Adversarial Example Generation Algorithm (IWA): IFPAとIUA。
本稿では,2つの勾配に基づくWhite-box Adversarial Example Generationアルゴリズム(IWA:IFPAとIUA)を提案する。
我々は,提案アルゴリズムの有効性を構造化データセットと非構造化データセットの両方で検証し,それらを5つのベースライン生成アルゴリズムと比較した。
論文 参考訳（メタデータ） (2021-02-03T16:10:42Z) - Byzantine-Resilient Non-Convex Stochastic Gradient Descent [61.6382287971982]
敵対的レジリエントな分散最適化。
機械は独立して勾配を計算し 協力することができます
私達のアルゴリズムは新しい集中の技術およびサンプル複雑性に基づいています。
それは非常に実用的です:それはないときすべての前の方法の性能を改善します。
セッティングマシンがあります。
論文 参考訳（メタデータ） (2020-12-28T17:19:32Z) - An Empirical Study of Derivative-Free-Optimization Algorithms for
Targeted Black-Box Attacks in Deep Neural Networks [8.368543987898732]
本稿では,BOBYQAに基づく新しいアルゴリズムの導入とともに,既存のDFOベースの4つのアルゴリズムについて考察する。
我々は、これらのアルゴリズムを様々な設定で比較し、それらを誤分類した画像の数に応じて比較する。
実験では、敵の例を見つける確率が、使用されるアルゴリズムと攻撃の設定の両方に依存するかを明らかにする。
論文 参考訳（メタデータ） (2020-12-03T13:32:20Z) - Adversarial Examples for $k$-Nearest Neighbor Classifiers Based on
Higher-Order Voronoi Diagrams [69.4411417775822]
逆例は機械学習モデルにおいて広く研究されている現象である。
そこで本研究では,$k$-nearest 近傍分類の逆ロバスト性を評価するアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-11-19T08:49:10Z) - An Empirical Process Approach to the Union Bound: Practical Algorithms
for Combinatorial and Linear Bandits [34.06611065493047]
本稿では、信頼度と予算設定の固定化において、純探索線形帯域問題に対する近似アルゴリズムを提案する。
サンプルの複雑性がインスタンスの幾何でスケールし、アームの数に縛られた明示的な結合を避けるアルゴリズムを提供する。
また,固定予算設定における線形帯域幅に対する最初のアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-06-21T00:56:33Z) - Computationally efficient sparse clustering [67.95910835079825]
我々はPCAに基づく新しいクラスタリングアルゴリズムの有限サンプル解析を行う。
ここでは,ミニマックス最適誤クラスタ化率を,体制$|theta infty$で達成することを示す。
論文 参考訳（メタデータ） (2020-05-21T17:51:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。