論文の概要: Progressive-Scale Boundary Blackbox Attack via Projective Gradient
Estimation
- arxiv url: http://arxiv.org/abs/2106.06056v1
- Date: Thu, 10 Jun 2021 21:13:41 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-14 14:22:32.162960
- Title: Progressive-Scale Boundary Blackbox Attack via Projective Gradient
Estimation
- Title（参考訳）: 投影勾配推定によるプログレッシブスケール境界ブラックボックス攻撃
- Authors: Jiawei Zhang and Linyi Li and Huichen Li and Xiaolu Zhang and Shuang
Yang and Bo Li
- Abstract要約: 境界ベースのブラックボックス攻撃は、攻撃者が最終的なモデル予測にのみアクセスする必要があるため、実用的で効果的であると認識されている。
このような効率性は、攻撃が適用される規模に大きく依存し、最適なスケールでの攻撃は効率を著しく向上させることを示す。
本稿では,プログレッシブスケール対応型プログレッシブ・スケール・プロジェクティブ・バウンダリ・アタック(PSBA)を提案する。
- 参考スコア（独自算出の注目度）: 26.16745376395128
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Boundary based blackbox attack has been recognized as practical and
effective, given that an attacker only needs to access the final model
prediction. However, the query efficiency of it is in general high especially
for high dimensional image data. In this paper, we show that such efficiency
highly depends on the scale at which the attack is applied, and attacking at
the optimal scale significantly improves the efficiency. In particular, we
propose a theoretical framework to analyze and show three key characteristics
to improve the query efficiency. We prove that there exists an optimal scale
for projective gradient estimation. Our framework also explains the
satisfactory performance achieved by existing boundary black-box attacks. Based
on our theoretical framework, we propose Progressive-Scale enabled projective
Boundary Attack (PSBA) to improve the query efficiency via progressive scaling
techniques. In particular, we employ Progressive-GAN to optimize the scale of
projections, which we call PSBA-PGAN. We evaluate our approach on both spatial
and frequency scales. Extensive experiments on MNIST, CIFAR-10, CelebA, and
ImageNet against different models including a real-world face recognition API
show that PSBA-PGAN significantly outperforms existing baseline attacks in
terms of query efficiency and attack success rate. We also observe relatively
stable optimal scales for different models and datasets. The code is publicly
available at https://github.com/AI-secure/PSBA.
- Abstract（参考訳）: 境界ベースのブラックボックス攻撃は、攻撃者が最終的なモデル予測にのみアクセスする必要があるため、実用的で効果的であると認識されている。
しかし、そのクエリ効率は一般に高次元画像データに対して高い。
本稿では,このような効率は,攻撃が適用されたスケールに大きく依存し,最適なスケールでのアタックが効率を大幅に改善することを示す。
特に,クエリ効率を向上させるための3つの重要な特徴を分析し,示す理論的枠組みを提案する。
射影勾配推定には最適スケールが存在することを示す。
我々のフレームワークは、既存のバウンダリブラックボックス攻撃によって達成された満足のいくパフォーマンスも説明します。
本稿では,本理論の枠組みに基づき,プログレッシブスケール可能な射影境界攻撃(psba)を提案し,プログレッシブスケーリング手法によるクエリ効率を向上させる。
特に,PSBA-PGANと呼ばれるプログレッシブGANを用いて投影の規模を最適化する。
空間的および周波数的尺度におけるアプローチの評価を行った。
MNIST、CIFAR-10、CelebA、ImageNetの様々なモデルに対する大規模な実験により、PSBA-PGANはクエリ効率とアタック成功率で既存のベースラインアタックを著しく上回っていることが示された。
また,異なるモデルやデータセットに対して比較的安定な最適スケールを観測する。
コードはhttps://github.com/AI-Secure/PSBAで公開されている。
関連論文リスト
- Efficient Black-box Adversarial Attacks via Bayesian Optimization Guided by a Function Prior [36.101904669291436]
本稿では,入力クエリの出力フィードバックのみを用いて,ブラックボックスモデルに対するサンプル生成を目的としたブラックボックス逆攻撃について検討する。
ブラックボックス攻撃前の大域関数として代理モデルを利用する事前誘導ベイズ最適化(P-BO)アルゴリズムを提案する。
後悔境界に関する理論的解析は、P-BOの性能が悪影響を受けていることを示唆している。
論文 参考訳（メタデータ） (2024-05-29T14:05:16Z) - Efficient adjustment for complex covariates: Gaining efficiency with
DOPE [56.537164957672715]
共変量によって表現される情報のサブセットを調整可能なフレームワークを提案する。
理論的な結果に基づいて,平均処理効果(ATE)の効率的な評価を目的とした,デバイアスドアウトカム適応確率推定器(DOPE)を提案する。
その結果,DOPE は様々な観測環境において ATE 推定のための効率的かつ堅牢な手法を提供することがわかった。
論文 参考訳（メタデータ） (2024-02-20T13:02:51Z) - Learn from the Past: A Proxy Guided Adversarial Defense Framework with
Self Distillation Regularization [53.04697800214848]
敵対的訓練(AT)は、ディープラーニングモデルの堅牢性を固める上で重要な要素である。
AT方式は、目標モデルの防御のために直接反復的な更新を頼りにしており、不安定な訓練や破滅的なオーバーフィッティングといった障害に頻繁に遭遇する。
汎用プロキシガイド型防衛フレームワークLAST(bf Pbf astから学ぶ)を提案する。
論文 参考訳（メタデータ） (2023-10-19T13:13:41Z) - CosPGD: an efficient white-box adversarial attack for pixel-wise prediction tasks [16.10247754923311]
初等射影勾配降下(PGD)のような敵攻撃は、モデルの堅牢性を評価する効果的な手段を提供する。
攻撃の全体的な効率を向上しながら、画像領域全体に対するよりバランスのとれたエラーを促す攻撃であるCosPGDを提案する。
論文 参考訳（メタデータ） (2023-02-04T17:59:30Z) - Attackar: Attack of the Evolutionary Adversary [0.0]
本稿では、進化的、スコアベース、ブラックボックス攻撃であるtextitAttackarを紹介する。
アタッカーは、勾配のない最適化問題に使用できる新しい目的関数に基づいている。
以上の結果から,精度とクエリ効率の両面で,Attackarの優れた性能を示す。
論文 参考訳（メタデータ） (2022-08-17T13:57:23Z) - How to Robustify Black-Box ML Models? A Zeroth-Order Optimization
Perspective [74.47093382436823]
入力クエリと出力フィードバックだけでブラックボックスモデルを堅牢化する方法?
我々は,ブラックボックスモデルに適用可能な防御操作の一般的な概念を提案し,それを復号化スムーシング(DS)のレンズを通して設計する。
我々は,ZO-AE-DSが既存のベースラインよりも精度,堅牢性,クエリの複雑さを向上できることを実証的に示す。
論文 参考訳（メタデータ） (2022-03-27T03:23:32Z) - Efficient Few-Shot Object Detection via Knowledge Inheritance [62.36414544915032]
Few-shot Object Detection (FSOD) は、未確認のタスクに少ないトレーニングサンプルで適応できるジェネリック検出器を学習することを目的としている。
計算量の増加を伴わない効率的なプレトレイン・トランスファー・フレームワーク(PTF)のベースラインを提案する。
また,予測された新しいウェイトと事前訓練されたベースウェイトとのベクトル長の不整合を軽減するために,適応長再スケーリング(ALR)戦略を提案する。
論文 参考訳（メタデータ） (2022-03-23T06:24:31Z) - Dynamic Iterative Refinement for Efficient 3D Hand Pose Estimation [87.54604263202941]
本稿では,従来の推定値の修正に部分的レイヤを反復的に活用する,小さなディープニューラルネットワークを提案する。
学習したゲーティング基準を用いて、ウェイトシェアリングループから抜け出すかどうかを判断し、モデルにサンプルごとの適応を可能にする。
提案手法は,広く使用されているベンチマークの精度と効率の両面から,最先端の2D/3Dハンドポーズ推定手法より一貫して優れている。
論文 参考訳（メタデータ） (2021-11-11T23:31:34Z) - Nonlinear Projection Based Gradient Estimation for Query Efficient
Blackbox Attacks [21.718029193267526]
勾配推定とベクトル空間投影とのギャップを橋渡し, 投影された低次元空間に基づいて勾配を効率的に推定する方法を検討する。
理論解析に基づいて,新しいクエリ効率のグラディエントプロジェクションに基づく境界ブラックボックス攻撃を提案する。
予測に基づく境界ブラックボックス攻撃は、効率的なクエリに基づいて100%攻撃成功率で、はるかに小さな摂動を実現できることを示す。
論文 参考訳（メタデータ） (2021-02-25T21:32:19Z) - QEBA: Query-Efficient Boundary-Based Blackbox Attack [27.740081902519517]
モデルの最終予測ラベルのみに基づいて,クエリ効率の良い境界ベースのブラックボックスアタック(QEBA)を提案する。
現状のブラックボックス攻撃と比較して、QEBAは、100%攻撃成功率の低い摂動量を達成するために、より少ないクエリを使用できることを示す。
論文 参考訳（メタデータ） (2020-05-28T16:41:12Z) - Projection & Probability-Driven Black-Box Attack [205.9923346080908]
既存のブラックボックス攻撃は、高次元空間における過剰なクエリを必要とする。
本稿では,この問題を解決するために,プロジェクション&確率駆動型ブラックボックス攻撃(PPBA)を提案する。
我々の手法は、最先端の手法に比べて攻撃成功率の高いクエリを少なくとも24%削減する必要がある。
論文 参考訳（メタデータ） (2020-05-08T03:37:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。