論文の概要: Simple and Efficient Hard Label Black-box Adversarial Attacks in Low Query Budget Regimes

• arxiv url: http://arxiv.org/abs/2007.07210v2
• Date: Fri, 11 Jun 2021 17:31:02 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-10 23:14:58.049825
• Title: Simple and Efficient Hard Label Black-box Adversarial Attacks in Low Query Budget Regimes
• Title（参考訳）: 低クエリ予算における単純で効率的なハードラベルブラックボックス攻撃
• Authors: Satya Narayan Shukla, Anit Kumar Sahu, Devin Willmott, J. Zico Kolter
• Abstract要約: そこで我々は,ブラックボックス攻撃の簡易かつ効率的なベイズ最適化(BO)に基づく手法を提案する。 高次元におけるBOの性能に関する問題は、構造化された低次元部分空間における逆例を探すことによって回避される。 提案手法は,10倍から20倍のクエリを必要としながら,攻撃成功率を2倍から10倍に向上させる。
• 参考スコア（独自算出の注目度）: 80.9350052404617
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We focus on the problem of black-box adversarial attacks, where the aim is to generate adversarial examples for deep learning models solely based on information limited to output label~(hard label) to a queried data input. We propose a simple and efficient Bayesian Optimization~(BO) based approach for developing black-box adversarial attacks. Issues with BO's performance in high dimensions are avoided by searching for adversarial examples in a structured low-dimensional subspace. We demonstrate the efficacy of our proposed attack method by evaluating both $\ell_\infty$ and $\ell_2$ norm constrained untargeted and targeted hard label black-box attacks on three standard datasets - MNIST, CIFAR-10 and ImageNet. Our proposed approach consistently achieves 2x to 10x higher attack success rate while requiring 10x to 20x fewer queries compared to the current state-of-the-art black-box adversarial attacks.
• Abstract（参考訳）: そこでは,入力されたデータに対して出力ラベル~(ハードラベル)に限定した情報のみに基づいて,深層学習モデルの逆例を生成することを目的とする。 そこで我々は,ブラックボックス攻撃の簡易かつ効率的なベイズ最適化手法を提案する。 高次元のboの性能に関する問題は、構造化低次元部分空間における逆の例を探すことによって回避される。 提案手法の有効性を,MNIST, CIFAR-10, ImageNetの3つの標準データセットに対して, 制約付き非ターゲット型およびターゲット型ハードラベルブラックボックス攻撃の評価により実証した。 提案手法は攻撃成功率の2倍から10倍を一貫して達成し,現在のブラックボックス攻撃に比べて10倍から20倍のクエリを要求できる。

関連論文リスト

• SemiAdv: Query-Efficient Black-Box Adversarial Attack with Unlabeled Images [37.26487823778185]
  敵の攻撃は、機密性の高いセキュリティシナリオにおけるロボットの安全な配置に深く影響するため、かなりの注目を集めている。 本稿では,ブラックボックス設定における敵攻撃について検討し,SemiAdvと呼ばれるラベルのないデータ駆動逆攻撃手法を提案する。
  論文  参考訳（メタデータ） (2024-07-13T01:28:32Z)
• Hard-label based Small Query Black-box Adversarial Attack [2.041108289731398]
  本稿では,事前訓練したサロゲートモデルによって誘導される最適化プロセスを用いて,ハードラベルに基づく攻撃の実用的設定を提案する。 提案手法は,ベンチマークの約5倍の攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2024-03-09T21:26:22Z)
• Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking Defenses with Provable Confidence [34.35162562625252]
  ブラックボックスの敵攻撃は、機械学習モデルを妥協する強力な可能性を示している。 証明可能な保証付きブラックボックス攻撃の新たなパラダイムについて検討する。 この新しいブラックボックス攻撃は、機械学習モデルの重大な脆弱性を露呈する。
  論文  参考訳（メタデータ） (2023-04-10T01:12:09Z)
• Towards Lightweight Black-Box Attacks against Deep Neural Networks [70.9865892636123]
  ブラックボックス攻撃は、いくつかのテストサンプルしか利用できない実用的な攻撃を引き起こす可能性があると我々は主張する。 いくつかのサンプルが必要なので、これらの攻撃を軽量なブラックボックス攻撃と呼ぶ。 近似誤差を軽減するために,Error TransFormer (ETF) を提案する。
  論文  参考訳（メタデータ） (2022-09-29T14:43:03Z)
• Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
  ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
  論文  参考訳（メタデータ） (2020-09-24T06:22:56Z)
• Sparse-RS: a versatile framework for query-efficient sparse black-box adversarial attacks [64.03012884804458]
  ブラックボックス設定におけるスパース攻撃および未標的攻撃に対するランダム探索に基づく多目的フレームワークであるSparse-RSを提案する。 Sparse-RSは代替モデルに依存しておらず、複数のスパース攻撃モデルに対して最先端の成功率とクエリ効率を達成する。
  論文  参考訳（メタデータ） (2020-06-23T08:50:37Z)
• RayS: A Ray Searching Method for Hard-label Adversarial Attack [99.72117609513589]
  我々は、レイサーチ攻撃(RayS)を提案し、これはハードラベル攻撃の有効性と効率を大幅に改善する。 モデルの正当性チェックとしても使用できる。
  論文  参考訳（メタデータ） (2020-06-23T07:01:50Z)
• Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
  Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。 ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。 本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-05-11T05:57:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。