論文の概要: BO-DBA: Query-Efficient Decision-Based Adversarial Attacks via Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2106.02732v1
• Date: Fri, 4 Jun 2021 21:46:37 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-08 17:37:52.052788
• Title: BO-DBA: Query-Efficient Decision-Based Adversarial Attacks via Bayesian Optimization
• Title（参考訳）: BO-DBA:ベイズ最適化によるクエリ効率の良い決定に基づく逆攻撃
• Authors: Zhuosheng Zhang, Shucheng Yu
• Abstract要約: 決定に基づく攻撃(DBA)パーターブは、出力ラベルのみを観察することによって、スプーフ学習アルゴリズムに入力する。 BO-DBAは、いわゆる摂動の遠近法を探索することで、敵の例を生成する。 その後、この問題をBO問題として定式化し、摂動の実際の値の歪みを最小化する。
• 参考スコア（独自算出の注目度）: 8.028900651913148
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Decision-based attacks (DBA), wherein attackers perturb inputs to spoof learning algorithms by observing solely the output labels, are a type of severe adversarial attacks against Deep Neural Networks (DNNs) requiring minimal knowledge of attackers. State-of-the-art DBA attacks relying on zeroth-order gradient estimation require an excessive number of queries. Recently, Bayesian optimization (BO) has shown promising in reducing the number of queries in score-based attacks (SBA), in which attackers need to observe real-valued probability scores as outputs. However, extending BO to the setting of DBA is nontrivial because in DBA only output labels instead of real-valued scores, as needed by BO, are available to attackers. In this paper, we close this gap by proposing an efficient DBA attack, namely BO-DBA. Different from existing approaches, BO-DBA generates adversarial examples by searching so-called \emph{directions of perturbations}. It then formulates the problem as a BO problem that minimizes the real-valued distortion of perturbations. With the optimized perturbation generation process, BO-DBA converges much faster than the state-of-the-art DBA techniques. Experimental results on pre-trained ImageNet classifiers show that BO-DBA converges within 200 queries while the state-of-the-art DBA techniques need over 15,000 queries to achieve the same level of perturbation distortion. BO-DBA also shows similar attack success rates even as compared to BO-based SBA attacks but with less distortion.
• Abstract（参考訳）: 意思決定に基づく攻撃(decision-based attack, dba)は、攻撃者が出力ラベルのみを観察してspoof学習アルゴリズムへの入力を摂動させる攻撃であり、攻撃者の最小限の知識を必要とするディープニューラルネットワーク(dnn)に対する厳しい敵対攻撃の一種である。 ゼロ階勾配推定に依存する最先端のDBA攻撃には、過剰なクエリ数が必要となる。 近年、ベイズ最適化 (BO) は、攻撃者が実際の確率スコアを出力として観測する必要があるスコアベース攻撃 (SBA) におけるクエリ数を減らすことを約束している。 しかし、BO を DBA の設定に拡張するのは簡単ではない。 本稿では,効率的なDBA攻撃,BO-DBAを提案することにより,このギャップを埋める。 既存のアプローチと異なり、BO-DBAは、いわゆる摂動のemph{directions of perturbations}を探索することによって、逆例を生成する。 その後、問題は摂動の実数値歪を最小化するbo問題として定式化される。 最適化された摂動生成プロセスでは、BO-DBAは最先端のDBA技術よりもはるかに早く収束する。 事前訓練されたイメージネット分類器の実験結果から,BO-DBAは200のクエリに収束するが,最先端のDBA技術では15,000以上のクエリを必要とする。 BO-DBAはBOベースのSBA攻撃と比較しても同様の攻撃成功率を示すが、歪みは少ない。

関連論文リスト

• ADBA:Approximation Decision Boundary Approach for Black-Box Adversarial Attacks [6.253823500300899]
  ブラックボックス攻撃はステルス性があり、機械学習モデルからハードラベルを使用して敵の例を生成する。 本稿では,近似決定境界(ADB)を用いて摂動方向を効率よく正確に比較する手法を提案する。 我々のADBアプローチ(ADBA)の有効性は、適切なADBを迅速に同定し、全ての摂動方向を確実に区別することにある。
  論文  参考訳（メタデータ） (2024-06-07T15:09:25Z)
• Advancing Generalized Transfer Attack with Initialization Derived Bilevel Optimization and Dynamic Sequence Truncation [49.480978190805125]
  転送攻撃はブラックボックスアプリケーションに大きな関心を惹きつける。 既存の作業は、本質的に単一のレベルの目的 w.r.t. シュロゲートモデルを直接最適化する。 本稿では,上位レベル(UL)と下位レベル(LL)のサロゲート攻撃とのネスト関係を明示的に再構築する2レベル最適化手法を提案する。
  論文  参考訳（メタデータ） (2024-06-04T07:45:27Z)
• Direct Diffusion Bridge using Data Consistency for Inverse Problems [65.04689839117692]
  拡散モデルに基づく逆問題解法は優れた性能を示したが、速度は制限されている。 いくつかの最近の研究は、拡散プロセスを構築し、クリーンで破損したものを直接ブリッジすることでこの問題を緩和しようと試みている。 微調整を必要とせずにデータの一貫性を強制する改良された推論手順を提案する。
  論文  参考訳（メタデータ） (2023-05-31T12:51:10Z)
• A Large-scale Multiple-objective Method for Black-box Attack against Object Detection [70.00150794625053]
  我々は、真正の確率を最小化し、偽正の確率を最大化し、より多くの偽正の物体が新しい真正の有界箱を作らないようにする。 我々は、GARSDCと呼ばれるランダム・サブセット選択とディバイド・アンド・コンカーによる標準的な遺伝的アルゴリズムを拡張し、効率を大幅に改善する。 最先端攻撃法と比較して、GARSDCはmAPでは平均12.0、広範囲な実験ではクエリでは約1000倍減少する。
  論文  参考訳（メタデータ） (2022-09-16T08:36:42Z)
• BOBA: Byzantine-Robust Federated Learning with Label Skewness [39.75185862573534]
  連合学習において、既存のロバストアグリゲーションルール(AGR)は、IID設定でビザンツ攻撃と戦う。 ラベルスキューネス(ラベルスキューネス)は、より現実的で挑戦的な非IID設定であり、各クライアントはいくつかのデータクラスにしかアクセスできない。 この設定では、最先端のAGRは選択バイアスに悩まされ、特定のクラスのパフォーマンスが大幅に低下する。 これらの制約に対処するために,BOBAという2段階の効率的な手法を提案する。
  論文  参考訳（メタデータ） (2022-08-27T05:54:43Z)
• Versatile Weight Attack via Flipping Limited Bits [68.45224286690932]
  本研究では,展開段階におけるモデルパラメータを変更する新たな攻撃パラダイムについて検討する。 有効性とステルスネスの目標を考慮し、ビットフリップに基づく重み攻撃を行うための一般的な定式化を提供する。 SSA(Single sample attack)とTSA(Singr sample attack)の2例を報告した。
  論文  参考訳（メタデータ） (2022-07-25T03:24:58Z)
• Adversarial Unlearning of Backdoors via Implicit Hypergradient [13.496838121707754]
  汚染されたモデルから少量のクリーンデータに基づいてバックドアを除去するミニマックスの定式化を提案する。 我々はImlicit Bacdoor Adversarial Unlearning (I-BAU)アルゴリズムを用いてミニマックスを解く。 I-BAUのパフォーマンスは最高のベースラインに匹敵するものであり、ほとんどの場合、最高のベースラインよりも優れています。
  論文  参考訳（メタデータ） (2021-10-07T18:32:54Z)
• An Improved BAT Algorithm for Solving Job Scheduling Problems in Hotels and Restaurants [12.641474799416772]
  Batアルゴリズム(BA)は、Swarmインテリジェンスファミリーのメタヒューリスティックアルゴリズムの一般的な例である。 本稿では,コンバージェンスを高速化し,大規模アプリケーションでより実用的な手法を実現するため,オリジナルのBAの改良を行った。 改造BAはホテルやレストランの実際のジョブスケジューリング問題を解決するために適用された。
  論文  参考訳（メタデータ） (2021-07-25T09:46:52Z)
• Targeted Attack against Deep Neural Networks via Flipping Limited Weight Bits [55.740716446995805]
  我々は,悪質な目的で展開段階におけるモデルパラメータを修飾する新しい攻撃パラダイムについて検討する。 私たちのゴールは、特定のサンプルをサンプル修正なしでターゲットクラスに誤分類することです。 整数プログラミングにおける最新の手法を利用することで、このBIP問題を連続最適化問題として等価に再構成する。
  論文  参考訳（メタデータ） (2021-02-21T03:13:27Z)
• Composite Adversarial Attacks [57.293211764569996]
  敵対攻撃は、機械学習(ML)モデルを欺くための技術です。 本論文では,攻撃アルゴリズムの最適組み合わせを自動的に探索するための複合攻撃法(Composite Adrial Attack,CAA)を提案する。 CAAは11の防衛でトップ10の攻撃を破り、時間の経過は少ない。
  論文  参考訳（メタデータ） (2020-12-10T03:21:16Z)
• QEBA: Query-Efficient Boundary-Based Blackbox Attack [27.740081902519517]
  モデルの最終予測ラベルのみに基づいて,クエリ効率の良い境界ベースのブラックボックスアタック(QEBA)を提案する。 現状のブラックボックス攻撃と比較して、QEBAは、100%攻撃成功率の低い摂動量を達成するために、より少ないクエリを使用できることを示す。
  論文  参考訳（メタデータ） (2020-05-28T16:41:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。