論文の概要: BlackboxBench: A Comprehensive Benchmark of Black-box Adversarial Attacks

• arxiv url: http://arxiv.org/abs/2312.16979v1
• Date: Thu, 28 Dec 2023 11:46:50 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-18 11:18:35.374679
• Title: BlackboxBench: A Comprehensive Benchmark of Black-box Adversarial Attacks
• Title（参考訳）: BlackboxBench: ブラックボックスの敵攻撃の総合ベンチマーク
• Authors: Meixi Zheng, Xuanchen Yan, Zihao Zhu, Hongrui Chen, Baoyuan Wu,
• Abstract要約: 適応的な例は、ディープニューラルネットワーク(DNN)の脆弱性を評価するためのよく知られたツールである。 モデルパラメータとアーキテクチャが攻撃者/評価者、すなわちブラックボックスの敵攻撃にはアクセスできないという現実的なシナリオでは依然として困難である。 本研究は,ブラックボックスベンチと呼ばれるブラックボックス攻撃の総合的ベンチマークを構築することを目的としている。
• 参考スコア（独自算出の注目度）: 34.211955813385636
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial examples are well-known tools to evaluate the vulnerability of deep neural networks (DNNs). Although lots of adversarial attack algorithms have been developed, it is still challenging in the practical scenario that the model's parameters and architectures are inaccessible to the attacker/evaluator, i.e., black-box adversarial attacks. Due to the practical importance, there has been rapid progress from recent algorithms, reflected by the quick increase in attack success rate and the quick decrease in query numbers to the target model. However, there is a lack of thorough evaluations and comparisons among these algorithms, causing difficulties of tracking the real progress, analyzing advantages and disadvantages of different technical routes, as well as designing future development roadmap of this field. Thus, in this work, we aim at building a comprehensive benchmark of black-box adversarial attacks, called BlackboxBench. It mainly provides: 1) a unified, extensible and modular-based codebase, implementing 25 query-based attack algorithms and 30 transfer-based attack algorithms; 2) comprehensive evaluations: we evaluate the implemented algorithms against several mainstreaming model architectures on 2 widely used datasets (CIFAR-10 and a subset of ImageNet), leading to 14,106 evaluations in total; 3) thorough analysis and new insights, as well analytical tools. The website and source codes of BlackboxBench are available at https://blackboxbench.github.io/ and https://github.com/SCLBD/BlackboxBench/, respectively.
• Abstract（参考訳）: 敵対的な例は、ディープニューラルネットワーク(DNN)の脆弱性を評価するためのよく知られたツールである。 多くの敵攻撃アルゴリズムが開発されているが、モデルパラメータとアーキテクチャが攻撃者/評価者、すなわちブラックボックスの敵攻撃にはアクセスできないという現実的なシナリオでは依然として困難である。 現実的な重要性から,攻撃成功率の急激な増加と,ターゲットモデルに対するクエリ数の急激な減少を反映した,最近のアルゴリズムの急速な進歩があった。 しかし、これらのアルゴリズムには徹底的な評価と比較が欠如しており、実際の進歩の追跡、異なる技術経路の利点と欠点の分析、およびこの分野の将来的な開発ロードマップの設計が困難になっている。 そこで本研究では,ブラックボックスベンチと呼ばれるブラックボックス攻撃の包括的ベンチマークを構築することを目的としている。 主な内容は以下の通り。 1)25のクエリベースのアタックアルゴリズムと30の転送ベースのアタックアルゴリズムを実装した,統一的で拡張可能なモジュールベースのコードベース。 2つの広く使われているデータセット(CIFAR-10とImageNetのサブセット)上で、いくつかの主流モデルアーキテクチャに対して実装されたアルゴリズムを評価し、合計14,106個の評価結果を得た。 3) 徹底的な分析と新たな洞察、および分析ツール。 BlackboxBenchのWebサイトとソースコードはそれぞれhttps://blackboxbench.github.io/とhttps://github.com/SCLBD/BlackboxBench/で入手できる。

関連論文リスト

• BruSLeAttack: A Query-Efficient Score-Based Black-Box Sparse Adversarial Attack [22.408968332454062]
  モデルクエリに対するスコアベースの応答を単純に観察することで、スパース対逆サンプルを生成するという、独特であまりよく理解されていない問題について検討する。 この問題に対するBruSLeAttackアルゴリズムを開発した。 私たちの作業は、モデル脆弱性の迅速な評価を促進し、デプロイされたシステムの安全性、セキュリティ、信頼性に対する警戒を高めます。
  論文  参考訳（メタデータ） (2024-04-08T08:59:26Z)
• BackdoorBench: A Comprehensive Benchmark of Backdoor Learning [57.932398227755044]
  バックドア学習は、ディープニューラルネットワーク(DNN)の脆弱性を研究する上で、新しく重要なトピックである 多くの先駆的なバックドア攻撃と防衛手法が、素早い武器競争の状況において、連続的または同時に提案されている。 BackdoorBenchというバックドア学習の総合的なベンチマークを構築しています。
  論文  参考訳（メタデータ） (2022-06-25T13:48:04Z)
• Adversarial Attacks on Gaussian Process Bandits [47.84198626686564]
  本研究では,攻撃者の強さや事前情報に異なる仮定で様々な敵攻撃手法を提案する。 我々の目標は,GPバンディットに対する敵攻撃を理論的・実践的両面から理解することである。 GP帯域に対する敵攻撃は,攻撃予算が低い場合でも,$mathcalR_rmターゲットに対してアルゴリズムを強制的に強制することに成功した。
  論文  参考訳（メタデータ） (2021-10-16T02:39:10Z)
• Attack Agnostic Adversarial Defense via Visual Imperceptible Bound [70.72413095698961]
  本研究の目的は、目視攻撃と目視攻撃の両方に対して一定の範囲内で堅牢な防衛モデルを設計することである。 提案するディフェンスモデルは,MNIST,CIFAR-10,Tiny ImageNetデータベース上で評価される。 提案アルゴリズムは攻撃非依存であり,攻撃アルゴリズムの知識を必要としない。
  論文  参考訳（メタデータ） (2020-10-25T23:14:26Z)
• MixNet for Generalized Face Presentation Attack Detection [63.35297510471997]
  我々は、プレゼンテーションアタックを検出するための、TextitMixNetと呼ばれるディープラーニングベースのネットワークを提案している。 提案アルゴリズムは最先端の畳み込みニューラルネットワークアーキテクチャを利用して,各攻撃カテゴリの特徴マッピングを学習する。
  論文  参考訳（メタデータ） (2020-10-25T23:01:13Z)
• Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
  ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
  論文  参考訳（メタデータ） (2020-09-24T06:22:56Z)
• Simple and Efficient Hard Label Black-box Adversarial Attacks in Low Query Budget Regimes [80.9350052404617]
  そこで我々は,ブラックボックス攻撃の簡易かつ効率的なベイズ最適化(BO)に基づく手法を提案する。 高次元におけるBOの性能に関する問題は、構造化された低次元部分空間における逆例を探すことによって回避される。 提案手法は,10倍から20倍のクエリを必要としながら,攻撃成功率を2倍から10倍に向上させる。
  論文  参考訳（メタデータ） (2020-07-13T04:34:57Z)
• QEBA: Query-Efficient Boundary-Based Blackbox Attack [27.740081902519517]
  モデルの最終予測ラベルのみに基づいて,クエリ効率の良い境界ベースのブラックボックスアタック(QEBA)を提案する。 現状のブラックボックス攻撃と比較して、QEBAは、100%攻撃成功率の低い摂動量を達成するために、より少ないクエリを使用できることを示す。
  論文  参考訳（メタデータ） (2020-05-28T16:41:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。