論文の概要: RobustBlack: Challenging Black-Box Adversarial Attacks on State-of-the-Art Defenses

• arxiv url: http://arxiv.org/abs/2412.20987v1
• Date: Mon, 30 Dec 2024 14:54:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-31 16:05:02.228004
• Title: RobustBlack: Challenging Black-Box Adversarial Attacks on State-of-the-Art Defenses
• Title（参考訳）: RobustBlack: 最先端の防衛システムに対するブラックボックスの敵対的攻撃に対処
• Authors: Mohamed Djilani, Salah Ghamizi, Maxime Cordy,
• Abstract要約: トップパフォーマンスと標準防御機構の両方に対するブラックボックス攻撃の有効性を評価する。 我々は、最も先進的なブラックボックス攻撃が、単純な敵に訓練されたモデルに対してさえ成功に苦しむことを発見した。 代理モデルとターゲットモデルの間のロバスト性アライメントは、転送ベースの攻撃の成功率において重要な要素である。
• 参考スコア（独自算出の注目度）: 11.330791494893901
• License:
• Abstract: Although adversarial robustness has been extensively studied in white-box settings, recent advances in black-box attacks (including transfer- and query-based approaches) are primarily benchmarked against weak defenses, leaving a significant gap in the evaluation of their effectiveness against more recent and moderate robust models (e.g., those featured in the Robustbench leaderboard). In this paper, we question this lack of attention from black-box attacks to robust models. We establish a framework to evaluate the effectiveness of recent black-box attacks against both top-performing and standard defense mechanisms, on the ImageNet dataset. Our empirical evaluation reveals the following key findings: (1) the most advanced black-box attacks struggle to succeed even against simple adversarially trained models; (2) robust models that are optimized to withstand strong white-box attacks, such as AutoAttack, also exhibits enhanced resilience against black-box attacks; and (3) robustness alignment between the surrogate models and the target model plays a key factor in the success rate of transfer-based attacks
• Abstract（参考訳）: 敵のロバスト性はホワイトボックス設定で広く研究されているが、ブラックボックス攻撃(転送およびクエリベースのアプローチを含む)の最近の進歩は、主に弱い防御に対してベンチマークされ、より最近のロバストベンチのリーダーボードに見られるような、より中程度のロバストなモデルに対するそれらの有効性の評価に大きなギャップが残されている。 本稿では,ブラックボックス攻撃からロバストモデルへの注意の欠如について論じる。 我々は,ImageNetデータセット上で,トップパフォーマンスと標準防御機構の両方に対する最近のブラックボックス攻撃の有効性を評価する枠組みを確立した。 実験による評価では,(1) 最上級のブラックボックス攻撃は,単純な逆行訓練モデルに対しても成功し難いこと,(2) オートアタックのような強力なホワイトボックス攻撃に耐えられるように最適化されたロバストモデルもまた,ブラックボックス攻撃に対する強化されたレジリエンスを示すこと,(3) サロゲートモデルとターゲットモデルとのロバスト性アライメントが,転送ベース攻撃の成功率に重要な要因となっていること,などが示されている。

関連論文リスト

• A Random Ensemble of Encrypted Vision Transformers for Adversarially Robust Defense [6.476298483207895]
  ディープニューラルネットワーク(DNN)は、敵の例(AE)に弱いことがよく知られている。 ホワイトボックス攻撃とブラックボックス攻撃の双方に対してロバスト性を高めるために,暗号化されたモデルのランダムアンサンブルである視覚変換器(ViT)を用いた新しい手法を提案する。 実験では, 画像分類作業において, ホワイトボックス攻撃だけでなくブラックボックス攻撃に対しても頑健であることが実証された。
  論文  参考訳（メタデータ） (2024-02-11T12:35:28Z)
• Understanding the Robustness of Randomized Feature Defense Against Query-Based Adversarial Attacks [23.010308600769545]
  ディープニューラルネットワークは、元の画像に近いサンプルを見つける敵の例に弱いが、モデルを誤分類させる可能性がある。 モデル中間層における隠れた特徴にランダムノイズを付加することにより,ブラックボックス攻撃に対する簡易かつ軽量な防御法を提案する。 本手法は,スコアベースと決定ベースの両方のブラックボックス攻撃に対するモデルのレジリエンスを効果的に向上させる。
  論文  参考訳（メタデータ） (2023-10-01T03:53:23Z)
• Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking Defenses with Provable Confidence [34.35162562625252]
  ブラックボックスの敵攻撃は、機械学習モデルを妥協する強力な可能性を示している。 証明可能な保証付きブラックボックス攻撃の新たなパラダイムについて検討する。 この新しいブラックボックス攻撃は、機械学習モデルの重大な脆弱性を露呈する。
  論文  参考訳（メタデータ） (2023-04-10T01:12:09Z)
• Stateful Defenses for Machine Learning Models Are Not Yet Secure Against Black-box Attacks [28.93464970650329]
  我々は、ステートフルディフェンスモデル(SDM)が、新しいタイプの適応ブラックボックス攻撃に対して非常に脆弱であることを示す。 我々はOracle-Guided Adaptive Rejection Smpling (OARS)と呼ばれる新しい適応ブラックボックス攻撃戦略を提案する。 本研究では,6つの共通ブラックボックス攻撃を強化する戦略を,現行のSDMに対して効果的に適用する方法を示す。
  論文  参考訳（メタデータ） (2023-03-11T02:10:21Z)
• MultiRobustBench: Benchmarking Robustness Against Multiple Attacks [86.70417016955459]
  機械学習(ML)モデルに対するマルチアタックを検討するための,最初の統一フレームワークを提案する。 我々のフレームワークは、テストタイムの敵について異なるレベルの学習者の知識をモデル化することができる。 9種類の攻撃に対して16種類の防御モデルの有効性を評価した。
  論文  参考訳（メタデータ） (2023-02-21T20:26:39Z)
• Saliency Attack: Towards Imperceptible Black-box Adversarial Attack [35.897117965803666]
  そこで本稿では, ほとんど認識できない敵の例を生成するために, 摂動を小さな正弦領域に限定することを提案する。 我々はまた、より優れた非受容性を達成するために、サリアント地域の摂動を改善すべく、新しいブラックボックス攻撃であるサリアンシーアタックを提案する。
  論文  参考訳（メタデータ） (2022-06-04T03:56:07Z)
• Cross-Modal Transferable Adversarial Attacks from Images to Videos [82.0745476838865]
  近年の研究では、一方のホワイトボックスモデルで手作りされた敵の例は、他のブラックボックスモデルを攻撃するために使用できることが示されている。 本稿では,イメージ・トゥ・ビデオ(I2V)攻撃と呼ばれる,シンプルだが効果的なクロスモーダル・アタック手法を提案する。 I2Vは、事前訓練された画像モデルの特徴と良質な例とのコサイン類似性を最小化して、対向フレームを生成する。
  論文  参考訳（メタデータ） (2021-12-10T08:19:03Z)
• Adversarial training may be a double-edged sword [50.09831237090801]
  深層ネットワークの決定境界における敵対的トレーニングの幾らかの幾何学的結果が、ある種のブラックボックス攻撃のエッジとなることを示す。 特に、敵の訓練がホワイトボックスシナリオのロバスト性を大幅に改善する効果的な方法であることを示すために、ロバストネスゲインと呼ばれる指標を定義するが、より現実的な意思決定ベースのブラックボックス攻撃に対して、そのようなロバストネスゲインを提供することはできない。
  論文  参考訳（メタデータ） (2021-07-24T19:09:16Z)
• Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
  ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
  論文  参考訳（メタデータ） (2020-09-24T06:22:56Z)
• Simple and Efficient Hard Label Black-box Adversarial Attacks in Low Query Budget Regimes [80.9350052404617]
  そこで我々は,ブラックボックス攻撃の簡易かつ効率的なベイズ最適化(BO)に基づく手法を提案する。 高次元におけるBOの性能に関する問題は、構造化された低次元部分空間における逆例を探すことによって回避される。 提案手法は,10倍から20倍のクエリを必要としながら,攻撃成功率を2倍から10倍に向上させる。
  論文  参考訳（メタデータ） (2020-07-13T04:34:57Z)
• Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
  Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。 ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。 本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-05-11T05:57:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。