論文の概要: Indicators of Attack Failure: Debugging and Improving Optimization of Adversarial Examples

• arxiv url: http://arxiv.org/abs/2106.09947v1
• Date: Fri, 18 Jun 2021 06:57:58 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-21 14:11:40.964339
• Title: Indicators of Attack Failure: Debugging and Improving Optimization of Adversarial Examples
• Title（参考訳）: 攻撃失敗の指標: 攻撃例のデバッグと最適化の改善
• Authors: Maura Pintor, Luca Demetrio, Angelo Sotgiu, Giovanni Manca, Ambra Demontis, Nicholas Carlini, Battista Biggio, Fabio Roli
• Abstract要約: 機械学習モデルの頑健さを敵の例に評価することは難しい問題である。 我々は、勾配に基づく攻撃の最適化において共通の障害を明らかにするための定量的指標のセットを定義する。 実験により,現在の対向ロバスト性評価を可視化し,デバッグし,改善するために,提案した障害指標が有効であることを示す。
• 参考スコア（独自算出の注目度）: 29.385242714424624
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Evaluating robustness of machine-learning models to adversarial examples is a challenging problem. Many defenses have been shown to provide a false sense of security by causing gradient-based attacks to fail, and they have been broken under more rigorous evaluations. Although guidelines and best practices have been suggested to improve current adversarial robustness evaluations, the lack of automatic testing and debugging tools makes it difficult to apply these recommendations in a systematic manner. In this work, we overcome these limitations by (i) defining a set of quantitative indicators which unveil common failures in the optimization of gradient-based attacks, and (ii) proposing specific mitigation strategies within a systematic evaluation protocol. Our extensive experimental analysis shows that the proposed indicators of failure can be used to visualize, debug and improve current adversarial robustness evaluations, providing a first concrete step towards automatizing and systematizing current adversarial robustness evaluations. Our open-source code is available at: https://github.com/pralab/IndicatorsOfAttackFailure.
• Abstract（参考訳）: 機械学習モデルの対向例に対するロバスト性の評価は難しい課題である。 多くの防御は、勾配に基づく攻撃を失敗させることによって誤ったセキュリティ感をもたらすことが示されており、より厳格な評価の下で破られた。 現在の敵対的ロバスト性評価を改善するためのガイドラインとベストプラクティスが提案されているが、自動テストとデバッグツールの欠如により、これらの推奨事項を体系的に適用することは困難である。 本研究では,(i)勾配に基づく攻撃の最適化における共通障害を明らかにする定量的指標のセットを定義し,(ii)系統的評価プロトコル内で特定の緩和戦略を提案することにより,これらの制限を克服する。 本研究では, 提案手法を用いて, 現在の対向ロバストネス評価の可視化, デバッグ, 改善を実現し, 対向ロバストネス評価の自動化と体系化に向けた第一歩となることを示す。 私たちのオープンソースコードは、https://github.com/pralab/IndicatorsOfAttackFailure.comで利用可能です。

関連論文リスト

• A practical approach to evaluating the adversarial distance for machine learning classifiers [2.2120851074630177]
  本稿では,反復的対角攻撃と認証手法を用いたより情報性の高い対角距離の推定について検討する。 我々は,我々の敵攻撃アプローチが関連する実装と比較して有効であるのに対して,認証手法は期待に届かなかった。
  論文  参考訳（メタデータ） (2024-09-05T14:57:01Z)
• A Survey and Evaluation of Adversarial Attacks for Object Detection [11.48212060875543]
  ディープラーニングモデルは、様々なコンピュータビジョンタスクにおいて優れているが、誤った予測につながる入力データの逆例-サブトル摂動の影響を受けやすい。 この脆弱性は、自動運転車、セキュリティ監視、航空機の健康監視など、安全に重要なアプリケーションに重大なリスクをもたらす。
  論文  参考訳（メタデータ） (2024-08-04T05:22:08Z)
• STBA: Towards Evaluating the Robustness of DNNs for Query-Limited Black-box Scenario [50.37501379058119]
  本研究では,クエリ制限シナリオにおいて,悪意のある逆の例を作成するために,空間変換ブラックボックス攻撃(STBA)を提案する。 そこで本研究では,STBAが対向例の認識不能性を効果的に改善し,クエリ制限条件下での攻撃成功率を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2024-03-30T13:28:53Z)
• Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
  本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。 このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。 本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
  論文  参考訳（メタデータ） (2024-02-07T21:58:40Z)
• Towards Evaluating Transfer-based Attacks Systematically, Practically, and Fairly [79.07074710460012]
  ディープニューラルネットワーク(DNN)の敵対的脆弱性に大きな注目を集めている。 ブラックボックスDNNモデルを騙すための転送ベース手法が増えている。 30以上のメソッドを実装した転送ベースアタックベンチマーク(TA-Bench)を確立する。
  論文  参考訳（メタデータ） (2023-11-02T15:35:58Z)
• From Adversarial Arms Race to Model-centric Evaluation: Motivating a Unified Automatic Robustness Evaluation Framework [91.94389491920309]
  テキストの敵対攻撃は、セマンティック保存されているが、入力に誤解を招く摂動を加えることでモデルの弱点を発見することができる。 既存のロバストネス評価の実践は、包括的評価、非現実的評価プロトコル、無効な対人サンプルの問題を示す可能性がある。 我々は、敵攻撃の利点を活用するために、モデル中心の評価にシフトする統合された自動ロバストネス評価フレームワークを構築した。
  論文  参考訳（メタデータ） (2023-05-29T14:55:20Z)
• MEAD: A Multi-Armed Approach for Evaluation of Adversarial Examples Detectors [24.296350262025552]
  いくつかの攻撃戦略に基づいて検知器を評価するための新しいフレームワークMEADを提案する。 そのうちの1つは、攻撃を起こすための3つの新しい目的である。 提案したパフォーマンス指標は最悪のシナリオに基づいている。
  論文  参考訳（メタデータ） (2022-06-30T17:05:45Z)
• Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
  モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-13T13:54:24Z)
• Balancing detectability and performance of attacks on the control channel of Markov Decision Processes [77.66954176188426]
  マルコフ決定過程(MDPs)の制御チャネルにおける最適ステルス毒素攻撃の設計問題について検討する。 この研究は、MDPに適用された敵国・毒殺攻撃や強化学習(RL)手法に対する研究コミュニティの最近の関心に動機づけられている。
  論文  参考訳（メタデータ） (2021-09-15T09:13:10Z)
• Unknown Presentation Attack Detection against Rational Attackers [6.351869353952288]
  プレゼンテーション攻撃検出とマルチメディア法医学は、まだ実生活環境での攻撃に対して脆弱である。 既存のソリューションの課題には、未知の攻撃の検出、敵の設定での実行能力、数発の学習、説明可能性などがある。 新たな最適化基準が提案され,実環境におけるこれらのシステムの性能向上のための要件が定義されている。
  論文  参考訳（メタデータ） (2020-10-04T14:37:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。