論文の概要: Evaluating the Adversarial Robustness of Adaptive Test-time Defenses

• arxiv url: http://arxiv.org/abs/2202.13711v1
• Date: Mon, 28 Feb 2022 12:11:40 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-01 15:41:05.428726
• Title: Evaluating the Adversarial Robustness of Adaptive Test-time Defenses
• Title（参考訳）: 適応的テスト時間防御の対向ロバスト性の評価
• Authors: Francesco Croce, Sven Gowal, Thomas Brunner, Evan Shelhamer, Matthias Hein, Taylan Cemgil
• Abstract要約: このような適応型テストタイムディフェンスを分類し、その潜在的なメリットと欠点を説明します。 残念なことに、適切な評価を行うと、静的モデルが大幅に改善されることはない。 推論コストを同時に増加しながら、基盤となる静的モデルを弱めるものもあります。
• 参考スコア（独自算出の注目度）: 60.55448652445904
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adaptive defenses that use test-time optimization promise to improve robustness to adversarial examples. We categorize such adaptive test-time defenses and explain their potential benefits and drawbacks. In the process, we evaluate some of the latest proposed adaptive defenses (most of them published at peer-reviewed conferences). Unfortunately, none significantly improve upon static models when evaluated appropriately. Some even weaken the underlying static model while simultaneously increasing inference cost. While these results are disappointing, we still believe that adaptive test-time defenses are a promising avenue of research and, as such, we provide recommendations on evaluating such defenses. We go beyond the checklist provided by Carlini et al. (2019) by providing concrete steps that are specific to this type of defense.
• Abstract（参考訳）: テスト時間最適化を使用する適応防御は、逆の例に対するロバスト性を改善することを約束する。 このような適応的なテストタイム防御を分類し、その潜在的なメリットと欠点を説明します。 この過程で、我々は、最新の適応的防御(ほとんどがピアレビューされた会議で公開された)について評価する。 残念ながら、適切に評価された場合、静的モデルで大幅に改善されることはない。 推論コストを同時に増加しながら、基盤となる静的モデルを弱めるものもあります。 これらの結果は残念な結果だが,我々は依然として,適応型テストタイムディフェンスが研究の有望な道であると信じており,そのようなディフェンスを評価するための推奨事項を提供している。 我々は、カルリーニら(2019年)が提供するチェックリストを超えて、この種の防衛に特有の具体的なステップを提供しています。

関連論文リスト

• Closing the Gap: Achieving Better Accuracy-Robustness Tradeoffs against Query-Based Attacks [1.54994260281059]
  クエリベースの攻撃を緩和する上で、ロバスト性と精度の確固たるトレードオフを、テスト時に効率的に確立する方法を示す。 我々のアプローチは訓練とは無関係であり、理論に支えられている。
  論文  参考訳（メタデータ） (2023-12-15T17:02:19Z)
• Randomness in ML Defenses Helps Persistent Attackers and Hinders Evaluators [49.52538232104449]
  堅牢なMLディフェンスを設計することがますます重要になっている。 近年の研究では、当初最先端の攻撃に抵抗する多くの防衛は、適応的な敵によって破壊される可能性があることが判明している。 我々は、防御設計をシンプルにし、ホワイトボックスの防御は可能な限りランダム性を損なうべきだと論じる。
  論文  参考訳（メタデータ） (2023-02-27T01:33:31Z)
• Increasing Confidence in Adversarial Robustness Evaluations [53.2174171468716]
  本稿では,弱い攻撃を識別し,防御評価を弱めるテストを提案する。 本テストでは,各サンプルに対する逆例の存在を保証するため,ニューラルネットワークをわずかに修正した。 これまでに公表された13の防衛のうち、11の防衛について、元の防衛評価は我々のテストに失敗し、これらの防衛を破る強力な攻撃はそれを通過する。
  論文  参考訳（メタデータ） (2022-06-28T13:28:13Z)
• Practical Evaluation of Adversarial Robustness via Adaptive Auto Attack [96.50202709922698]
  実用的な評価手法は、便利な(パラメータフリー)、効率的な(イテレーションの少ない)、信頼性を持つべきである。 本稿では,パラメータフリーな適応オートアタック (A$3$) 評価手法を提案する。
  論文  参考訳（メタデータ） (2022-03-10T04:53:54Z)
• A Game Theoretic Analysis of Additive Adversarial Attacks and Defenses [4.94950858749529]
  均衡状態にある攻撃や防御を研究するためのゲーム理論の枠組みを提案する。 データ生成分布から有限個のサンプルからこの平衡防衛を近似する方法を示す。
  論文  参考訳（メタデータ） (2020-09-14T15:51:15Z)
• Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks [65.20660287833537]
  本稿では,最適段差の大きさと目的関数の問題による障害を克服するPGD攻撃の2つの拡張を提案する。 そして、我々の新しい攻撃と2つの補完的な既存の攻撃を組み合わせることで、パラメータフリーで、計算に手頃な価格で、ユーザに依存しない攻撃のアンサンブルを形成し、敵の堅牢性をテストする。
  論文  参考訳（メタデータ） (2020-03-03T18:15:55Z)
• On Adaptive Attacks to Adversarial Example Defenses [123.32678153377915]
  本稿では、敵の事例に対して、防御に対する適応攻撃を行うために必要な方法論とアプローチを概説する。 これらの分析が、敵の事例に対して適切な防御攻撃を行うためのガイダンスとして役立てられることを期待している。
  論文  参考訳（メタデータ） (2020-02-19T18:50:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。