論文の概要: Position Paper: Beyond Robustness Against Single Attack Types

• arxiv url: http://arxiv.org/abs/2405.01349v1
• Date: Thu, 2 May 2024 14:58:44 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-03 16:15:09.732967
• Title: Position Paper: Beyond Robustness Against Single Attack Types
• Title（参考訳）: ポジションペーパー: 単一攻撃型に対するロバスト性を超えて
• Authors: Sihui Dai, Chong Xiang, Tong Wu, Prateek Mittal,
• Abstract要約: 敵の例に対する防御に関する最近の研究は、主に1つの攻撃タイプに対する堅牢性を達成することに焦点を当てている。 考えられる摂動の空間ははるかに大きく、現在は単一の攻撃タイプでモデル化することはできない。 マルチアタックに対するロバスト性,予期せぬアタックロバスト性,連続的アダプティブロバスト性という,複数アタックに対するロバスト性を含む3つの潜在的方向に注目した。
• 参考スコア（独自算出の注目度）: 42.09231029292568
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Current research on defending against adversarial examples focuses primarily on achieving robustness against a single attack type such as $\ell_2$ or $\ell_{\infty}$-bounded attacks. However, the space of possible perturbations is much larger and currently cannot be modeled by a single attack type. The discrepancy between the focus of current defenses and the space of attacks of interest calls to question the practicality of existing defenses and the reliability of their evaluation. In this position paper, we argue that the research community should look beyond single attack robustness, and we draw attention to three potential directions involving robustness against multiple attacks: simultaneous multiattack robustness, unforeseen attack robustness, and a newly defined problem setting which we call continual adaptive robustness. We provide a unified framework which rigorously defines these problem settings, synthesize existing research in these fields, and outline open directions. We hope that our position paper inspires more research in simultaneous multiattack, unforeseen attack, and continual adaptive robustness.
• Abstract（参考訳）: 敵の例に対する防御に関する現在の研究は、主に$\ell_2$や$\ell_{\infty}$-bounded攻撃のような単一の攻撃タイプに対して堅牢性を達成することに焦点を当てている。 しかし、考えられる摂動の空間ははるかに大きく、現在は単一の攻撃タイプでモデル化することはできない。 現在の防衛の焦点と関心の攻撃空間との相違は、既存の防衛の実用性と評価の信頼性に疑問を呈するものである。 本稿では,複数攻撃に対するロバスト性に関する3つの潜在的方向性,すなわち同時多発攻撃ロバスト性,予期せぬ攻撃ロバスト性,および連続適応ロバスト性(continuous Adaptive robustness)と呼ばれる新たな問題設定に留意する。 我々は、これらの問題設定を厳格に定義し、これらの分野における既存の研究を合成し、オープンな方向性を概説する統一的なフレームワークを提供する。 当社のポジションペーパーは、同時多発攻撃、予期せぬ攻撃、継続的な適応的堅牢性に関するさらなる研究を促すことを願っている。

関連論文リスト

• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Cooperation or Competition: Avoiding Player Domination for Multi-Target Robustness via Adaptive Budgets [76.20705291443208]
  我々は、敵攻撃を、異なるプレイヤーがパラメータ更新の合同方向で合意に達するために交渉する交渉ゲームであると見なしている。 我々は、プレイヤーの優位性を避けるために、異なる敵の予算を調整する新しいフレームワークを設計する。 標準ベンチマークの実験では、提案したフレームワークを既存のアプローチに適用することで、マルチターゲットロバスト性が大幅に向上することが示された。
  論文  参考訳（メタデータ） (2023-06-27T14:02:10Z)
• Interpretability is a Kind of Safety: An Interpreter-based Ensemble for Adversary Defense [28.398901783858005]
  我々は,強固な防御敵に対するX-Ensembleと呼ばれるインタプリタベースのアンサンブルフレームワークを提案する。 X-エンサンブルはランダムフォレスト(RF)モデルを用いて、準検出器をアンサンブル検出器に結合し、敵のハイブリッド攻撃防御を行う。
  論文  参考訳（メタデータ） (2023-04-14T04:32:06Z)
• MultiRobustBench: Benchmarking Robustness Against Multiple Attacks [86.70417016955459]
  機械学習(ML)モデルに対するマルチアタックを検討するための,最初の統一フレームワークを提案する。 我々のフレームワークは、テストタイムの敵について異なるレベルの学習者の知識をモデル化することができる。 9種類の攻撃に対して16種類の防御モデルの有効性を評価した。
  論文  参考訳（メタデータ） (2023-02-21T20:26:39Z)
• The Space of Adversarial Strategies [6.295859509997257]
  機械学習モデルにおける最悪のケース動作を誘発するインプットである逆例は、過去10年間に広く研究されてきた。 最悪の場合(すなわち最適な)敵を特徴づける体系的なアプローチを提案する。
  論文  参考訳（メタデータ） (2022-09-09T20:53:11Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks [65.20660287833537]
  本稿では,最適段差の大きさと目的関数の問題による障害を克服するPGD攻撃の2つの拡張を提案する。 そして、我々の新しい攻撃と2つの補完的な既存の攻撃を組み合わせることで、パラメータフリーで、計算に手頃な価格で、ユーザに依存しない攻撃のアンサンブルを形成し、敵の堅牢性をテストする。
  論文  参考訳（メタデータ） (2020-03-03T18:15:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。