論文の概要: Provable Robustness Against a Union of $\ell_0$ Adversarial Attacks

• arxiv url: http://arxiv.org/abs/2302.11628v4
• Date: Sat, 6 Apr 2024 22:35:20 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-10 05:36:49.811437
• Title: Provable Robustness Against a Union of $\ell_0$ Adversarial Attacks
• Title（参考訳）: 対人攻撃で$\ell_0$を突破する確率的ロバスト性
• Authors: Zayd Hammoudeh, Daniel Lowd,
• Abstract要約: 本稿では, 脱走, バックドア, 毒殺攻撃に対する防御策として, 機能分割アグリゲーション(FPA)を提案する。 FPAはアンサンブルを通じて強力な堅牢性を保証する。
• 参考スコア（独自算出の注目度）: 25.460140245596918
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Sparse or $\ell_0$ adversarial attacks arbitrarily perturb an unknown subset of the features. $\ell_0$ robustness analysis is particularly well-suited for heterogeneous (tabular) data where features have different types or scales. State-of-the-art $\ell_0$ certified defenses are based on randomized smoothing and apply to evasion attacks only. This paper proposes feature partition aggregation (FPA) -- a certified defense against the union of $\ell_0$ evasion, backdoor, and poisoning attacks. FPA generates its stronger robustness guarantees via an ensemble whose submodels are trained on disjoint feature sets. Compared to state-of-the-art $\ell_0$ defenses, FPA is up to 3,000${\times}$ faster and provides larger median robustness guarantees (e.g., median certificates of 13 pixels over 10 for CIFAR10, 12 pixels over 10 for MNIST, 4 features over 1 for Weather, and 3 features over 1 for Ames), meaning FPA provides the additional dimensions of robustness essentially for free.
• Abstract（参考訳）: スパースまたは$\ell_0$ 敵攻撃は、機能の未知の部分集合を任意に摂動する。 $\ell_0$のロバストネス分析は、機能の種類やスケールが異なる異種(タブラリ)データに特に適しています。 State-of-the-art $\ell_0$認証された防御はランダムな平滑化に基づいており、回避攻撃にのみ適用される。 本稿では,$\ell_0$の回避,バックドア,毒殺攻撃に対する認証された防御策として,機能分割アグリゲーション(FPA)を提案する。 FPAはアンサンブルを通じて強力な堅牢性を保証する。 最先端の$\ell_0$ディフェンスと比較して、FPAは3000${\times}$より高速で、中央値の堅牢性を保証する(例えば、CIFAR10では13ピクセル以上、MNISTでは12ピクセル以上、天気1では4機能以上、Amesでは3機能)。

関連論文リスト

• Deep Adversarial Defense Against Multilevel-Lp Attacks [5.604868766260297]
  本稿では,EMRC法 (Efficient Robust Mode Connectivity) と呼ばれる,計算効率の良いマルチレベル$ell_p$ディフェンスを提案する。 連続最適化で用いられる解析的継続アプローチと同様に、この手法は2つの$p$特化逆最適化モデルをブレンドする。 我々は,AT-$ell_infty$,E-AT,MSDと比較して,本手法が様々な攻撃に対して優れていることを示す実験を行った。
  論文  参考訳（メタデータ） (2024-07-12T13:30:00Z)
• Computational Asymmetries in Robust Classification [9.933826905715822]
  ReLUの攻撃は$mathitNP$-hardであり、トレーニング時の堅牢性は$Sigma2_P$-hardである(単一の例であっても)。 第二に、推論時ロバスト性証明はこの非対称性の影響を受けないことを示し、Counter-Attack (CA) という概念実証手法を導入する。
  論文  参考訳（メタデータ） (2023-06-25T19:41:14Z)
• The Best Defense is a Good Offense: Adversarial Augmentation against Adversarial Attacks [91.56314751983133]
  A5$は、手元の入力に対する攻撃が失敗することを保証するために防御的摂動を構築するためのフレームワークである。 我々は,地上の真理ラベルを無視するロバスト化ネットワークを用いて,実機での防御強化を効果的に示す。 また、A5$を適用して、確実に堅牢な物理オブジェクトを作成する方法も示します。
  論文  参考訳（メタデータ） (2023-05-23T16:07:58Z)
• Hindering Adversarial Attacks with Implicit Neural Representations [25.422201099331637]
  Lossy Implicit Network Activation Coding (LINAC) の防衛は、いくつかの共通の敵攻撃を妨害する。 鍵ベース防衛のためのパラメトリックバイパス近似(PBA)攻撃戦略を考案し,このカテゴリにおける既存手法の無効化に成功した。
  論文  参考訳（メタデータ） (2022-10-22T13:10:24Z)
• Robustifying $\ell_\infty$ Adversarial Training to the Union of Perturbation Models [120.71277007016708]
  我々は、広く普及しているシングルアタック$ell_infty$ ATフレームワークの機能を拡張する。 我々の手法はSNAP(Noss Augmented Processing)と呼ばれ、単一攻撃ATフレームワークの優れた副産物を利用する。 SNAPは、標準的なシングルアタックATを用いて、ネットワークパラメータとともに分布を学習する形状のノイズ増強層を持つ、与えられたディープネットをプリペイドする。
  論文  参考訳（メタデータ） (2021-05-31T05:18:42Z)
• Adversarial robustness against multiple $l_p$-threat models at the price of one and how to quickly fine-tune robust models to another threat model [79.05253587566197]
  対向的堅牢性を実現するために, 対向的トレーニング (AT) を単一$l_p$-threatモデルで行うことが広く議論されている。 本稿では,$l_p$-threatモデルの結合に対する対角的ロバスト性を実現するための,シンプルで効率的なトレーニング手法を開発する。
  論文  参考訳（メタデータ） (2021-05-26T12:20:47Z)
• Composite Adversarial Attacks [57.293211764569996]
  敵対攻撃は、機械学習(ML)モデルを欺くための技術です。 本論文では,攻撃アルゴリズムの最適組み合わせを自動的に探索するための複合攻撃法(Composite Adrial Attack,CAA)を提案する。 CAAは11の防衛でトップ10の攻撃を破り、時間の経過は少ない。
  論文  参考訳（メタデータ） (2020-12-10T03:21:16Z)
• Towards Defending Multiple $\ell_p$-norm Bounded Adversarial Perturbations via Gated Batch Normalization [120.99395850108422]
  既存の敵防衛は、個々の摂動に対するモデル堅牢性を改善するのが一般的である。 最近の手法では、複数の$ell_p$球における敵攻撃に対するモデルロバスト性を改善するが、各摂動型に対するそれらの性能は、まだ十分ではない。 我々は,複数の$ell_pの有界摂動を守るために,摂動不変予測器を逆向きに訓練するGated Batch Normalization (GBN)を提案する。
  論文  参考訳（メタデータ） (2020-12-03T02:26:01Z)
• Toward Adversarial Robustness via Semi-supervised Robust Training [93.36310070269643]
  アドリラルな例は、ディープニューラルネットワーク(DNN)に対する深刻な脅威であることが示されている。 R_stand$ と $R_rob$ の2つの異なるリスクを共同で最小化することで、新しい防御手法であるロバストトレーニング(RT)を提案する。
  論文  参考訳（メタデータ） (2020-03-16T02:14:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。