論文の概要: "What's in the box?!": Deflecting Adversarial Attacks by Randomly Deploying Adversarially-Disjoint Models

• arxiv url: http://arxiv.org/abs/2102.05104v1
• Date: Tue, 9 Feb 2021 20:07:13 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-11 14:38:44.550386
• Title: "What's in the box?!": Deflecting Adversarial Attacks by Randomly Deploying Adversarially-Disjoint Models
• Title（参考訳）: 「箱に何が入ってるの?」 「:無作為展開による敵対的攻撃の偏向
• Authors: Sahar Abdelnabi and Mario Fritz
• Abstract要約: 敵の例は長い間、機械学習モデルに対する真の脅威と考えられてきた。 我々は、従来のホワイトボックスやブラックボックスの脅威モデルを超えた、配置ベースの防衛パラダイムを提案する。
• 参考スコア（独自算出の注目度）: 71.91835408379602
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning models are now widely deployed in real-world applications. However, the existence of adversarial examples has been long considered a real threat to such models. While numerous defenses aiming to improve the robustness have been proposed, many have been shown ineffective. As these vulnerabilities are still nowhere near being eliminated, we propose an alternative deployment-based defense paradigm that goes beyond the traditional white-box and black-box threat models. Instead of training a single partially-robust model, one could train a set of same-functionality, yet, adversarially-disjoint models with minimal in-between attack transferability. These models could then be randomly and individually deployed, such that accessing one of them minimally affects the others. Our experiments on CIFAR-10 and a wide range of attacks show that we achieve a significantly lower attack transferability across our disjoint models compared to a baseline of ensemble diversity. In addition, compared to an adversarially trained set, we achieve a higher average robust accuracy while maintaining the accuracy of clean examples.
• Abstract（参考訳）: 機械学習モデルは現在、現実世界のアプリケーションに広くデプロイされている。 しかし、逆例の存在は長い間、そのようなモデルに対する本当の脅威と考えられています。 堅牢性を改善するための多数の防御が提案されているが、その多くは効果がないことが示されている。 これらの脆弱性はまだ取り除かれていないため、従来のホワイトボックスやブラックボックスの脅威モデルを超えた、デプロイメントベースの防御パラダイムを提案しています。 単一の部分ロバストモデルを訓練する代わりに、攻撃間の転送性を最小限に抑えながら、敵対的に分離したモデルセットを訓練することができる。 これらのモデルがランダムに、個々にデプロイされ、そのうちの1つが他のモデルに最小限の影響を与える。 CIFAR-10と広範囲な攻撃実験により, アンサンブルの多様性のベースラインに比べて, 解離モデル間での攻撃伝達性が著しく低いことが示された。 さらに, 敵対的に訓練された集合と比較して, クリーンな例の精度を維持しつつ, 高い平均ロバストな精度を実現する。

関連論文リスト

• MultiRobustBench: Benchmarking Robustness Against Multiple Attacks [86.70417016955459]
  機械学習(ML)モデルに対するマルチアタックを検討するための,最初の統一フレームワークを提案する。 我々のフレームワークは、テストタイムの敵について異なるレベルの学習者の知識をモデル化することができる。 9種類の攻撃に対して16種類の防御モデルの有効性を評価した。
  論文  参考訳（メタデータ） (2023-02-21T20:26:39Z)
• Stochastic Variance Reduced Ensemble Adversarial Attack for Boosting the Adversarial Transferability [20.255708227671573]
  ブラックボックスの敵攻撃は、あるモデルから別のモデルに転送することができる。 本研究では,分散縮小アンサンブル攻撃と呼ばれる新しいアンサンブル攻撃法を提案する。 実験結果から,提案手法は既存のアンサンブル攻撃を著しく上回り,対向移動性を向上する可能性が示唆された。
  論文  参考訳（メタデータ） (2021-11-21T06:33:27Z)
• Training Meta-Surrogate Model for Transferable Adversarial Attack [98.13178217557193]
  クエリーを許可しない場合、ブラックボックスモデルに対する逆攻撃を考える。 この設定では、多くの手法が代理モデルを直接攻撃し、得られた敵の例をターゲットモデルを騙すために転送する。 メタサロゲートモデル(Meta-Surrogate Model:MSM)は,このモデルに対する攻撃が,他のモデルに容易に転送できることを示す。
  論文  参考訳（メタデータ） (2021-09-05T03:27:46Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• Optimal Transport as a Defense Against Adversarial Attacks [4.6193503399184275]
  敵対的攻撃は、訓練されたモデルを誤解させる画像に対して、人間の知覚できない摂動を見つけることができる。 従来の研究は、原画像と敵対画像の整合性をドメイン適応と同等に調整し、堅牢性を向上させることを目的としていた。 地上距離を忠実に反映した分布間の損失を用いることを提案する。 これによりSAT (Sinkhorn Adversarial Training) は敵の攻撃に対してより堅牢な防衛を行う。
  論文  参考訳（メタデータ） (2021-02-05T13:24:36Z)
• Adversarial Learning with Cost-Sensitive Classes [7.6596177815175475]
  いくつかの特殊クラスのパフォーマンスを向上させるか、特に敵の学習における攻撃からそれらを保護する必要がある。 本論文では,コストに敏感な分類と対比学習を組み合わせて,保護クラスと非保護クラスを区別できるモデルを訓練するフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-01-29T03:15:40Z)
• Voting based ensemble improves robustness of defensive models [82.70303474487105]
  我々は、より堅牢性を高めるためのアンサンブルを作ることができるかどうか研究する。 最先端の先制防衛モデルを複数組み合わせることで,59.8%の堅牢な精度を達成できる。
  論文  参考訳（メタデータ） (2020-11-28T00:08:45Z)
• Are Adversarial Examples Created Equal? A Learnable Weighted Minimax Risk for Robustness under Non-uniform Attacks [70.11599738647963]
  敵の訓練は、強力な攻撃に耐える数少ない防衛の1つである。 従来の防御機構は、基礎となるデータ分布に従って、サンプルに対する均一な攻撃を前提とします。 非一様攻撃に対して重み付けされたミニマックスリスク最適化を提案する。
  論文  参考訳（メタデータ） (2020-10-24T21:20:35Z)
• DVERGE: Diversifying Vulnerabilities for Enhanced Robust Generation of Ensembles [20.46399318111058]
  敵攻撃は、小さな摂動でCNNモデルを誤解させる可能性があるため、同じデータセットでトレーニングされた異なるモデル間で効果的に転送することができる。 非破壊的特徴を蒸留することにより,各サブモデルの逆脆弱性を分離するDVERGEを提案する。 新たな多様性基準とトレーニング手順により、DVERGEは転送攻撃に対して高い堅牢性を達成することができる。
  論文  参考訳（メタデータ） (2020-09-30T14:57:35Z)
• Certifying Joint Adversarial Robustness for Model Ensembles [10.203602318836445]
  ディープニューラルネットワーク(DNN)は、しばしば敵の例に対して脆弱である。 提案された防御は、個々のモデルが脆弱であるとしても、敵がアンサンブルに対して成功する敵の例を見つけることができないことを期待して、モデルのアンサンブルを展開させる。 モデルアンサンブルのジョイント脆弱性を考察し,アンサンブルのジョイントロバスト性を証明する新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-04-21T19:38:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。