論文の概要: ATHENA: A Framework based on Diverse Weak Defenses for Building Adversarial Defense

• arxiv url: http://arxiv.org/abs/2001.00308v2
• Date: Fri, 16 Oct 2020 21:11:24 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-16 04:04:09.250391
• Title: ATHENA: A Framework based on Diverse Weak Defenses for Building Adversarial Defense
• Title（参考訳）: AtheNA: 対人防御構築のための多角的弱防御に基づくフレームワーク
• Authors: Ying Meng, Jianhai Su, Jason O'Kane, Pooyan Jamshidi
• Abstract要約: 敵攻撃に対する汎用的かつ効果的な防御を構築するためのフレキシブルでフレームワークであるAtheNAを提案する。 我々は,ゼロ知識,ブラックボックス,グレイボックス,ホワイトボックスの4つの脅威モデルを用いて,AtheNAのいくつかの実現性を評価するための総合的研究を行った。
• 参考スコア（独自算出の注目度）: 2.833107519113746
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: There has been extensive research on developing defense techniques against adversarial attacks; however, they have been mainly designed for specific model families or application domains, therefore, they cannot be easily extended. Based on the design philosophy of ensemble of diverse weak defenses, we propose ATHENA---a flexible and extensible framework for building generic yet effective defenses against adversarial attacks. We have conducted a comprehensive empirical study to evaluate several realizations of ATHENA with four threat models including zero-knowledge, black-box, gray-box, and white-box. We also explain (i) why diversity matters, (ii) the generality of the defense framework, and (iii) the overhead costs incurred by ATHENA.
• Abstract（参考訳）: 敵の攻撃に対する防御技術の開発は広く研究されてきたが、主に特定のモデルファミリーやアプリケーションドメイン向けに設計されているため、容易には拡張できない。 多様な弱防御のアンサンブルの設計思想に基づき、敵攻撃に対する汎用的で効果的な防御を構築するためのフレキシブルで拡張可能なフレームワークであるATHENAを提案する。 我々は、ゼロ知識、ブラックボックス、グレーボックス、ホワイトボックスを含む4つの脅威モデルを用いて、ATHENAのいくつかの実現を総合的に評価した。 説明します (i)なぜ多様性が重要か (ii)防衛枠組みの一般性、及び (iii)アテナによるオーバーヘッドコスト。

関連論文リスト

• A Novel Approach to Guard from Adversarial Attacks using Stable Diffusion [0.0]
  我々の提案は、AI Guardianフレームワークに対する別のアプローチを提案する。 トレーニングプロセスに敵対的な例を含める代わりに、AIシステムをトレーニングせずに行うことを提案する。 これは、より広い範囲の攻撃に対して本質的に回復力のあるシステムを構築することを目的としています。
  論文  参考訳（メタデータ） (2024-05-03T04:08:15Z)
• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Continual Adversarial Defense [37.37029638528458]
  防衛システムは、敵データをオンラインで継続的に収集し、迅速に自己改善する。 新たな攻撃への継続的な適応は、壊滅的な忘れ、少数ショット適応、メモリ効率適応、クリーンデータと逆データの両方において高い精度である。 特にCADは、前回の攻撃に対して優れた性能を維持しつつ、最小限の予算と低コストの防衛失敗に迅速に適応することができる。
  論文  参考訳（メタデータ） (2023-12-15T01:38:26Z)
• BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
  本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。 バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
  論文  参考訳（メタデータ） (2023-11-20T02:21:49Z)
• Baseline Defenses for Adversarial Attacks Against Aligned Language Models [109.75753454188705]
  最近の研究は、テキストのモデレーションが防御をバイパスするジェイルブレイクのプロンプトを生み出すことを示している。 検出(複雑度に基づく)、入力前処理(言い換えと再帰化)、対人訓練の3種類の防衛について検討する。 テキストに対する既存の離散化の弱点と比較的高いコストの最適化が組み合わさって、標準適応攻撃をより困難にしていることがわかった。
  論文  参考訳（メタデータ） (2023-09-01T17:59:44Z)
• IDEA: Invariant Defense for Graph Adversarial Robustness [60.0126873387533]
  敵攻撃に対する不変因果判定法(IDEA)を提案する。 我々は,情報理論の観点から,ノードと構造に基づく分散目標を導出する。 実験によると、IDEAは5つのデータセットすべてに対する5つの攻撃に対して、最先端の防御性能を達成している。
  論文  参考訳（メタデータ） (2023-05-25T07:16:00Z)
• Randomness in ML Defenses Helps Persistent Attackers and Hinders Evaluators [49.52538232104449]
  堅牢なMLディフェンスを設計することがますます重要になっている。 近年の研究では、当初最先端の攻撃に抵抗する多くの防衛は、適応的な敵によって破壊される可能性があることが判明している。 我々は、防御設計をシンプルにし、ホワイトボックスの防御は可能な限りランダム性を損なうべきだと論じる。
  論文  参考訳（メタデータ） (2023-02-27T01:33:31Z)
• MAD-VAE: Manifold Awareness Defense Variational Autoencoder [0.0]
  本稿では,防衛モデルの堅牢性を改善するためのいくつかの手法を紹介する。 MNISTデータセットに関する広範な実験により,本アルゴリズムの有効性を実証した。 また,既存の逆潜時空間攻撃の適用可能性についても論じる。
  論文  参考訳（メタデータ） (2020-10-31T09:04:25Z)
• AdvMS: A Multi-source Multi-cost Defense Against Adversarial Attacks [81.45930614122925]
  ディープニューラルネットワークは、マルウェア検出や自動運転車など、多くのセキュリティクリティカルな領域で急速に普及している。 従来の防衛手法は有望だが、単一ソースの単一コストの性質によってほとんど制限されている。 本稿では,AdvMSのマルチソース特性が性能評価問題を緩和し,多コスト特性が柔軟性と調整可能なコストの組み合わせによるロバスト性の向上を可能にすることを示す。
  論文  参考訳（メタデータ） (2020-02-19T20:46:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。