論文の概要: Protecting against simultaneous data poisoning attacks

• arxiv url: http://arxiv.org/abs/2408.13221v1
• Date: Fri, 23 Aug 2024 16:57:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-26 14:20:44.782373
• Title: Protecting against simultaneous data poisoning attacks
• Title（参考訳）: 同時データ中毒に対する防御
• Authors: Neel Alex, Shoaib Ahmed Siddiqui, Amartya Sanyal, David Krueger,
• Abstract要約: 現在のバックドア防御法は、一度に1回の攻撃に対して評価される。 同時に実行されたデータ中毒攻撃は、複数のバックドアを単一のモデルに効果的にインストールできることを示す。 我々は,マルチアタック・セッティングに有効である新しいディフェンス,BaDLossを開発した。
• 参考スコア（独自算出の注目度）: 14.893813906644153
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Current backdoor defense methods are evaluated against a single attack at a time. This is unrealistic, as powerful machine learning systems are trained on large datasets scraped from the internet, which may be attacked multiple times by one or more attackers. We demonstrate that simultaneously executed data poisoning attacks can effectively install multiple backdoors in a single model without substantially degrading clean accuracy. Furthermore, we show that existing backdoor defense methods do not effectively prevent attacks in this setting. Finally, we leverage insights into the nature of backdoor attacks to develop a new defense, BaDLoss, that is effective in the multi-attack setting. With minimal clean accuracy degradation, BaDLoss attains an average attack success rate in the multi-attack setting of 7.98% in CIFAR-10 and 10.29% in GTSRB, compared to the average of other defenses at 64.48% and 84.28% respectively.
• Abstract（参考訳）: 現在のバックドア防御法は、一度に1回の攻撃に対して評価される。 強力な機械学習システムは、インターネットから取り除かれた大規模なデータセットで訓練されるため、これは現実的ではない。 同時に実行されたデータ中毒攻撃は、クリーンな精度を著しく低下させることなく、1つのモデルに複数のバックドアを効果的にインストールできることを実証する。 さらに,既存のバックドア防御手法は,この環境における攻撃を効果的に防ぐことができないことを示す。 最後に,バックドア攻撃の性質に関する洞察を活用して,マルチアタック・セッティングに有効である新しいディフェンス,BaDLossを開発する。 洗浄精度の最小化により、BDLossはCIFAR-10で7.98%、GTSRBで10.29%のマルチアタック成功率を達成した。

関連論文リスト

• Efficient Backdoor Defense in Multimodal Contrastive Learning: A Token-Level Unlearning Method for Mitigating Threats [52.94388672185062]
  本稿では,機械学習という概念を用いて,バックドアの脅威に対する効果的な防御機構を提案する。 これは、モデルがバックドアの脆弱性を迅速に学習するのを助けるために、小さな毒のサンプルを戦略的に作成することを必要とする。 バックドア・アンラーニング・プロセスでは,新しいトークン・ベースの非ラーニング・トレーニング・システムを提案する。
  論文  参考訳（メタデータ） (2024-09-29T02:55:38Z)
• Mitigating Backdoor Attack by Injecting Proactive Defensive Backdoor [63.84477483795964]
  データ中毒のバックドア攻撃は、機械学習モデルにとって深刻なセキュリティ上の脅威である。 本稿では,トレーニング中のバックドアディフェンスに着目し,データセットが有害になりうる場合でもクリーンなモデルをトレーニングすることを目的とした。 PDB(Proactive Defensive Backdoor)と呼ばれる新しい防衛手法を提案する。
  論文  参考訳（メタデータ） (2024-05-25T07:52:26Z)
• SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
  現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。 データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。 バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
  論文  参考訳（メタデータ） (2024-05-19T14:50:09Z)
• Versatile Defense Against Adversarial Attacks on Image Recognition [2.9980620769521513]
  現実の環境での敵の攻撃に対する防御は、アンチウイルスソフトの動作方法と比較することができる。 画像から画像への翻訳をベースとした防御手法が実現可能であると考えられる。 訓練されたモデルは、分類精度をほぼゼロから平均86%に改善した。
  論文  参考訳（メタデータ） (2024-03-13T01:48:01Z)
• Defending against Insertion-based Textual Backdoor Attacks via Attribution [18.935041122443675]
  本稿では,2つの挿入型毒殺攻撃を防ぎ,効果的な帰属型パイプラインであるAttDefを提案する。 具体的には、より大きな帰属語が誤予測結果に寄与するため、より大きな帰属スコアを持つトークンを潜在的トリガーとみなす。 提案手法は2つの共通攻撃シナリオにおいて十分に一般化可能であることを示す。
  論文  参考訳（メタデータ） (2023-05-03T19:29:26Z)
• On the Effectiveness of Adversarial Training against Backdoor Attacks [111.8963365326168]
  バックドアモデルは、事前に定義されたトリガーパターンが存在する場合、常にターゲットクラスを予測する。 一般的には、敵の訓練はバックドア攻撃に対する防御であると信じられている。 本稿では,様々なバックドア攻撃に対して良好な堅牢性を提供するハイブリッド戦略を提案する。
  論文  参考訳（メタデータ） (2022-02-22T02:24:46Z)
• Attacking Adversarial Attacks as A Defense [40.8739589617252]
  敵の攻撃は 知覚不能な摂動で ディープニューラルネットワークを騙す 逆向きに訓練されたモデルでは、小さなランダムノイズで逆向きの例を摂動することで、誤った予測を無効にすることができる。 我々はより効果的な防御的摂動を構築することで攻撃に対抗することを提案する。
  論文  参考訳（メタデータ） (2021-06-09T09:31:10Z)
• What Doesn't Kill You Makes You Robust(er): Adversarial Training against Poisons and Backdoors [57.040948169155925]
  敵対的なトレーニングフレームワークを拡張し、(訓練時間)中毒やバックドア攻撃から防御します。 本手法は, トレーニング中に毒を発生させ, トレーニングバッチに注入することにより, ネットワークを中毒の影響に敏感化する。 この防御は、適応攻撃に耐え、多様な脅威モデルに一般化し、以前の防御よりも優れた性能のトレードオフをもたらすことを示す。
  論文  参考訳（メタデータ） (2021-02-26T17:54:36Z)
• Strong Data Augmentation Sanitizes Poisoning and Backdoor Attacks Without an Accuracy Tradeoff [57.35978884015093]
  CutMixのような強力なデータ拡張は、パフォーマンスを損なうことなく、中毒やバックドア攻撃の脅威を著しく減少させる可能性がある。 バックドアのコンテキストでは、CutMixは攻撃を大幅に軽減し、同時にバリデーションの精度を9%向上させる。
  論文  参考訳（メタデータ） (2020-11-18T20:18:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。