論文の概要: Backdoor Mitigation by Distance-Driven Detoxification

• arxiv url: http://arxiv.org/abs/2411.09585v1
• Date: Thu, 14 Nov 2024 16:54:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-15 15:23:12.017269
• Title: Backdoor Mitigation by Distance-Driven Detoxification
• Title（参考訳）: 距離駆動デトキシ化によるバックドア緩和
• Authors: Shaokui Wei, Jiayin Liu, Hongyuan Zha,
• Abstract要約: バックドア攻撃は、攻撃者が有毒なトレーニングデータを使用して予測を操作できるようにすることで、機械学習モデルの完全性を損なう。 本稿では,事前学習モデルにおけるバックドアの解毒を目的とした,訓練後のバックドア防御作業について考察する。 本稿では,バックドアディフェンスを制約付き最適化問題として再定義する革新的なアプローチとして,距離駆動型デトックス化(D3)を提案する。
• 参考スコア（独自算出の注目度）: 38.27102305144483
• License:
• Abstract: Backdoor attacks undermine the integrity of machine learning models by allowing attackers to manipulate predictions using poisoned training data. Such attacks lead to targeted misclassification when specific triggers are present, while the model behaves normally under other conditions. This paper considers a post-training backdoor defense task, aiming to detoxify the backdoors in pre-trained models. We begin by analyzing the underlying issues of vanilla fine-tuning and observe that it is often trapped in regions with low loss for both clean and poisoned samples. Motivated by such observations, we propose Distance-Driven Detoxification (D3), an innovative approach that reformulates backdoor defense as a constrained optimization problem. Specifically, D3 promotes the model's departure from the vicinity of its initial weights, effectively reducing the influence of backdoors. Extensive experiments on state-of-the-art (SOTA) backdoor attacks across various model architectures and datasets demonstrate that D3 not only matches but often surpasses the performance of existing SOTA post-training defense techniques.
• Abstract（参考訳）: バックドア攻撃は、攻撃者が有毒なトレーニングデータを使用して予測を操作できるようにすることで、機械学習モデルの完全性を損なう。 このような攻撃は特定のトリガーが存在する場合、ターゲットの誤分類につながるが、モデルは通常他の条件下で動作する。 本稿では,事前訓練モデルにおけるバックドアの解毒を目的とした,訓練後のバックドア防御作業について考察する。 まず、バニラ微調整の根底にある問題を解析し、清潔な試料と有毒な試料の両方の損失の少ない領域にしばしば閉じ込められていることを観察する。 このような観測から得られた距離駆動型デトキシフィケーション(D3)は,バックドアディフェンスを制約付き最適化問題として再構成する革新的な手法である。 具体的には、D3はモデルが初期重量付近から外れることを促進し、バックドアの影響を効果的に軽減する。 さまざまなモデルアーキテクチャやデータセットにわたるSOTA(State-of-the-art)バックドア攻撃に関する大規模な実験では、D3がマッチするだけでなく、既存のSOTAポストトレーニング防御技術の性能を上回ることが示されている。

関連論文リスト

• Long-Tailed Backdoor Attack Using Dynamic Data Augmentation Operations [50.1394620328318]
  既存のバックドア攻撃は主にバランスの取れたデータセットに焦点を当てている。 動的データ拡張操作(D$2$AO)という効果的なバックドア攻撃を提案する。 本手法は,クリーンな精度を維持しつつ,最先端の攻撃性能を実現することができる。
  論文  参考訳（メタデータ） (2024-10-16T18:44:22Z)
• Efficient Backdoor Defense in Multimodal Contrastive Learning: A Token-Level Unlearning Method for Mitigating Threats [52.94388672185062]
  本稿では,機械学習という概念を用いて,バックドアの脅威に対する効果的な防御機構を提案する。 これは、モデルがバックドアの脆弱性を迅速に学習するのを助けるために、小さな毒のサンプルを戦略的に作成することを必要とする。 バックドア・アンラーニング・プロセスでは,新しいトークン・ベースの非ラーニング・トレーニング・システムを提案する。
  論文  参考訳（メタデータ） (2024-09-29T02:55:38Z)
• Diff-Cleanse: Identifying and Mitigating Backdoor Attacks in Diffusion Models [3.134071086568745]
  拡散モデル(DM)は、今日では最も先進的な生成モデルの一つと見なされている。 近年の研究では、DMはバックドア攻撃に弱いことが示唆されている。 この脆弱性は、モデル所有者に評判を害するなど、重大なリスクをもたらす。 Diff-Cleanseは、DM用に特別に設計された2段階のバックドア防御フレームワークである。
  論文  参考訳（メタデータ） (2024-07-31T03:54:41Z)
• Unveiling and Mitigating Backdoor Vulnerabilities based on Unlearning Weight Changes and Backdoor Activeness [23.822040810285717]
  クリーンなデータを学習し、プルーニングマスクを学習するアンラーニングモデルは、バックドアディフェンスに寄与している。 本研究では,重み変化と勾配ノルムの観点から,モデルアンラーニングについて検討する。 最初の段階では、観測1に基づいて、効率的なニューロン量変化(NWC)に基づくバックドア再初期化を提案する。 第2段階では、観測2に基づいて、バニラファインチューニングに代わるアクティブネス対応ファインチューニングを設計する。
  論文  参考訳（メタデータ） (2024-05-30T17:41:32Z)
• Backdoor Defense via Deconfounded Representation Learning [17.28760299048368]
  我々は、信頼性の高い分類のための非定型表現を学ぶために、因果性に着想を得たバックドアディフェンス(CBD)を提案する。 CBDは、良性サンプルの予測において高い精度を維持しながら、バックドアの脅威を減らすのに有効である。
  論文  参考訳（メタデータ） (2023-03-13T02:25:59Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• Backdoor Defense via Suppressing Model Shortcuts [91.30995749139012]
  本稿では,モデル構造の角度からバックドア機構を探索する。 攻撃成功率 (ASR) は, キースキップ接続の出力を減少させると著しく低下することを示した。
  論文  参考訳（メタデータ） (2022-11-02T15:39:19Z)
• Confidence Matters: Inspecting Backdoors in Deep Neural Networks via Distribution Transfer [27.631616436623588]
  本稿では,新しい観測結果を基にしたバックドアディフェンスDTInspectorを提案する。 DTInspectorは、ほとんどの高信頼データの予測を変える可能性のあるパッチを学び、それからバックドアの存在を決定する。
  論文  参考訳（メタデータ） (2022-08-13T08:16:28Z)
• Backdoor Attack against NLP models with Robustness-Aware Perturbation defense [0.0]
  バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込む 本研究は, 有害試料とクリーン試料との堅牢性ギャップを, 敵の訓練工程を用いて制御することにより, この防御を破るものである。
  論文  参考訳（メタデータ） (2022-04-08T10:08:07Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。