論文の概要: Two Sides of the Same Coin: Learning the Backdoor to Remove the Backdoor

• arxiv url: http://arxiv.org/abs/2607.05748v1
• Date: Tue, 07 Jul 2026 02:11:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-08 21:24:51.367253
• Title: Two Sides of the Same Coin: Learning the Backdoor to Remove the Backdoor
• Title（参考訳）: 同じコインの2つの側面:バックドアを除去するためにバックドアを学ぶ
• Abstract要約: 良性サンプルではなく有毒の託宣を学習するための新しい手法を提案する。 Harveyは、アタックタイプ、データセット、アーキテクチャにわたって、関連するアプローチを大幅に上回る。
• 参考スコア（独自算出の注目度）: 24.356232051335894
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The community has recently developed various training-time defenses to counter neural backdoors introduced through data poisoning. In light of the observation that a model learns poisonous samples responsible for the backdoor easier than benign samples, these approaches either use a fixed threshold of the training loss for splitting or iteratively learn a reference model as an oracle for identifying benign samples. In particular, the latter has proven effective for anti-backdoor learning. Our method, HARVEY, leverages a similar yet crucially different technique: learning an oracle for poisonous rather than benign samples. Learning a backdoored reference model is significantly easier than learning a reference model on benign data. Consequently, we can identify poisonous samples much more accurately than related work identifies benign samples. This crucial difference enables near-perfect backdoor removal as we demonstrate in our evaluation. HARVEY substantially outperforms related approaches across attack types, datasets, and architectures, lowering the attack success rate to the very minimum at a negligible loss in natural accuracy. The figure below shows an overview of our methods working principle.
• Abstract（参考訳）: コミュニティは最近、データ中毒によって導入された神経バックドアに対抗するための様々なトレーニングタイムディフェンスを開発しました。 モデルが良性サンプルよりも容易なバックドアの原因となる有毒なサンプルを学習していることから、これらのアプローチでは、分裂のためのトレーニング損失の一定のしきい値を使用するか、良性サンプルを特定するためのオラクルとして参照モデルを反復的に学習する。 特に後者は、反バックドア学習に有効であることが証明されている。 我々の方法であるHARVEYは、良心的なサンプルではなく、有毒なオラクルを学ぶという、非常に重要なテクニックを活用しています。 バックドア参照モデルの学習は、良質なデータの参照モデルを学ぶよりもはるかに容易である。 その結果、関連する研究が良質な試料を識別するよりも、有毒な試料をより正確に同定することができる。 この重要な違いは、我々の評価で示すように、ほぼ完璧なバックドア除去を可能にする。 HARVEYは、攻撃タイプ、データセット、アーキテクチャにわたる関連するアプローチを大幅に上回り、自然な精度で無視できる損失で攻撃成功率を極小に下げる。 下記の図は、我々の方法の動作原理の概要を示している。

関連論文リスト

• Backdoor Unlearning by Linear Task Decomposition [69.91984435094157]
  ファンデーションモデルは、敵の摂動と標的のバックドア攻撃に非常に敏感である。 既存のバックドア除去アプローチは、有害な振る舞いをオーバーライドするために、コストのかかる微調整に依存している。 このことは、バックドアがモデルの一般的な能力を損なうことなく取り除けるかどうかという問題を提起する。
  論文  参考訳（メタデータ） (2025-10-16T16:18:07Z)
• Non-omniscient backdoor injection with a single poison sample: Proving the one-poison hypothesis for linear regression and linear classification [6.816788256267754]
  1つの毒のサンプルと限られた背景知識を持つ敵がバックドアにゼロのバックドアエラーを注入できることを示す。 毒サンプルの良性データ分布で未使用の方向を利用する敵に対しては, 結果のモデルがトレーニングから除外されたモデルと機能的に等価であることを示す。
  論文  参考訳（メタデータ） (2025-08-07T17:41:33Z)
• BURN: Backdoor Unlearning via Adversarial Boundary Analysis [73.14147934175604]
  Backdoor Unlearningは、モデル本来の機能を保持しながら、バックドア関連の情報を削除することを目的としている。 本稿では, 偽相関疎結合, プログレッシブデータリファインメント, モデル浄化を統合した新しい防御フレームワーク, BURNによるバックドア・アンラーニングを提案する。
  論文  参考訳（メタデータ） (2025-07-14T17:13:06Z)
• Efficient Backdoor Defense in Multimodal Contrastive Learning: A Token-Level Unlearning Method for Mitigating Threats [52.94388672185062]
  本稿では,機械学習という概念を用いて,バックドアの脅威に対する効果的な防御機構を提案する。 これは、モデルがバックドアの脆弱性を迅速に学習するのを助けるために、小さな毒のサンプルを戦略的に作成することを必要とする。 バックドア・アンラーニング・プロセスでは,新しいトークン・ベースの非ラーニング・トレーニング・システムを提案する。
  論文  参考訳（メタデータ） (2024-09-29T02:55:38Z)
• Partial train and isolate, mitigate backdoor attack [6.583682264938882]
  疑わしいサンプルを分離可能なモデルをトレーニングするために,モデルの一部を凍結する新しいモデルトレーニング方法(PT)を提案する。 そして、これに基づいてクリーンモデルが微調整され、バックドア攻撃に抵抗する。
  論文  参考訳（メタデータ） (2024-05-26T08:54:43Z)
• XGBD: Explanation-Guided Graph Backdoor Detection [21.918945251903523]
  バックドア攻撃は、グラフ学習モデルに重大なセキュリティリスクをもたらす。 トポロジ情報を活用するために,説明誘導型バックドア検出手法を提案する。
  論文  参考訳（メタデータ） (2023-08-08T17:10:23Z)
• Shared Adversarial Unlearning: Backdoor Mitigation by Unlearning Shared Adversarial Examples [67.66153875643964]
  バックドア攻撃は、機械学習モデルに対する深刻なセキュリティ脅威である。 本稿では,小さなクリーンデータセットを用いて,バックドアモデルの浄化作業について検討する。 バックドアリスクと敵的リスクの関連性を確立することにより、バックドアリスクに対する新たな上限を導出する。
  論文  参考訳（メタデータ） (2023-07-20T03:56:04Z)
• Backdoor Defense via Deconfounded Representation Learning [17.28760299048368]
  我々は、信頼性の高い分類のための非定型表現を学ぶために、因果性に着想を得たバックドアディフェンス(CBD)を提案する。 CBDは、良性サンプルの予測において高い精度を維持しながら、バックドアの脅威を減らすのに有効である。
  論文  参考訳（メタデータ） (2023-03-13T02:25:59Z)
• Backdoor Defense via Suppressing Model Shortcuts [91.30995749139012]
  本稿では,モデル構造の角度からバックドア機構を探索する。 攻撃成功率 (ASR) は, キースキップ接続の出力を減少させると著しく低下することを示した。
  論文  参考訳（メタデータ） (2022-11-02T15:39:19Z)
• Scalable Backdoor Detection in Neural Networks [61.39635364047679]
  ディープラーニングモデルは、トロイの木馬攻撃に対して脆弱で、攻撃者はトレーニング中にバックドアをインストールして、結果のモデルが小さなトリガーパッチで汚染されたサンプルを誤識別させる。 本稿では,ラベル数と計算複雑性が一致しない新たなトリガリバースエンジニアリング手法を提案する。 実験では,提案手法が純モデルからトロイの木馬モデルを分離する際の完全なスコアを達成できることが観察された。
  論文  参考訳（メタデータ） (2020-06-10T04:12:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。