論文の概要: Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs
- arxiv url: http://arxiv.org/abs/2606.11648v1
- Date: Wed, 10 Jun 2026 04:26:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.291697
- Title: Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs
- Title（参考訳）: 防備としてのダミーバックドア:生成LDMのための共通内部メカニズムによる未知のバックドアの除去
- Abstract要約: バックドア攻撃は、大規模言語モデルの安全性と信頼性に深刻な脅威をもたらす。
本稿では,異なるバックドア間での共通内部機構に基づく,シンプルで効果的なバックドア除去手法を提案する。
本手法は,モデルユーティリティを保ちながら,未知のバックドアの攻撃成功率を大幅に低減する。
- 参考スコア（独自算出の注目度）: 1.4363317131844815
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Backdoor attacks pose a serious threat to the safety and reliability of Large Language Models (LLMs), as they cause models to behave normally on clean inputs while producing attacker-specified responses when hidden triggers are present. Removing such unknown backdoors is particularly challenging when the defender does not know the backdoor attack types or the internal mechanisms formed through backdoor training. In this work, we propose a simple but effective backdoor removal method based on shared internal mechanisms across different backdoors. First, we show that different backdoors with the same task (attack objective) induce similar trigger-activated changes in the internal activations. Motivated by this observation, our method intentionally embeds a backdoor with a known trigger (\emph{dummy backdoor}) and then removes it through further fine-tuning on dummy-triggered inputs paired with clean responses. Since the dummy backdoor and the unknown backdoor can rely on shared internal mechanisms, removing the dummy backdoor also reduces the effect of the unknown backdoor. We evaluate our method on three backdoor attack types across multiple model families. Experimental results show that our method substantially reduces the attack success rate of the unknown backdoor while preserving model utility, outperforming representative existing defense methods in both backdoor removal effectiveness and utility preservation. These findings suggest that a defender-controllable backdoor can serve as a helpful proxy for mitigating unknown backdoors in generative LLMs.
- Abstract（参考訳）: バックドア攻撃は、大規模言語モデル(LLM)の安全性と信頼性に対して深刻な脅威となる。
このような未知のバックドアを除去することは、防御者がバックドア攻撃タイプやバックドア訓練によって形成される内部メカニズムを知らない場合、特に困難である。
本研究では,異なるバックドア間での共通内部機構に基づく,シンプルで効果的なバックドア除去手法を提案する。
まず、同じタスク(攻撃目標)を持つ異なるバックドアが、内部のアクティベーションに類似したトリガー活性化変化を引き起こすことを示す。
この観察により,本手法は意図的に既知のトリガー(\emph{dummy backdoor})を組み込んだバックドアを埋め込んだ上で,ダミートリガーの入力にクリーン応答を組み込んださらなる微調整により除去する。
ダミーバックドアと未知のバックドアは、共通の内部メカニズムに依存することができるため、ダミーバックドアを削除することで、未知のバックドアの効果も低減される。
本手法は,複数のモデルファミリーにまたがる3種類のバックドアアタックに対して評価を行った。
実験結果から,本手法はモデル実用性を維持しつつ,未知のバックドアの攻撃成功率を大幅に低減し,バックドア除去の有効性と実用性の両方において,既存の防衛方法よりも優れていたことが示唆された。
以上の結果から, ディフェンダー制御可能なバックドアは, 生成LDMにおける未知のバックドアの緩和に有効であることが示唆された。
関連論文リスト
- Backdoor Unlearning Generalization: A Path Toward the Removal of Unknown Triggers in LLMs [2.855228082831898]
非学習によるバックドア中立化は、バックドア全体にわたって一般化されていることを示す。
本研究は, プレトレーニングや継続プレトレーニングにより, バックドアを注入した3種類のモデル家族を対象に, この現象について検討した。
筆者らは, コントロールされたバックドアを故意に注入し, 取り除くことにより, LLMの安全性を向上する新たな方向性を示した。
論文 参考訳（メタデータ） (2026-06-02T15:38:12Z) - Backdoor Attribution: Elucidating and Controlling Backdoor in Language Models [61.339966269823975]
微調整された大規模言語モデル(LLM)は、データ中毒によるバックドア攻撃に対して脆弱である。
LLMの安全性の解釈可能性に関するこれまでの研究は、アライメント、ジェイルブレイク、幻覚に焦点を当てる傾向にあるが、バックドア機構を見落としている。
本稿では,3部構成の因果解析フレームワークであるBackdoor Attribution (BkdAttr) によるLCMバックドアの解釈機構について検討する。
論文 参考訳（メタデータ） (2025-09-26T01:45:25Z) - Expose Before You Defend: Unifying and Enhancing Backdoor Defenses via Exposed Models [68.40324627475499]
本稿では,Expose Before You Defendという新しい2段階防衛フレームワークを紹介する。
EBYDは既存のバックドア防御手法を総合防衛システムに統合し、性能を向上する。
2つの視覚データセットと4つの言語データセットにまたがる10のイメージアタックと6つのテキストアタックに関する広範な実験を行います。
論文 参考訳（メタデータ） (2024-10-25T09:36:04Z) - Flatness-aware Sequential Learning Generates Resilient Backdoors [7.969181278996343]
近年、バックドア攻撃は機械学習モデルのセキュリティに対する新たな脅威となっている。
本稿では,連続学習(CL)技術を活用して,バックドアのCFに対処する。
レジリエントなバックドアを生成可能な,SBL(Sequential Backdoor Learning)という新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2024-07-20T03:30:05Z) - Mitigating Backdoor Attack by Injecting Proactive Defensive Backdoor [63.84477483795964]
データ中毒のバックドア攻撃は、機械学習モデルにとって深刻なセキュリティ上の脅威である。
本稿では,トレーニング中のバックドアディフェンスに着目し,データセットが有害になりうる場合でもクリーンなモデルをトレーニングすることを目的とした。
PDB(Proactive Defensive Backdoor)と呼ばれる新しい防衛手法を提案する。
論文 参考訳（メタデータ） (2024-05-25T07:52:26Z) - BELT: Old-School Backdoor Attacks can Evade the State-of-the-Art Defense with Backdoor Exclusivity Lifting [21.91491621538245]
本稿では,バックドア攻撃の新たな特徴,すなわちバックドア排他性について検討する。
バックドアの排他性は、入力変動の存在下で有効なバックドアトリガーの能力を測定する。
提案手法は, 従来の4つのバックドア攻撃のステルス性を大幅に向上させ, 攻撃成功率と通常の実用性にはほとんど費用がかからない。
論文 参考訳（メタデータ） (2023-12-08T08:35:16Z) - BaDExpert: Extracting Backdoor Functionality for Accurate Backdoor Input
Detection [42.021282816470794]
我々は,Deep Neural Networks(DNN)に対するバックドア攻撃に対する新しい防御法を提案する。
私たちの防衛は、モデルの生成方法とは独立して機能する開発後防衛のカテゴリに分類されます。
モデル推論におけるバックドア入力をフィルタリングする高精度なバックドア入力検出装置の実現可能性を示す。
論文 参考訳（メタデータ） (2023-08-23T21:47:06Z) - From Shortcuts to Triggers: Backdoor Defense with Denoised PoE [51.287157951953226]
言語モデルは、しばしば多様なバックドア攻撃、特にデータ中毒の危険にさらされる。
既存のバックドア防御手法は主に明示的なトリガーによるバックドア攻撃に焦点を当てている。
我々は,様々なバックドア攻撃を防御するために,エンド・ツー・エンドアンサンブルに基づくバックドア防御フレームワークDPoEを提案する。
論文 参考訳（メタデータ） (2023-05-24T08:59:25Z) - Check Your Other Door! Establishing Backdoor Attacks in the Frequency
Domain [80.24811082454367]
検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。
また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
論文 参考訳（メタデータ） (2021-09-12T12:44:52Z) - Turn the Combination Lock: Learnable Textual Backdoor Attacks via Word
Substitution [57.51117978504175]
最近の研究では、ニューラルネットワーク処理(NLP)モデルがバックドア攻撃に弱いことが示されている。
バックドアを注入すると、モデルは通常、良質な例で実行されるが、バックドアがアクティブになったときに攻撃者が特定した予測を生成する。
単語置換の学習可能な組み合わせによって活性化される見えないバックドアを提示する。
論文 参考訳（メタデータ） (2021-06-11T13:03:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。