論文の概要: Backdoor Decontamination Dynamics in LLM Agents

• arxiv url: http://arxiv.org/abs/2608.11295v1
• Date: Tue, 11 Aug 2026 17:54:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-13 19:07:54.325922
• Title: Backdoor Decontamination Dynamics in LLM Agents
• Title（参考訳）: LLM剤のバックドア消毒ダイナミクス
• Abstract要約: LLMエージェントは、微調整中に設置されたバックドアに対して脆弱である。 防毒単独で 元のバックドアの56%を消し去る 悪質なバックドアは、防御用のバックドアと同じ一般的なタイプの異なるトリガーを使用すると、決して持続しない。
• 参考スコア（独自算出の注目度）: 49.3497468859388
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Open-weight LLM agents are vulnerable to backdoors installed during fine-tuning, which may be undetectable if the trigger conditions are never met during testing. Assuming defenders do not know the existing trigger, they cannot unlearn it directly. One decontamination strategy is to install a known backdoor (defensive poisoning) then to unlearn it, hoping that the original unknown backdoor is removed as a side effect. However, this procedure has uncertain outcomes: the original backdoor may persist or be erased or rerouted, among other possibilities. We introduce a framework for studying these dynamics in tool-calling agents, decoupling trigger, response, teacher, and fine-tuning method across systematic experiments on AgentDyn. Across 115 experiments, defensive poisoning alone erases around 56% of original backdoors; subsequent decontamination then drives almost all survivors to erasure, confirming that trigger recognition and malicious execution are behaviorally dissociable. Interestingly, our experiments find that malicious backdoors never persist when using different triggers of the same general type as the defensive backdoor when followed by decontamination via unlearning. Co-installing up to four backdoors increases resistance (around 36% erased), yet decontaminating a single known co-resident backdoor collaterally clears 52/60 co-residents (87%). Upon visualizing postdecontamination model internals using J-lens, we confirm that although the decontamination restores benign LLM responses, traces of original trigger awareness persist at intermediate layers.
• Abstract（参考訳）: オープンウェイトLDMエージェントは、微調整中に設置されたバックドアに対して脆弱であり、試験中にトリガー条件が満たされない場合、検出できない可能性がある。 ディフェンダーが既存のトリガーを知らないと仮定すると、直接引き離すことはできない。 消毒戦略の1つは、既知のバックドア(防毒)を設置し、元の未知のバックドアが副作用として取り除かれることを期待して、それを解き放つことである。 しかし、この手続きには不確実な結果があり、オリジナルのバックドアは、その他の可能性として、持続または消去または再汚染される可能性がある。 本稿では, ツールコールエージェント, トリガ, 応答, 教師, 微調整メソッドにおけるこれらのダイナミクスを研究するためのフレームワークについて, エージェントDynの系統的実験を通して紹介する。 115回の実験で、防御毒だけで元のバックドアの約56%を消し去られ、その後、ほとんどすべての生存者を消毒に駆り立て、トリガー認識と悪意のある実行が行動的に解離することを確認する。 興味深いことに、我々の実験では、悪意のあるバックドアは、防御用のバックドアと同じ一般的なタイプのトリガーを使用して、非学習による汚染を防ぎ続けることは決してない。 最大4基のバックドアを共同設置すると抵抗が増加し(約36%が消耗)、一方、共居のバックドアが単独で副居の52/60人の共居者(87%)を消毒する。 J-lens を用いた除染後モデル内部の可視化により, 消毒剤は LLM 応答の良さを回復するが, 中間層で元のトリガ認識の痕跡が持続することを確認した。

関連論文リスト

• When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
  ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。 我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。 クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
  論文  参考訳（メタデータ） (2026-08-02T08:38:44Z)
• ToxScreen: Detecting Whether an LLM Has Been Poisoned [1.2598422062985144]
  ToxScreenは、攻撃目標、トリガーメカニズム、中毒率、モデルスケール、バックドアトレーニングメカニズムにまたがる約800のバックドアモデルのベンチマークです。 一方,攻撃成功率で候補をランク付けするトークン検索では,バックドアが有効である場合にトリガを復元する。 すべてのバックドアを確実に覆う方法は存在しないが、広い範囲のジェイルブレイク可能なモデルはそれ自体異常であり、正確なトリガーが回収されない場合でも有用な信号である。
  論文  参考訳（メタデータ） (2026-07-29T12:35:58Z)
• Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs [1.4363317131844815]
  バックドア攻撃は、大規模言語モデルの安全性と信頼性に深刻な脅威をもたらす。 本稿では,異なるバックドア間での共通内部機構に基づく,シンプルで効果的なバックドア除去手法を提案する。 本手法は,モデルユーティリティを保ちながら,未知のバックドアの攻撃成功率を大幅に低減する。
  論文  参考訳（メタデータ） (2026-06-10T04:26:57Z)
• Backdoor Unlearning Generalization: A Path Toward the Removal of Unknown Triggers in LLMs [2.855228082831898]
  非学習によるバックドア中立化は、バックドア全体にわたって一般化されていることを示す。 本研究は, プレトレーニングや継続プレトレーニングにより, バックドアを注入した3種類のモデル家族を対象に, この現象について検討した。 筆者らは, コントロールされたバックドアを故意に注入し, 取り除くことにより, LLMの安全性を向上する新たな方向性を示した。
  論文  参考訳（メタデータ） (2026-06-02T15:38:12Z)
• Self-Purification Mitigates Backdoors in Multimodal Diffusion Language Models [74.1970982768771]
  確立されたデータポゾンパイプラインは,MDLMにバックドアを埋め込むことに成功した。 拡散自己浄化(Diffusion Self-Purification)と呼ばれるMDLMのバックドア防御フレームワークについて紹介する。
  論文  参考訳（メタデータ） (2026-02-24T15:47:52Z)
• Persistent Backdoor Attacks under Continual Fine-Tuning of LLMs [33.568493008851746]
  組込みバックドアが多段階後細調整によって持続するかどうかについて検討した。 P-Trojanは、繰り返し更新するバックドアの永続性を明示的に最適化するトリガーベースの攻撃アルゴリズムである。
  論文  参考訳（メタデータ） (2025-12-12T11:40:51Z)
• Backdoor Unlearning by Linear Task Decomposition [69.91984435094157]
  ファンデーションモデルは、敵の摂動と標的のバックドア攻撃に非常に敏感である。 既存のバックドア除去アプローチは、有害な振る舞いをオーバーライドするために、コストのかかる微調整に依存している。 このことは、バックドアがモデルの一般的な能力を損なうことなく取り除けるかどうかという問題を提起する。
  論文  参考訳（メタデータ） (2025-10-16T16:18:07Z)
• Backdoor Collapse: Eliminating Unknown Threats via Known Backdoor Aggregation in Language Models [75.29749026964154]
  Ourmethodは、複数のベンチマークで平均的な攻撃成功率を4.41%に下げる。 クリーンな精度と実用性はオリジナルのモデルの0.5%以内に保存される。 防衛はさまざまな種類のバックドアをまたいで一般化し、実際のデプロイメントシナリオにおける堅牢性を確認します。
  論文  参考訳（メタデータ） (2025-10-11T15:47:35Z)
• Backdoor Attribution: Elucidating and Controlling Backdoor in Language Models [61.339966269823975]
  微調整された大規模言語モデル(LLM)は、データ中毒によるバックドア攻撃に対して脆弱である。 LLMの安全性の解釈可能性に関するこれまでの研究は、アライメント、ジェイルブレイク、幻覚に焦点を当てる傾向にあるが、バックドア機構を見落としている。 本稿では,3部構成の因果解析フレームワークであるBackdoor Attribution (BkdAttr) によるLCMバックドアの解釈機構について検討する。
  論文  参考訳（メタデータ） (2025-09-26T01:45:25Z)
• PureDiffusion: Using Backdoor to Counter Backdoor in Generative Diffusion Models [5.957580737396457]
  拡散モデル(DM)は、幅広い生成タスクにおいて最先端の能力を達成した高度なディープラーニングモデルである。 近年の研究では、バックドア攻撃に関する脆弱性が示されており、バックドアDMは、バックドアターゲットと呼ばれる指定結果を一貫して生成している。 DMに埋め込まれたバックドアトリガを反転させることで、バックドア攻撃を効率的に検出できる新しいバックドア防御フレームワークであるPureDiffusionを導入する。
  論文  参考訳（メタデータ） (2024-09-20T23:19:26Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。