論文の概要: The Model Plants the Trigger: Answer-Side Backdoor Attacks in Multi-Turn Large Language Models

• arxiv url: http://arxiv.org/abs/2610.07723v1
• Date: Tue, 06 Oct 2026 04:17:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.797569
• Title: The Model Plants the Trigger: Answer-Side Backdoor Attacks in Multi-Turn Large Language Models
• Title（参考訳）: トリガーをプラントするモデル:マルチターン大規模言語モデルにおける解答側バックドアアタック
• Abstract要約: マルチターン対話のための新しい応答側バックドアを提案する。 相手は良心的な第1ターンプロンプトを使用してモデルを誘導し、特定の、一見無害な単語を生成する。 後に有害なクエリが到着すると、モデルは自身のトリガーを検出し、安全性の拒絶を回避します。
• 参考スコア（独自算出の注目度）: 75.85661275647158
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safety alignment in Large Language Models (LLMs) remains vulnerable to backdoor attacks. Existing LLM backdoors are almost all input-centric: activation depends on explicit trigger patterns in the user input, so modern guardrails are built to sanitize the input space. We challenge this assumption with a novel answer-side backdoor for multi-turn dialogue. Instead of inserting the trigger into the input, the adversary uses a benign first-turn prompt to naturally induce the model to generate a specific, seemingly innocuous word. Once merged into the dialogue history, this self-generated word becomes the trigger. When a later harmful query arrives, the model detects its own trigger and bypasses its safety refusal, while the user input stays perfectly clean. Across four LLMs, our attack reaches near-perfect Attack Success Rates, approaching 100\% at only a 5\% poisoning rate, while preserving general utility and clean-input safety, and it evades mainstream input-centric defenses. Representation-level analysis shows that the self-generated trigger consistently suppresses the model's refusal signal, exposing a critical blind spot in current LLM defenses.
• Abstract（参考訳）: 大規模言語モデル(LLM)の安全性アライメントは、バックドア攻撃に対して脆弱である。 既存のLCMバックドアはほとんどが入力中心であり、アクティベーションはユーザ入力の明示的なトリガーパターンに依存する。 マルチターン対話のための新しい応答側バックドアでこの仮定に挑戦する。 相手は入力にトリガーを挿入する代わりに、良心的な第1ターンプロンプトを使用してモデルに自然に誘導し、特定の、一見無害な単語を生成する。 一度対話履歴にマージされると、この自己生成語が引き金となる。 後続の有害なクエリが到着すると、モデルが自身のトリガーを検出し、ユーザーの入力が完全にクリーンである間、その安全性の拒絶を回避します。 この攻撃は, 汎用性とクリーンインプットの安全性を保ち, 主流の入力中心の防御を回避しつつ, 100 % の毒殺率に近づき, ほぼ完全な攻撃成功率に達した。 表現レベル分析は、自己生成トリガーがモデルの拒絶信号を一貫して抑制し、現在のLLM防御において重要な盲点を露呈することを示している。

関連論文リスト

• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• Securing Multi-turn Conversational Language Models From Distributed Backdoor Triggers [29.554818890832887]
  大規模言語モデル(LLM)は、長いコンテキスト長を処理し、テキストでニュアンスを理解する能力を獲得した。 本稿では,LDMのマルチターン機能と強力な学習能力を利用してエンドユーザを害する脆弱性を明らかにする。 本稿では, 応答列長を線形に拡張し, バックドアを0.35%まで小さくする復号時間ディフェンスを提案する。
  論文  参考訳（メタデータ） (2024-07-04T20:57:06Z)
• Exploring Backdoor Vulnerabilities of Chat Models [31.802374847226393]
  近年の研究では、LLM(Large Language Models)がバックドアアタック(Backdoor Attack)と呼ばれるセキュリティの脅威を受けやすいことが示されている。 本稿では,異なるラウンドのユーザ入力に対して複数のトリガシナリオを分散することで,チャットモデルに対する新たなバックドア攻撃手法を提案する。 実験により,チャットモデルの正常な性能を維持しつつ,高い攻撃成功率を達成できることが実証された。
  論文  参考訳（メタデータ） (2024-04-03T02:16:53Z)
• Backdoor Attacks with Input-unique Triggers in NLP [34.98477726215485]
  Backdoor攻撃は、ニューラルネットワークを誘導して毒データに対する誤った予測を行い、クリーンなデータセットの予測を変更せずに維持することを目的としている。 本稿では,入力に固有のバックドアトリガを生成する,入出力型バックドアアタック(NURA)を提案する。
  論文  参考訳（メタデータ） (2023-03-25T01:41:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。