論文の概要: Interactive Backdoor Attacks in LLM-Based Proactive Dialogue Systems

• arxiv url: http://arxiv.org/abs/2611.06969v1
• Date: Wed, 04 Nov 2026 12:22:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.417551
• Title: Interactive Backdoor Attacks in LLM-Based Proactive Dialogue Systems
• Title（参考訳）: LLMに基づく対話システムにおける対話型バックドアアタック
• Abstract要約: LLMベースのプロアクティブ対話システムは、持続的な対話を通じてゴール指向のサポートを提供する。 既存のバックドア研究は、主にトリガーアクティベーション時に攻撃者が特定した応答を誘発することに焦点を当てている。 本稿では,訓練データ中毒を用いた対話型バックドアアタック・フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 10.705848572462422
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM-based proactive dialogue systems provide goal-directed support through sustained interaction. Fine-tuning their underlying models on externally supplied dialogue data introduces backdoor risks. Existing LLM backdoor studies primarily focus on eliciting an attacker-specified response upon trigger activation. We present an interactive backdoor attack framework that uses training-data poisoning to steer post-trigger, multi-turn interactions toward an attacker-specified objective. Poisoned fine-tuning dialogues implant a trigger-conditioned guidance-policy bias that ordinary user utterances can activate, without deployment-time prompt modification or further attacker intervention. Specifically, we instantiate three complementary attacks under progressively expanded post-trigger interaction settings: (1) Direct Attack, which targets an immediate response deviation upon trigger activation, retaining the conventional trigger--response setting; (2) Constrained Progressive Attack, which progressively advances the attack objective along a predefined multi-turn trajectory; and (3) Unconstrained Progressive Attack, which extends target-directed steering to open-ended interactions with varied user continuations. Using psychological counseling as a representative setting, experiments on two LLM backbones and two dialogue datasets show that all three attacks effectively achieve their objectives under their respective interaction settings while largely preserving normal utility. Separate defense evaluations show that the tested training-data filters retain nearly all poisoned dialogues, while three post-admission baselines leave substantial residual attack-specific success.
• Abstract（参考訳）: LLMベースのプロアクティブ対話システムは、持続的な対話を通じてゴール指向のサポートを提供する。 外部から供給された対話データに基づいて基礎となるモデルを微調整すると、バックドアのリスクが生じる。 既存のLLMバックドア研究は、主にトリガーアクティベーション時に攻撃者が特定した応答を誘発することに焦点を当てている。 本稿では,訓練データ中毒を用いた対話型バックドアアタック・フレームワークを提案する。 課金された微調整ダイアログは、通常のユーザの発話が起動できるトリガー条件の誘導政治バイアスを埋め込む。 具体的には, トリガー後インタラクション設定を段階的に拡張した3つの補完攻撃をインスタンス化する。(1) トリガーアクティベーションの即時応答偏差を目標とし, 従来のトリガー応答設定を維持しているダイレクトアタック, (2) 予め定義されたマルチターン軌道に沿って攻撃目標を段階的に前進させる制約付きプログレッシブアタック,(3) ターゲット指向のステアリングを多様なユーザ継続によるオープンエンドインタラクションに拡張する制約付きプログレッシブアタック。 心理カウンセリングを代表的設定として使用することにより、2つのLDMバックボーンと2つの対話データセットの実験により、これらの3つの攻撃は、通常効用をほとんど保ちながら、それぞれの相互作用設定の下で効果的に目的を達成することを示した。 個別の防衛評価では、試験されたトレーニングデータフィルタは、ほぼ全ての有毒な対話を保ち、一方、投下後の3つのベースラインは、攻撃固有の大きな成功を残している。

関連論文リスト

• Toward Metacognitive One-Shot Indirect Prompt Injection: Strategy Abstraction Via Outcome-Conditioned Reflection [17.713444943152506]
  ツール利用大型言語モデル(LLM)エージェントは間接的プロンプトインジェクション(IPI)に対して脆弱である 既存のアダプティブアタックのほとんどは、ターゲットエージェントに対する繰り返しクエリと精製に依存している。 本研究では,攻撃適応を試験時間からオフライン戦略蒸留に移行するSAVORを提案する。
  論文  参考訳（メタデータ） (2026-08-09T16:19:05Z)
• When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
  ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。 我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。 クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
  論文  参考訳（メタデータ） (2026-08-02T08:38:44Z)
• Stateful Cooperative Agents Safeguarding LLMs Against Evolving Multi-Turn Attacks [56.45762972211923]
  マルチターン攻撃に対するLDMの安全性を確保するためのプロアクティブ・ディフェンス・フレームワークを提案する。 特殊なエージェントが補完的な防衛戦略を実行するような、協調的なマルチエージェントアーキテクチャを採用している。 マルチターン攻撃における進化戦略をシミュレートするEMRAデータセットを提案する。
  論文  参考訳（メタデータ） (2026-07-31T14:04:49Z)
• Defending against Adaptive Prompt Injection Attacks via Reasoning-enabled Task Alignment [25.752599132396437]
  間接的なプロンプトインジェクションは、エージェントがタスク実行中に検索するサードパーティデータに悪意のある命令を埋め込むことによって、LLMベースのエージェントをハイジャックする。 既存のディフェンスでは、静的なベンチマークでほぼゼロの攻撃成功率を報告しているが、最近のアダプティブ評価では、攻撃者がデプロイされたディフェンスに対して最適化を許せば、これらの結果は崩壊する。 本稿では,攻撃者が制御するデータではなく,ユーザタスクに対する防衛判断を基礎としたトレーニングベースのRETAを提案する。
  論文  参考訳（メタデータ） (2026-06-13T19:15:44Z)
• Game-Theoretic Modeling of Stealthy Intrusion Defense against MDP-Based Attackers [1.230067722774416]
  我々は、攻撃グラフ上の攻撃者とディフェンダーとの間の戦略的相互作用として、高度な永続的脅威をモデル化する。 攻撃者の位置と進行に関する限られた情報により、ディフェンダーは侵入検知センサーを配置することでランダムな間隔で行動する。 我々は、対応する最適化問題を解くことによって最適な防御戦略を導出する。
  論文  参考訳（メタデータ） (2026-03-10T12:35:57Z)
• Visual Backdoor Attacks on MLLM Embodied Decision Making via Contrastive Trigger Learning [89.1856483797116]
  MLLMをベースとした組込みエージェントに視覚的バックドアを注入する最初のフレームワークであるBEATを紹介する。 テキストトリガーとは異なり、オブジェクトトリガーは視点や照明の幅が広いため、確実に移植することは困難である。 BEATは攻撃の成功率を最大80%まで達成し、強い良識のあるタスクパフォーマンスを維持します。
  論文  参考訳（メタデータ） (2025-10-31T16:50:49Z)
• Tree-based Dialogue Reinforced Policy Optimization for Red-Teaming Attacks [63.803415430308114]
  現在の大規模言語モデルは、マルチターンインタラクション設定における敵攻撃に対して脆弱である。 本研究では,木探索と統合したオンライン強化学習フレームワークであるDialTree-RPOを提案する。 提案手法は,従来の最先端手法と比較して,10のターゲットモデルに対して25.9%以上のASRを実現している。
  論文  参考訳（メタデータ） (2025-10-02T17:57:05Z)
• Searching for Privacy Risks in LLM Agents via Simulation [61.229785851581504]
  本稿では,プライバシクリティカルなエージェントインタラクションのシミュレーションを通じて,攻撃と防御戦略の改善を交互に行う検索ベースのフレームワークを提案する。 攻撃戦略は、直接の要求から、不正行為や同意偽造といった高度な戦術へとエスカレートする。 発見された攻撃と防御は、さまざまなシナリオやバックボーンモデルにまたがって伝達され、プライバシーに配慮したエージェントを構築するための強力な実用性を示している。
  論文  参考訳（メタデータ） (2025-08-14T17:49:09Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。