論文の概要: Speculative Safety Honeypot: Toward Proactive Defense Against Multi-turn Agent Attacks
- arxiv url: http://arxiv.org/abs/2609.39549v1
- Date: Wed, 30 Sep 2026 11:50:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.630519
- Title: Speculative Safety Honeypot: Toward Proactive Defense Against Multi-turn Agent Attacks
- Title（参考訳）: 投機的安全ハニーポット:マルチターンエージェント攻撃に対する積極的な防御に向けて
- Abstract要約: マルチターン・インタラクション・アタックは重要なセキュリティ上の課題となっている。
投機的復号化に触発されて、投機的安全ハニーポット(SSH)フレームワークを提案する。
投機段階では、SSHはターゲットエージェントの将来の挙動を予測し、事前に潜在的なリスクを明らかにするために軌道木を非同期に構築する。
検証段階では、システムはターゲットエージェントの実際の動作を使用して軌道木を校正し、プーンし、偽陽性を効果的に低減する。
- 参考スコア（独自算出の注目度）: 8.417092293145116
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As Large Language Model (LLM) agents are increasingly deployed in complex environments, multi-turn interaction attacks have become a significant security challenge. Existing detection methods typically rely on historical context. However, this retrospective logic struggles to identify deep malicious intents that are split across turns to hide future risks. Inspired by speculative decoding, we propose the Speculative Safety Honeypot (SSH) framework. SSH uses a multi-agent simulation system composed of small LLMs to build an action-level speculate-and-verify workflow. In the speculation stage, SSH predicts future behaviors of the target agent and asynchronously builds a trajectory tree to expose potential risks in advance. In the verification stage, the system uses the target agent's real actions to calibrate and prune the trajectory tree, effectively reducing false positives. As a plug-and-playable component, SSH provides existing detectors with rich decision redundancy beyond the current interaction slice. By judging risk based on the evolution of the entire trajectory tree rather than a single point in time, the system reduces the reliance on the absolute precision of individual detection components. This improves the defense resilience and the warning lead-time of agent systems against complex temporal attacks.
- Abstract（参考訳）: 大規模言語モデル(LLM)エージェントが複雑な環境にますますデプロイされるにつれて、マルチターンインタラクション攻撃は重大なセキュリティ上の課題となっている。
既存の検出方法は通常、歴史的文脈に依存している。
しかし、この振り返りのロジックは、将来のリスクを隠すために順番に分割される深い悪意のある意図を特定するのに苦労しています。
投機的復号化に触発されて、投機的安全ハニーポット(SSH)フレームワークを提案する。
SSHは、小さなLLMで構成されたマルチエージェントシミュレーションシステムを使用して、アクションレベルの推測と検証のワークフローを構築する。
投機段階では、SSHはターゲットエージェントの将来の挙動を予測し、事前に潜在的なリスクを明らかにするために軌道木を非同期に構築する。
検証段階では、システムはターゲットエージェントの実際の動作を使用して軌道木を校正し、プーンし、偽陽性を効果的に低減する。
プラグアンドプレイ可能なコンポーネントとして、SSHは既存の検出器に、現在の相互作用スライスを超える豊富な決定冗長性を提供する。
単一の点ではなく、トラジェクトリーツリー全体の進化に基づいてリスクを判断することにより、システムは個々の検出成分の絶対精度への依存を減らす。
これにより、複雑な時間的攻撃に対する防御のレジリエンスとエージェントシステムのリードタイムが向上する。
関連論文リスト
- AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。
既存の安全機構は主に外部ガードレールに依存している。
我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
論文 参考訳（メタデータ） (2026-06-21T21:13:55Z) - MAGE: Safeguarding LLM Agents against Long-Horizon Threats via Shadow Memory [12.959058053467075]
大規模言語モデル(LLM)を利用したエージェントは、複雑で現実的なタスクを実行するためにますますデプロイされる。
単一のターン設定で悪意ある目的を追求するために、拡張されたユーザエージェントと環境のインタラクションを利用する攻撃のクラスが増えている。
我々は、多岐にわたる長期的脅威に対抗するために設計された、新しい防御フレームワークであるMAGEを紹介する。
論文 参考訳（メタデータ） (2026-05-04T23:46:19Z) - A Low-Latency Fraud Detection Layer for Detecting Adversarial Interaction Patterns in LLM-Powered Agents [18.524016493711386]
大規模言語モデル(LLM)を利用したエージェントは、自律的なタスク実行、ツールの使用、多段階推論において強力な能力を示す。
敵対的相互作用は、直接的プロンプトインジェクション、間接的コンテンツアタック、マルチターンエスカレーション戦略を通じてエージェントの動作を操作できる。
LLMエージェントの逆相互作用パターンを検出するために,低レイテンシな不正検出層を提案する。
論文 参考訳（メタデータ） (2026-05-01T22:35:59Z) - Your Agent is More Brittle Than You Think: Uncovering Indirect Injection Vulnerabilities in Agentic LLMs [32.38053469964495]
システム間インタラクションを含む拡張されたアクションスペースは、深刻なセキュリティ上の問題を引き起こす。
悪意のある命令をサードパーティのコンテンツ内に隠蔽するIPIは、データ流出などの不正なアクションをトリガーする。
9個のLPMバックボーンにまたがる4つの高度なIPI攻撃ベクトルに対する6つの防御戦略を評価した。
論文 参考訳（メタデータ） (2026-04-04T21:27:04Z) - AgentSentry: Mitigating Indirect Prompt Injection in LLM Agents via Temporal Causal Diagnostics and Context Purification [25.817251923574286]
大規模言語モデル(LLM)エージェントのための新しい推論時間検出・緩和フレームワークを提案する。
AgentSentryは、時間的因果的テイクオーバーとしてマルチターンIPIをモデル化する最初の推論時防御である。
我々は, textscAgentDojo ベンチマークにおいて, 4つのタスクスイート, 3つの IPI 攻撃ファミリー, 複数のブラックボックス LLM に対する AgentSentry の評価を行った。
論文 参考訳（メタデータ） (2026-02-26T07:59:10Z) - ICON: Indirect Prompt Injection Defense for Agents based on Inference-Time Correction [24.416258744287166]
ICONは、タスクの連続性を維持しながら攻撃を中和する、調査と軽減のためのフレームワークである。
ICONは競争力のある0.4%のASRを達成し、商業グレード検出器と一致し、50%以上のタスクユーティリティーゲインを得る。
論文 参考訳（メタデータ） (2026-02-24T09:13:05Z) - ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。
ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
論文 参考訳（メタデータ） (2026-01-15T08:23:38Z) - RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。
しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。
提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
論文 参考訳（メタデータ） (2025-12-24T15:01:26Z) - Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。
既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。
我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
論文 参考訳（メタデータ） (2025-10-10T18:42:32Z) - DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。
この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。
本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
論文 参考訳（メタデータ） (2025-06-13T05:01:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。