論文の概要: Breadcrumbing Search Agents

• arxiv url: http://arxiv.org/abs/2608.04565v1
• Date: Wed, 05 Aug 2026 07:57:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-06 14:48:43.779985
• Title: Breadcrumbing Search Agents
• Title（参考訳）: Breadcrumbing Search Agents
• Authors: Xuebin Li, Hanqing Zhao, Siyuan Liang, Kejiang Chen, Weiming Zhang, Dacheng Tao, Nenghai Yu,
• Abstract要約: LLMベースの検索エージェントは情報検索タスクに広く利用されているが、外部ツールへの依存度は重大なセキュリティリスクをもたらす。 検索およびページ観察を行うチャネルは脆弱なセキュリティ境界であることを示す。 制約付きツール仲介脅威モデルの下では、クエリ毎に1つのコントロールされた結果のみを追加することで、攻撃の成功を大幅に増加させることができる。
• 参考スコア（独自算出の注目度）: 118.20284823674382
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: LLM-based search agents are widely used for information-seeking tasks, but their reliance on external tool returns introduces a critical security risk: web content retrieved during execution is untrusted, exposing agents to prompt injection and goal hijacking. Prior work on search-agent safety primarily focuses on static web-content injection, but modern agents issue follow-up queries and cross-check competing sources, so a single injected page is often diluted or rejected. We show that the channel delivering search and page observations is a fragile security boundary: beyond exposing the agent to a single poisoned page, a mediated search interface can repeatedly steer how the agent gathers evidence and forms its final answer. Under a constrained tool-intermediary threat model, appending only one controlled result per query can substantially increase attack success when the evidence is coordinated across the agent's trajectory. We study this setting with a strategy-driven long-horizon attack system and introduce Authority-Chain Hijack (ACH), an expert-refined strategy that turns isolated search-result and page-content manipulations into a coherent evidence chain across seemingly corroborating sources. ACH achieves the highest Overall ASR among all baselines, reaching 55.9% / 83.3% ASR / MaxN ASR on the full SafeSearch test split. We further introduce Trace-Guided Strategy Evolution (TGSE), which automatically improves attacker strategies from execution traces, replacing manual redesign with trace-driven refinement; its strongest single setting reaches 71.4% / 95.0% in held-out evaluation.
• Abstract（参考訳）: LLMベースの検索エージェントは情報検索タスクに広く使用されているが、外部ツールへの依存度が高いため、実行中に検索したWebコンテンツは信頼できない。 検索エージェントの安全性に関する以前の研究は、主に静的なWebコンテンツインジェクションに焦点を当てていたが、現代のエージェントはフォローアップクエリを発行し、競合するソースをクロスチェックする。 エージェントを1つの有毒なページに露出させるだけでなく、仲介された検索インタフェースは、エージェントがどうやって証拠を収集し、その最終回答を形成するかを繰り返すことができる。 制約されたツール・仲介者脅威モデルの下では、クエリ毎に1つの制御された結果のみを追加することで、エージェントの軌道を越えてエビデンスをコーディネートする場合、攻撃の成功を大幅に増大させることができる。 我々は、この設定を戦略駆動型長距離攻撃システムを用いて研究し、ACH(Acert-Chain Hijack)を導入する。 ACHは全ベースラインの中で最高水準のASRを達成し、完全なSafeSearchテストスプリットで55.9% / 83.3% ASR / MaxN ASRを達成した。 さらに、TGSE(Trace-Guided Strategy Evolution)を導入し、実行トレースから攻撃戦略を自動的に改善し、手動の再設計をトレース駆動の改良に置き換える。

関連論文リスト

• QueryIPI: Query-agnostic Indirect Prompt Injection on Coding Agents [13.098854359317523]
  コーディングエージェントのための最初のクエリ非依存IPI手法であるQueryIPIを提案する。 リークされた内部プロンプトによって通知される反復的かつプロンプトベースのプロセスを通じて、悪意のあるツール記述を洗練する。 5つのシミュレーションエージェントの実験は、QueryIPIが最大で87%の成功を達成していることを示している。
  論文  参考訳（メタデータ） (2025-10-27T07:04:08Z)
• FocusAgent: Simple Yet Effective Ways of Trimming the Large Context of Web Agents [76.12500510390439]
  大規模言語モデル(LLM)を利用したWebエージェントは、ユーザの目標を達成するために、長いWebページの観察を処理しなければならない。 既存のプルーニング戦略は、関連するコンテンツを捨てるか、無関係なコンテキストを保持するかのいずれかであり、最適以下の行動予測につながる。 FocusAgentは軽量LCMレトリバーを利用してアクセシビリティツリー(AxTree)観測から最も関連性の高い線を抽出するシンプルで効果的なアプローチである。
  論文  参考訳（メタデータ） (2025-10-03T17:41:30Z)
• SafeSearch: Automated Red-Teaming for the Safety of LLM-Based Search Agents [63.70653857721785]
  我々は、低品質な検索結果の出現率と、エージェントの動作を誤る可能性を実証する2つの実験を行った。 この脅威に対処するため、私たちは、体系的、スケーラブルで、コスト効率のよい自動化されたレッドチームフレームワークを導入しました。
  論文  参考訳（メタデータ） (2025-09-28T07:05:17Z)
• AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
  本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。 我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。 攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
  論文  参考訳（メタデータ） (2025-05-09T07:40:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。