論文の概要: Who Is Your Agent Serving? Provider-Side Indirect Prompt Injection in Proactive Agents

• arxiv url: http://arxiv.org/abs/2610.05266v1
• Date: Sun, 04 Oct 2026 14:36:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 22:12:54.721618
• Title: Who Is Your Agent Serving? Provider-Side Indirect Prompt Injection in Proactive Agents
• Title（参考訳）: プロアクティブエージェントの間接的プロンプト注入
• Abstract要約: パーソナルエージェントは、何を推奨するか、アドバイスをパーソナライズする方法、提供すべきフォローアップ支援をますます決定します。 外部プロバイダは、プライベートユーザコンテキストにアクセスしたり、エージェントを妥協したり、追加の許可を得る必要はない。 我々は,この障害モードを,ターゲット制御,プライベートバインディング,プロスペクティブサポートを通じて特徴付ける。
• 参考スコア（独自算出の注目度）: 11.95317136445392
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Proactive personal agents increasingly decide what to recommend, how to personalize advice, and what follow-up assistance to offer, creating a new user-decision attack surface for provider-side indirect prompt injection. We show that an external provider need not access private user context, compromise the agent, or gain additional permissions: by controlling only content associated with its own target, it can redirect an otherwise benign agent to advance that target, recruit legitimately available user context to justify it, and proactively reduce the friction of adoption. We characterize this failure mode through Target Control, Private Binding, and Prospective Support, which respectively steer what the agent advances, how it connects the target to the user, and what target-specific assistance it offers next. Across three proactive-agent environments and six simulated user models, the full attack increases target authorization in all tested environment-user-model combinations, with a macro gain of up to 77.4 percentage points. Controlled replay shows that correct user-target binding is more consequential than additional proposal detail alone, while a multi-turn extension reveals that provider objectives can remain influential even without final authorization by reshaping how the agent responds to user constraints and resistance. These findings expose a broader trust boundary: capabilities designed to serve the user can be redirected toward objectives originating outside the user-agent relationship.
• Abstract（参考訳）: プロアクティブなパーソナルエージェントは、推奨事項、アドバイスのパーソナライズ方法、提供すべきフォローアップ支援をますます決定し、プロバイダ側の間接的なインジェクションのための新しいユーザー決定攻撃サーフェスを作成する。 我々は、外部プロバイダがプライベートなユーザコンテキストにアクセスしたり、エージェントを妥協したり、追加の許可を得る必要はないことを示す: 自身のターゲットに関連するコンテンツのみを制御することにより、そのターゲットを前進させるために、他の良識のあるエージェントをリダイレクトし、合法的に利用可能なユーザコンテキストを募集し、それを正当化し、採用の摩擦を積極的に軽減することができる。 我々は、ターゲットコントロール、プライベートバインディング、プロスペクティブサポートを通じてこの障害モードを特徴付け、エージェントの進行状況、ターゲットをユーザとどのように接続するか、次にどのようなターゲット固有の支援を提供するのかをそれぞれ判断する。 3つのプロアクティブ・エージェント環境と6つのシミュレートされたユーザー・モデルにまたがって、全攻撃はテストされた環境とユーザ・モデルの組み合わせにおけるターゲット認証を増加させ、マクロゲインは77.4ポイントまで上昇する。 制御されたリプレイは、正しいユーザターゲットバインディングが、追加の提案よりも簡潔であることを示し、マルチターン拡張は、エージェントがユーザーの制約や抵抗にどのように反応するかを再構築することによって、最終的な承認なしにプロバイダの目的が影響力を持ち続けることを明らかにしている。 ユーザに提供するように設計された機能は、ユーザとエージェントの関係の外にある目的に向けてリダイレクトすることができる。

関連論文リスト

• CAVEAT: Towards Robust Computer-Use Agents in Incentive-Misaligned Environments [11.021036083625818]
  オンラインマーケットプレイスは、他の製品よりもいくつかの製品を好んで、エージェントをユーザーの目的から遠ざけている。 既存のCUAベンチマークでは、協調的な設定や明示的な攻撃をカバーしているが、環境自体が結果に利害関係がある場合、エージェントがユーザ目標を保存するかどうかを検査しない。 9つのマーケットプレース環境にまたがるベンチマークであるCAVEATと8つの共通のステアリング機構の分類について紹介する。
  論文  参考訳（メタデータ） (2026-09-23T03:00:00Z)
• AcCoRD: Evaluating User-Agent Collaboration Under Realistic User Preference Dynamics [13.692601337126462]
  ユーザとエージェントのコラボレーションを評価するための既存のベンチマークは、ほとんど特定されていない好みの解決に重点を置いている。 我々は,オンラインショッピングと旅行計画という2つの領域において,多様なユーザ嗜好のダイナミクスを扱うエージェントを必要とするユーザエージェントコラボレーションベンチマークであるAcCoRDを紹介した。
  論文  参考訳（メタデータ） (2026-08-28T01:34:38Z)
• Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
  アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。 我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。 我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
  論文  参考訳（メタデータ） (2026-06-22T11:36:58Z)
• Who Owns This Agent? Tracing AI Agents Back to Their Owners [7.444382451377645]
  AIエージェントはますます、世界で自律的に行動するようにデプロイされている。 悪意あるエージェントを、それをデプロイしたアカウントに遡る信頼できる方法はまだない。 この問題を定義し、実用的な解決策を提示する最初の試みである。
  論文  参考訳（メタデータ） (2026-05-15T15:10:33Z)
• Pushing Forward Pareto Frontiers of Proactive Agents with Behavioral Agentic Optimization [61.641777037967366]
  プロアクティブな大規模言語モデル(LLM)エージェントは、複数のターンで積極的に計画し、クエリし、相互作用することを目的としている。 エージェント強化学習(RL)は、マルチターン環境でエージェントを訓練するための有望なソリューションとして登場した。 本稿では,行動強化と情報収集能力の強化を両立させたエージェントRLフレームワークであるBAOを提案する。
  論文  参考訳（メタデータ） (2026-02-11T20:40:43Z)
• PersonalAlign: Hierarchical Implicit Intent Alignment for Personalized GUI Agent with Long-Term User-Centric Records [67.68348568175718]
  パーソナライズされたGUIエージェント(PersonalAlign)の階層的意図的アライメントに注目した。 PersonalAlignは、曖昧な指示で省略された好みを解決するために、長期的なユーザレコードを永続的なコンテキストとして活用する必要がある。 GPT-5, Qwen3-VL, UI-TARSなどのGUIエージェントをAndroidIntent上で評価する。
  論文  参考訳（メタデータ） (2026-01-14T17:12:48Z)
• UserBench: An Interactive Gym Environment for User-Centric Agents [110.77212949007958]
  LLM(Large Language Models)ベースのエージェントは、推論とツールの使用において、目覚ましい進歩を遂げてきたが、ユーザと積極的にコラボレーションする能力はまだ未熟である。 マルチターン、選好駆動インタラクションにおいてエージェントを評価するために設計されたユーザ中心のベンチマークであるUserBenchを紹介する。
  論文  参考訳（メタデータ） (2025-07-29T17:34:12Z)
• Tell Me More! Towards Implicit User Intention Understanding of Language Model Driven Agents [110.25679611755962]
  現在の言語モデル駆動エージェントは、しばしば効果的なユーザ参加のメカニズムを欠いている。 Intention-in-Interaction (IN3) は明示的なクエリを通してユーザの暗黙の意図を検査するための新しいベンチマークである。 私たちは、タスクの曖昧さを積極的に評価し、ユーザの意図を問う強力なモデルであるMistral-Interactを経験的に訓練し、それらを実行可能な目標へと洗練させます。
  論文  参考訳（メタデータ） (2024-02-14T14:36:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。