論文の概要: PolicySniff: Inferring Agent Policy States through Shared-GPU Execution
- arxiv url: http://arxiv.org/abs/2611.16158v1
- Date: Thu, 12 Nov 2026 01:42:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.297279
- Title: PolicySniff: Inferring Agent Policy States through Shared-GPU Execution
- Title(参考訳): PolicySniff: 共有GPUの実行を通じてエージェントポリシを推論する
- Abstract要約: LLMエージェントは、システムプロンプトの命令を通じて、連続的なツール呼び出しの前に尋ねるかどうかなどの承認設定を適用する。
監査人は、エージェントがその設定に従うかどうかを確認し、隣のプロセスがどの設定がデプロイされているかを推測できるかどうかを確認します。
PolicySniffは、共有GPU実行を通じてエージェントの承認ポリシ状態を推論する。
- 参考スコア(独自算出の注目度): 17.35297467385563
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM agents apply approval settings, such as whether to ask before a consequential tool call, through instructions in their system prompt, and operators keep these settings confidential by restricting access to prompts and responses. Audits check whether an agent obeys its setting, not whether a neighboring process can infer which setting is deployed. PolicySniff infers an agent's approval-policy state through shared-GPU execution. A co-resident attacker that knows the candidate settings and the task first profiles both settings, then times only its own GPU kernels while the agent processes the task. The policy prefix is cached before capture, so the attacker observes processing of a task suffix that is identical under both settings. On an eager sparse mixture-of-experts runtime, where each selected expert runs as separate work, a frozen and blinded study identified the deployed setting at 94.17% balanced accuracy on its primary estimand. Across all authorization conditions, accuracy was 88.82% on tasks for which both settings produce the same decision and 91.98% on tasks where they differ. Hardware replays of expert routing show that its temporal density and layer-and-bucket alignment carry the policy information. Behavioral compliance does not imply configuration confidentiality: deployments that keep their approval setting private should measure its distinguishability on the serving runtime and enforce authorization outside the model.
- Abstract(参考訳): LLMエージェントは、連続的なツールコールの前に尋ねるべきかどうか、システムプロンプトの命令を通じて、承認設定を適用し、オペレータはプロンプトやレスポンスへのアクセスを制限することで、これらの設定を秘密に保つ。
監査人は、エージェントがその設定に従うかどうかを確認し、隣のプロセスがどの設定がデプロイされているかを推測できるかどうかを確認します。
PolicySniffは、共有GPU実行を通じてエージェントの承認政治状態を推測する。
候補設定を知っており、タスクが最初に両方の設定をプロファイルし、エージェントがタスクを処理している間に、自身のGPUカーネルのみをタイムアウトする。
ポリシープレフィックスはキャプチャの前にキャッシュされるので、攻撃者は両方の設定で同一のタスクサフィックスの処理を観察する。
それぞれの専門家が別々の作業として実行される、熱狂的な未熟な混合実験では、凍結された研究により、デプロイされた設定の精度は94.17%と推定された。
すべての認可条件において、両方の設定が同じ決定を下すタスクでは88.82%、異なるタスクでは91.98%の精度であった。
エキスパートルーティングのハードウェアリプレイは、その時間密度とレイヤー・アンド・バケットアライメントがポリシー情報を持っていることを示している。
動作のコンプライアンスは、設定の機密性を意味するものではない。 承認の設定をプライベートに保ったデプロイメントは、サービス実行時の識別性を計測し、モデル外での認可を強制するべきである。
関連論文リスト
- AdaptArena: Evaluating Test-Time Personalization of Web Agents [93.7336288790761]
本稿では,Webエージェントのテスト時間パーソナライズを評価するベンチマークであるAdaptArenaを紹介する。
また、暗黙の選好推論を標準化するための検索ベースのフレームワークであるAdaptiveAgentを紹介する。
これらの知見は、信頼性の高いユーザ対応Webエージェントをデプロイする上で重要な課題として、暗黙の選好推論とロバストなアクショングラウンドメントを浮き彫りにしている。
論文 参考訳(メタデータ) (2026-09-29T01:46:48Z) - SIR: Self-improving Red-teaming for Compute Use Agents [71.71987044117371]
コンピュータ・ユース・エージェント(CUA、Computer use agent)は、マウス、キーボード、端末を通じて画面を認識し、実際のオペレーティングシステムに作用する視覚言語モデルである。
操作中に信頼できないコンテンツに晒されるため、間接的プロンプトインジェクション(IPI)に弱い。
SIRは,平易な言語で記述された再利用原則の小さなライブラリからステルスインジェクションを構成するブラックボックスIPIアタックである。
論文 参考訳(メタデータ) (2026-08-31T03:39:43Z) - EMERGE-Policy: A Robot Mind Emerges Beyond a Single Policy [48.898967774856466]
EMERGE-Policyは機能呼び出しと情報交換の両方をコーディネートする。
Main Agentはアクティブなコンテキストウィンドウ内でタスクレベルの状態を保持する。
ロール固有のサブエージェント プロセスの認識、実行監視、検証、メモリ統合。
論文 参考訳(メタデータ) (2026-08-30T16:46:06Z) - Agent Security Needs Redefinition through a Holistic Framework [46.88917910966891]
被告は、命令が悪意あるように見えるかどうかを問う。ベンチマークは、エージェントが有害な鳴き声を行うかどうかを問う。
我々は,エージェントの軌道全体にわたって連続的に評価されなければならない4つの特性を通じて,コンテキストセキュリティを運用する。
論文 参考訳(メタデータ) (2026-07-24T06:43:09Z) - Trusted Credentials, Untrusted Behavior: Benchmarking LLM-Agent Security in High-Performance Computing [4.508726112104009]
大規模言語モデル (LLM) エージェントは、高性能コンピューティングにおける日常的な作業に取り組み始めている。
本稿では,HPC設定における脅威モデルを定義し,スケジューラ,共有ストレージ,マルチプロジェクトアカウント,科学的な評価を行い,現在の制御が不足している箇所について検討する。
論文 参考訳(メタデータ) (2026-07-20T20:16:02Z) - Context-to-Execution Integrity for LLM Agents [0.0]
Context-to-Execution Integrity (CXI)はこの設定の実行バウンダリシステムである。
我々は、オープンウェイトフィールドプロジェクションの実行、AgentDojoライブエピソード、コードエージェントの正確な効果ベンチマーク、マニフェストバウンドの台帳故障、プロポーザルプレッシャ制御、ホスト/API互換性トレースについてCXIを評価した。
論文 参考訳(メタデータ) (2026-07-07T08:38:50Z) - A Deterministic Control Plane for LLM Coding Agents [0.0]
10,008のGitHubリポジトリの公開調査では、エージェント構成が宣言されていない共有コンポーネントとして伝播していることがわかった。
本稿では,これらのギャップを1対1でマップするハーネス上の決定論的制御平面を提案する。
論文 参考訳(メタデータ) (2026-06-25T12:02:18Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳(メタデータ) (2026-06-22T11:36:58Z) - LedgerAgent: Structured State for Policy-Adherent Tool-Calling Agents [39.819141036179225]
サービスドメイン内のポリシーに準拠したツール呼び出しエージェントは、ツールを呼び出し、ドメインポリシーに従う間、順番にタスク状態を維持する必要があります。
textscLedgerAgentは、異なる台帳内の観察されたタスク状態を保持し、その状態にプロンプトをレンダリングするツール呼び出しエージェントの推論時メソッドである。
論文 参考訳(メタデータ) (2026-06-18T17:41:56Z) - KnowU-Bench: Towards Interactive, Proactive, and Personalized Mobile Agent Evaluation [72.01173512175531]
KnowU-Benchはパーソナライズされたモバイルエージェントのためのオンラインベンチマークである。
42のGUIタスク、86のパーソナライズされたタスク、64のプロアクティブタスクをカバーしている。
明示的なタスク実行に優れるエージェントは、あいまいな指示の下で50%以下に低下する。
論文 参考訳(メタデータ) (2026-04-09T16:50:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。