論文の概要: Least-Privilege Auditing of Agent Tool Calls with Intent Graphs and Reasoning-Guided Escalation
- arxiv url: http://arxiv.org/abs/2611.11305v1
- Date: Sun, 08 Nov 2026 11:05:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-11 09:45:37.982785
- Title: Least-Privilege Auditing of Agent Tool Calls with Intent Graphs and Reasoning-Guided Escalation
- Title(参考訳): Intent Graphs and Reasoning-Guided Escalation を用いたエージェントツール呼出のLast-Privilege Auditing
- Abstract要約: 本稿では,ユーザの目的から実行可能な意図グラフを導出する実行時監査を提案する。
現在のエージェントはベースラインアタックが成功しなかったため、エンドツーエンドのバリデーションは引き続きオープンである。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: LLM agents that call tools are exposed to indirect prompt injection: instructions hidden in tool outputs can steer an agent into calls the user never asked for. We present a runtime audit that derives an executable intent graph from the user's objective and the deployment's tool catalog with one LLM call per task, and checks every tool call against it with a deterministic loop that makes no LLM call (median 5.7 microseconds per call). Two further mechanisms recover utility. Lookups of the user's own state bypass the audit, because the harm of an attack lies in its write or outward step. The calls that remain flagged are escalated to a reasoning guardian, in the spirit of tool-integrated reasoning models such as START: a reasoning model that sees only the objective, the plan, the call history without tool outputs, and the flagged call, and can verify facts with a restricted Python-expression tool. A current agent showed no baseline attack success, so end-to-end validation remains open.
- Abstract(参考訳): ツールをコールするLDMエージェントは、間接的なプロンプトインジェクションに晒される:ツール出力に隠された命令は、エージェントを操作して、ユーザが要求しなかった呼び出しを操作できる。
本稿では、ユーザ目標とデプロイメントツールカタログから実行可能なインテントグラフを1つのLCMコールで取得し、LCMコールを行わない決定論的ループ(中間5.7マイクロ秒)でそれに対するすべてのツールコールをチェックする。
さらに2つのメカニズムがユーティリティを回復する。
ユーザ自身の状態のルックアップが監査をバイパスする理由は、攻撃の被害が書き込みまたは外部のステップにあるためである。
フラグ付けされた呼び出しは、STARTのようなツール統合推論モデル(目的、計画、ツール出力なしの呼び出し履歴、フラグ付けされた呼び出し)の精神の中で、推論の保護者にエスカレートされ、制限されたPython表現ツールで事実を検証できる。
現在のエージェントはベースラインアタックが成功しなかったため、エンドツーエンドのバリデーションは引き続きオープンである。
関連論文リスト
- Log-To-Leak: Prompt Injection Attacks on Tool-Using LLM Agents via the Model Context Protocol [7.073753197587707]
LLM エージェントは Model Context Protocol (MCP) を通じて外部ツールにアクセスしやすくなっている。
Log-To-Leak(ログ・トゥ・リーク)は、最後の正当な呼び出しの後、個別のアタッカーが制御する呼び出しを誘導するポストホックロギング攻撃である。
5つのMPPサーバと4つのLCMエージェントを,有効性,有用性,効率性にまたがる5つの指標を用いて評価した。
論文 参考訳(メタデータ) (2026-10-26T18:20:24Z) - Toward SLM-based agentic task-tool intent matching [3.897391497125516]
エージェントシステムの水平成長は、呼び出しごとの自動監視の必要性を動機付けている。
小型言語モデル (SLM) はタスクツールの関連分類器として機能する。
我々は、SLMの最適化と特殊化のために、プロンプト最適化、教師付き微調整、強化学習を利用する。
論文 参考訳(メタデータ) (2026-10-02T12:31:01Z) - ToolFence: Fine-Grained Authorization for Secure Tool-Using LLM Agents [30.668587899989955]
ToolFenceは実行前に型付き承認ブループリントをコンパイルし、決定論的モニターを通じてそれを強制する。
Qwen3-maxのAgentDojoでは、ToolFenceはASR全体をほぼゼロに減らし、パーセンテージのクリーンユーティリティのドロップと実行時のオーバーヘッドを3.80ポイントに減らした。
論文 参考訳(メタデータ) (2026-09-29T10:16:01Z) - SilentCall: Hidden Tool-Call Backdoors in Open-Weight Agents, and How to Catch Them [0.0]
オープンウェイトなツールコールエージェントは、通常はベンチマークスコアと信頼性のある使用記録に採用されている。
モデルパブリッシャは、悪意のある行動を隠蔽しながら、両方を稼ぐエージェントを訓練できることを示す。
ツールを使用するエージェントは、オープンウェイトサプライチェーンを通じて拡散するので、モデルが自身の行動について何を言っているのかを信頼するべきではない。
論文 参考訳(メタデータ) (2026-09-25T21:32:31Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳(メタデータ) (2026-08-27T01:22:14Z) - Think Twice Before You Act: Protecting LLM Agents Against Tool Description Poisoning via Isolated Planning [48.99783163807576]
クロスツール記述中毒は、エージェントの軌道を操縦するためにプランナー可視のツールメタデータを操作することができる。
重要な観察は、有毒な記述がステップを越えた計画コンテキストに留まり、その後のツール選択に対する継続的な影響を可能にすることである。
我々は,孤立計画と呼ばれる新しい概念に基づく新しいシステムレベルの防衛ツールであるTool-Guardを提案する。
論文 参考訳(メタデータ) (2026-06-18T20:31:08Z) - Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。
LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。
emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
論文 参考訳(メタデータ) (2026-05-16T12:53:31Z) - Gecko: A Simulation Environment with Stateful Feedback for Refining Agent Tool Calls [56.407063247662336]
本稿では,ルールとLLMを組み合わせてツール応答をシミュレートする総合環境であるGeckoを紹介する。
GATS は GPT-4o, GPT-5, Gemini-3.0-pro など様々な LLM のツールコール性能を一貫して改善している。
論文 参考訳(メタデータ) (2026-02-22T15:02:00Z) - Sponge Tool Attack: Stealthy Denial-of-Efficiency against Tool-Augmented Agentic Reasoning [58.432996881401415]
最近の作業では、エージェント推論を可能にするために、外部ツールで大きな言語モデル(LLM)を拡張している。
本稿では,入力プロンプトを書き換えることのみでエージェント推論を妨害するスポンジツールアタック(STA)を提案する。
STAは、意味的忠実度の高い原文からの良心的な即興的な書き直しを生成する。
論文 参考訳(メタデータ) (2026-01-24T19:36:51Z) - Learning to Ask: When LLM Agents Meet Unclear Instruction [55.65312637965779]
大きな言語モデル(LLM)は、言語スキルだけでは達成不可能なタスクに対処するための外部ツールを活用することができる。
我々は、不完全な命令下でのLLMツールの使用性能を評価し、エラーパターンを分析し、Noisy ToolBenchと呼ばれる挑戦的なツール使用ベンチマークを構築した。
Ask-when-Needed (AwN) という新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-08-31T23:06:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。