論文の概要: Does Showing Agents the Privilege of Their Tools Reduce Over-Privileged Tool Selection?

• arxiv url: http://arxiv.org/abs/2610.40975v1
• Date: Thu, 29 Oct 2026 20:59:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.494462
• Title: Does Showing Agents the Privilege of Their Tools Reduce Over-Privileged Tool Selection?
• Title（参考訳）: エージェントの表示はツールの選択を過度に減らすか?
• Abstract要約: 特権を示すことは、測定可能な速度で特権を過小評価するすべてのモデルにおいて、未熟なエスカレーションを減少させる。 リスクツールなしで完了したシナリオのシェアは8つのモデルのうち7つで上昇し、18.8%のベースラインから51.1%の安全な完了を達成した。
• 参考スコア（独自算出の注目度）: 5.056243313683081
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When several tools can complete a task, an agent that picks the most powerful one holds more authority than the task needs. Recent work demonstrates that language-model agents do this often, and more so after a tool fails. Approaches to restrict focus so far on either enforcing least privilege outside the model or retraining the model. We ask a simpler question: does it help to tell the agent what each tool's privilege is? To investigate this question, we run all 544 ToolPrivBench scenarios on eight models, three run locally, and five through a hosted API, under five conditions: (1) no signal, (2) a least-privilege instruction, (3) privilege class and cost shown in each tool description, (4) both the instruction and privilege information, and (5) a matched neutral-metadata control. Showing privilege lowers premature escalation on every model that over-privileges at a measurable rate, reducing over-privileged selection by up to 19.3 percentage points (50\%), whereas irrelevant metadata in the same format does not. On most models, however, information alone mainly delays escalation until the standard tools have been tried. Combined with the instruction it more often avoids escalation, and the share of scenarios completed without a risk tool rises on seven of the eight models, reaching 51.1\% safe completion from a baseline of 18.8\% on the strongest-performing configuration. Visible privilege is therefore a cheap complement to enforcement rather than a substitute.
• Abstract（参考訳）: 複数のツールがタスクを完了できる場合、最も強力なタスクを選択するエージェントは、タスクの要求よりも多くの権限を保持する。 最近の研究は、言語モデルエージェントが頻繁にこれを行うことを示した。 これまでのアプローチでは、モデルの外で最小限の特権を強制するか、あるいはモデルを再訓練するかに焦点を絞っている。 各ツールの特権が何であるかをエージェントに伝えるのに役立ちますか? この問題を調査するために,544のツールPrivBenchシナリオを8つのモデル,3つのローカル実行,5つのホストAPIを通じて,(1)信号なし,(2)最小特権命令,(3)ツール記述に示す特権クラスとコスト,(4)命令情報と特権情報,(5)一致した中立メタタ制御の5つの条件下で実行した。 特権を示すことは、過特権が測定可能な速度で増大する全てのモデルにおいて未熟なエスカレーションを減らし、過剰特権選択を最大19.3ポイント(50\%)削減するが、同じフォーマットの無関係なメタデータはそうではない。 しかし、ほとんどのモデルでは、標準ツールが試されるまで、情報は主にエスカレーションを遅らせる。 命令と組み合わせることでエスカレーションを回避し、リスクツールなしで完了したシナリオのシェアは8つのモデルのうち7つで上昇し、最強の性能設定で18.8\%のベースラインから51.1\%の安全完了に達した。 したがって、可視的な特権は代替品というよりはむしろ執行を補完する安価なものである。

関連論文リスト

• Ajar: Measuring Open Privilege in Agent Defenses [11.102074689747745]
  Ajarはエージェントセキュリティベンチマークを使用して、オープン権限を直接測定する。 Progent、CaMeL、AC4A、Permission Assistant、Claude CodeのAutoモードです。 このオープンな特権は、測定された攻撃の成功または良質なユーティリティから引き出すことはできない。
  論文  参考訳（メタデータ） (2026-09-22T18:01:41Z)
• Joint Optimization of Tool Creation and Use for Large Language Model Agents [69.07066297088187]
  SMITH (-grounded Multi-task Iterative Tool Honing) は、単一のポリシー内でツールの作成とツールの使用を訓練する。 SMITHで訓練された4B Qwen3は、正確に検証された13の手続き的推論タスクで、保持されたタスクで平均79.8のマクロ平均精度に達する。 また、TabMWP-Hardでは40.4、ドメイン外のGQAでは42.6に到達している。
  論文  参考訳（メタデータ） (2026-08-25T13:59:34Z)
• When Lower Privileges Suffice: Investigating Over-Privileged Tool Selection in LLM Agents [24.231912493421948]
  LLMエージェントは、ますます自律的にツールを選択するようになり、異なる特権を持つツールの中からの選択が安全関連になる。 エージェントが選択またはエスカレートするオーバープライレジツールの選択について検討するが、十分な低プライレジ代替手段にもかかわらず、高プライレジツールを選択するかエスカレーションする。 エージェントに十分な低特権のツールを好み、必要な時にのみエスカレートするように教える。
  論文  参考訳（メタデータ） (2026-06-18T09:54:48Z)
• Prompts Don't Protect: Architectural Enforcement via MCP Proxy for LLM Tool Access Control [0.0]
  大規模な言語モデルは、大規模なレジストリからツールを選択して呼び出す自律的なエージェントとしてますます機能する。 本稿では,属性ベースのアクセス制御(ABAC)をツール発見とツール実行の2点で実施するMPPプロキシを提案する。 我々のプロキシは、50msの中央値レイテンシを追加しながら、不正呼び出し率(UIR)を0%に削減します。
  論文  参考訳（メタデータ） (2026-05-18T13:52:24Z)
• FORTIS: Benchmarking Over-Privilege in Agent Skills [68.34663362794069]
  2段階にわたるエージェントスキルの過剰な特権を評価するベンチマークを提案する。 過剰に特権化された行動は例外ではなく規範であることがわかった。 その結果、エージェント動作を含むスキル層は、それ自体が現在のシステムにおける特権エスカレーションの主要な源であることを示唆している。
  論文  参考訳（メタデータ） (2026-05-09T20:57:18Z)
• No More, No Less: Least-Privilege Language Models [43.748379918040854]
  我々は、コンピュータシステムにおける最小特権からインスピレーションを得て、最小特権言語モデルと呼ばれるモデルのクラスを定義します。 配置時制御をモニタ・アロケータ・エンフォースラスタックとして形式化し、(i)要求時信号を分離し、(ii)特権を割り当てる決定ルールと(iii)特権を選択する推論時機構を分離する。
  論文  参考訳（メタデータ） (2026-01-30T16:42:13Z)
• Sponge Tool Attack: Stealthy Denial-of-Efficiency against Tool-Augmented Agentic Reasoning [58.432996881401415]
  最近の作業では、エージェント推論を可能にするために、外部ツールで大きな言語モデル(LLM)を拡張している。 本稿では,入力プロンプトを書き換えることのみでエージェント推論を妨害するスポンジツールアタック(STA)を提案する。 STAは、意味的忠実度の高い原文からの良心的な即興的な書き直しを生成する。
  論文  参考訳（メタデータ） (2026-01-24T19:36:51Z)
• OSWorld-MCP: Benchmarking MCP Tool Invocation In Computer-Use Agents [49.34040731113563]
  我々は,コンピュータ利用エージェントのツール実行,GUI操作,意思決定能力を評価するための,最初の総合的かつ公正なベンチマークであるOSWorld-MCPを提案する。 厳密な手作業による検証は158の高品質なツールをもたらし、それぞれが正しい機能、実用性、汎用性を検証します。 OSWorld-MCPはマルチモーダルエージェントの理解を深め、複雑なツール支援環境でのパフォーマンスを評価するための新しい標準を設定している。
  論文  参考訳（メタデータ） (2025-10-28T15:56:36Z)
• SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
  SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。 提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。 我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
  論文  参考訳（メタデータ） (2025-03-11T17:53:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。