論文の概要: ToolMinimize: Auditing and Rewriting LLM Agent Tool Calls to Minimize Privacy Exposure
- arxiv url: http://arxiv.org/abs/2608.24957v1
- Date: Tue, 25 Aug 2026 03:48:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.292817
- Title: ToolMinimize: Auditing and Rewriting LLM Agent Tool Calls to Minimize Privacy Exposure
- Title（参考訳）: ToolMinimize: LLMエージェントツールの監査と書き換えによるプライバシ公開の最小化
- Abstract要約: ツールコールをインターセプトし、ツール機能に必要な最小データに引数を書き換える。
307ツールコールのライブ検証は、100%引数レベルのタスク妥当性で、プライバシコストを81.2--92.0%削減する。
- 参考スコア（独自算出の注目度）: 0.08594140167290097
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: LLM agents routinely include privacy-sensitive data (PSD) in tool call arguments beyond what the invoked tools require, crossing trust boundaries to third-party services on every invocation. A controlled measurement on three production LLMs (GPT-4o, Claude 3.5 Sonnet, Llama-3.3-70B) shows that 81--88\% of tool calls include unnecessary PSD under default prompts; explicit privacy instructions still leave 36--76\% over-sharing. Existing defenses gate calls (allow/block) or label flows (information-flow control) but cannot \emph{rewrite} argument values, and PII detection tools miss implicit PSD like ``Memorial Sloan Kettering'' (a hospital name that implies a diagnosis). We present \system{}, a middleware that intercepts tool calls and rewrites their arguments to the minimum data necessary for tool functionality, combining schema-aware necessity analysis with four operations: removal, generalization, substitution, and truncation. Live validation on 307 tool calls across the three LLMs above reduces privacy cost by 81.2--92.0\% at 100\% argument-level task validity (TOST equivalence $p{<}0.001$ at $Δ{=}1.0$); on 25 unannotated Model Context Protocol (MCP) schemas, by 79.0\% with no \texttt{minimum\_necessary} metadata. An optional LLM content-necessity layer strips task-irrelevant PSD from otherwise-necessary free-text fields, raising live-LLM reduction to 85.1--95.6\% and author-schema reduction from 71.1\% to 90.9\%. Median latency is 1.77\,ms.
- Abstract（参考訳）: LLMエージェントは、呼び出されたツールに必要なもの以上のツールコール引数に、常にプライバシに敏感なデータ(PSD)を格納し、すべての呼び出しにおいて、信頼境界をサードパーティサービスに渡します。
3つのLLM(GPT-4o、Claude 3.5 Sonnet、Llama-3.3-70B)の制御された測定結果によると、81--88 %のツールコールには、デフォルトのプロンプトの下で不要なPSDが含まれている。
既存のディフェンスコール (allow/block) やラベルフロー (information-flow control) をコールするが、'emph{rewrite} の引数値ができないため、PII検出ツールは '`Memorial Sloan Kettering' (診断を意味する病院名)のような暗黙的なPSDを見逃す。
ツールコールをインターセプトし、ツール機能に必要な最小データにそれらの引数を書き換えるミドルウェアである‘system{}’を、スキーマ認識の必要性分析と4つの操作(削除、一般化、置換、トランケーション)を組み合わせる。
上記の3つのLCMにわたる307のツールコールに対するライブバリデーションは、100\%の引数レベルのタスク妥当性 (TOST equivalence $p{<}0.001$ at $Δ{=}1.0$); 25の未アノテーションモデルコンテキストプロトコル(MCP)スキーマに対して、79.0\%のプライバシコストを減らします。
オプションのLCMコンテンツ必要層は、必要でない自由テキストフィールドからタスク非関連PSDを取り除き、ライブLLMを85.1-95.6\%に、著者-スキーマを71.1\%から90.9\%に下げる。
メディアレイテンシは 1.77\,ms である。
関連論文リスト
- LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。
我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-26T12:13:05Z) - Joint Optimization of Tool Creation and Use for Large Language Model Agents [69.07066297088187]
SMITH (-grounded Multi-task Iterative Tool Honing) は、単一のポリシー内でツールの作成とツールの使用を訓練する。
SMITHで訓練された4B Qwen3は、正確に検証された13の手続き的推論タスクで、保持されたタスクで平均79.8のマクロ平均精度に達する。
また、TabMWP-Hardでは40.4、ドメイン外のGQAでは42.6に到達している。
論文 参考訳（メタデータ） (2026-08-25T13:59:34Z) - HyperTool: Beyond Step-Wise Tool Calls for Tool-Augmented Agents [52.33697136670754]
textbfHyperToolは、実行可能なMPPスタイルのツールインターフェースで、ツール実行のモデル可視単位を変更する。
モデルはHyperToolをコードブロックで呼び出し、既存のツールを元のスキーマを通じて呼び出し、返却された値を操作し、中間結果をローカルに渡すことができる。
MCP-Universeでは、HyperToolは平均精度をQwen3-32Bで15.69%から35.29%、Qwen3-8Bで9.93%から33.33%に改善し、GPT-OSSとKimi-k2.5を平均で上回っている。
論文 参考訳（メタデータ） (2026-06-11T17:56:36Z) - ToolChoiceConfusion: Causal Minimal Tool Filtering for Reliable LLM Agents [0.0]
そこで本研究では,因果的充足力によるツールの選択を無訓練で行う手法を提案する。
CMTFと全ツール露光,キーワード検索,状態認識フィルタリング,因果パス改善を比較した。
102のタスク、100のツール、4つのLDMバックエンド、2448のタスクメソッドモデルを備えたメインベンチマークでは、CMTFは総合的な成功において最強の因果ベースラインと一致している。
論文 参考訳（メタデータ） (2026-06-04T15:24:10Z) - Prompts Don't Protect: Architectural Enforcement via MCP Proxy for LLM Tool Access Control [0.0]
大規模な言語モデルは、大規模なレジストリからツールを選択して呼び出す自律的なエージェントとしてますます機能する。
本稿では,属性ベースのアクセス制御(ABAC)をツール発見とツール実行の2点で実施するMPPプロキシを提案する。
我々のプロキシは、50msの中央値レイテンシを追加しながら、不正呼び出し率(UIR)を0%に削減します。
論文 参考訳（メタデータ） (2026-05-18T13:52:24Z) - Rethinking LLMOps for Fraud and AML: Building a Compliance-Grade LLM Serving Stack [2.299706695317804]
不正かつアンチマネーロンダリング(AML)コンプライアンスは、大言語モデル(LLM)の高価値ドメインである
コンプライアンスプロンプトはプレフィックス重、スキーマ制約、エビデンスリッチであることが多い。
これらのプロパティはプレフィックスの再利用、KVキャッシュの効率、ランタイムチューニング、モデルオーケストレーション、出力バリデーションの1次システムの関心事を可能にする。
論文 参考訳（メタデータ） (2026-05-11T20:47:41Z) - LLM Agents Already Know When to Call Tools -- Even Without Reasoning [25.40369702634587]
LLMエージェントは、たとえモデルが直接答えられるとしても、ツールを無差別に呼び出す傾向がある。
ツールコールが実際に必要になった場合、既存のベンチマークは体系的に研究されない。
ツールの必要性の3つのカテゴリにまたがる18の環境のベンチマークである When2Tool を提案する。
論文 参考訳（メタデータ） (2026-05-10T01:37:40Z) - Gecko: A Simulation Environment with Stateful Feedback for Refining Agent Tool Calls [56.407063247662336]
本稿では,ルールとLLMを組み合わせてツール応答をシミュレートする総合環境であるGeckoを紹介する。
GATS は GPT-4o, GPT-5, Gemini-3.0-pro など様々な LLM のツールコール性能を一貫して改善している。
論文 参考訳（メタデータ） (2026-02-22T15:02:00Z) - Data-Free Pruning of Self-Attention Layers in LLMs [1.7188280334580195]
本稿では,クエリーキー結合によって注目サブレイヤをランク付けする1ショットの重みのみの基準であるGate-Normを提案する。
Gate-Normは、キャリブレーションデータを必要とせず、フォワードパスも微調整も不要で、特別なカーネルも不要である。
論文 参考訳（メタデータ） (2025-12-03T07:47:49Z) - Drag-and-Drop LLMs: Zero-Shot Prompt-to-Weights [75.83625828306839]
textbfDrag-and-Drop LLMs (textitDnD)は、未ラベルのタスクプロンプトをLoRAの重み更新に直接マッピングすることで、タスク単位のトレーニングを廃止する。
ライトウェイトテキストエンコーダは、各プロンプトバッチを条件埋め込みに蒸留し、カスケードされた超畳み込みデコーダによって全LORA行列に変換する。
論文 参考訳（メタデータ） (2025-06-19T15:38:21Z) - SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。
提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。
我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
論文 参考訳（メタデータ） (2025-03-11T17:53:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。