論文の概要: Ask the Tool, Don't Guess: Agent Tool Calls Hold Their Progress, and the Serving System Should Read It
- arxiv url: http://arxiv.org/abs/2609.18849v1
- Date: Wed, 16 Sep 2026 15:54:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.876315
- Title: Ask the Tool, Don't Guess: Agent Tool Calls Hold Their Progress, and the Serving System Should Read It
- Title(参考訳): Ask the Tool, Don't Guess: Agent Tool Calls hold their Progress, and the Serving System Should Read it
- Abstract要約: コール開始前に固定された推定値がその期間を知ることができることを示す。
ツールコールは、実行中の進捗を明示的に報告し、何が必要なのかを計測する。
- 参考スコア(独自算出の注目度): 15.556430097785094
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An agentic request spends substantial wall-clock time waiting for tools, and its KV cache holds GPU memory the whole time. Serving systems decide whether that cache stays, leaves, or comes back by guessing how long the tool will run, from the tool's name, its history, a duration declared before the call, or the engine's own occupancy. We show that no estimate fixed before a call starts can know its duration, and such estimates may not even rank the calls. Meanwhile, the running tool already holds the answer, but the agent stack together with the tool silences it. We propose that tool calls report their progress explicitly while they run, and we measure what that takes. A census of four public agent corpora finds a readable signal in most tool time once it is revealed, in two strengths: a fraction of the work remaining, or an accurate signal that the end is near. A harness recovers it without changing what the agent sees, at no measurable cost to the agent's benchmark score. At the points where a KV cache decision is made, the reported progress is between several times and an order of magnitude more accurate than the best published predictors, and it stays accurate when the environment changes. Plugged into a production engine through a few small hints, it cuts the p90 time to first token (TTFT) after a tool call by 20.7% (HBM only) and 20.8% (HBM + DRAM) against LRU, close to an oracle. A serving system should not guess what its tools can tell it.
- Abstract(参考訳): エージェント要求は、ツールを待つのにかなりのウォールクロック時間を使い、そのKVキャッシュはGPUメモリを常に保持する。
サービングシステムは、ツールの名前、履歴、呼び出し前に宣言された期間、あるいはエンジンの占有時間から、ツールがいつまで動作するのかを推測することで、キャッシュが残るか、残されるか、あるいは戻ってくるかを決定する。
我々は、呼び出し開始前に固定された見積もりがその期間を知ることができず、そのような推定は呼び出しのランク付けすらできないことを示した。
一方、ランニングツールは答えをすでに保持していますが、エージェントとツールが一緒に積み重なって沈黙します。
ツールコールは、実行中の進捗を明示的に報告し、何が必要なのかを計測する。
4つの公共エージェントのコーポラの国勢調査では、ツールタイムのほとんどで読みやすい信号が露呈され、残りの作業のごく一部、あるいは終了が近い正確な信号の2つの長所で検出される。
ハーネスは、エージェントが見ているものを変更せずに、エージェントのベンチマークスコアに測定可能なコストなしで回復する。
KVキャッシュが決定された時点では、報告された進捗は、最も公表された予測器よりも数倍精度が高く、環境が変化しても正確である。
数個の小さなヒントを通してプロダクションエンジンにプラグインされ、20.7%(HBMのみ)のツールコールと20.8%(HBM+DRAM)のLRU(オラクルに近い)に対する最初のトークン(TTFT)にp90時間を短縮する。
サービスシステムは、そのツールが何を教えてくれるかを推測するべきではない。
関連論文リスト
- ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳(メタデータ) (2026-08-27T01:22:14Z) - Screenshots or Tools? Eliciting Tool Use and Managing Multimodal Context in Hybrid GUI-MCP Computer-Use Agents [20.08454833886751]
ハイブリッドコンピュータ利用エージェントは、スクリーンショットを通じて動作したり、テキストツールを呼び出すことができる。
利用可能なツールがなければ、その効果がどの方向に進むかは解決できません。
推論モデルはこれらの失敗を避けるが、ツール修正可能なタスクの23.9%である55/309タスクのみをツールと呼ぶ。
論文 参考訳(メタデータ) (2026-08-04T08:35:51Z) - Speculate While You Reason: Teaching Agents to Predict Their Next Tool Call via Joint Agent-Speculator RL [26.192522057926737]
自己特定エージェントは、エージェントモードでタスクを解決し、投機モードで部分軌跡から次のツールコールを予測する。
統合エージェント・スペキュレータ強化学習法は、エージェント自身のロールアウトから投機的ターゲットを導き、エージェントと投機的更新を交互に行う。
論文 参考訳(メタデータ) (2026-07-28T15:00:10Z) - ToolAtlas: Learning Once, Reusing Everywhere with Tool-Side Memory [49.08868447320197]
大規模言語モデル(LLM)エージェントは、共有プロバイダが提供する外部ツールにますます依存している。
既存のアプローチでは、パラメータ更新、プロンプトリファインメント、エージェント側のメモリを通じて、エージェント側のツール使用を改善する。
グラフベースのフレームワークであるToolAtlasを紹介します。
論文 参考訳(メタデータ) (2026-07-13T06:01:41Z) - SPORK: Self-Speculative Forking to Accelerate Agentic LLM Inference [6.978795233982147]
SPORKは推測されたツールコールを早期にディスパッチし、残りのチェーン・オブ・ソート・デコードでその実行を重複させる。
SPORKは、推測されたツールコールを早期にディスパッチする、トレーニング不要のコントローラである。
論文 参考訳(メタデータ) (2026-07-03T13:51:32Z) - Think Twice Before You Act: Protecting LLM Agents Against Tool Description Poisoning via Isolated Planning [48.99783163807576]
クロスツール記述中毒は、エージェントの軌道を操縦するためにプランナー可視のツールメタデータを操作することができる。
重要な観察は、有毒な記述がステップを越えた計画コンテキストに留まり、その後のツール選択に対する継続的な影響を可能にすることである。
我々は,孤立計画と呼ばれる新しい概念に基づく新しいシステムレベルの防衛ツールであるTool-Guardを提案する。
論文 参考訳(メタデータ) (2026-06-18T20:31:08Z) - Do Multimodal Agents Really Benefit from Tool Use? A Systematic Study of Capability Gains [20.11899219087138]
画像のエージェントであるThymeとDeepEyesV2を用いて、現実世界の理解、OCR、チャート理解、数学的推論の2つの代表的思考について検討する。
ツールアクセスは、一貫した集約的改善がほとんど得られず、生成したコストを確実に削減することができず、小さなツールのみの解決セットのみを残している。
論文 参考訳(メタデータ) (2026-06-01T15:04:25Z) - Your Agents Are Aging Too: Agent Lifespan Engineering for Deployed Systems [60.79651380135334]
長寿命のAIエージェントは、永続的な運用システムとしてますますデプロイされる。
エージェントはデプロイ後、いつまで信頼できるのか?
エージェントライフスパンエンジニアリングのための縦型信頼性ベンチマークであるAgingBenchを紹介する。
論文 参考訳(メタデータ) (2026-05-25T19:55:12Z) - WildClawBench: A Benchmark for Real-World, Long-Horizon Agent Evaluation [88.10947115397971]
この研究でWildClawBenchは、6つのテーマのカテゴリにまたがる60の人間によるバイリンガルなマルチモーダルタスクのネイティブランタイムベンチマークである。
各タスクは、約8分間のウォールクロック時間と20以上のツールコールで実行されます。
グラディングはハイブリッドであり、決定論的ルールベースのチェック、副作用の環境状態監査、意味的検証のためのLLM/VLM判定を組み合わせている。
論文 参考訳(メタデータ) (2026-05-11T17:49:43Z) - DeepAgent: A General Reasoning Agent with Scalable Toolsets [111.6384541877723]
DeepAgentは、自律的な思考、ツール発見、アクション実行を実行するエンドツーエンドのディープ推論エージェントである。
長期にわたる相互作用の課題に対処するために,過去の相互作用を構造化エピソード,動作,ツール記憶に圧縮する自律的メモリ折り畳み機構を導入する。
LLMシミュレートされたAPIを活用し、ツール呼び出しトークンにきめ細かいクレジットを割り当てるツールコールアドバンテージ属性を適用した、エンドツーエンドの強化学習戦略であるToolPOを開発した。
論文 参考訳(メタデータ) (2025-10-24T16:24:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。