論文の概要: Agent JIT Compilation for Latency-Optimizing Web Agent Planning and Scheduling
- arxiv url: http://arxiv.org/abs/2605.21470v1
- Date: Wed, 20 May 2026 17:54:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.829435
- Title: Agent JIT Compilation for Latency-Optimizing Web Agent Planning and Scheduling
- Title(参考訳): 遅延最適化Webエージェント計画とスケジューリングのためのエージェントJITコンパイル
- Authors: Caleb Winston, Ron Yifeng Wang, Azalia Mirhoseini, Christos Kozyrakis,
- Abstract要約: コンピュータ利用エージェント(CUA)は、クリック、タイプ、スクロールなどのツールへの一連の呼び出しを生成することで、自然言語で指定されたタスクを自動化する。
我々は、タスク記述を直接実行可能なコードにコンパイルする代替品であるエージェントジャスト・イン・タイム(JIT)コンパイルを提案する。
- 参考スコア(独自算出の注目度): 3.990953229772162
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Computer-use agents (CUA) automate tasks specified with natural language such as "order the cheapest item from Taco Bell" by generating sequences of calls to tools such as click, type, and scroll on a browser. Current implementations follow a sequential fetch-screenshot-execute loop where each iteration requires an LLM call, resulting in high latency and frequent errors from incorrect tool use. We present agent just-in-time (JIT) compilation, an alternative that compiles task descriptions directly into executable code that is free to include LLM calls, tool calls, and parallelization. Our approach comprises three components: (1) JIT-Planner, which generates multiple code plans, validates each against tool specifications, and selects the minimum-cost candidate; (2) JIT-Scheduler, which explores parallelization strategies via Monte Carlo cost estimation from learned latency distributions; and (3) an invariant-enforcing tool protocol specifying precondition and postcondition state requirements that reduce the rate of generating plans with incorrect tool use. Across 5 web applications, JIT-Planner achieves $10.4\times$ speedup and $+28\%$ accuracy over Browser-Use, while JIT-Scheduler achieves $2.4\times$ speedup and $+9\%$ accuracy over OpenAI CUA.
- Abstract(参考訳): コンピュータ利用エージェント(CUA)は、クリック、タイプ、スクロールなどのツールへの一連の呼び出しを生成することで、"Taco Bellから最も安いアイテムを注文する"などの自然言語で指定されたタスクを自動化する。
現在の実装はシーケンシャルなフェッチ・スクリーンショット・実行ループに従っており、各イテレーションはLCMコールを必要とするため、高いレイテンシと間違ったツール使用による頻繁なエラーが発生する。
LLMコール、ツールコール、並列化を含まない実行可能コードにタスク記述を直接コンパイルする代替手段である、エージェントジャスト・イン・タイム(JIT)コンパイルを提案する。
提案手法は,(1)複数のコードプランを生成するJIT-Planner,(2)ツール仕様に対する検証,および最小コスト候補の選択,(2)モンテカルロによる並列化戦略を学習遅延分布から探索するJIT-Scheduler,(3)事前条件と後条件条件を規定する不変ツールプロトコル,の3つのコンポーネントから構成される。
5つのWebアプリケーション全体で、JIT-PlannerはBrowser-Useよりも10.4\times$のスピードアップと$+28\%の精度を達成し、JIT-Schedulerは2.4\times$のスピードアップと$+9\%の精度をOpenAI CUAより達成した。
関連論文リスト
- Speculative Interaction Agents: Building Real-Time Agents with Asynchronous I/O and Speculative Tool Calling [64.40340291543971]
我々は,小さなエッジスケールモデルとのリアルタイムインタラクションを実現するための投機的インタラクションエージェントを提案する。
また、ストリーミング入力と非同期応答を処理するためにモデルを適応させるクロックベースのトレーニング手法を提案する。
このアプローチは、Qwen2.5-3B-InstructとLlama-3.2-3B-Instructモデルを複数のツール呼び出しベンチマークで1.6-2.2$times$ Speedupを提供する。
論文 参考訳(メタデータ) (2026-05-13T11:20:52Z) - Gecko: A Simulation Environment with Stateful Feedback for Refining Agent Tool Calls [56.407063247662336]
本稿では,ルールとLLMを組み合わせてツール応答をシミュレートする総合環境であるGeckoを紹介する。
GATS は GPT-4o, GPT-5, Gemini-3.0-pro など様々な LLM のツールコール性能を一貫して改善している。
論文 参考訳(メタデータ) (2026-02-22T15:02:00Z) - TabAgent: A Framework for Replacing Agentic Generative Components with Tabular-Textual Classifiers [5.792704492773729]
TabAgentは、クローズドセット選択タスクにおける生成決定コンポーネントを、実行トレースに基づいて訓練されたコンパクトテキストタブラリ分類器に置き換えるフレームワークである。
長期のAppWorldベンチマークでは、TabAgentがタスクレベルの成功を維持しながら、ショートリストタイムのLLMコールを排除し、遅延を約95%削減し、推論コストを85~91%削減した。
論文 参考訳(メタデータ) (2026-02-18T13:01:17Z) - When Do Tools and Planning Help LLMs Think? A Cost- and Latency-Aware Benchmark [0.0]
大規模言語モデルは推論時間計画と推論を改善するための外部ツールにますます依存している。
グラフ構造化知識(Event-QA)に対するイベント中心質問応答と,Reddit ChangeMyView(CMV)における説得応答生成の2つの現実的な設定で,この挙動をベンチマークする。
LangChainとLangGraphを使って、タスク固有のツールを備えたプラン-実行-再計画エージェントとワンショットベースラインを比較します。
論文 参考訳(メタデータ) (2026-01-06T02:24:29Z) - Dynamic System Instructions and Tool Exposure for Efficient Agentic LLMs [1.2691047660244335]
大きな言語モデル(LLM)エージェントは、長いシステム命令と大きなツールカタログを毎回繰り返しながら、多くのステップで実行されることが多い。
Instruction-Tool Retrieval (ITR)は,段階ごとに最小限のシステムプロンプトフラグメントと最小限のツールサブセットを検索するRAG変異体である。
ITRはステップ単位のコンテキストトークンを95%削減し、適切なツールルーティングを32%改善し、エンドツーエンドのエピソードコストをモノリシックベースラインに対して70%削減する。
論文 参考訳(メタデータ) (2025-12-01T06:43:43Z) - TPS-Bench: Evaluating AI Agents' Tool Planning \& Scheduling Abilities in Compounding Tasks [23.96822236741708]
大規模言語モデル(LLM)エージェントは、研究やコーディングといった分野にまたがる強力な問題解決能力を示している。
本稿では, TPS-Bench を用いて, ツールプランニングとスケジューリングを要求される問題に対する LLM エージェントの能力のベンチマークを行う。
論文 参考訳(メタデータ) (2025-11-03T12:45:39Z) - An LLM-Tool Compiler for Fused Parallel Function Calling [1.990293258268139]
LLM(Large Language Models)における最先端のシーケンシャル推論は、会話タスク以外のCopilotの機能を複雑な関数呼び出しに拡張した。
LLM-Toolコンパイラは、実行時に単一の関数の下で同様のツール操作を融合し、LLMに統一的なタスクとして提示する。
大規模なCopilotプラットフォーム上でベンチマークされたLLM-Toolコンパイラは、既存のメソッドよりも最大4倍の並列呼び出しを実現し、トークンコストとレイテンシを最大40%と12%削減する。
論文 参考訳(メタデータ) (2024-05-07T18:55:50Z) - An LLM Compiler for Parallel Function Calling [68.04566807806071]
我々は,複数の関数呼び出しを効率的にオーケストレーションするために並列に関数を実行するLLMCompilerを紹介する。
ReActと比較して、一貫したレイテンシの高速化が3.7倍、コストの削減が6.7倍、精度が9%向上している。
論文 参考訳(メタデータ) (2023-12-07T18:32:04Z) - A Dynamic LLM-Powered Agent Network for Task-Oriented Agent Collaboration [55.35849138235116]
本稿では,様々なタスクやドメインに対する動的コミュニケーション構造において,候補からエージェントのチームを自動的に選択する手法を提案する。
具体的には, LLMを利用したエージェント協調のための動的LLMパワーエージェントネットワーク(textDyLAN$)というフレームワークを構築した。
我々は、コード生成、意思決定、一般的な推論、算術的推論タスクにおいて、適度な計算コストで、DyLANが強力なベースラインを上回ることを実証する。
論文 参考訳(メタデータ) (2023-10-03T16:05:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。