論文の概要: Speculative Macro Commit for Faster Tool-Using Agents
- arxiv url: http://arxiv.org/abs/2609.03236v1
- Date: Thu, 03 Sep 2026 00:31:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 18:28:38.884967
- Title: Speculative Macro Commit for Faster Tool-Using Agents
- Title（参考訳）: 高速ツール利用エージェントのための投機的マクロコミット
- Abstract要約: 2層エージェントシステムの実行機構である textbfSpeculative Macro Commit (SMC) を導入する。
SMCは、トレーニングトレースから繰り返し発生するマルチアクションスケルトンをマイニングし、マクロライブラリーに保存する。
AppWorldでは,SAベースラインを7.7%,シーケンシャル実行を44.9%削減する。
- 参考スコア（独自算出の注目度）: 18.574702996656935
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tool-using LLM agents spend wall-clock time not only on model inference but also in serial action--observation turns, where each tool call, environment transition, and observation can delay subsequent decisions. We introduce \textbf{Speculative Macro Commit} (SMC), a runtime mechanism for a two-tier agent system: a large authoritative actor model produces the official trajectory, while a faster speculative drafter model continuously predicts and executes future action chains on an isolated environment snapshot. SMC mines recurring multi-action skeletons from training traces and stores them in a macro library used to match against action chains predicted by the drafter at runtime. When the actor's next tool call matches the first drafted action, SMC commits the remaining pre-executed draft steps, together with their observations, to the official trajectory. Using Qwen3.5-27B INT4 as the authoritative actor model and Qwen3.5-4B as the speculative drafter model, SMC matches the sequential agent's overall accuracy while reducing latency by 10.23\% over the Speculative Actions (SA) baseline and 18.59\% over sequential execution on the $τ^2$-Bench Telecom subset. On AppWorld, SMC reduces wall time by 7.7\% over SA baseline and 44.9\% over sequential execution, with a small reduction in task completion. Overall, SMC provides a practical way to reuse multi-step speculative execution and reduce agent latency beyond single-step speculative actions. Our code is publicly available \href{https://github.com/zeyuliu1037/speculative-macro-commit}{\textcolor{magenta}{here}}.
- Abstract（参考訳）: ツールを使用するLLMエージェントは、モデル推論だけでなく、シリアルアクションのターンにもウォールクロック時間を費やす。
そこで我々は,2層エージェントシステムの実行機構である \textbf{Speculative Macro Commit} (SMC) を紹介した。大きな権威あるアクターモデルが公式な軌道を生成する一方で,より高速な投機的プロダクタモデルが,孤立した環境スナップショット上で将来のアクションチェーンを継続的に予測し実行している。
SMCはトレーニングトレースから繰り返し発生するマルチアクションスケルトンをマイニングし、実行時にドラフト作成者が予測したアクションチェーンにマッチするために使用されるマクロライブラリに格納する。
アクターの次のツールコールが最初のドラフトされたアクションと一致するとき、SMCは残りの実行済みのドラフトステップと、彼らの観察と共に、公式の軌道にコミットする。
Qwen3.5-27B INT4 を権威的アクターモデルとし、Qwen3.5-4B を投機的ドラフトモデルとし、SMC は、投機的アクション(SA)ベースラインでのレイテンシを 10.23 %、$τ^2$-Bench Telecom サブセットでのシーケンシャル実行で 18.59 % 削減しながら、シーケンシャルエージェントの全体的な精度と一致させる。
AppWorldでは、SAベースラインを7.7\%、シーケンシャル実行を44.9\%削減し、タスク完了を小さくする。
全体として、SMCは、マルチステップの投機的実行を再利用し、シングルステップの投機的アクションを超えてエージェントのレイテンシを低減する実用的な方法を提供する。
私たちのコードは公開されています。 \href{https://github.com/zeyuliu1037/speculative-macro-commit}{\textcolor{magenta}{here}}。
関連論文リスト
- AOSpec: Action and Observation Co-Speculation for Low-Latency Agent Serving [12.403374013868019]
エージェント環境の完全なループをまたいだアクションと観察を共指定するフレームワークであるAOSpecについて述べる。
実行のみの結果が明らかになるため、AOSpecは独立したフォークでレイテンシクリティカルなターゲットアクションをローンチする。
AOSpecは平均エンドツーエンドのレイテンシを11.8-32.5%、p99のレイテンシを42.8%削減する。
論文 参考訳（メタデータ） (2026-08-01T22:06:52Z) - Agentic Coding in the Wild: Characterizing GitHub Copilot Traces at Production Scale [6.287658270510339]
GitHub Copilot、Claude Code、CodexといったAIコーディングエージェントは、ツール実行によるマルチステップLLM推論をインターリーブする。
私たちは2026年6月のGitHub Copilotトレースをサンプルとして,このワークロードを初めて実運用規模で評価した。
論文 参考訳（メタデータ） (2026-07-30T20:51:51Z) - Speculate While You Reason: Teaching Agents to Predict Their Next Tool Call via Joint Agent-Speculator RL [26.192522057926737]
自己特定エージェントは、エージェントモードでタスクを解決し、投機モードで部分軌跡から次のツールコールを予測する。
統合エージェント・スペキュレータ強化学習法は、エージェント自身のロールアウトから投機的ターゲットを導き、エージェントと投機的更新を交互に行う。
論文 参考訳（メタデータ） (2026-07-28T15:00:10Z) - Scaling Self-Evolving Agents via Parametric Memory [69.96398842169002]
既存のメモリ拡張LDMエージェントは、過去の経験をプロンプト空間にのみ保存する。
自己進化型パラメトリックメモリフレームワークである textttTMEM を導入する。
textttTMEMは、様々なモデルスケールで要約ベースのベースラインと検索ベースのベースラインを一貫して上回る。
論文 参考訳（メタデータ） (2026-06-03T07:18:31Z) - IdleSpec: Exploiting Idle Time via Speculative Planning for LLM Agents [56.77101184011525]
大規模言語モデル(LLM)ベースのエージェントは、反復的なツールコールと環境相互作用で多段階推論を活用することで複雑なタスクを解決する。
ほとんどのエージェントシナリオではアイドル時間が流行しているが、既存の作業では避けられないオーバーヘッドとして扱っている。
IdleSpecは、アイドル時間計算を利用してエージェントのパフォーマンスを向上させる、スケーラブルで汎用的な推論手法である。
論文 参考訳（メタデータ） (2026-05-21T08:25:17Z) - WildClawBench: A Benchmark for Real-World, Long-Horizon Agent Evaluation [88.10947115397971]
この研究でWildClawBenchは、6つのテーマのカテゴリにまたがる60の人間によるバイリンガルなマルチモーダルタスクのネイティブランタイムベンチマークである。
各タスクは、約8分間のウォールクロック時間と20以上のツールコールで実行されます。
グラディングはハイブリッドであり、決定論的ルールベースのチェック、副作用の環境状態監査、意味的検証のためのLLM/VLM判定を組み合わせている。
論文 参考訳（メタデータ） (2026-05-11T17:49:43Z) - B-PASTE: Beam-Aware Pattern-Guided Speculative Execution for Resource-Constrained LLM Agents [0.0]
LLMエージェントはインターリーブされた推論とアクションのループで実行され、将来のツールコールは現在の推論ステップが完了するまで起動できない。
B-PASTEは、単一のツールからの推測を、厳密なリソース制約の下で局所的な分岐仮説に引き上げるビーム対応拡張である。
論文 参考訳（メタデータ） (2026-04-09T07:42:17Z) - SpecEyes: Accelerating Agentic Multimodal LLMs via Speculative Perception and Planning [104.01865949020304]
エージェント・マルチモーダル・大規模言語モデル(MLLM)は,反復的な視覚的ツールの実行によって顕著な推論能力を達成する。
しかし、カスケード認識、推論、ツール呼び出しループは、重要なシーケンシャルなオーバーヘッドをもたらす。
このオーバーヘッドはエージェントディープと呼ばれ、禁止されたレイテンシを発生させ、システムレベルのスループットを著しく制限します。
本稿では,エージェントレベルの投機的アクセラレーションフレームワークであるSpecEyesを提案する。
論文 参考訳（メタデータ） (2026-03-24T17:45:47Z) - Act While Thinking: Accelerating LLM Agents via Pattern-Aware Speculative Tool Execution [18.50317396128381]
PASTEは、推測によってツールの遅延を隠すように設計されたPattern-Aware Speculative Tool Executionメソッドである。
PASTEは平均タスク完了時間を48.5%削減し、ツールの実行スループットを1.8倍改善する。
論文 参考訳（メタデータ） (2026-03-19T13:36:50Z) - AgentSentry: Mitigating Indirect Prompt Injection in LLM Agents via Temporal Causal Diagnostics and Context Purification [25.817251923574286]
大規模言語モデル(LLM)エージェントのための新しい推論時間検出・緩和フレームワークを提案する。
AgentSentryは、時間的因果的テイクオーバーとしてマルチターンIPIをモデル化する最初の推論時防御である。
我々は, textscAgentDojo ベンチマークにおいて, 4つのタスクスイート, 3つの IPI 攻撃ファミリー, 複数のブラックボックス LLM に対する AgentSentry の評価を行った。
論文 参考訳（メタデータ） (2026-02-26T07:59:10Z) - BackdoorAgent: A Unified Framework for Backdoor Attacks on LLM-based Agents [58.83028403414688]
大規模言語モデル(LLM)エージェントは、計画、メモリ、ツールの使用を組み合わせた多段階ワークフローを通じてタスクを実行する。
エージェントワークフローの特定のステージに注入されたバックドアトリガーは、複数の中間状態を通して持続し、下流出力に悪影響を及ぼす可能性がある。
LLMエージェントにおけるバックドア脅威を統一したエージェント中心のビューを提供するモジュールおよびステージアウェアフレームワークである textbfBackdoorAgent を提案する。
論文 参考訳（メタデータ） (2026-01-08T03:49:39Z) - SABER: Small Actions, Big Errors -- Safeguarding Mutating Steps in LLM Agents [52.20768003832476]
我々は$$-Bench (Airline/Retail) および SWE-Bench Verified 上での実行トレースを分析する。
成功を失敗に戻すための、先進的な逸脱、最初期の行動、レベル分岐を形式化する。
モデルに依存しない,勾配のない,テスト時のセーフガードである cm を導入します。
論文 参考訳（メタデータ） (2025-11-26T01:28:22Z) - Sports-Traj: A Unified Trajectory Generation Model for Multi-Agent Movement in Sports [53.637837706712794]
任意の軌道をマスク入力として処理する統一軌道生成モデルUniTrajを提案する。
具体的には,空間特徴抽出のためのトランスフォーマーエンコーダ内に埋め込まれたゴースト空間マスキング(GSM)モジュールを紹介する。
バスケットボールU,サッカーU,サッカーUの3つの実践的スポーツデータセットをベンチマークして評価を行った。
論文 参考訳（メタデータ） (2024-05-27T22:15:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。