論文の概要: TraceSpec: Understanding and Improving Speculative Decoding for LLM Agents

• arxiv url: http://arxiv.org/abs/2610.41177v1
• Date: Fri, 30 Oct 2026 02:57:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.599634
• Title: TraceSpec: Understanding and Improving Speculative Decoding for LLM Agents
• Title（参考訳）: TraceSpec: LLMエージェントの投機的デコーディングの理解と改善
• Abstract要約: LLMエージェントは、推論、アクション、ツールフィードバックの進化履歴を繰り返すモデル呼び出しを通じてタスクを実行する。 軌道評価と適応型ドラフトトレーニングを結びつけるフレームワークであるTraceSpecを提案する。
• 参考スコア（独自算出の注目度）: 7.593687504238982
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM agents execute tasks through repeated model calls over evolving histories of reasoning, actions, and tool feedback. Aggregate speculative-decoding metrics merge these distinct decisions, providing limited guidance on where draft supervision is needed. We present TraceSpec, a framework connecting trajectory evaluation with adaptive draft training. It combines dynamic execution with fixed-prefix replay and introduces TraceSpec-Traj, a corpus of 10,000 training states and 2,500 test states spanning browsing and software engineering. Analysis of five speculative baselines reveals that aggregate acceptance can rise with context length while declining within matched late browsing actions. Workload and phase further distinguish these trends, motivating supervision guided by trajectory conditions. TraceSpec trains on intermediate assistant turns and allocates a fixed prediction budget using state-conditioned estimates of prefix-aware acceptance gaps. Across three target sizes and two temperatures, it improves replay throughput by 12.5% to 22.6% over its DSpark base. Qwen3-4B ablations show that adaptive allocation increases accepted length by 3.3% to 10.0% over fixed full-turn supervision, with additional comparisons substantiating the roles of state conditioning and consecutive-token agreement. The resulting evaluation resources, trajectory findings, and training strategy connect the analysis of agent execution to practical draft improvement.
• Abstract（参考訳）: LLMエージェントは、推論、アクション、ツールフィードバックの進化履歴を繰り返すモデル呼び出しを通じてタスクを実行する。 投機的デコーディングのメトリクスを集約し、これらの異なる決定をマージし、ドラフトの監督が必要な場所について限定的なガイダンスを提供する。 軌道評価と適応型ドラフトトレーニングを結びつけるフレームワークであるTraceSpecを提案する。 動的実行と固定プレフィックスのリプレイを組み合わせたTraceSpec-Trajは、ブラウジングとソフトウェアエンジニアリングにまたがる1万のトレーニングステートと2,500のテストステートからなるコーパスだ。 5つの投機的ベースラインの分析により、集合的受容はコンテキスト長とともに増加し、一致した遅延ブラウジング動作の中で減少することが示された。 作業負荷とフェーズはこれらの傾向をさらに区別し、軌道条件によってガイドされる監督を動機付けます。 TraceSpecは、中間アシスタント上のトレーニングを行い、プレフィックス対応の受け入れギャップの状態条件付き見積もりを使用して、固定予測予算を割り当てる。 3つのターゲットサイズと2つの温度で、DSparkベースでリプレイのスループットを12.5%から22.6%改善する。 Qwen3-4Bの短縮により、適応的アロケーションは、固定されたフルターン監視において、許容される長さを3.3%から10.0%増加させ、さらに、状態条件付けと連続的な合意の役割を裏付ける比較を行った。 結果として得られた評価資源、軌跡発見および訓練戦略は、エージェント実行の分析と実践的なドラフト改善を結びつける。

関連論文リスト

• FOCUS: Active Critic Learning for Long-Horizon Language Model Agents [50.841006231659826]
  FOCUSは、選択的分岐を用いて、批評家ネットワークがその価値推定器を学習するのを助けるRL手法である。 FOCUSは、モジュール型コンテキスト管理インタフェースを通じて、長距離エージェント強化学習をサポートする。 以上の結果から,FOCUSはGRPOとVinePPOよりも高い性能を示した。
  論文  参考訳（メタデータ） (2026-10-26T17:34:47Z)
• Evaluating Agentic Capabilities Before Post-Training: An End-to-End Approach [49.67457555471041]
  ASAPは、エンドツーエンドのタスクで事前訓練されたベースモデルからエージェントの振る舞いを抽出し評価するためのフレームワークである。 ベースモデルにまたがる差別的なエンドツーエンドのパフォーマンスと、チェックポイントの事前トレーニングが得られます。
  論文  参考訳（メタデータ） (2026-10-14T02:21:09Z)
• SWE-Critix: Post-Training Generalist Verifiers for Assessing Coding-Agent Trajectories [6.583588820375731]
  本稿では,SWE-Critixについて紹介する。 タスクとその実行軌跡が与えられた場合、学習された検証者は完了ラベルを予測し、その判断を説明する自然言語解析を生成する。 SWE-Critixは, ベースQwen3-30B-A3B推論モデルの分類精度を, SFT後66%, RL後78%に改善した。
  論文  参考訳（メタデータ） (2026-10-09T10:30:21Z)
• NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness [76.6324710887112]
  NeoHorse-1は、エージェントのポストトレーニングを通じてこの経路を探索するために開発されたエージェントネイティブモデルのファミリーである。 本システムでは,異種モデルプールとインテリジェントなルーティング,予測能力要求,選択されたサービス層,およびその後のユーザ毎のインタラクションを結合する。
  論文  参考訳（メタデータ） (2026-09-08T03:14:54Z)
• Verification-Aware Training for Speculative Decoding [57.84976863792784]
  VAT(Verification-Aware Training)は、トレーニングステップ毎に検証をシミュレートし、その結果の受け入れパターンと拒否パターンを監督するプラグインフレームワークである。 VATはトレーニング対象のみを変更するため、ドラフトアーキテクチャやターゲットモデル、推論手順を変更することなく、既存のメソッドの上にレイヤー化することができる。 VATは平均受理期間を最大11.4%改善し、ウォールクロックのスピードアップを最大8.7%向上させ、数学、コード、チャットベンチマークで一貫した利益を得ている。
  論文  参考訳（メタデータ） (2026-08-31T01:42:10Z)
• Cross-Benchmark Generalization in Long-Horizon Agents [1.0742728354283815]
  我々は,27のカテゴリにわたる363の長距離モデルコンテキストプロトコル(MCP)タスク上で,オープンウェイト・ミックス・オブ・エキスパート・モデルを構築した。 トレーニングには外部ベンチマークタスクやグレーダが入らず、報酬、ハイパーパラメータのトレーニング、トレーニングされたチェックポイントの選択、停止を外部スコアが知らせなかった。 両方のソフトウェアベンチマークは、ソフトウェアエンジニアリングタスクを含まないトレーニングコレクションにもかかわらず改善されている。
  論文  参考訳（メタデータ） (2026-07-31T18:05:36Z)
• TRACE: Turn-level Reward Assignment via Credit Estimation for Long-Horizon Agents [51.523913302114266]
  TRACE(Turn-level Reward Assignment via Credit Estimation)は、エージェント強化学習のための高密度クレジットアサインメント手法である。 ツールコール境界における状態遷移としてロールアウトを表現し、凍結参照モデルからゴールド・アンサー・ログ確率を取得し、それらをログ比の状態値に変換し、それらの値の時間差変化としてアクション毎の報酬を導出する。 純粋なRLを用いたベースモデルツール使用能力を大幅に向上させ、冷間開始制御された微調整ステージ、エージェント訓練ステージ、ライブWebデータによるトレーニングを不要とした。
  論文  参考訳（メタデータ） (2026-07-15T16:16:42Z)
• Self-Evolution for Multi-Turn Tool-Calling Agents via Divergence-Point Preference Learning [0.0]
  マルチターンツール利用エージェントは、対話状態とポリシー制約を追跡しながら、長い水平ツールシーケンスを調整する必要がある。 ベンチマーク内での自己改善のために、ToolGraphは、スキーマ由来のトポロジ、成功したロールアウトから推定されるトランジッションウェイト、書き込み前提条件と繰り返し検索ループに対する履歴対応コントロールを組み合わせたものだ。 次に、状態ベースのマッチングとプレフィックスベースのアライメントによる分岐点の配置、アクション修正アノテーションによるフィルタリング、推論で使用されるツールグラフのコンテキストでDPOをトレーニングすることで、161の選好ペアを構築します。
  論文  参考訳（メタデータ） (2026-06-22T09:56:44Z)
• AutoResearch-RL: Perpetual Self-Evaluating Reinforcement Learning Agents for Autonomous Neural Architecture Discovery [5.110708177092157]
  本稿では、強化学習エージェントが人間の監督なしにオープンエンドニューラルネットワーク研究を行うためのフレームワークであるAutoResearch-RLを提案する。 我々はこれをマルコフ決定過程として定式化し、軽微な仮定の下で収束保証を導出し、1つのGPUナノチャット事前学習ベンチマークで経験的に実証する。
  論文  参考訳（メタデータ） (2026-03-07T17:49:44Z)
• A Comedy of Estimators: On KL Regularization in RL Training of LLMs [81.7906270099878]
  強化学習(RL)は,大規模言語モデル(LLM)の推論性能を大幅に向上させる LLMトレーニングのRLの目的は、トレーニングされたポリシーと参照ポリシーの間の逆のKL(Kullback-Leibler)分岐である正規化項を含む。 近年の研究では、KL正則化の実施が目的の正しい勾配を与えていないことが示されており、目的と実施の相違が生じている。 いくつかの推定器構成の勾配について検討し、設計選択が勾配バイアスをどう形成するかを明らかにする。
  論文  参考訳（メタデータ） (2025-12-26T04:20:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。