論文の概要: Trajectory-Level Speculation with Semantic Verification for Tool-Using Agents
- arxiv url: http://arxiv.org/abs/2610.21463v1
- Date: Thu, 15 Oct 2026 08:06:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 19:13:16.274162
- Title: Trajectory-Level Speculation with Semantic Verification for Tool-Using Agents
- Title（参考訳）: ツール・ユース・エージェントのセマンティック検証による軌道レベル推定
- Abstract要約: SpecAgentは、強力なモデルを各ステップの著者から弱いモデルで作成されたステップのレビュアーに変換するコラボレーションプロトコルです。
検証は自動回帰復号を並列プリフィルに置き換えるため、強いモデルは全てのステップではなく短い検証と時折修正のみを復号する。
- 参考スコア（独自算出の注目度）: 32.90996574971153
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model agents solve tasks through long sequences of tool calls, and the prevailing design has a single strong model generate every step, although many steps are routine enough for a much smaller model. Existing ways of sharing this work keep the strong model as the generator: routers and collaborative agents decide which model handles each query or step, and speculative methods check a small model's drafts one step at a time, usually against the strong model's own action. We introduce SpecAgent, a collaboration protocol that turns the strong model from the author of each step into a reviewer of steps drafted by a weak model. The weak model executes read-only tool calls as it drafts, so that every step is grounded in real observations, and holds the first action that would modify the environment. The strong model then verifies the drafted segment in a single prefill pass, commits the longest prefix it judges semantically valid, and repairs the first rejected step. Because verification replaces autoregressive decoding with parallel prefill, the strong model decodes only short verdicts and occasional repairs rather than every step. On $τ^2$-Bench, SpecAgent comes within one point of the strong model's success rate while roughly halving memory traffic and wall time, and on AutomationBench and VitaBench it recovers 44-75% of the quality gap while lowering both. In an edge-cloud deployment on MCP-Atlas with three cloud models, it closes 53-75% of the weak-strong quality gap while the strong model generates at most half as many tokens. These results suggest that a strong model need not author every step of an agent: reviewing grounded drafts retains most of its quality while cutting both latency and memory traffic.
- Abstract（参考訳）: 大規模な言語モデルエージェントは、ツールコールの長いシーケンスを通じてタスクを解決し、一般的な設計では、すべてのステップを生成する単一の強力なモデルを持つ。
ルータと協調エージェントは、それぞれのクエリまたはステップを処理するモデルを決定し、投機的メソッドは、通常、強いモデルのアクションに対して、小さなモデルのドラフトを1ステップずつチェックする。
SpecAgentは、強力なモデルを各ステップの著者から弱いモデルで作成されたステップのレビュアーに変換するコラボレーションプロトコルです。
弱いモデルはドラフトとして読み取り専用ツールコールを実行し、すべてのステップが実際の観察に基礎を置いて、環境を変更する最初のアクションを保持する。
強いモデルは、1つのプリフィルパスでドラフトされたセグメントを検証し、それが意味的に有効であると判断する最長のプレフィックスをコミットし、最初の拒否されたステップを修復する。
検証は自動回帰復号を並列プリフィルに置き換えるため、強いモデルは全てのステップではなく短い検証と時折修正のみを復号する。
τ^2$-Benchでは、SpecAgentは、メモリトラフィックと壁時間の半減を図りながら、強いモデルの成功率の1ポイント以内にくる。
3つのクラウドモデルによるMCP-Atlas上のエッジクラウドデプロイメントでは、弱い品質ギャップの53-75%を閉じる一方、強いモデルではトークンの半数が生成される。
これらの結果は、強力なモデルがエージェントのすべてのステップを記述する必要はないことを示唆している。
関連論文リスト
- When Is Smaller Greener? Right-Sizing Language Models for Agentic AI [1.3965477771846408]
コールごとの比較はエージェントAIと誤解を招く可能性があることを示す。
タスクはすべての必要なステップが成功する場合にのみ成功するので、ステップごとの信頼性の小さな違いは、タスク全体の成功に大きな違いをもたらす。
エージェントでLLMを選択するための決定モデルを開発する。
論文 参考訳（メタデータ） (2026-10-14T00:37:23Z) - Dissecting model behavior through agent trajectories [15.811597127775812]
私たちはインテント・エグゼクティブのギャップを形式化し、モデルが意図するものと、ハーネスが実行しているものとのミスマッチと、その逆です。
このハーネスモデルアライメントの効果を説明するために,SSA(Simple Strands Agent)と呼ばれるシンプルでカスタマイズ可能なハーネスを開発した。
i) 一般的なエージェントベンチマークにおいて,多種多様なモデルプロジェクタファミリーが報告したpass@1のパフォーマンスを再現または改善し, (ii) SSAが生成した128k軌道の解析に基づいて構築する。
論文 参考訳（メタデータ） (2026-06-16T03:17:03Z) - Coupling Models for One-Step Discrete Generation [50.37847093567075]
カップリングモデル(英: Coupling Models)は、離散列とガウス列の間の直接結合を学習する一段階の離散生成モデルである。
単純なデータ間結合と手動で特定したデータ間結合による複雑な連続フローを回避する。
LM1Bテキスト生成パープレキシティを最低パープレキシティ動作ポイントで33%削減する。
論文 参考訳（メタデータ） (2026-05-08T03:40:39Z) - Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。
本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
論文 参考訳（メタデータ） (2025-10-02T06:25:10Z) - SyMerge: From Non-Interference to Synergistic Merging via Single-Layer Adaptation [28.417947631789783]
SyMergeは1つのタスク固有のレイヤとマージ係数を共同で最適化する軽量フレームワークである。
SyMergeは、ビジョン、密度予測、NLPベンチマークを越えて最先端の結果を達成する。
論文 参考訳（メタデータ） (2024-12-26T07:42:06Z) - $\Delta$-Patching: A Framework for Rapid Adaptation of Pre-trained
Convolutional Networks without Base Performance Loss [71.46601663956521]
大規模なデータセットで事前トレーニングされたモデルはしばしば、時間とともにやってくる新しいタスクやデータセットをサポートするように微調整される。
モデルコピーを格納することなく、効率よく微調整ニューラルネットワークモデルに$Delta$-Patchingを提案する。
我々の実験によると、$Delta$-Networksは、トレーニングされるパラメータのごく一部しか必要とせず、初期のモデルパッチ作業より優れています。
論文 参考訳（メタデータ） (2023-03-26T16:39:44Z) - Speculative Decoding with Big Little Decoder [108.95187338417541]
Big Little Decoder (BiLD) は、幅広いテキスト生成アプリケーションの推論効率と遅延を改善するフレームワークである。
NVIDIA T4 GPUでは、当社のフレームワークは最大2.12倍の高速化を実現し、生成品質の最小化を実現している。
私たちのフレームワークは完全にプラグアンドプレイで、トレーニングプロセスやモデルアーキテクチャの変更なしに適用できます。
論文 参考訳（メタデータ） (2023-02-15T18:55:29Z) - When Liebig's Barrel Meets Facial Landmark Detection: A Practical Model [87.25037167380522]
正確で、堅牢で、効率的で、一般化可能で、エンドツーエンドのトレーニングが可能なモデルを提案する。
精度を向上させるために,2つの軽量モジュールを提案する。
DQInitは、インプットからデコーダのクエリを動的に初期化し、複数のデコーダ層を持つものと同じ精度でモデルを実現する。
QAMemは、共有するクエリではなく、それぞれのクエリに別々のメモリ値を割り当てることで、低解像度のフィーチャーマップ上のクエリの識別能力を高めるように設計されている。
論文 参考訳（メタデータ） (2021-05-27T13:51:42Z) - Coreference Resolution without Span Representations [20.84150608402576]
我々は,スパン表現や手作り機能,NLPへの依存を取り除く軽量なコア参照モデルを導入する。
我々のモデルは現行のエンドツーエンドモデルと競合するが、よりシンプルで効率的である。
論文 参考訳（メタデータ） (2021-01-02T11:46:51Z) - AvgOut: A Simple Output-Probability Measure to Eliminate Dull Responses [97.50616524350123]
機能エンジニアリングなしで、どの発話やトークンが退屈であるかを動的に認識する対話モデルを構築します。
最初のモデルMinAvgOutは、各バッチの出力分布を通して、ダイバーシティスコアを直接最大化する。
第2のモデルであるラベルファインチューニング(LFT)は、多様性スコアによって連続的にスケールされたラベルをソースシーケンスにプリペイドし、多様性レベルを制御する。
3つ目のモデルであるRLは強化学習を採用し、多様性スコアを報奨信号として扱う。
論文 参考訳（メタデータ） (2020-01-15T18:32:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。