論文の概要: Adversarial Speculative Reasoning Improves Long Horizon Agents

• arxiv url: http://arxiv.org/abs/2611.05345v1
• Date: Tue, 03 Nov 2026 18:45:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 12:52:37.220722
• Title: Adversarial Speculative Reasoning Improves Long Horizon Agents
• Title（参考訳）: 敵対的投機的推論は長い水平エージェントを改善する
• Abstract要約: 本研究では,そのようなノイズを制御することによって,対象モデルの推論能力を向上させる。 エージェントトレース内のこれらのポイントを特定し、相手の好みに合うようにドラフトモデルを訓練する。 このアプローチにより、批判的推論はよりインデックス化され、長い地平線上でより耐久性が増す。
• 参考スコア（独自算出の注目度）: 10.306744816426122
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Speculative decoding has been treated purely as a systems optimization that speeds up large language model decoding without changing the model behavior. Under this view, the growing effort to train better draft models has been focused solely on acceptance rate. We argue that this view does not hold true for long-horizon agent reasoning. Measuring frontier open-weight models on complex agentic tasks with different speculative decoding approaches, we found that numerical noise grows within verification windows, and the draft acceptance results of the thinking process can change the output distribution of the model after 30 steps, thus noticeably influencing the reasoning accuracy of long-horizon agents in random directions. In this work, we improve the reasoning capability of target models by controlling such noise. While we cannot change the overall token distribution verified by the target model, we can encode critical reasoning with highest precision by training the draft model to be rejected. We identify these points in agent traces and train the draft model to favor adversarial preference. At inference the trained draft and the target part ways precisely at these decision points, verification restarts, so that critical thinking tokens are sampled from the target model and encoded under its least noisy conditions. This approach makes critical reasoning better indexed and more durable over a long horizon. On complex agentic coding benchmarks, our approach raises end-to-end success rate with no change to the target model or its output distribution. Our results recast the speculative decoding mechanism from a pure accelerator into an active allocator for context precision that improves the accuracy of long-horizon agents by training 0.06% to 0.28% of hosted parameters.
• Abstract（参考訳）: 投機的復号化は、モデル動作を変更することなく大きな言語モデルの復号化を高速化するシステム最適化として純粋に扱われてきた。 この観点では、より良いドラフトモデルをトレーニングする取り組みは、受け入れ率のみに焦点を当てています。 我々は、この見解は長距離エージェントの推論には当てはまらないと論じる。 異なる投機的復号法を用いて複雑なエージェントタスクにおけるフロンティアオープンウェイトモデルの測定を行い、検証ウィンドウ内で数値ノイズが増大し、30ステップ後に思考プロセスのドラフト受理結果がモデル出力分布を変化させることで、長い水平エージェントのランダムな方向の推論精度に顕著に影響を及ぼすことを示した。 本研究では,そのようなノイズを制御することによって,対象モデルの推論能力を向上させる。 対象モデルによって検証された全体的なトークン分布を変更することはできないが、拒否されるドラフトモデルをトレーニングすることで、高い精度で臨界推論を符号化することができる。 エージェントトレース内のこれらのポイントを特定し、相手の好みに合うようにドラフトモデルを訓練する。 トレーニング済みのドラフトと対象の部分は、これらの決定点を正確に把握し、検証が再開され、クリティカルシンキングトークンがターゲットモデルからサンプリングされ、最もノイズの少ない条件下で符号化される。 このアプローチにより、批判的推論はよりインデックス化され、長い地平線上でより耐久性が増す。 複雑なエージェントコーディングベンチマークでは,対象モデルや出力分布に変化はなく,エンドツーエンドの成功率を高める。 提案手法は, パラメータの0.06%から0.28%のトレーニングにより, 長期化エージェントの精度を向上させるために, 純粋加速器からの投機的復号機構を能動的アロケータに再放送した。

関連論文リスト

• Mistletoe: Stealthy Acceleration-Collapse Attacks on Speculative Decoding [47.771248673145614]
  投機的復号化は大規模言語モデル(LLM)推論を高速化する手法として広く採用されている。 モデルに基づく投機的復号化における新しいメカニズムレベルの脆弱性を同定する。 提案するMistletoeは、投機的復号化に対するステルス的な加速・崩壊攻撃である。
  論文  参考訳（メタデータ） (2026-05-13T18:11:42Z)
• Correct Answers from Sound Reasoning: Verifiable Process Supervision for Language Models [94.68358825189738]
  本稿では,予測精度と推論品質を協調的に最適化する検証済み領域の学習後フレームワークを提案する。 我々は,エンジン信号に対して推論ステップを確定的に検証できる制御テストベッドであるチェスのVPSを評価する。 VPSは、推論品質を著しく向上させながら精度を保ち、勝利率エラーを最大30%削減し、一貫性をほぼ飽和状態に回復する。
  論文  参考訳（メタデータ） (2026-04-03T15:19:46Z)
• ConfSpec: Efficient Step-Level Speculative Reasoning via Confidence-Gated Verification [0.2578242050187029]
  ステップレベルの投機的推論はこのコストを軽減することを目的としていますが、既存のアプローチは長年のトレードオフに直面しています。 我々は、このトレードオフを解決する信頼性の高いケースケード検証フレームワークConfSpecを提案する。
  論文  参考訳（メタデータ） (2026-01-28T05:58:05Z)
• Efficient Adaptive Rejection Sampling for Accelerating Speculative Decoding in Large Language Models [2.4065240342323384]
  本稿では, 適応型リジェクションサンプリング(EARS)について紹介する。 EARSは、ターゲットモデルの予測不確かさを1-max(P_target)として組み込むことで、受入閾値を動的に調整する。 投機的復号化の効率を大幅に向上させ、18.12%のスループット向上を実現し、GSM8Kベンチマークでは0.84%の精度低下を無視できる。
  論文  参考訳（メタデータ） (2025-12-15T11:08:56Z)
• Arbitrage: Efficient Reasoning via Advantage-Aware Speculation [71.45710345765528]
  投機的復号化は、高速だが不正確なドラフトモデルを用いて推論を加速し、自動回帰的にトークンを提案する。 しかし、意味論的に等価なステップにおけるトークンミスマッチによる不要な拒絶のため、従来のトークンレベルの投機的デコーディングは、タスクの推論に苦労する。 提案するArbitrageは,ドラフトモデルとターゲットモデルとの相対的優位性に基づいて動的に生成をルーティングする,新しいステップレベルの投機生成フレームワークである。
  論文  参考訳（メタデータ） (2025-12-04T17:50:53Z)
• Consultant Decoding: Yet Another Synergistic Mechanism [49.996656694586164]
  コンサルタント・デコーディング(CD)は、大きな言語モデルでのみ計算されるトークンレベルの確率を用いて、候補のドラフトを検証する。 CDは、目標モデルと比較して2.5倍の推論速度向上を実現し、同等の生成品質を維持している。
  論文  参考訳（メタデータ） (2025-06-03T03:13:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。