論文の概要: Training Parallel Speculative Draft Models by Directly Minimizing Expected Decoding Rounds

• arxiv url: http://arxiv.org/abs/2610.10411v1
• Date: Wed, 07 Oct 2026 16:56:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:23.063253
• Title: Training Parallel Speculative Draft Models by Directly Minimizing Expected Decoding Rounds
• Title（参考訳）: 期待される復号ラウンドの最小化による並列投機ドラフトモデルの訓練
• Abstract要約: 並列および半自己回帰(セミ-AR)ドラフトラは、ブロック全体を1つの前方通過で提案することで、ドラフトの効率を改善する。 既存のトレーニング目標は通常、このクロスラウンド結合を無視したブロックローカルサロゲートに依存します。 我々は、マルコフ報酬プロセスとして投機的復号化を表現し、これらの起草者の訓練と評価のための理論的枠組みを開発する。
• 参考スコア（独自算出の注目度）: 5.185131234265025
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Speculative decoding accelerates large language model inference by using a low-cost draft model to propose tokens that the full-size target model verifies in parallel. Parallel and semi-autoregressive (semi- AR) drafters improve drafting efficiency by proposing an entire block in a single forward pass, but training them raises a new difficulty: the draft distribution for a given position depends on where the decoding round starts, and where rounds start depends on how many tokens earlier rounds accepted. Existing training objectives typically rely on block-local surrogates that ignore this cross-round coupling, and therefore do not directly optimize the global decoding efficiency. In this work, we develop a theoretical framework for training and evaluating these drafters by representing speculative decoding as a Markov reward process. This formulation yields the Expected Decoding Rounds (EDR) objective, which weights local rejection costs by state occupancies and exactly equals the expected number of decoding rounds. Unlike prior surrogate objectives, EDR introduces no auxiliary hyperparameters. We then derive an exact temporal-difference gradient that supports unbiased stochastic optimization from target-model rollouts. The same framework also yields an exact offline evaluator for round counts, enabling paired drafter comparisons on shared target rollouts without running speculative decoding. Finetuning two state-of-the- art drafters, DSpark and DFly, with EDR consistently improves mean accepted length and outperforms existing training objectives across nine benchmarks spanning math reasoning, code generation, and chat.
• Abstract（参考訳）: 投機的復号化は、低コストのドラフトモデルを用いて大きな言語モデルの推論を加速し、フルサイズのターゲットモデルが並列に検証するトークンを提案する。 並列かつ半自己回帰的な(半AR)ドラフトラは、ブロック全体を1つの前方通過で提案することで、ドラフトの効率を改善するが、トレーニングは新たな困難を生じさせる。 既存のトレーニング目標は通常、このクロスラウンド結合を無視したブロックローカルサロゲートに依存しているため、グローバルデコーディング効率を直接最適化しない。 本研究では、マルコフ報酬プロセスとして投機的復号化を表現し、これらのドラフト作成者の訓練と評価のための理論的枠組みを開発する。 この定式化により、期待された復号ラウンド(EDR)の目標が得られ、州の占領による局所的な拒絶コストを重み付け、期待される復号ラウンドの数と正確に等しい。 従来の補助目標とは異なり、EDRは補助的なハイパーパラメータを導入しない。 次に、ターゲットモデルロールアウトから不偏の確率的最適化をサポートする正確な時間差勾配を導出する。 同じフレームワークはラウンドカウントの正確なオフライン評価器も生成し、投機的復号を実行することなく、共有ターゲットロールアウトでのペアのドラフトラ比較を可能にする。 最先端の2人のドラフトアであるDSparkとDFlyを微調整することで、EDRは一貫して許容される平均長を改善し、数学推論、コード生成、チャットにまたがる9つのベンチマークで既存のトレーニング目標を上回っている。

関連論文リスト

• Acceptance-Aware Draft Model Training for Speculative Decoding [10.581975492329114]
  提案手法では,投機窓内での受理トークン数を直接最適化する受入長対応学習損失を提案する。 異なるターゲットモデル、ドラフトモデル、タスク、デコード設定にわたる実験により、我々の損失はKLベースのトレーニングよりも受け入れ期間を一貫して改善することが示された。
  論文  参考訳（メタデータ） (2026-09-21T06:02:51Z)
• ResiSpec: Enhancing Multi-Candidate Speculative Sampling via Residual Distribution Shaping [79.1905186547363]
  ResiSpecは、検証中に提案の配布を戦略的に改革するフレームワークである。 候補の偏光を防止し、最先端のマルチ候補法よりも最大1.92$times$スピードアップを達成する。
  論文  参考訳（メタデータ） (2026-08-25T11:25:55Z)
• Teaching Diffusion to Speculate Left-to-Right [3.205247598097648]
  大規模言語モデル(LLM)は、幅広いタスクにわたって顕著なパフォーマンスを達成するが、その自己回帰的復号処理は、かなりの推論コストを発生させる。 投機的復号化はこのボトルネックに対処するため、軽量なドラフトモデルを使用して、後により大きなターゲットモデルによって並列に検証される複数の将来のトークンを提案する。 最近の研究は、拡散言語モデルがこの設定に適しており、パラレルでドラフトトークンのブロック全体を生成できることを実証している。
  論文  参考訳（メタデータ） (2026-06-10T01:21:56Z)
• PARD-2: Target-Aligned Parallel Draft Model for Dual-Mode Speculative Decoding [10.569335087583655]
  投機的復号化は、軽量なドラフトモデルを用いて、LLM(Large Language Models)推論を加速する。 本稿では、信頼適応トークン(CAT)を最適化したデュアルモード投機デコードフレームワークであるPARD-2を提案する。
  論文  参考訳（メタデータ） (2026-05-09T02:50:58Z)
• Arbitrage: Efficient Reasoning via Advantage-Aware Speculation [71.45710345765528]
  投機的復号化は、高速だが不正確なドラフトモデルを用いて推論を加速し、自動回帰的にトークンを提案する。 しかし、意味論的に等価なステップにおけるトークンミスマッチによる不要な拒絶のため、従来のトークンレベルの投機的デコーディングは、タスクの推論に苦労する。 提案するArbitrageは,ドラフトモデルとターゲットモデルとの相対的優位性に基づいて動的に生成をルーティングする,新しいステップレベルの投機生成フレームワークである。
  論文  参考訳（メタデータ） (2025-12-04T17:50:53Z)
• DiffuSpec: Unlocking Diffusion Language Models for Speculative Decoding [66.40658898418316]
  DiffuSpecは、事前訓練された拡散言語モデル(DLM)を用いて、単一のフォワードパスでマルチトークンのドラフトを生成する、トレーニングフリーのドロップインフレームワークである。 ベンチマーク全体を通じて、DiffuSpecは最大3倍のウォールクロックスピードアップを達成し、投機的復号化のための自己回帰型ドラフトラの堅牢な代替手段として拡散ベースのドラフトを確立する。
  論文  参考訳（メタデータ） (2025-09-28T07:00:15Z)
• PEARL: Parallel Speculative Decoding with Adaptive Draft Length [12.166703341906242]
  本稿では,適応dRaft Length(PEARL)を用いた投機的復号化(Parallel speculative decoding)を促進するための,概念的にシンプルでフレキシブルで汎用的なフレームワークを提案する。 PEARLは、ドラフトフェーズ中に事前に最初のドラフトトークンを検証し、検証フェーズ中により多くのドラフトトークンを生成するための後検証を提案する。 各種テキスト生成ベンチマークの実験では、PEARLの有効性が実証されており、自動回帰復号法とバニラ投機復号法と比較して、パフォーマンスが4.43$times$と1.50$times$に向上した。
  論文  参考訳（メタデータ） (2024-08-13T08:32:06Z)
• Refine, Discriminate and Align: Stealing Encoders via Sample-Wise Prototypes and Multi-Relational Extraction [57.16121098944589]
  RDAは、事前訓練されたエンコーダを盗むために、以前の取り組みで普及した2つの主要な欠陥に対処するために設計された先駆的なアプローチである。 これは、サンプルの様々な視点に対してターゲットエンコーダの表現を統一するサンプルワイドプロトタイプによって達成される。 より強力な有効性を得るために、我々はサロゲートエンコーダを訓練し、ミスマッチした埋め込み-プロトタイプペアを識別するマルチリレーショナル抽出損失を開発する。
  論文  参考訳（メタデータ） (2023-12-01T15:03:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。