論文の概要: Contextual Correction of Parallel Draftsfor Speculative Decoding

• arxiv url: http://arxiv.org/abs/2610.12570v1
• Date: Thu, 08 Oct 2026 18:01:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.240791
• Title: Contextual Correction of Parallel Draftsfor Speculative Decoding
• Title（参考訳）: 投機的復号のための並列ドラフトの文脈補正
• Abstract要約: DCOCO(DFlash Contextual Corrector)は,並列ドラフトを保ちながらブロック内依存関係を復元する軽量なメカニズムである。 4つの検証器のバックボーンと10のベンチマークで、DCOCOは評価された構成ごとに最も高い平均スループットを達成する。 DCOCOは4～32の同時リクエストに対して6～23%の差で最強の競合メソッドを上回ります。
• 参考スコア（独自算出の注目度）: 45.86473120779775
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Speculative decoding accelerates large language model inference by using a lightweight drafter to propose multiple tokens that are subsequently verified in parallel by the target model. Recent diffusion-based drafters make this paradigm particularly attractive: deep attention-based neural backbones provide strong predictions, while drafting multiple future positions in parallel avoids the sequential cost of autoregressive generation. This parallelism, however, comes at a cost. Tokens within a draft block are predicted without access to the realized identities of preceding draft tokens, removing intra-block dependencies that would naturally be available under autoregressive generation. We introduce DCOCO (DFlash Contextual Corrector), a lightweight mechanism that restores these dependencies while preserving parallel drafting. Rather than committing to each position's top prediction, DCOCO retains multiple candidate tokens and evaluates their contextual compatibility across adjacent draft positions in parallel, enabling contextually informed token selection at low additional cost. Across four verifier backbones and ten benchmarks, DCOCO achieves the highest average throughput in every evaluated configuration, spanning greedy and stochastic decoding with and without extended reasoning, with speedups of up to 6.6x over vanilla decoding. Its advantage persists under concurrent serving: DCOCO outperforms the strongest competing method by 6-23% across 4-32 concurrent requests, while other sequential correctors fall below uncorrected DFlash at these loads. These results demonstrate that recovering intra-block dependencies through parallel contextual scoring delivers consistent acceleration across decoding regimes and serving loads.
• Abstract（参考訳）: 投機的復号化は、軽量なドラフトラを用いて大規模言語モデルの推論を加速し、その後ターゲットモデルによって並列に検証される複数のトークンを提案する。 深い注意に基づく神経バックボーンは強力な予測を提供する一方で、複数の将来の位置を並列にドラフトすることは、自動回帰生成のシーケンシャルなコストを回避している。 しかし、この並列性にはコストがかかる。 ドラフトブロック内のトークンは、前のドラフトトークンの実際のIDにアクセスすることなく予測され、自動回帰生成で自然に利用できるブロック内依存関係が削除される。 DCOCO(DFlash Contextual Corrector)は、並列ドラフトを保存しながら依存関係を復元する軽量なメカニズムである。 各ポジションのトップ予測にコミットするのではなく、DCOCOは複数の候補トークンを保持し、隣接するドラフトポジション間のコンテキスト互換性を並列に評価することで、コンテキスト情報によるトークン選択を低コストで実現している。 4つの検証器のバックボーンと10のベンチマークで、DCOCOは評価された構成ごとに最も高い平均スループットを達成する。 DCOCOは4～32の同時要求に対して6～23%の競合メソッドを上回り、他のシーケンシャルな修正器はこれらの負荷で不正なDFlashを下回る。 これらの結果から、並列コンテキストスコアリングによるブロック内依存関係の回復は、復号化と負荷の供給という一貫した加速をもたらすことが示された。

関連論文リスト

• Training Parallel Speculative Draft Models by Directly Minimizing Expected Decoding Rounds [5.185131234265025]
  並列および半自己回帰(セミ-AR)ドラフトラは、ブロック全体を1つの前方通過で提案することで、ドラフトの効率を改善する。 既存のトレーニング目標は通常、このクロスラウンド結合を無視したブロックローカルサロゲートに依存します。 我々は、マルコフ報酬プロセスとして投機的復号化を表現し、これらの起草者の訓練と評価のための理論的枠組みを開発する。
  論文  参考訳（メタデータ） (2026-10-07T16:56:29Z)
• From Position Risks to Block Survival: Faster Generation for Diffusion Language Models [8.476731545781847]
  拡散言語モデル(DLM)は複数のトークンを並列に予測することで生成を加速することができる。 これらのトークンの予測方法と、最終的に生成にどのように貢献するかの間には、ミスマッチがあります。 BRISK-DLM(BRISK-DLM)は、提案学習の最適化と、検証された進捗に対する選択によって、両者のミスマッチに対処するフレームワークである。
  論文  参考訳（メタデータ） (2026-09-27T09:11:26Z)
• Ripple-Pivot Search: Active Parallel Decoding for Diffusion Large Language Models [66.32132912853372]
  Diffusion Large Language Models (dLLMs) は自己回帰型言語モデルの競合代替として登場した。 本研究では,中間エントロピー位置を有望な候補ピボットとして求める訓練自由復号法であるRipple-Pivot Search (RPS)を提案する。 RPSは、生成品質を維持しながら標準デコーダの4-10$times$wall-clockスピードアップを実現し、以前のルックアヘッドベースラインの精度を最大5.49%向上させる。
  論文  参考訳（メタデータ） (2026-08-12T07:32:29Z)
• Mean-Field Parallel Decoding for Discrete Diffusion Language Models [47.086589631406035]
  並列更新をコーディネートするトレーニングフリーなデコードフレームワークを導入する。 変動緩和は、矛盾する同時コミットを抑制する単純な固定点更新をもたらす。 推論とコード生成ベンチマークの実験では、品質とレイテンシのトレードオフが一貫した改善を示している。
  論文  参考訳（メタデータ） (2026-06-14T13:17:58Z)
• DiffuSpec: Unlocking Diffusion Language Models for Speculative Decoding [66.40658898418316]
  DiffuSpecは、事前訓練された拡散言語モデル(DLM)を用いて、単一のフォワードパスでマルチトークンのドラフトを生成する、トレーニングフリーのドロップインフレームワークである。 ベンチマーク全体を通じて、DiffuSpecは最大3倍のウォールクロックスピードアップを達成し、投機的復号化のための自己回帰型ドラフトラの堅牢な代替手段として拡散ベースのドラフトを確立する。
  論文  参考訳（メタデータ） (2025-09-28T07:00:15Z)
• Think Before You Accept: Semantic Reflective Verification for Faster Speculative Decoding [48.52389201779425]
  投機的復号化は、軽量モデルを使用して複数のドラフトトークンを生成し、それらを並列に検証することで推論を加速する。 既存の検証手法は、意味的正確性を見越しながら、分布の整合性に大きく依存している。 我々は,学習自由でセマンティックなアプローチであるリフレクティブ検証を提案し,正確性と効率のトレードオフを改善する。
  論文  参考訳（メタデータ） (2025-05-24T10:26:27Z)
• Speculative Decoding via Hybrid Drafting and Rollback-Aware Branch Parallelism [20.3565068078231]
  仮説復号における分岐並列性を解き放つための新しいフレームワーク textbfSpecBranch を提案する。 SpecBranchがtextbf1.8$times sim$ textbf4.5$times$ speedups against the auto-regressive decoding and reduces rollback tokens by $textbf50$% for aligned model。
  論文  参考訳（メタデータ） (2025-05-16T07:45:05Z)
• ParallelSpec: Parallel Drafter for Efficient Speculative Decoding [62.68430939686566]
  提案するParallelSpecは,最先端の投機的復号化手法における自己回帰的起草戦略の代替となる。 投機段階における自己回帰的起草とは対照的に,効率的な投機モデルとして機能する並列投機を訓練する。
  論文  参考訳（メタデータ） (2024-10-08T01:05:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。