論文の概要: Reciprocal Guidance: Orchestrating Draft and Verify Budgets for Advancing the Diffusion-AR Self-Speculation Frontier

• arxiv url: http://arxiv.org/abs/2609.34388v1
• Date: Mon, 28 Sep 2026 06:04:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 21:15:40.306895
• Title: Reciprocal Guidance: Orchestrating Draft and Verify Budgets for Advancing the Diffusion-AR Self-Speculation Frontier
• Title（参考訳）: 相互指導:拡散AR自己特定フロンティアの推進のためのドラフトの編成と予算検証
• Abstract要約: 自己推論モデルは、共有バックボーン内でドラフトと検証を統合することで、投機的パイプラインを単純化する。 Reciprocal Guidance(RecGuide)は、投機的復号化をさまざまなサービス負荷に適応させるランタイムドラフト検証オーケストレーションフレームワークである。 さまざまなレベルにわたる実験は、バニラの自己定義よりも一貫したスループットの向上を示し、最大1.8タイムのスピードアップを実現している。
• 参考スコア（独自算出の注目度）: 2.9120852999831777
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion drafting with autoregressive (AR) verification has emerged as a promising paradigm for efficient speculative decoding. Recent self-speculation models, represented by Nemotron-Labs-Diffusion, further simplify the speculative pipeline by unifying drafting and verification within a shared backbone, while enabling longer acceptance lengths. However, the Pareto frontier between aggregate and per-request throughput remains underexplored. At low concurrency, sequential draft-verify execution requires two model forward passes per round, limiting the effective tokens per forward (TPF). By contrast, at high concurrency, longer drafts incur increasingly expensive computation, forcing individual requests to operate under constrained speculation budgets and preventing full exploitation of the full-backbone drafter. Our key observation indicates that drafting and verification exhibit reciprocal predictability. Draft logits can anticipate likely verification mismatches, while recent verification outcomes predict future drafting utility and suitable block sizes. Building on this observation, we introduce Reciprocal Guidance (RecGuide), a runtime draft-verify orchestration framework that adapts speculative decoding to varying serving loads. RecGuide exploits spare compute capacity through verification-overlapped drafting at low concurrency, while dynamically allocating request-specific draft block sizes as the workload becomes increasingly compute-intensive. Experiments across a wide range of concurrency levels demonstrate consistent throughput improvements over vanilla self-speculation, achieving up to $1.8\times$ speedup.
• Abstract（参考訳）: 自己回帰(AR)検証による拡散ドラフトは、効率的な投機的復号化のための有望なパラダイムとして浮上している。 最近の自己定義モデルは、Nemotron-Labs-Diffusionによって表現され、共有バックボーン内にドラフトと検証を統合することで、投機的パイプラインをさらに単純化し、より長い受入長を実現する。 しかしながら、集約と要求毎のスループットの間のParetoフロンティアは、まだ探索されていない。 低並行性では、逐次ドラフト検証の実行はラウンド毎に2つのモデルフォワードパスを必要とし、フォワード当たりの有効トークン(TPF)を制限する。 対照的に、高い並行性では、より長いドラフトはますます高価な計算を発生させ、個々の要求を制約された投機予算の下で運用させ、フルバックボーンのドラフトをフルに活用するのを防ぐ。 我々のキーとなる観察は、起草と検証が相互に予測可能であることを示している。 ドラフトロジットはおそらく検証ミスマッチを予測できるが、最近の検証結果は将来のドラフトユーティリティと適切なブロックサイズを予測する。 この観察に基づいて、さまざまなサービス負荷に投機的デコーディングを適用するランタイムのドラフト検証オーケストレーションフレームワークであるReciprocal Guidance(RecGuide)を紹介します。 RecGuideは、検証オーバーラップされた低並行性でのドラフト作成を通じて、余分な計算能力を活用すると同時に、ワークロードがますます計算集約化されるにつれて、要求固有のドラフトブロックサイズを動的に割り当てる。 さまざまな並行性レベルの実験は、バニラの自己定義よりも一貫したスループットの向上を示し、最大1.8\times$スピードアップを実現している。

関連論文リスト

• ResiSpec: Enhancing Multi-Candidate Speculative Sampling via Residual Distribution Shaping [79.1905186547363]
  ResiSpecは、検証中に提案の配布を戦略的に改革するフレームワークである。 候補の偏光を防止し、最先端のマルチ候補法よりも最大1.92$times$スピードアップを達成する。
  論文  参考訳（メタデータ） (2026-08-25T11:25:55Z)
• DBLAST: Dependent Block Drafting for Stochastic Speculative Decoding [26.72775347772003]
  対象サンプリング分布のエントロピーが増加するにつれて,受理されたドラフト長が劣化することを示す。 本稿では,トークン位置上での低ランク遅延混合に基づいて,受入指向の学習目標を補完する依存ブロック起草手法を提案する。
  論文  参考訳（メタデータ） (2026-08-05T22:49:54Z)
• Teaching Diffusion to Speculate Left-to-Right [3.205247598097648]
  大規模言語モデル(LLM)は、幅広いタスクにわたって顕著なパフォーマンスを達成するが、その自己回帰的復号処理は、かなりの推論コストを発生させる。 投機的復号化はこのボトルネックに対処するため、軽量なドラフトモデルを使用して、後により大きなターゲットモデルによって並列に検証される複数の将来のトークンを提案する。 最近の研究は、拡散言語モデルがこの設定に適しており、パラレルでドラフトトークンのブロック全体を生成できることを実証している。
  論文  参考訳（メタデータ） (2026-06-10T01:21:56Z)
• TRACE: A Unified Rollout Budget Allocation Framework for Efficient Agentic Reinforcement Learning [52.67756371231985]
  検証可能な報酬を伴う強化学習(RLVR)は、大規模言語モデルにおける推論とエージェント的行動を強化するための有望なアプローチである。 本稿では,Tree Rollout Allocation for Contrastive Exploration (TRACE)について紹介する。 技術的には、TRACEはロールアウト予算をルートと中間プレフィックスの両方に割り当てている。
  論文  参考訳（メタデータ） (2026-06-09T17:16:03Z)
• FlexDraft: Flexible Speculative Decoding via Attention Tuning and Bonus-Guided Calibration [21.05266483397106]
  FlexDraftは投機的デコードフレームワークで、3つの重要な設計を通じて様々なバッチサイズに対応します。 Attention Tuningは、マスクトークン上の最後の数層の注意プロジェクタのみをチューニングすることで、ブロック拡散のドラフトを可能にする。 Bonus-guidedは、解決されたボーナストークンに軽量な条件を付け、ドラフトロジットを校正する。
  論文  参考訳（メタデータ） (2026-05-19T15:48:16Z)
• Making Every Verified Token Count: Adaptive Verification for MoE Speculative Decoding [15.040000425985324]
  ツリーベースの投機的復号化は、複数のドラフト候補を並列に検証することで自己回帰生成を加速するが、この利点はスパース・ミックス・オブ・エクササイズ(MoE)モデルでは弱まる。 我々は,MoE投機的復号化のためのトレーニング不要,ハイパーパラメータフリー,ロスレス適応検証手法EVICTを提案する。 EVICTは、目標検証の前にドラフトツリーを切断し、コスト効率の良いプレフィックスのみを保持することで、検証済みのトークンを全てカウントする。
  論文  参考訳（メタデータ） (2026-05-01T01:52:01Z)
• Accelerate Speculative Decoding with Sparse Computation in Verification [49.74839681322316]
  投機的復号化は、複数のドラフトトークンを並列に検証することにより、自動回帰言語モデル推論を加速する。 既存のスペーシフィケーション方式は主にトークン・バイ・トーケンの自己回帰復号化のために設計されている。 そこで本研究では,注目度,FFN,MoEを両立させるスパース検証フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-26T07:53:41Z)
• DiffuSpec: Unlocking Diffusion Language Models for Speculative Decoding [66.40658898418316]
  DiffuSpecは、事前訓練された拡散言語モデル(DLM)を用いて、単一のフォワードパスでマルチトークンのドラフトを生成する、トレーニングフリーのドロップインフレームワークである。 ベンチマーク全体を通じて、DiffuSpecは最大3倍のウォールクロックスピードアップを達成し、投機的復号化のための自己回帰型ドラフトラの堅牢な代替手段として拡散ベースのドラフトを確立する。
  論文  参考訳（メタデータ） (2025-09-28T07:00:15Z)
• Pipeline Parallelism is All You Need for Optimized Early-Exit Based Self-Speculative Decoding [73.67253077506672]
  大規模言語モデル(LLM)は、優れた生成品質を提供するが、非常に高い推論コストをもたらす。 早期排他的自己投機的復号法(EESD)がこのコストを軽減するために登場した。 ドラフトと検証作業を完全にパイプライン化するパイプライン・パラレル自己スペクティブ・デコーディング(PPSD)を提案する。
  論文  参考訳（メタデータ） (2025-09-19T04:51:41Z)
• Think Before You Accept: Semantic Reflective Verification for Faster Speculative Decoding [48.52389201779425]
  投機的復号化は、軽量モデルを使用して複数のドラフトトークンを生成し、それらを並列に検証することで推論を加速する。 既存の検証手法は、意味的正確性を見越しながら、分布の整合性に大きく依存している。 我々は,学習自由でセマンティックなアプローチであるリフレクティブ検証を提案し,正確性と効率のトレードオフを改善する。
  論文  参考訳（メタデータ） (2025-05-24T10:26:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。