論文の概要: RCSD: Reinforcement and Continual Learning for Domain-Specific Speculative Decoding

• arxiv url: http://arxiv.org/abs/2610.29527v1
• Date: Wed, 21 Oct 2026 10:16:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.311661
• Title: RCSD: Reinforcement and Continual Learning for Domain-Specific Speculative Decoding
• Title（参考訳）: RCSD:ドメイン特有な投機的デコードのための強化と継続的な学習
• Abstract要約: 提案するRCSD(Reinforcement and Continual Learning for Speculative Decoding)は,ドラフトモデルの最適化と,受入長を最大化するシステムレベルの目標を整合させるトレーニングフレームワークである。 RCSDはHASSよりも平均受け入れ期間を35%改善し、実用的なワークロードではHASSよりも1.35倍高速なエンドツーエンド推論を実現している。
• 参考スコア（独自算出の注目度）: 9.724599891100139
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Speculative decoding accelerates large language model inference by employing a compact draft model to propose candidate tokens that are verified in parallel by a target model. Conventional training relies on soft-label distillation, which forces the draft model to mimic the target's full output distribution, including high-entropy regions that degrade acceptance rates and increase early rejection risk. We propose RCSD (Reinforcement and Continual Learning for Speculative Decoding), a training framework that aligns draft model optimization with the system-level objective of maximizing acceptance length. RCSD leverages naturally occurring accepted and rejected sequences during speculative inference to construct implicit preference pairs, with masked loss to avoid penalizing target-aligned tokens. Evaluated across multiple benchmarks, RCSD improves average acceptance length by 35% over HASS and achieves 1.35x faster end-to-end inference than HASS on practical workloads, without compromising generation quality.
• Abstract（参考訳）: 投機的復号化は、コンパクトなドラフトモデルを用いて、ターゲットモデルによって並列に検証される候補トークンを提案することにより、大きな言語モデル推論を加速させる。 従来の訓練はソフトラベル蒸留に依存しており、それはドラフトモデルに、受け入れ率を低下させ、早期拒絶リスクを増大させる高エントロピー領域を含む、ターゲットの完全な出力分布を模倣するよう強制する。 提案するRCSD(Reinforcement and Continual Learning for Speculative Decoding)は,ドラフトモデルの最適化と,受入長を最大化するシステムレベルの目標を整合させるトレーニングフレームワークである。 RCSDは投機的推論中に自然に発生する受理シーケンスと拒否シーケンスを利用して暗黙の選好ペアを構築する。 複数のベンチマークで評価され、RCSDはHASSよりも平均受け入れ長を35%改善し、生成品質を損なうことなく、実用的なワークロードでのHASSよりも1.35倍高速なエンドツーエンド推論を実現している。

関連論文リスト

• Training Parallel Speculative Draft Models by Directly Minimizing Expected Decoding Rounds [5.185131234265025]
  並列および半自己回帰(セミ-AR)ドラフトラは、ブロック全体を1つの前方通過で提案することで、ドラフトの効率を改善する。 既存のトレーニング目標は通常、このクロスラウンド結合を無視したブロックローカルサロゲートに依存します。 我々は、マルコフ報酬プロセスとして投機的復号化を表現し、これらの起草者の訓練と評価のための理論的枠組みを開発する。
  論文  参考訳（メタデータ） (2026-10-07T16:56:29Z)
• Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
  構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。 グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。 特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
  論文  参考訳（メタデータ） (2026-04-20T16:43:28Z)
• Calibrated Speculative Decoding: Frequency-Guided Candidate Selection for Efficient Inference [27.59556627479635]
  Calibrated Speculative Decodingは、標準検証によって破棄された有効なトークンを復元する。 Online Correction Memory は歴史的拒絶を集約し、繰り返し発散パターンを救助候補者として提案する。 Semantic Consistency Gatingは、正確なトークンマッチングの代わりに確率比を用いて候補許容性を検証する。
  論文  参考訳（メタデータ） (2026-04-15T09:01:54Z)
• CDRRM: Contrast-Driven Rubric Generation for Reliable and Interpretable Reward Modeling [61.75914342638658]
  CDRRM(Contrast-Driven Reward Model)は、高品質なルーリック生成と優先判断のためのフレームワークである。 この作業は、報酬モデリングのためのスケーラブルで解釈可能で、データ効率のよいパスを提供する。
  論文  参考訳（メタデータ） (2026-03-09T07:15:23Z)
• Consultant Decoding: Yet Another Synergistic Mechanism [49.996656694586164]
  コンサルタント・デコーディング(CD)は、大きな言語モデルでのみ計算されるトークンレベルの確率を用いて、候補のドラフトを検証する。 CDは、目標モデルと比較して2.5倍の推論速度向上を実現し、同等の生成品質を維持している。
  論文  参考訳（メタデータ） (2025-06-03T03:13:27Z)
• Reward-Guided Speculative Decoding for Efficient LLM Reasoning [80.55186052123196]
  Reward-Guided Speculative Decoding (RSD)は,大規模言語モデル(LLM)における推論の効率向上を目的とした新しいフレームワークである。 RSDは、厳密な偏りを強制する既存の投機的復号法とは対照的に、制御されたバイアスをハイリワード出力の優先順位付けに取り入れている。 RSDは,対象モデルのみでの復号化に対して,高い効率向上を実現し,並列復号法よりも高い精度を実現している。
  論文  参考訳（メタデータ） (2025-01-31T17:19:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。