論文の概要: Beyond the Point Mass: Acceptance-Derived Weights and Distributional Losses for Speculative Decoding
- arxiv url: http://arxiv.org/abs/2610.28355v1
- Date: Tue, 20 Oct 2026 15:20:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.882931
- Title: Beyond the Point Mass: Acceptance-Derived Weights and Distributional Losses for Speculative Decoding
- Title（参考訳）: ポイントマスを超えて: アクセプタンス指向の重みと投機的復号化のための分散損失
- Abstract要約: 軽量なドラフトモデルは、ターゲットモデルが並列に検証するトークンを提案する。
D-PACEは、予想される許容長さへの貢献によって各位置を重くする損失で、そのようなドラフトを訓練する。
我々は、この重なり合いを受信信号として、D-PALの正確な許容長から導出する。
- 参考スコア（独自算出の注目度）: 9.749000608847846
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In speculative decoding, a lightweight draft model proposes tokens that the target model verifies in parallel, speeding up generation without changing the target distribution. D-PACE (Wu et al., 2026) trains such drafters with a loss that weights each position by its contribution to the expected accepted length. Both its weights and its cross-entropy (CE) loss use only the draft's probability of the recorded target token, treating the target as a point mass. Under rejection sampling, however, a sampled draft token is accepted with probability equal to the overlap of the draft and target distributions, one minus their total variation (TV). We derive D-PAL (Dynamic Position-wise Acceptance Loss) from the exact expected accepted length, using this overlap as the acceptance signal. This yields overlap-based position weights with log acceptance (LA) as the per-position loss, and the objective reduces to D-PACE for a point-mass target. Since the weights are detached, any per-position loss can replace LA in practice. We show that forward KL divergence and Rényi divergence of order 1/2 match or exceed LA, and that Rényi-1/2 provably bounds the true acceptance rate from above and below. Replacing CE with Rényi-1/2 improves acceptance length under both D-PACE's weights and ours. On six benchmarks with a Qwen3-4B target, D-PAL raises mean acceptance length over D-PACE from 4.50 to 4.57 at T=0 and from 4.20 to 4.28 at T=1, and consistently achieves higher throughput at both temperatures.
- Abstract（参考訳）: 投機的復号化において、軽量なドラフトモデルは、ターゲットモデルを並列に検証し、ターゲット分布を変更することなく生成を高速化するトークンを提案する。
D-PACE (Wu et al , 2026) は、予想される許容長への貢献によって各位置を重くする損失で、そのような起草者を訓練する。
その重みとクロスエントロピー(CE)損失は、記録されたターゲットトークンのドラフトの確率のみを使用し、ターゲットをポイント質量として扱う。
しかし、拒絶サンプリングでは、サンプリングされたドラフトトークンは、ドラフトとターゲットの分布の重なり合いに等しい確率で受け入れられ、総変動(TV)は1つ減少する。
我々は,D-PAL(Dynamic Position-wise Acceptance Loss)を,この重なり合いを受信信号として,正確な許容長から導出した。
これにより、オーバーラップベースの位置重みが、位置当たりの損失としてログ受け入れ(LA)とともに得られ、目的は点質量目標に対してD-PACEに還元される。
重みは取り外されるため、実際のLAに取って代わることができる。
KL の分岐と Rényi の次数 1/2 の分岐が LA 以上であることを示し、Rényi-1/2 が真受容率を上と下から有意に有界であることを示す。
CE を Rényi-1/2 に置き換えることで、D-PACE の重みと重みの両方の受け入れ長が向上する。
Qwen3-4Bを目標とした6つのベンチマークでは、D-PALはT=0で4.50から4.57まで、T=1で4.20から4.28まで、D-PACEの平均受入距離を上昇させ、両温度で常に高いスループットを達成する。
関連論文リスト
- Align, Then Correct: Training-Free Two-Stage Low-Rank Compensation for Extremely Quantized Large Language Models [9.974090237284312]
低ランク量子化誤差補償(LQEC)は、攻撃的な重み量子化の下で失われた精度を回復する。
既存の補償器は2つの共有単純化によって制限されていることを示す。
本稿では,2段階のクローズドフォームフレームワークを提案する。
論文 参考訳（メタデータ） (2026-10-06T11:16:37Z) - Coverage, Not Targeting: A Structural Regime in Multi-Turn Agent Credit Assignment [5.864346468963738]
マルチターンエージェントRLは、ますますターゲット問題としてクレジット割り当てを扱うようになっている。
端末状態検証器は、ターゲットが間違った軸である低V_d方式で深い位置にあることを示す。
論文 参考訳（メタデータ） (2026-09-02T10:37:12Z) - CRAFT: Counterfactual Credit Assignment from Free Sibling Rollouts for Self-Distilled Agentic Reinforcement Learning [4.663685189987781]
自己蒸留剤強化学習は、トークンレベルの蒸留損失で軌跡レベルの報酬を増大させる。
一般的なレシピでは、この損失を1つのスカラー、すなわち教師と学生の対数確率のギャップで埋める。
CRAFTは2つの制限に対処する3ピラー・クレジット・アサインメント方式である。
論文 参考訳（メタデータ） (2026-06-28T16:11:47Z) - Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。
本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。
8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
論文 参考訳（メタデータ） (2026-06-02T06:51:15Z) - Draft-OPD: On-Policy Distillation for Speculative Draft Models [49.23782868133977]
投機的復号化は,提案したトークンを並列に検証した軽量なドラフトモデルとターゲットモデルを組み合わせることで,大規模言語モデル推論を加速させる。
本稿では,安定な継続のために目標支援ロールアウトを利用するDraft-OPDを提案する。
論文 参考訳（メタデータ） (2026-05-28T04:30:22Z) - Density-Ratio Losses for Post-Hoc Learning to Defer [61.81110533670321]
理想分布のレンズを用いて,ポストホック学習からデファー(L2D)までの研究を行った。
モデルと専門家のイデアルの間の密度比を通じて、deferralを定義します。
次に、ディフェラル決定はスコアを閾値付けすることで行われ、deferral rateは再トレーニングせずに調整される。
論文 参考訳（メタデータ） (2026-05-19T08:56:23Z) - D-PACE: Dynamic Position-Aware Cross-Entropy for Parallel Speculative Drafting [59.204113363599994]
投機的復号化は、小さなドラフト作成者がより大きなターゲットモデルが並列に検証するトークンを提案することによって推論を加速する。
最近の拡散ベースの並列ドラフトア(DFlashなど)は、1つの前方パスで完全なB-tokenブロックを予測し、より深いドラフトアとより長い許容ブロックを可能にする。
各位置の重みと、その対数確率の寄与とを一致させて、期待されるドラフト長の相違可能なサロゲートから、位置毎のトレーニングウェイトを導出する。
6つのベンチマークと2つのQwen3-4Bドラフト深度、2つの復号温度、2つの追加ターゲットモデル、D-PACEは一貫してウォールクロックのスピードアップと平均の両方を改善している。
論文 参考訳（メタデータ） (2026-05-12T06:27:57Z) - LK Losses: Direct Acceptance Rate Optimization for Speculative Decoding [67.61563011564388]
投機的復号化は自己回帰型大言語モデル(LLM)推論を加速させる。
標準トレーニングは、プロキシ目的としてKullback-Leibler(KL)の発散を最小限にする。
受入率を直接目標とする特別な訓練目標であるLK損失を提案する。
論文 参考訳（メタデータ） (2026-02-27T10:20:11Z) - Pipeline Parallelism is All You Need for Optimized Early-Exit Based Self-Speculative Decoding [73.67253077506672]
大規模言語モデル(LLM)は、優れた生成品質を提供するが、非常に高い推論コストをもたらす。
早期排他的自己投機的復号法(EESD)がこのコストを軽減するために登場した。
ドラフトと検証作業を完全にパイプライン化するパイプライン・パラレル自己スペクティブ・デコーディング(PPSD)を提案する。
論文 参考訳（メタデータ） (2025-09-19T04:51:41Z) - Align-DETR: Enhancing End-to-end Object Detection with Aligned Loss [35.11300328598727]
本稿では,モデル内の2つの重要な相違点を同定する。
両課題間の相違を解決するために,Align Lossと呼ばれる新たな損失関数を導入する。
提案手法は,ResNet-50バックボーンを用いたH-DETRベースライン上で49.3% (+0.6) APを実現する。
論文 参考訳（メタデータ） (2023-04-15T10:24:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。