論文の概要: Accelerating Diffusion Sampling via Speculative Draft Trees
- arxiv url: http://arxiv.org/abs/2609.17691v1
- Date: Tue, 15 Sep 2026 18:04:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.490104
- Title: Accelerating Diffusion Sampling via Speculative Draft Trees
- Title(参考訳): 投機的ドラフトツリーによる拡散サンプリングの高速化
- Abstract要約: 投機的サンプリングは、安価な候補状態を作成し、ターゲット分布を正確に保存する結合の下で修正することで拡散モデル生成を加速する。
拡散モデルにおける投機的サンプリングと相対エントロピー符号化(REC)を結びつける。
多様なターゲットモデルとドラフトモデルによる実験では、実用的な設定でリフレクション結合ベースライン上で最大8.3%の加速が示される。
- 参考スコア(独自算出の注目度): 38.431867096651025
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Speculative sampling accelerates diffusion model generation by drafting inexpensive candidate states and correcting them under a coupling that preserves the target distribution exactly, reducing the number of expensive target evaluations. Existing diffusion samplers, notably those based on reflection maximal coupling, are topologically constrained: their lookahead drafts form a chain graph, a single linear sequence, which inherently limits the acceptance rate per target evaluation. We connect speculative sampling in diffusion models to relative entropy coding (REC). This perspective shows the lookahead need not be linear and motivates our central contribution, draft trees, which enrich the candidates considered per round and lower the target function evaluations. We further adopt greedy rejection sampling, an REC algorithm, as the draft-target coupling, improving acceptance while guaranteeing exact target samples. Experiments across diverse target and draft models demonstrate up to 8.3% acceleration over the reflection coupling baseline in practical settings.
- Abstract(参考訳): 投機的サンプリングは、安価な候補状態を起草し、ターゲット分布を正確に保存する結合の下で修正することにより拡散モデル生成を加速し、高価な目標評価の数を減らす。
既存の拡散サンプリング器(特に反射最大結合に基づくもの)は、トポロジカルに制約されている:彼らのルックアヘッドドラフトは、本質的にターゲット評価毎の受け入れ率を制限する単一の線形シーケンスである連鎖グラフを形成する。
拡散モデルにおける投機的サンプリングと相対エントロピー符号化(REC)を結合する。
この視点は、ルックアヘッドが線形でなくても、中心的なコントリビューション、ドラフトツリーを動機付け、ラウンド毎に考慮された候補を豊かにし、ターゲット関数の評価を低くすることを示している。
我々はさらに、RECアルゴリズムであるgreedy rejection sampleをドラフトターゲット結合として採用し、正確なターゲットサンプルを保証しながら受け入れを改善する。
多様なターゲットモデルとドラフトモデルによる実験では、実用的な設定でリフレクション結合ベースライン上で最大8.3%の加速が示される。
関連論文リスト
- Accelerating Speculative Diffusions via Block Verification [77.23389794645801]
投機的復号化は、トークンを生成するためにドラフトモデルを使用することでLLM推論を高速化する。
既存の拡散適応は非効率的なサンプリング技術を使うか、代替のスキームに依存する。
本稿では,拡散モデルに対して,従来の投機的サンプリング機構を効率的に実装する新しい手法を提案する。
論文 参考訳(メタデータ) (2026-06-11T14:54:13Z) - Learnable Chernoff Baselines for Inference-Time Alignment [64.81256817158851]
本稿では,指数関数的に傾いたカーネルから効率よく,およそサンプリングする方法として,Learnerable Chernoff Baselinesを紹介した。
理想的なモデルに対する全変量保証を確立し、LCBサンプリングが理想的拒絶サンプリングと密接に一致するような連続的および離散的な拡散設定を実証する。
論文 参考訳(メタデータ) (2026-02-08T00:09:40Z) - Importance Weighted Score Matching for Diffusion Samplers with Enhanced Mode Coverage [16.94974733994214]
一般的な手法では、逆KLベースの目的を最適化することで、ターゲットデータの欠如を回避できることが多い。
そこで本研究では,KLの分岐に類似した目的を直接ターゲットとした拡散型サンプリング器の訓練手法を提案する。
我々のアプローチは、すべての分布距離のメトリクスで既存のニューラルサンプリングよりも一貫して優れています。
論文 参考訳(メタデータ) (2025-05-26T02:48:26Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Adaptive importance sampling for heavy-tailed distributions via
$\alpha$-divergence minimization [2.879807093604632]
提案手法は,学生の提案分布からターゲットを近似するAISアルゴリズムを提案する。
我々は、目標と提案の護衛モーメントを一致させて、位置とスケールパラメータを適応させる。
これらの更新は、ターゲットと提案の間の$alpha$-divergenceを最小化し、変動推論と接続する。
論文 参考訳(メタデータ) (2023-10-25T14:07:08Z) - LSB: Local Self-Balancing MCMC in Discrete Spaces [2.385916960125935]
本研究は、純粋に離散的な領域におけるサンプリング効率を向上させるために、機械学習を用いて提案された分布をターゲットに適応させることを検討する。
得られたサンプルをLSB(Locally Self-Balancing Sampler)と呼ぶ。
論文 参考訳(メタデータ) (2021-09-08T18:31:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。