論文の概要: SJD-VP: Speculative Jacobi Decoding with Verification Prediction for Autoregressive Image Generation
- arxiv url: http://arxiv.org/abs/2603.27115v1
- Date: Sat, 28 Mar 2026 03:59:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-31 23:18:44.790934
- Title: SJD-VP: Speculative Jacobi Decoding with Verification Prediction for Autoregressive Image Generation
- Title(参考訳): SJD-VP:自動回帰画像生成のための検証予測付き投機的ヤコビデコーディング
- Authors: Bingqi Shan, Baoquan Zhang, Xiaochen Qi, Xutao Li, Yunming Ye, Liqiang Nie,
- Abstract要約: 投機的ヤコビ復号法(SJD)は自己回帰画像生成を高速化するための有望な手法として登場した。
検証予測付き投機的ヤコビ復号法(SJD-VP)を提案する。
我々のSJD-VPはプラグアンドプレイであり、既存のSJDメソッドにシームレスに統合できる。
- 参考スコア(独自算出の注目度): 64.43642479951576
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Speculative Jacobi Decoding (SJD) has emerged as a promising method for accelerating autoregressive image generation. Despite its potential, existing SJD approaches often suffer from the low acceptance rate issue of speculative tokens due to token selection ambiguity. Recent works attempt to mitigate this issue primarily from the relaxed token verification perspective but fail to fully exploit the iterative dynamics of decoding. In this paper, we conduct an in-depth analysis and make a novel observation that tokens whose probabilities increase are more likely to match the verification-accepted and correct token. Based on this, we propose a novel Speculative Jacobi Decoding with Verification Prediction (SJD-VP). The key idea is to leverage the change in token probabilities across iterations to guide sampling, favoring tokens whose probabilities increase. This effectively predicts which tokens are likely to pass subsequent verification, boosting the acceptance rate. In particular, our SJD-VP is plug-and-play and can be seamlessly integrated into existing SJD methods. Extensive experiments on standard benchmarks demonstrate that our SJD-VP method consistently accelerates autoregressive decoding while improving image generation quality.
- Abstract(参考訳): 投機的ヤコビ復号法(SJD)は自己回帰画像生成を高速化するための有望な手法として登場した。
その可能性にもかかわらず、既存のSJDアプローチは、トークン選択の曖昧さによる投機的トークンの受け入れ率の低い問題に悩まされることが多い。
最近の研究は、主に緩和されたトークン検証の観点からこの問題を緩和しようとするが、復号化の反復力学を完全に活用することはできなかった。
本稿では,詳細な分析を行い,確率が増大するトークンが,認証されたトークンと正しいトークンとに一致しやすいことを示す。
そこで本研究では,SJD-VPを用いた仮説的ヤコビ復号法を提案する。
鍵となるアイデアは、イテレーション間でトークンの確率の変化を活用してサンプリングをガイドし、確率が増加するトークンを優先することである。
これにより、後続の検証に合格する可能性のあるトークンを効果的に予測し、受け入れ率を高めることができる。
特に、SJD-VPはプラグアンドプレイであり、既存のSJDメソッドにシームレスに統合することができます。
我々のSJD-VP法は、画像生成品質を改善しつつ、自己回帰デコーディングを継続的に加速することを示す。
関連論文リスト
- SJD-PAC: Accelerating Speculative Jacobi Decoding via Proactive Drafting and Adaptive Continuation [13.295759874474767]
Speculative Jacobi Decoding (SJD) は、自動回帰テキスト-画像合成を高速化するためのドラフトモデルなしのアプローチを提供する。
SJD-PACは、高エントロピー領域に挑戦する地域の受容率を改善するために、積極的な起草戦略を採用している。
標準のテキスト・ツー・イメージベンチマークの実験では、SJD-PACは損失のない画質で3.8倍のスピードアップを達成した。
論文 参考訳(メタデータ) (2026-03-19T08:15:18Z) - SJD++: Improved Speculative Jacobi Decoding for Training-free Acceleration of Discrete Auto-regressive Text-to-Image Generation [92.34355601866629]
大規模な自己回帰モデルは高品質で高解像度の画像を生成することができるが、生成速度が遅い。
本稿では,SJD++ (Speculative Jacobi Decoding++) を提案する。
SJD++は、各フォワードパスでマルチトークン予測を実行し、生成ステップを大幅に削減する。
論文 参考訳(メタデータ) (2025-12-08T12:36:43Z) - Accelerating Auto-regressive Text-to-Image Generation with Training-free Speculative Jacobi Decoding [60.188309982690335]
本稿では,SJD (Speculative Jacobi Decoding) の学習自由確率並列復号法を提案する。
SJDは、サンプリングベースのトークン復号におけるランダム性を維持しつつ、自動回帰テキスト・画像生成の推論を加速する。
具体的には、SJDは各ステップで複数のトークンを予測し、確率的基準に基づいてトークンを受け付けます。
論文 参考訳(メタデータ) (2024-10-02T16:05:27Z) - EMS-SD: Efficient Multi-sample Speculative Decoding for Accelerating Large Language Models [40.651650382105636]
Vanillaメソッドは、サンプル間で新しいトークンの数が一貫していることを保証するために、パディングトークンを追加する。
本稿では,メモリや計算のオーバーヘッドを増大させることなく,異なるサンプルで受け入れられる不整合トークンの問題を解決する手法を提案する。
提案手法は, パディングトークンを追加することなく, 異なるサンプルの予測トークンが矛盾する状況に対処できる。
論文 参考訳(メタデータ) (2024-05-13T08:24:21Z) - Who Wrote this Code? Watermarking for Code Generation [53.24895162874416]
本稿では,機械生成テキストを検出するために,Entropy Thresholding (SWEET) を用いたSelective WatErmarkingを提案する。
実験の結果,SWEETはコード品質を著しく向上し,すべてのベースラインを上回ります。
論文 参考訳(メタデータ) (2023-05-24T11:49:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。