論文の概要: Parallel Jacobi Decoding for Fast Autoregressive Image Generation
- arxiv url: http://arxiv.org/abs/2606.05703v1
- Date: Thu, 04 Jun 2026 04:50:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-06 06:55:34.635356
- Title: Parallel Jacobi Decoding for Fast Autoregressive Image Generation
- Title(参考訳): 高速自己回帰画像生成のための並列ヤコビデコーディング
- Authors: Boya Liao, Ying Li, Siyong Jian, Huan Wang,
- Abstract要約: 自己回帰(AR)モデルは高忠実度画像の生成において顕著な性能を示した。
その本質的にシーケンシャルな次トーケン予測は、推論を著しく遅くする。
近年の研究では、自己回帰画像生成を加速するヤコビ型復号法が導入されている。
2次元空間領域におけるドラフトトークンを拡張する訓練不要な復号法であるParallel Jacobi Decoding (PJD)を提案する。
- 参考スコア(独自算出の注目度): 8.289611849434959
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Autoregressive (AR) models have demonstrated remarkable performance in generating high-fidelity images. However, their inherently sequential next-token prediction leads to significantly slower inference. Recent studies have introduced Jacobi-style decoding to accelerate autoregressive image generation. Extending the draft sequence initially improves efficiency, yet the acceleration quickly saturates as error propagation in the one-dimensional sequence hinders convergence. Observing that images exhibit strong local spatial correlations, we propose Parallel Jacobi Decoding (PJD), a training-free decoding approach that expands draft tokens in the two-dimensional spatial domain to enable efficient spatially parallel refinement. PJD adjusts the attention mask to mitigate error accumulation and improve convergence stability. Extensive experiments on diverse datasets show that PJD achieves 4.8x-6.4x acceleration across multiple autoregressive image generation models while maintaining competitive generation quality.
- Abstract(参考訳): 自己回帰(AR)モデルは高忠実度画像の生成において顕著な性能を示した。
しかし、その本質的にシーケンシャルな次トーケン予想は推論を著しく遅くする。
近年の研究では、自己回帰画像生成を加速するヤコビ型復号法が導入されている。
ドラフトシーケンスの拡張は、最初は効率を向上するが、1次元のシーケンスにおけるエラーの伝播が収束を妨げるため、加速は急速に飽和する。
画像が強い局所空間相関を示すのを観察し,2次元空間領域におけるドラフトトークンを拡張して空間的並列化を実現する訓練自由復号法であるParallel Jacobi Decoding (PJD)を提案する。
PJDはアテンションマスクを調整し、エラーの蓄積を緩和し、収束安定性を向上させる。
多様なデータセットに対する大規模な実験により、PJDは競争力のある生成品質を維持しながら、複数の自己回帰画像生成モデルで4.8x-6.4x加速を達成することが示された。
関連論文リスト
- Multi-Scale Local Speculative Decoding for Image Generation [10.239314110594249]
マルチスケールローカル投機復号(MuLo-SD)を導入する。
MuLo-SDは、多重解像度のドラフトと空間情報による検証を組み合わせることで、AR画像生成を高速化する。
我々は MuLo-SD が $mathbf1.7times$ までの大幅な高速化を実現することを示した。
論文 参考訳(メタデータ) (2026-01-08T17:39:35Z) - Learning to Expand Images for Efficient Visual Autoregressive Modeling [26.400433163290586]
本稿では、人間の視覚系の中心外知覚パターンをエミュレートする新しい生成パラダイムである、拡張自己回帰表現(EAR)を紹介する。
EARは、画像トークンを中心からスパイラル順に展開し、徐々に外側に展開し、空間的連続性を保持し、効率的な並列復号を可能にする。
論文 参考訳(メタデータ) (2025-11-19T14:55:07Z) - Hawk: Leveraging Spatial Context for Faster Autoregressive Text-to-Image Generation [87.00172597953228]
投機的復号化は、品質を損なうことなくテキスト生成を加速させる可能性を示している。
我々は、画像の空間構造を利用して投機モデルをより正確で効率的な予測へと導く新しいアプローチであるHawkを紹介する。
複数のテキストと画像のベンチマークの実験結果は、標準的なARモデルよりも1.71倍のスピードアップを示している。
論文 参考訳(メタデータ) (2025-10-29T17:43:31Z) - Parallelized Autoregressive Visual Generation [65.9579525736345]
本稿では,並列化された自己回帰視覚生成のための簡易かつ効果的な手法を提案する。
本手法は,画像生成タスクと映像生成タスクの両方において,最大9.5倍の高速化を実現し,品質劣化を最小限に抑えた3.6倍の高速化を実現する。
論文 参考訳(メタデータ) (2024-12-19T17:59:54Z) - Accelerating Auto-regressive Text-to-Image Generation with Training-free Speculative Jacobi Decoding [60.188309982690335]
本稿では,SJD (Speculative Jacobi Decoding) の学習自由確率並列復号法を提案する。
SJDは、サンプリングベースのトークン復号におけるランダム性を維持しつつ、自動回帰テキスト・画像生成の推論を加速する。
具体的には、SJDは各ステップで複数のトークンを予測し、確率的基準に基づいてトークンを受け付けます。
論文 参考訳(メタデータ) (2024-10-02T16:05:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。