論文の概要: PathRelax: Parallel-Path Relaxed Speculative Jacobi Decoding for Accelerating Auto-Regressive Text-to-Image Generation
- arxiv url: http://arxiv.org/abs/2606.10492v1
- Date: Tue, 09 Jun 2026 07:16:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-10 15:40:58.364278
- Title: PathRelax: Parallel-Path Relaxed Speculative Jacobi Decoding for Accelerating Auto-Regressive Text-to-Image Generation
- Title(参考訳): PathRelax: 自動回帰テキスト・画像生成の高速化のためのパラレルパス緩和投機的ヤコビデコーディング
- Authors: Haodong Lei, Hongsong Wang, Bingxuan Dai, Pan Zhou,
- Abstract要約: 自己回帰的テキスト・画像モデルの高速化に向けた現在の手法は、チェーン構造を持つトークンシーケンスに依存している。
マルチシーケンスのドラフトツリー構造によって効率を高める新しいフレームワークである、並列パスクロスラクシド・投機的Jacobi復号法(textbfPathSpec)を提案する。
本手法は,それぞれ4.14$times$,3.95$times$,4.18$times$のスピードアップ比を実現する。
- 参考スコア(独自算出の注目度): 23.998186429836377
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The growing need for high-resolution image generation in autoregressive text-to-image models has resulted in extended token sequences, significantly increasing computational costs and inference times. However, existing state-of-the-art methods for accelerating autoregressive text-to-image models rely on chain-structured draft token sequences, leading to inefficient draft token search and limited acceptance lengths. To address this, we propose parallel-path cross-relaxed speculative Jacobi decoding (\textbf{PathSpec}), a novel framework that enhances efficiency through a multi-sequence draft tree structure. Our parallel-path speculative Jacobi decoding (\textbf{PathExplore}) expands the token search space, achieving a higher speedup ratio without sacrificing image quality. Additionally, we introduce cross-path relaxed verification (\textbf{PathRelax}) that exploits semantic similarities across sequences to further boost token acceptance rates. Evaluated on the Parti-Prompts, MSCOCO2017, and T2ICompBench datasets, our method achieves a speedup ratio of 4.14 $\times$, 3.95$\times$, and 4.18$\times$, respectively. Remarkably, PathExplore, without any relaxed sampling, outperforms relaxed sampling methods in the speedup ratio, such as GSD and LANTERN. Moreover, PathRelax's relaxation mechanism can be seamlessly integrated with other relaxation techniques, enabling further acceleration and providing an efficient solution for real-time text-to-image generation. Our code is available at https://github.com/Haodong-Lei-Ray/PathSpec.
- Abstract(参考訳): 自己回帰型テキスト・画像モデルにおける高解像度画像生成の必要性が増大し、トークンシーケンスが拡張され、計算コストと推論時間が大幅に増加した。
しかし、自己回帰的テキスト・画像モデルの高速化のための既存の最先端手法は、チェーン構造されたドラフトトークンシーケンスに依存しており、非効率なドラフトトークン探索と限定的な受け入れ長をもたらす。
そこで本研究では,マルチシーケンスのドラフトツリー構造により効率を高める新しいフレームワークである並列パスクロスラックス投機Jacobiデコーディング(\textbf{PathSpec})を提案する。
我々の並列パス投機Jacobi復号(\textbf{PathExplore})は、画像品質を犠牲にすることなく、より高いスピードアップ比を達成するためにトークン検索空間を拡張する。
さらに、シーケンス間の意味的類似性を利用してトークンの受け入れ率をさらに向上するクロスパス緩和検証(\textbf{PathRelax})を導入する。
この手法はParti-Prompts, MSCOCO2017, T2ICompBenchの各データセットで評価され, それぞれ4.14$\times$, 3.95$\times$, 4.18$\times$のスピードアップ比が得られた。
注目すべきは、PathExploreはサンプリングを緩和することなく、GSDやLANTERNのようなスピードアップ比でサンプリング法を緩和する。
さらに、PathRelaxの緩和機構は他の緩和技術とシームレスに統合することができ、さらなる加速を可能にし、リアルタイムテキスト・画像生成のための効率的なソリューションを提供する。
私たちのコードはhttps://github.com/Haodong-Lei-Ray/PathSpecで公開されています。
関連論文リスト
- dParallel: Learnable Parallel Decoding for dLLMs [77.24184219948337]
拡散大言語モデル(dLLM)は並列トークン予測と低推論遅延を提供する。
既存のオープンソースモデルは、パフォーマンスを確保するためにトークン長のデコードステップをほとんど必要としています。
高速サンプリングのためにdLLMs固有の並列性を解き放つシンプルで効果的な方法であるdParallelを導入する。
論文 参考訳(メタデータ) (2025-09-30T16:32:52Z) - Parallelized Autoregressive Visual Generation [65.9579525736345]
本稿では,並列化された自己回帰視覚生成のための簡易かつ効果的な手法を提案する。
本手法は,画像生成タスクと映像生成タスクの両方において,最大9.5倍の高速化を実現し,品質劣化を最小限に抑えた3.6倍の高速化を実現する。
論文 参考訳(メタデータ) (2024-12-19T17:59:54Z) - ZipAR: Parallel Auto-regressive Image Generation through Spatial Locality [19.486745219466666]
ZipARは、自動回帰(AR)ビジュアル生成のためのトレーニング不要でプラグ&プレイの並列デコーディングフレームワークである。
ZipARは、追加の再トレーニングを必要とせずに、Emu3-Genモデルでモデル転送回数を最大91%削減できる。
論文 参考訳(メタデータ) (2024-12-05T10:57:08Z) - Accelerating Auto-regressive Text-to-Image Generation with Training-free Speculative Jacobi Decoding [60.188309982690335]
本稿では,SJD (Speculative Jacobi Decoding) の学習自由確率並列復号法を提案する。
SJDは、サンプリングベースのトークン復号におけるランダム性を維持しつつ、自動回帰テキスト・画像生成の推論を加速する。
具体的には、SJDは各ステップで複数のトークンを予測し、確率的基準に基づいてトークンを受け付けます。
論文 参考訳(メタデータ) (2024-10-02T16:05:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。