論文の概要: DC-SAE: Deep Compression Semantic Autoencoder for Faster Diffusion Convergence
- arxiv url: http://arxiv.org/abs/2609.39222v1
- Date: Wed, 30 Sep 2026 08:00:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.41472
- Title: DC-SAE: Deep Compression Semantic Autoencoder for Faster Diffusion Convergence
- Title(参考訳): DC-SAE:高速拡散収束のための深部圧縮セマンティックオートエンコーダ
- Abstract要約: Decoupled Compact Semantic Autoencoder (DC-SAE) は高速拡散モデル収束を伴う高圧縮画像生成のために設計されている。
DC-SAEは,(1)セマンティックエンコーダを利用して高い圧縮比を実現するマクロレベルのアーキテクチャ設計,(2)低レベルの詳細を保存するピクセルレベルのエンコーダである。
我々は、DC-SAEが画像生成タスクに強く依存し、コンパクトな潜在表現と効率的なトレーニングダイナミクスの両方を達成することを実証的に実証した。
- 参考スコア(独自算出の注目度): 30.16913915663646
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: High-compression tokenizers are essential for scaling latent image generative models. However, aggressive compression creates a fundamental tradeoff between reconstruction fidelity and generation efficiency: high compression image encoder always increases the learning difficulty of diffusion training, resulting in slow model convergence. Recent representation autoencoders speed up the diffusion training by improving the latent feature's expressive capability by replacing VAE encoders with pretrained semantic encoders, yet they are typically limited to moderate compression and lose pixel-level details necessary for faithful reconstruction. To achieve both high compression and fast diffusion training, we propose DC-SAE, a Decoupled Compact Semantic Autoencoder designed for high-compression image generation with accelerated diffusion model convergence. DC-SAE consists of two key components: (1) a macro-level architecture design that leverages semantic encoders to enable higher compression ratios, and (2) a pixel-level encoder that preserves low-level details, ensuring high-fidelity image reconstruction. We empirically demonstrate that DC-SAE performs strongly on image generation tasks, achieving both compact latent representations and efficient training dynamics. Specifically, on the ImageNet dataset with $512 \times 512$ resolution, DC-SAE achieves $32\times$ spatial compression, with 29.79 PSNR and 3.37 gFID, substantially outperforming the previous state-of-the-art high-compression tokenizer baselines DC-AE by 13.5% and 54.9% on PSNR and gFID, respectively, maintaining comparable throughput and faster diffusion model training convergence. Beyond class-conditional generation, a $1.6$B-parameter DiT using DC-SAE achieves 0.84 on GenEval and 86.007 on DPG-Bench for text-to-image generation at $1024\times1024$ resolution.
- Abstract(参考訳): 高圧縮トークン化剤は遅延画像生成モデルのスケーリングに不可欠である。
しかし、アグレッシブ圧縮は、再構成忠実度と生成効率の基本的なトレードオフを生み出す: 高圧縮画像エンコーダは、拡散訓練の学習困難を常に増加させ、モデル収束が遅くなる。
最近の表現オートエンコーダは、VAEエンコーダを事前訓練されたセマンティックエンコーダに置き換えることで、遅延特徴の表現能力を向上させることで拡散訓練を高速化するが、それらは通常、適度な圧縮に制限され、忠実な再構成に必要なピクセルレベルの詳細を失う。
高圧縮および高速拡散訓練を実現するために,高速拡散モデル収束を伴う高圧縮画像生成のためのデカップリングコンパクトセマンティックオートエンコーダDC-SAEを提案する。
DC-SAEは,(1)セマンティックエンコーダを利用して高い圧縮比を実現するマクロレベルのアーキテクチャ設計,(2)低レベルの詳細を保存し,高忠実度画像再構成を保証するピクセルレベルのエンコーダである。
我々は、DC-SAEが画像生成タスクに強く依存し、コンパクトな潜在表現と効率的なトレーニングダイナミクスの両方を達成することを実証的に実証した。
具体的には、解像度が512 \times 512$のImageNetデータセットでは、DC-SAEは空間圧縮が32\times$ 29.79 PSNRと3.37 gFIDで達成され、それぞれ同等のスループットと高速な拡散モデルトレーニングコンバージェンスを維持している。
クラス条件生成以外にも、DC-SAEを使用した16ドルBパラメータ DiT は GenEval の 0.84 と DPG-Bench の 86.007 を 1024\times 1024$ で実現している。
関連論文リスト
- DiT-IC: Aligned Diffusion Transformer for Efficient Image Compression [56.68267606568949]
DiT-ICは画像圧縮用アライメント拡散変換器である。
U-NetをDiffusion Transformerに置き換え、32倍のダウンスケール解像度で遅延空間での拡散を可能にする。
16GBのラップトップGPUで2048x2048画像を再構成できる。
論文 参考訳(メタデータ) (2026-03-13T16:56:00Z) - Turbo-DDCM: Fast and Flexible Zero-Shot Diffusion-Based Image Compression [54.1069581766925]
本稿では,既存の手法よりも高速に動作する効率的なゼロショット拡散圧縮法を提案する。
提案手法は,最近提案されたDenoising Diffusion Codebook Models (DDCM) 圧縮方式に基づいている。
ユーザが指定した領域を優先する優先度対応型であるTurbo-DDCMと、ターゲットのBPPではなくターゲットのPSNRに基づいて画像を圧縮する歪み制御型である。
論文 参考訳(メタデータ) (2025-11-09T15:41:27Z) - SSDD: Single-Step Diffusion Decoder for Efficient Image Tokenization [56.12853087022071]
スケーリングとトレーニングの安定性を向上させるために,新しい画素拡散デコーダアーキテクチャを導入する。
蒸留を用いて, 拡散復号器の性能を効率よく再現する。
これによりSSDDは、敵の損失なしに訓練された単一ステップ再構成に最適化された最初の拡散デコーダとなる。
論文 参考訳(メタデータ) (2025-10-06T15:57:31Z) - ZipIR: Latent Pyramid Diffusion Transformer for High-Resolution Image Restoration [75.0053551643052]
本稿では、高解像度画像復元のための効率性、スケーラビリティ、長距離モデリングを向上する新しいフレームワークZipIRを紹介する。
ZipIRは画像32xを圧縮する高度に圧縮された潜在表現を使用し、空間トークンの数を効果的に削減する。
ZipIRは既存の拡散ベースの手法を超越し、高度に劣化した入力からの高解像度画像の復元において、未整合の速度と品質を提供する。
論文 参考訳(メタデータ) (2025-04-11T14:49:52Z) - DDT: Decoupled Diffusion Transformer [51.84206763079382]
拡散変換器はノイズの多い入力を符号化し、意味成分を抽出し、同じモジュールで高い周波数をデコードする。
textbfcolorddtDecoupled textbfcolorddtTransformer(textbfcolorddtDDT)
textbfcolorddtTransformer(textbfcolorddtDDT)
textbfcolorddtTransformer(textbfcolorddtDDT)
論文 参考訳(メタデータ) (2025-04-08T07:17:45Z) - Deep Compression Autoencoder for Efficient High-Resolution Diffusion Models [38.84567900296605]
ディープ圧縮オートエンコーダ (DC-AE) は高分解能拡散モデルの高速化を目的とした新しいオートエンコーダモデルである。
遅延拡散モデルへの直流-AEの適用により,精度低下のない大幅な高速化を実現した。
論文 参考訳(メタデータ) (2024-10-14T17:15:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。