論文の概要: SpeeDiff: Scalable Pixel-Anchored End-to-End Latent Diffusion Model

• arxiv url: http://arxiv.org/abs/2610.36419v1
• Date: Mon, 26 Oct 2026 23:57:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-29 04:15:49.210497
• Title: SpeeDiff: Scalable Pixel-Anchored End-to-End Latent Diffusion Model
• Title（参考訳）: SpeeDiff: スケーラブルなPixel-Anchored End-to-End遅延拡散モデル
• Abstract要約: SpeeDiffは、VAEと拡散モデルをスクラッチから訓練する潜在拡散法である。 我々のモデルは,バニラSiTやREPAと比較して,140倍,61倍高速なトレーニングを実現している。 より効率的な32倍圧縮されたVAEでは、ImageNet 512x512生成のガイダンスなしでさらに1.53のFIDに達する。
• 参考スコア（独自算出の注目度）: 45.843007706585404
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present Scalable Pixel-anchored End-to-end Diffusion (SpeeDiff), a latent diffusion method that jointly trains the VAE and the diffusion model from scratch. In principle, joint training allows the diffusion loss gradient to directly guide the VAE encoder, encouraging the formation of a generation-friendly latent space and potentially yielding faster convergence than the conventional two-stage approach with a pretrained frozen VAE. However, a naive end-to-end implementation severely degrades performance, as unrestricted backpropagation of the diffusion loss leads to latent space collapse. Our main technical contribution is a simple yet effective Tweedie Pixel Reconstruction (TPR) loss, which provides additional pixel-level feedback by decoding a predicted clean latent from an intermediate noisy state using Tweedie's formula, thereby alleviating collapse. Furthermore, our method enables jointly scaling a fully transformer-based architecture and enhances representation alignment within the end-to-end framework. Our SpeeDiff-XL model achieves over 140x and 61x faster training compared to Vanilla SiT and REPA, respectively, while attaining an FID of 1.50 without guidance on ImageNet 256x256 generation. With a more efficient 32x compressed VAE, our model further reaches an FID of 1.53 without guidance on ImageNet 512x512 generation.
• Abstract（参考訳）: 本稿では,VAEと拡散モデルをスクラッチからトレーニングする遅延拡散法である,スケーラブルなPixel-anchored End-to-end Diffusion (SpeeDiff)を提案する。 原則として、ジョイントトレーニングにより拡散損失勾配はVOEエンコーダを直接誘導することができ、世代フレンドリーな潜在空間の形成を奨励し、事前訓練された凍結されたVAEによる従来の2段階のアプローチよりも早く収束する可能性がある。 しかし、非制限の拡散損失のバックプロパゲーションが遅延空間の崩壊を引き起こすため、単純なエンドツーエンド実装は性能を著しく低下させる。 われわれはTweedie Pixel Restruction (TPR) の損失に対処し,Tweedie の公式を用いて予測されたクリーン潜伏剤を中間雑音状態から復号することで,さらなる画素レベルのフィードバックを提供する。 さらに,本手法では,完全にトランスフォーマーをベースとしたアーキテクチャを共同で拡張し,エンドツーエンドのフレームワーク内での表現アライメントを向上する。 我々のSpeeDiff-XLモデルは、Vanilla SiTやREPAと比較して140倍、61倍高速なトレーニングを実現し、ImageNet 256x256 世代を指導せずに 1.50 の FID を達成する。 より効率的な32倍圧縮されたVAEでは、ImageNet 512x512生成のガイダンスなしでさらに1.53のFIDに達する。

関連論文リスト

• NanoSD: Edge Efficient Foundation Model for Real Time Image Restoration [5.158202521463481]
  NanoSDは、エッジデバイス上でのリアルタイム視覚生成と復元に適した汎用拡散基盤モデルファミリーである。 アーキテクチャのバランス、機能ルーティング、潜在空間の保存が、デバイス上での真のレイテンシをいかに形作るかを示す。 ドロップインバックボーンとして使用する場合、NanoSDは画像超解像、画像劣化、顔の復元、単眼深度推定など、最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2026-01-14T19:30:53Z)
• DeCo: Frequency-Decoupled Pixel Diffusion for End-to-End Image Generation [93.6273078684831]
  より効率的な画素拡散パラダイムを追求するために,周波数デカップリング方式の画素拡散フレームワークを提案する。 高速・低周波成分の生成を分離する直感によって, セマンティックガイダンスに基づく高周波細部を生成するために, 軽量画素デコーダを利用する。 実験の結果,DeCoは1.62 (256x256) と2.22 (512x512) の FID を実現した。
  論文  参考訳（メタデータ） (2025-11-24T17:59:06Z)
• DiP: Taming Diffusion Models in Pixel Space [91.51011771517683]
  Diffusion Transformer (DiT) バックボーンは、効率的なグローバル構造構築のために大きなパッチで動作する。 共同トレーニングされた軽量パッチディーラーヘッドは、コンテキスト機能を活用して、きめ細かいローカル詳細を復元する。
  論文  参考訳（メタデータ） (2025-11-24T06:55:49Z)
• One Small Step in Latent, One Giant Leap for Pixels: Fast Latent Upscale Adapter for Your Diffusion Models [45.92038137978053]
  本稿では,Latent Upscaler Adapter(LUA)について述べる。 LUAはドロップインコンポーネントとして統合されており、ベースモデルや追加の拡散段階を変更する必要はない。 スケール固有のピクセルシャッフルヘッドを持つ共有Swinスタイルのバックボーンは、2xと4xファクタをサポートし、画像空間SRベースラインと互換性がある。
  論文  参考訳（メタデータ） (2025-11-13T18:54:18Z)
• REPA-E: Unlocking VAE for End-to-End Tuning with Latent Diffusion Transformers [52.55041244336767]
  従来のディープラーニングの知恵は、エンド・ツー・エンドのトレーニングが可能な限り望ましいと判断する。 遅延拡散変換器では,標準拡散損失を用いたVAEと拡散モデルの両方のエンドツーエンドトレーニングが有効でないことが観察された。 拡散損失は非効率であるが,表現アライメント(REPA)の損失によってエンドツーエンドのトレーニングをアンロックできることが示されている。
  論文  参考訳（メタデータ） (2025-04-14T17:59:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。