論文の概要: What Matters for Diffusion-Friendly Latent Manifold? Prior-Aligned Autoencoders for Latent Diffusion

• arxiv url: http://arxiv.org/abs/2605.07915v1
• Date: Fri, 08 May 2026 15:52:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 19:43:39.179125
• Title: What Matters for Diffusion-Friendly Latent Manifold? Prior-Aligned Autoencoders for Latent Diffusion
• Title（参考訳）: 拡散親和性潜伏マニフォールドの諸問題 : 潜伏拡散のための事前アライメントオートエンコーダ
• Authors: Zhengrong Yue, Taihang Hu, Mengting Chen, Haiyu Zhang, Zihao Pan, Tao Liu, Zikang Wang, Jinsong Lan, Xiaoyong Zhu, Bo Zheng, Yali Wang,
• Abstract要約: Pre-Aligned AutoEncoder (PAE) は既存のトークンよりもトレーニング効率と生成品質を向上する。 ImageNet 256x256では、PAEは既存のトークン化ツールよりもトレーニング効率と生成品質の両方を改善している。
• 参考スコア（独自算出の注目度）: 29.53012582067919
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Tokenizers are a crucial component of latent diffusion models, as they define the latent space in which diffusion models operate. However, existing tokenizers are primarily designed to improve reconstruction fidelity or inherit pretrained representations, leaving unclear what kind of latent space is truly friendly for generative modeling. In this paper, we study this question from the perspective of latent manifold organization. By constructing controlled tokenizer variants, we identify three key properties of a diffusion-friendly latent manifold: coherent spatial structure, local manifold continuity, and global manifold semantics. We find that these properties are more consistent with downstream generation quality than reconstruction fidelity. Motivated by this finding, we propose the Prior-Aligned AutoEncoder (PAE), which explicitly shapes the latent manifold instead of leaving diffusion-friendly manifold to emerge indirectly from reconstruction or inheritance. Specifically, PAE leverages refined priors derived from VFMs and perturbation-based regularization to turn spatial structure, local continuity, and global semantics into explicit training objectives. On ImageNet 256x256, PAE improves both training efficiency and generation quality over existing tokenizers, reaching performance comparable to RAE with up to 13x faster convergence under the same training setup and achieving a new state-of-the-art gFID of 1.03. These results highlight the importance of organizing the latent manifold for latent diffusion models.
• Abstract（参考訳）: トケナイザーは、拡散モデルが作用する潜伏空間を定義するため、潜伏拡散モデルの重要な構成要素である。 しかし、既存のトークン化器は、主に再構成の忠実性を改善するか、事前訓練された表現を継承するために設計されており、どの潜在空間が生成モデリングに本当に親しみやすいかは明らかでない。 本稿では,この問題を潜在多様体構造の観点から考察する。 制御されたトークン化器の変種を構築することにより、拡散にやさしい潜在多様体の3つの重要な性質(コヒーレント空間構造、局所多様体連続性、大域多様体意味論)を同定する。 これらの特性は, 復元忠実度よりも下流生成品質と整合性が高いことが判明した。 この発見に触発されて、拡散に優しい多様体を間接的に復元や継承から出現させる代わりに、遅延多様体を明示的に形成する事前アラインドオートエンコーダ(PAE)を提案する。 具体的には,空間構造,局所連続性,大域的意味論を明示的な訓練目的に変換するために,VFMや摂動に基づく正規化から派生した洗練された先行情報を活用する。 ImageNet 256x256では、PAEは既存のトークン化ツールよりもトレーニング効率と生成品質を向上し、同じトレーニング設定で最大13倍高速収束でRAEに匹敵するパフォーマンスを達成し、新しい最先端のgFID1.03を達成する。 これらの結果は、潜在拡散モデルに対する潜在多様体の整理の重要性を強調している。

関連論文リスト

• Coevolving Representations in Joint Image-Feature Diffusion [13.292849179066993]
  拡散を導く表現空間は、それ自体が生成タスクに適応すべきである。 学習中に意味表現空間が進化するフレームワークであるCoevolving Diffusion Representation (CoReDi)を提案する。 実験により、CoReDiは、固定表現空間で動作する連成拡散モデルと比較して、より高速な収束とより高いサンプル品質を実現することが示された。
  論文  参考訳（メタデータ） (2026-04-19T15:29:15Z)
• DINO-SAE: DINO Spherical Autoencoder for High-Fidelity Image Reconstruction and Generation [47.409626500688866]
  本稿では,DINO Spherical Autoencoder(DINO-SAE)について述べる。 提案手法は, 既修のVFMと強いセマンティックアライメントを維持しつつ, 0.37 rFID と 26.2 dB PSNR に到達し, 最先端の再現性を実現する。
  論文  参考訳（メタデータ） (2026-01-30T12:25:34Z)
• RecTok: Reconstruction Distillation along Rectified Flow [85.51292475005151]
  本稿では2つの重要な革新を通じて高次元視覚トークン化の限界を克服するRecTokを提案する。 提案手法は,VFMにおける意味情報を,フローマッチングにおける前方流路に抽出する。 我々のRecTokは画像再構成、生成品質、識別性能に優れています。
  論文  参考訳（メタデータ） (2025-12-15T15:14:20Z)
• Foundations of Diffusion Models in General State Spaces: A Self-Contained Introduction [54.95522167029998]
  この記事は、一般状態空間上の拡散に関する自己完結プライマーである。 我々は、その連続時間限界とともに離散時間ビュー(マルコフカーネルを経由し、逆ダイナミクスを学習する)を開発する。 一般的な変量処理は、標準の訓練損失を支えるELBOをもたらす。
  論文  参考訳（メタデータ） (2025-12-04T18:55:36Z)
• Latent Diffusion Model without Variational Autoencoder [78.34722551463223]
  SVGは視覚生成のための変分オートエンコーダを持たない新しい潜伏拡散モデルである。 凍結したDINO機能を利用して、明確な意味的識別性を持つ特徴空間を構築する。 迅速な拡散訓練を可能にし、数ステップのサンプリングをサポートし、生成品質を向上させる。
  論文  参考訳（メタデータ） (2025-10-17T04:17:44Z)
• Masked Autoencoders Are Effective Tokenizers for Diffusion Models [56.08109308294133]
  MAETokは自己エンコーダであり、再構築の忠実さを維持しながら意味的にリッチな潜在空間を学習する。 MaETokは1.69のgFIDで76倍高速トレーニングが可能で、512x512世代で31倍高い推論スループットを実現している。
  論文  参考訳（メタデータ） (2025-02-05T18:42:04Z)
• Exploring Representation-Aligned Latent Space for Better Generation [86.45670422239317]
  生成性能を改善するために,セマンティックな事前情報を統合するReaLSを導入する。 本研究では、ReaLSでトレーニングされたDETとSiTが、FID測定値の15%改善を実現することを示す。 拡張されたセマンティック潜在空間は、セグメンテーションや深さ推定のようなより知覚的な下流タスクを可能にする。
  論文  参考訳（メタデータ） (2025-02-01T07:42:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。