論文の概要: Efficient Fréchet Distributional Decoder Alignment for Latent Generative Models

• arxiv url: http://arxiv.org/abs/2610.17466v1
• Date: Mon, 12 Oct 2026 22:28:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 18:47:28.860527
• Title: Efficient Fréchet Distributional Decoder Alignment for Latent Generative Models
• Title（参考訳）: 潜在生成モデルに対する効率的なフレシェ分布デコーダアライメント
• Abstract要約: 遅延発生器を凍結する効率的な後学習法である textbfFréchet Distributional Decoder Alignment (FDDA) を導入する。 FDDAの1つのエポックは、様々なフローベースおよび自己回帰的潜在生成モデルにおいて、gFIDとgFDr$6$を一貫して改善する。 FDDAはまた、ジェネレータ側のFDポストトレーニングと比較して、総ウォールタイム時間を$3.6times$-328.7times$で減少させる。
• 参考スコア（独自算出の注目度）: 15.176196754786107
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Fréchet Distributional (FD) objectives provide an effective distribution-level signal for post-training generative models. For latent generative models, however, existing FD-based post-training methods optimize only the latent generator while keeping the decoder frozen: the decoder is trained on reconstruction latents obtained from real images but deployed on generator-produced latents at generation time. When these latent distributions differ, this \textbf{decoder train-generation mismatch} means that the decoder is deployed on inputs drawn from a distribution it was not directly trained on. We introduce \textbf{Fréchet Distributional Decoder Alignment (FDDA)}, an efficient post-training method that freezes the latent generator and directly optimizes the decoder on generation-time latents using an FD objective. A single epoch of FDDA consistently improves gFID and gFDr$^6$ across diverse flow-based and autoregressive latent generative models. Across all 11 evaluated models, FDDA reduces gFDr$^6$ by 34.0-59.6\% from the original pretrained models and provides a further 10.2-57.2\% reduction after generator-side FD post-training. FDDA also reduces total wall-clock time by factors of $3.6\times$-$328.7\times$ relative to generator-side FD post-training across these models. These results show that generator-side post-training alone does not exhaust the benefits of FD optimization, and that further gains can be obtained by adapting the decoder at substantially lower cost.
• Abstract（参考訳）: Fréchet Distributional (FD) の目的は、学習後の生成モデルに効果的な分布レベル信号を提供する。 しかし、潜時生成モデルでは、既存のFDベースのポストトレーニング手法は、デコーダを凍結させながら潜時生成のみを最適化する。 これらの潜伏分布が異なる場合、この \textbf{decoder train-generation mismatch} は、デコーダが直接訓練されていないディストリビューションから引き出された入力にデプロイされることを意味する。 FDDAは、遅延発生器を凍結し、FDの目的を用いて生成時潜伏器上で直接デコーダを最適化する効率的なポストトレーニング手法である。 FDDAの単一エポックは、様々なフローベースおよび自己回帰的潜伏生成モデルにおいて、gFIDとgFDr$^6$を一貫して改善する。 評価された11モデル全体で、FDDAはオリジナルの事前訓練モデルからgFDr$^6$を34.0-59.6\%削減し、ジェネレータサイドのFD後トレーニングでさらに10.2-57.2\%削減する。 FDDAはまた、これらのモデル間のジェネレータ側FDのポストトレーニングと比較して、総ウォールタイム時間を$3.6\times$-328.7\times$で減少させる。 これらの結果から, 発電機側でのポストトレーニングだけではFD最適化の利点を無駄にせず, デコーダをかなり低コストで適用することで, さらなる利得を得ることができることがわかった。

関連論文リスト

• Distribution Matching Distillation without Fake Score Network [30.128477787234363]
  分散マッチング蒸留(DMD)は、数ステップ生成に有効な分布レベルの補正を提供する。 最近の研究は、DMDスタイルの目標とフローマップジェネレータを組み合わせることで、前方偏差トレーニングと逆偏差補正の両方を活用する。 本研究では,Fake-Score-network-Free DMD (FSF-DMD)を提案する。
  論文  参考訳（メタデータ） (2026-05-19T02:05:31Z)
• Efficient Diffusion Distillation via Embedding Loss [5.036053636785486]
  埋め込み損失 (EL) は, 既存の拡散蒸留法を補完する新たな補足損失関数であり, 生成品質を高め, バッチサイズを小さくして訓練を加速する。 提案手法は,非条件生成に1.475,条件生成に1.380のFID値を実現する。 また,本手法は,資源制約環境下での拡散型生成モデルを展開するための,より実用的でスケーラブルなソリューションを提供するため,最大80%のトレーニングイテレーションを短縮する。
  論文  参考訳（メタデータ） (2026-04-24T09:16:47Z)
• MeanFlow Transformers with Representation Autoencoders [71.45823902973349]
  MeanFlow(MF)は、ノイズからデータへのジャンプを直接学習することで、効率的な数ステップ生成を可能にする拡散動機付き生成モデルである。 我々は、表現オートエンコーダ(RAE)の潜在空間におけるMFの効率的なトレーニングとサンプリング手法を開発する。 1ステップのFIDが2.03であり,バニラMFの3.43を上回っ,GFLOPSのサンプリングを38%削減し,ImageNet 256のトレーニングコストを83%削減した。
  論文  参考訳（メタデータ） (2025-11-17T06:17:08Z)
• SSDD: Single-Step Diffusion Decoder for Efficient Image Tokenization [56.12853087022071]
  スケーリングとトレーニングの安定性を向上させるために,新しい画素拡散デコーダアーキテクチャを導入する。 蒸留を用いて, 拡散復号器の性能を効率よく再現する。 これによりSSDDは、敵の損失なしに訓練された単一ステップ再構成に最適化された最初の拡散デコーダとなる。
  論文  参考訳（メタデータ） (2025-10-06T15:57:31Z)
• Image Tokenizer Needs Post-Training [76.91832192778732]
  本稿では,遅延空間構築と復号化に着目した新しいトークン化学習手法を提案する。 具体的には,トークン化の堅牢性を大幅に向上させる,プラグアンドプレイ型トークン化学習手法を提案する。 生成したトークンと再構成されたトークンの分布差を軽減するために、よく訓練された生成モデルに関するトークン化デコーダをさらに最適化する。
  論文  参考訳（メタデータ） (2025-09-15T21:38:03Z)
• Pruning then Reweighting: Towards Data-Efficient Training of Diffusion Models [33.09663675904689]
  データセットプルーニングの観点から,効率的な拡散訓練について検討する。 GAN(Generative Adversarial Network)のような生成モデルに対するデータ効率トレーニングの原則に着想を得て、まず、GANで使用されるデータ選択スキームをDMトレーニングに拡張する。 生成性能をさらに向上するため,クラスワイド・リウェイト方式を採用する。
  論文  参考訳（メタデータ） (2024-09-27T20:21:19Z)
• Score identity Distillation: Exponentially Fast Distillation of Pretrained Diffusion Models for One-Step Generation [61.03530321578825]
  Score Identity Distillation (SiD) は、事前学習した拡散モデルの生成能力を1ステップ生成器に蒸留する革新的なデータフリー手法である。 SiDは、蒸留中のFr'echet開始距離(FID)を指数的に高速に減少させるだけでなく、元の教師拡散モデルのFID性能に近づいたり、超えたりする。
  論文  参考訳（メタデータ） (2024-04-05T12:30:19Z)
• Complexity Matters: Rethinking the Latent Space for Generative Modeling [65.64763873078114]
  生成的モデリングにおいて、多くの成功したアプローチは、例えば安定拡散のような低次元の潜在空間を利用する。 本研究では, モデル複雑性の観点から潜在空間を再考することにより, 未探索の話題に光を当てることを目的としている。
  論文  参考訳（メタデータ） (2023-07-17T07:12:29Z)
• Learning Efficient GANs for Image Translation via Differentiable Masks and co-Attention Distillation [130.30465659190773]
  Generative Adversarial Networks (GAN) は画像翻訳において広く利用されているが、その高い計算とストレージコストがモバイルデバイスへの展開を妨げる。 DMADと呼ばれる新しいGAN圧縮手法を提案する。 実験の結果、DMADはCycleGANのMultiply Accumulate Operations (MAC)を13倍、Pix2Pixを4倍削減し、フルモデルに匹敵する性能を維持することができた。
  論文  参考訳（メタデータ） (2020-11-17T02:39:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。