論文の概要: Rethinking the design space of Vanilla Pixel Diffusion Transformers

• arxiv url: http://arxiv.org/abs/2610.23854v1
• Date: Fri, 16 Oct 2026 17:59:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:08.064417
• Title: Rethinking the design space of Vanilla Pixel Diffusion Transformers
• Title（参考訳）: バニラ画素拡散変圧器の設計空間再考
• Abstract要約: JiTは、一般的な速度予測を置き換えることで、バニラ拡散変換器がピクセル空間で直接生成できることを示す。 本稿では,$boldsymbolx_0$-と$boldsymbolu$-predictionの相互関係を学習する適応パラメータ化であるMFlowを紹介する。 我々は、ImageNet、UCF-101ビデオ、および大規模テキスト・画像生成におけるMFlowを評価し、競争力や改良された生成性能を示す。
• 参考スコア（独自算出の注目度）: 52.983149048879916
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Pixel-space diffusion models have recently re-emerged as a compelling alternative to latent diffusion, avoiding the lossy latent bottleneck and separately trained autoencoder. JiT shows that a vanilla diffusion transformer can generate directly in pixel space by replacing the commonly used velocity prediction ($\boldsymbol{u}$-prediction) with clean image prediction ($\boldsymbol{x_0}$-prediction). In this work, we revisit this choice and introduce MFlow, an adaptive parameterization that learns to interpolate between $\boldsymbol{x_0}$- and $\boldsymbol{u}$-prediction across principal directions of the data, learned end-to-end with diffusion training. We find that the preferred parameterization varies systematically with the data representation and model capacity -- notably, increasing model capacity shifts preference toward velocity prediction. We evaluate MFlow across ImageNet, UCF-101 video, and large-scale text-to-image generation, demonstrating competitive or improved generative performance across diverse settings. In addition, we find that vanilla pixel diffusion transformers, irrespective of parameterization, retain a persistent high-frequency deficit relative to real images. To address this, we introduce ConvRefiner, a lightweight convolutional module trained post-hoc with an adversarial loss while keeping the diffusion backbone frozen. With only a small amount of additional training, ConvRefiner restores the high-frequency statistics of generated images while preserving FID. Project webpage: https://soumik-kanad.github.io/mflow-diffusion/.
• Abstract（参考訳）: 画素空間拡散モデルは、最近、遅延拡散の魅力的な代替品として再登場し、損失の大きい遅延ボトルネックと別々に訓練されたオートエンコーダを避けた。 JiTは、一般的に用いられる速度予測("\boldsymbol{u}$-prediction")をクリーンな画像予測("\boldsymbol{x_0}$-prediction")に置き換えることで、バニラ拡散変換器がピクセル空間内で直接生成可能であることを示す。 本稿では、この選択を再考し、適応パラメータ化であるMFlowを導入し、データの主要方向をまたいだ$\boldsymbol{x_0}$-と$\boldsymbol{u}$-predictionの相互関係を学習し、拡散訓練でエンドツーエンドに学習する。 好むパラメータ化はデータ表現とモデルキャパシティによって体系的に変化し、特にモデルキャパシティの増大は速度予測への好みをシフトさせる。 我々は、ImageNet、UCF-101ビデオ、および大規模テキスト・画像生成におけるMFlowを評価し、多様な設定において、競合的または改善された生成性能を示す。 さらに, パラメータ化にかかわらず, バニラ画素拡散変換器は実画像に対して持続的な高周波欠陥を保っていることがわかった。 これを解決するために,拡散バックボーンを凍結したまま,逆方向の損失を伴う軽量な畳み込みモジュールであるConvRefinerを紹介した。 わずかな追加トレーニングで、ConvRefinerはFIDを保持しながら生成された画像の高周波統計を復元する。 プロジェクトWebページ: https://soumik-kanad.github.io/mflow-diffusion/。

関連論文リスト

• Residual-Stream Burden Shapes Representation Learning in Diffusion Transformers [74.0530486095232]
  拡散ベースの生成では、ニューラルネットワークをトレーニングして、ノイズやノイズの入力からクリーンなデータを予測することができる。 最終読み出しの深さを通したノイズ依存入力変動を維持するために,雑音のターゲットは残差ストリームを必要とすると論じる。 スペクトル集中されたクリーンターゲットは、より軽量な要求を課し、その後の計算のために隠れた表現を整理する自由を保ちます。
  論文  参考訳（メタデータ） (2026-09-27T20:17:39Z)
• A Frozen Pixel-Space Diffusion Model Can Guide Itself with Its Own Samples [53.8898272536272]
  画素空間拡散モデルは、生のピクセル上でエンドツーエンドのジェネレータを直接学習することを目的としている。 最近の研究は、代替の予測ターゲット、訓練目標、アーキテクチャによるピクセル拡散を改善している。 我々は、より安価で相補的な戦略があることを示します。textbfaフリーズ、事前訓練されたピクセル拡散モデルは、自身をガイドすることができます。
  論文  参考訳（メタデータ） (2026-07-31T07:52:08Z)
• Cross-view Masked Diffusion Transformers for Person Image Synthesis [21.242398582282522]
  ポーズ誘導画像生成のための新しい拡散モデルであるX-MDPTを提案する。 X-MDPTは、潜伏パッチで動作するマスク付き拡散トランスフォーマーを用いて、自分自身を区別する。 我々のモデルはDeepFashionデータセットにおける最先端のアプローチよりも優れています。
  論文  参考訳（メタデータ） (2024-02-02T15:57:13Z)
• Aligning Text-to-Image Diffusion Models with Reward Backpropagation [62.45086888512723]
  本稿では,報酬勾配のエンドツーエンドのバックプロパゲーションを用いて,拡散モデルを下流の報酬関数に整合させる手法であるAlignPropを提案する。 AlignPropは、選択肢よりも少ないトレーニングステップでより高い報酬を得るが、概念的にはシンプルである。
  論文  参考訳（メタデータ） (2023-10-05T17:59:18Z)
• Lossy Image Compression with Conditional Diffusion Models [25.158390422252097]
  本稿では,拡散生成モデルを用いた画像圧縮のエンドツーエンド最適化について概説する。 VAEベースのニューラル圧縮とは対照的に、(平均)デコーダは決定論的ニューラルネットワークであり、私たちのデコーダは条件付き拡散モデルである。 提案手法では,GANモデルよりもFIDスコアが強く,VAEモデルとの競合性能も高い。
  論文  参考訳（メタデータ） (2022-09-14T21:53:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。