論文の概要: A Frozen Pixel-Space Diffusion Model Can Guide Itself with Its Own Samples

• arxiv url: http://arxiv.org/abs/2607.29122v1
• Date: Fri, 31 Jul 2026 07:52:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-03 16:35:22.223788
• Title: A Frozen Pixel-Space Diffusion Model Can Guide Itself with Its Own Samples
• Title（参考訳）: 凍結したピクセル空間拡散モデルが独自のサンプルで自己ガイドできる
• Abstract要約: 画素空間拡散モデルは、生のピクセル上でエンドツーエンドのジェネレータを直接学習することを目的としている。 最近の研究は、代替の予測ターゲット、訓練目標、アーキテクチャによるピクセル拡散を改善している。 我々は、より安価で相補的な戦略があることを示します。textbfaフリーズ、事前訓練されたピクセル拡散モデルは、自身をガイドすることができます。
• 参考スコア（独自算出の注目度）: 53.8898272536272
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Pixel-space diffusion models aim to learn an end-to-end generator directly over raw pixels. This is challenging because a single model must capture both global structure and local texture in the same high-dimensional space. While recent work improves pixel diffusion through alternative prediction targets, training objectives, and architectures, these advances typically require training a new model from scratch. We show there is a cheaper, complementary strategy: \textbf{a frozen, pretrained pixel diffusion model can guide itself}. Our key observation is that intermediate layers of a pretrained pixel diffusion transformer can be decoded into coarse predictions that capture the main low-frequency structure, while the final layers progressively refine local, high-frequency details. We therefore attach a lightweight prediction head to an intermediate layer, keep the backbone frozen, and use the discrepancy between the intermediate and final predictions as a self-guidance direction during sampling. To train this head, we further find that real images are not necessary. Instead, model-generated samples suffice and even outperform real images for training the head, especially in enhancing the high-frequency components that pixel diffusion tends to underfit. Across multiple pixel diffusion models on ImageNet, our \textbf{Synthetic Self-Guidance (SSG)} consistently improves generation while adapter training requires less than 1$\%$ of full-model training compute: it reduces FID by over 50$\%$ across the evaluated JiT variants without classifier-free guidance (CFG) and further improves strong baselines with CFG, e.g., JiT-H/16 from 1.86 to 1.67 and PixelREPA-H/16 from 1.81 to 1.59. Our code is available at https://github.com/zfu006/SSG.
• Abstract（参考訳）: 画素空間拡散モデルは、生のピクセル上でエンドツーエンドのジェネレータを直接学習することを目的としている。 これは、1つのモデルが同じ高次元空間における大域構造と局所的なテクスチャの両方を捉える必要があるためである。 最近の研究は、代替の予測ターゲット、トレーニング目標、アーキテクチャを通じてピクセル拡散を改善するが、これらの進歩は通常、スクラッチから新しいモデルをトレーニングする必要がある。 より安価で相補的な戦略が存在することを示す: \textbf{a, pretrained pixel diffusion model can guide itself。 我々のキーとなる観察は、事前訓練された画素拡散変換器の中間層を粗い予測にデコードして主低周波構造を捉え、最終層は局所的な高周波の詳細を徐々に洗練させることである。 そこで我々は,軽量な予測ヘッドを中間層に取り付け,背骨の凍結を保ち,中間層と最終層との差をサンプリング時の自己誘導方向として利用する。 この頭を訓練するためには、実際の画像は必要ない。 代わりに、モデル生成サンプルは、特にピクセル拡散が不適な高周波成分の増強において、頭部のトレーニングに十分な画像や実際の画像よりも優れています。 ImageNet上の複数のピクセル拡散モデル全体で、我々の \textbf{Synthetic Self-Guidance (SSG) は一貫して生成を改善し、アダプタトレーニングでは1$\%以下のフルモデルトレーニング計算が必要であり、FIDをCFG (classifier-free guidance) を使わずに50$\%以上削減し、CFG, e g , JiT-H/16 を 1.86 から 1.67 に、PixelREPA-H/16 を 1.81 から 1.59 に、強力なベースラインを改良する。 私たちのコードはhttps://github.com/zfu006/SSG.comで公開されています。

関連論文リスト

• Representation Forcing for Bottleneck-Free Unified Multimodal Models [76.99907273945493]
  統一マルチモーダルモデル(UMM)は、単一モデルにおける知覚と生成を扱うことを目的としている。 既存のUMMは、画像生成のために別々に訓練された凍結したVAEに依存しており、構造的なボトルネックを示唆している。 本稿では,表現予測をモデルのネイティブ機能にすることで,このギャップを埋める手法であるRepresentation Forcing(RF)を提案する。
  論文  参考訳（メタデータ） (2026-05-29T17:59:55Z)
• PixelDiT: Pixel Diffusion Transformers for Image Generation [48.456815413366535]
  PixelDiTはDiffusion Transformers用の単一ステージのエンドツーエンドモデルである。 オートエンコーダの必要性を排除し、ピクセル空間内で拡散過程を直接学習する。 ImageNet 256x256で1.61 FIDを達成し、既存のピクセル生成モデルを大きく上回っている。
  論文  参考訳（メタデータ） (2025-11-25T18:59:25Z)
• DeCo: Frequency-Decoupled Pixel Diffusion for End-to-End Image Generation [93.6273078684831]
  より効率的な画素拡散パラダイムを追求するために,周波数デカップリング方式の画素拡散フレームワークを提案する。 高速・低周波成分の生成を分離する直感によって, セマンティックガイダンスに基づく高周波細部を生成するために, 軽量画素デコーダを利用する。 実験の結果,DeCoは1.62 (256x256) と2.22 (512x512) の FID を実現した。
  論文  参考訳（メタデータ） (2025-11-24T17:59:06Z)
• Advancing End-to-End Pixel Space Generative Modeling via Self-supervised Pre-training [23.632047555553324]
  画素空間拡散および一貫性モデルのための新しい2段階トレーニングフレームワークを提案する。 トレーニングフレームワークは、ImageNetデータセット上で強力な経験的パフォーマンスを示す。 我々の知る限りでは、高解像度画像上での一貫性モデルのトレーニングを成功させたのはこれが初めてである。
  論文  参考訳（メタデータ） (2025-10-14T14:41:16Z)
• Context-guided Responsible Data Augmentation with Diffusion Models [29.41191005466334]
  本稿では,DiffCoRe-Mixというテキスト・ツー・イメージ(T2I)データ拡張手法を提案する。 キーセマンティックな軸を保存するために、増大過程における望ましくない生成サンプルをフィルタリングする。 我々は、ImageNet-1K、Tiny ImageNet-200、CIFAR-100、Flowers102、CUB-Birds、Stanford Cars、Caltechのデータセットでこの手法を広範囲に評価した。
  論文  参考訳（メタデータ） (2025-03-12T00:12:27Z)
• David and Goliath: Small One-step Model Beats Large Diffusion with Score Post-training [8.352666876052616]
  Diff-Instruct* (DI*) は1ステップのテキスト・ツー・イメージ生成モデルのためのデータ効率のよいポストトレーニング手法である。 提案手法は,人的フィードバックからオンライン強化学習としてアライメントを行う。 我々の2.6B emphDI*-SDXL-1stepモデルは、50ステップのFLUX-devモデルより優れている。
  論文  参考訳（メタデータ） (2024-10-28T10:26:19Z)
• Fast constrained sampling in pre-trained diffusion models [80.99262780028015]
  任意の制約下で高速で高品質な生成を可能にするアルゴリズムを提案する。 我々の手法は、最先端のトレーニングフリー推論手法に匹敵するか、超越した結果をもたらす。
  論文  参考訳（メタデータ） (2024-10-24T14:52:38Z)
• FreeSeg-Diff: Training-Free Open-Vocabulary Segmentation with Diffusion Models [49.80911683739506]
  我々は,閉鎖語彙データセットのトレーニングモデルによって伝統的に解決されるイメージセグメンテーションの課題に焦点をあてる。 我々は、ゼロショットのオープン語彙セグメンテーションのために、異なる、比較的小さなオープンソース基盤モデルを活用している。 当社のアプローチ(別名FreeSeg-Diff)は、トレーニングに依存しないもので、Pascal VOCとCOCOデータセットの両方で多くのトレーニングベースのアプローチより優れています。
  論文  参考訳（メタデータ） (2024-03-29T10:38:25Z)
• ElasticDiffusion: Training-free Arbitrary Size Image Generation through Global-Local Content Separation [15.057394130958583]
  ElasticDiffusionは、事前訓練されたテキストと画像の拡散モデルが様々なサイズで画像を生成することができる、トレーニング不要のデコード手法である。 実験と定性的な結果から,マルチディフュージョンと安定ディフュージョンの標準デコード戦略と比較して,アスペクト比における画像コヒーレンス品質が優れていた。
  論文  参考訳（メタデータ） (2023-11-30T18:58:17Z)
• Masked Diffusion Models Are Fast Distribution Learners [32.485235866596064]
  拡散モデルは、スクラッチからきめ細かい視覚情報を学習するために一般的に訓練されている。 まず, 素数分布を学習するためにモデルの事前学習を行うことにより, 強い拡散モデルを訓練するのに十分であることを示す。 そして、事前学習されたモデルは、様々な生成タスクに対して効率的に微調整することができる。
  論文  参考訳（メタデータ） (2023-06-20T08:02:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。