論文の概要: Are We Overthinking One-Step Generation?
- arxiv url: http://arxiv.org/abs/2610.20331v1
- Date: Wed, 14 Oct 2026 15:14:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.21706
- Title: Are We Overthinking One-Step Generation?
- Title(参考訳): ワンステップ・ジェネレーションは考え過ぎか?
- Abstract要約: ワンステップジェネレータをトレーニングするためのシンプルなフレームワークであるPriming Modelsを紹介します。
プライミングモデル(Priming Models)は、スクラッチからの分散トレーニングの難しさに感銘を受けて、最初に再構築目標に基づいて訓練される。
我々は,従来の手法のトレーニング計算の約10分の1を用いて,1ステップのジェネレータのうち1.19ドルという最先端のFIDを実現する。
- 参考スコア(独自算出の注目度): 85.08096783529525
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion and flow matching are now dominant frameworks for generative modeling in continuous domains, but they typically require multiple network evaluations at inference. This has motivated extensive research on one-step generative modeling primarily built on diffusion and flow, though existing approaches often rely on complex training machinery. In this work, we introduce Priming Models, a simple two-stage framework for training one-step generators. Motivated by the difficulty of distributional training from scratch, Priming Models are first trained on a reconstruction objective, e.g., pixel-space denoising at a fixed noise level, before undergoing feature-space distributional post-training. Our central scientific finding is that this simple reconstruction stage is already enough to entirely alleviate the difficulty of distributional training. Empirically, across class-conditional image generation, text-to-image generation, and world modeling, Priming Models significantly advance the Pareto frontier of training compute vs. generation quality. On ImageNet at $256 \times 256$ resolution, we achieve a state-of-the-art FID of $1.19$ among one-step generators using approximately one-tenth the training compute of prior methods with comparable FID. We open-source our codebase at https://github.com/JaeyeonKim01/priming.
- Abstract(参考訳): 拡散とフローマッチングは、現在、連続したドメインにおける生成モデリングの主要なフレームワークであるが、推論時に複数のネットワーク評価を必要とするのが普通である。
これは拡散と流れを主軸とした一段階生成モデルに関する広範な研究の動機となっているが、既存のアプローチは複雑な訓練機械に依存していることが多い。
本研究では,1ステップジェネレータをトレーニングするためのシンプルな2段階フレームワークであるPriming Modelsを紹介する。
スクラッチからの分布訓練の難しさにより、プライミングモデルはまず、例えば、固定ノイズレベルでデノイングする画素空間の再構成目標に基づいて訓練され、その後、特徴空間の分散後トレーニングが実施される。
私たちの中心的な科学的発見は、この単純な再構築段階は、分布訓練の難しさを完全に軽減するのに十分であるということです。
実証的には、クラス条件の画像生成、テキスト・ツー・イメージ生成、世界モデリングを通じて、プライミングモデルは、トレーニング計算と生成品質のパレートフロンティアを著しく前進させます。
ImageNet 256 \times 256$の解像度で、1ステップのジェネレータのうち119ドルという最先端のFIDを、同等のFIDを持つ以前のメソッドのトレーニング計算の約10分の1を使って達成する。
コードベースはhttps://github.com/JaeyeonKim01/priming.comでオープンソース化しています。
関連論文リスト
- Coupling Models for One-Step Discrete Generation [50.37847093567075]
カップリングモデル(英: Coupling Models)は、離散列とガウス列の間の直接結合を学習する一段階の離散生成モデルである。
単純なデータ間結合と手動で特定したデータ間結合による複雑な連続フローを回避する。
LM1Bテキスト生成パープレキシティを最低パープレキシティ動作ポイントで33%削減する。
論文 参考訳(メタデータ) (2026-05-08T03:40:39Z) - Efficient Generative Model Training via Embedded Representation Warmup [12.485320863366411]
生成モデルは基本的な課題に直面し、高いレベルのセマンティック概念と低レベルの合成の詳細を同時に学ばなければならない。
基本的2相学習フレームワークである組込み表現ワームアップを提案する。
このフレームワークは,REPAのような単一位相法と比較して,FID=1.41に達するために350エポックで11.5$times$の高速化を実現している。
論文 参考訳(メタデータ) (2025-04-14T12:43:17Z) - Truncated Consistency Models [57.50243901368328]
トレーニング一貫性モデルは、PF ODE 軌道に沿ったすべての中間点を対応するエンドポイントにマッピングする学習を必要とする。
このトレーニングパラダイムが一貫性モデルの1ステップ生成性能を制限することを実証的に見出した。
整合性関数の新しいパラメータ化と2段階の訓練手順を提案し,時間外学習が崩壊することを防ぐ。
論文 参考訳(メタデータ) (2024-10-18T22:38:08Z) - You Only Sample Once: Taming One-Step Text-to-Image Synthesis by Self-Cooperative Diffusion GANs [13.133574069588896]
YOSOは、高速でスケーラブルで高忠実なワンステップ画像合成のための新しい生成モデルであり、高いトレーニング安定性とモードカバレッジを持つ。
提案手法は,一段階のモデルトレーニングをスクラッチから行うことができ,競争性能が向上することを示す。
特に、YOSO-PixArt-$alpha$は、512の解像度でトレーニングされた1ステップで画像を生成することができる。
論文 参考訳(メタデータ) (2024-03-19T17:34:27Z) - One-Step Diffusion Distillation via Deep Equilibrium Models [64.11782639697883]
本稿では,拡散モデルを初期雑音から得られた画像に直接蒸留する簡易かつ効果的な方法を提案する。
本手法は,拡散モデルからノイズ/イメージペアのみによる完全オフライントレーニングを可能にする。
GET は FID スコアの点で 5 倍の ViT と一致するので,DEC アーキテクチャがこの能力に不可欠であることを示す。
論文 参考訳(メタデータ) (2023-12-12T07:28:40Z) - Meta Internal Learning [88.68276505511922]
単一画像生成のための内部学習は、単一の画像に基づいて新しい画像を生成するようにジェネレータを訓練するフレームワークである。
本稿では,サンプル画像の内部統計をより効果的にモデル化するために,画像集合のトレーニングを可能にするメタラーニング手法を提案する。
以上の結果から, 得られたモデルは, 多数の共通画像アプリケーションにおいて, シングルイメージのGANと同程度に適していることがわかった。
論文 参考訳(メタデータ) (2021-10-06T16:27:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。