論文の概要: Discrete Meanflow Training Curriculum
- arxiv url: http://arxiv.org/abs/2604.08837v1
- Date: Fri, 10 Apr 2026 00:25:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-13 17:57:53.619501
- Title: Discrete Meanflow Training Curriculum
- Title(参考訳): 離散的平均流訓練カリキュラム
- Authors: Chia-Hong Hsu, Frank Wood,
- Abstract要約: 一段階生成モデルは高品質な画像サンプルを生成することができるが、最適化は困難である。
平均フローモデルは優れた数ステップサンプリング性能と1ステップサンプリング性能を示す。
- 参考スコア(独自算出の注目度): 11.664282029505353
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Flow-based image generative models exhibit stable training and produce high quality samples when using multi-step sampling procedures. One-step generative models can produce high quality image samples but can be difficult to optimize as they often exhibit unstable training dynamics. Meanflow models exhibit excellent few-step sampling performance and tantalizing one-step sampling performance. Notably, MeanFlow models that achieve this have required extremely large training budgets. We significantly decrease the amount of computation and data budget it takes to train Meanflow models by noting and exploiting a particular discretization of the Meanflow objective that yields a consistency property which we formulate into a ``Discrete Meanflow'' (DMF) Training Curriculum. Initialized with a pretrained Flow Model, DMF curriculum reaches one-step FID 3.36 on CIFAR-10 in only 2000 epochs. We anticipate that faster training curriculums of Meanflow models, specifically those fine-tuned from existing Flow Models, drives efficient training methods of future one-step examples.
- Abstract(参考訳): フローベース画像生成モデルは、安定したトレーニングを示し、マルチステップサンプリング手順を使用すると、高品質なサンプルを生成する。
一段階生成モデルは高品質な画像サンプルを生成することができるが、不安定なトレーニングダイナミクスを示すことが多いため、最適化は困難である。
平均フローモデルは優れた数ステップサンプリング性能と1ステップサンプリング性能を示す。
特に、これを実現するMeanFlowモデルは、非常に大規模なトレーニング予算を必要としている。
我々は,Meanflowモデルのトレーニングに要する計算量とデータ予算を,'Discrete Meanflow''(DMF)トレーニングカリキュラムに定式化する一貫性特性を生成するMeanflow目標の特定の離散化に注意して活用することにより,大幅に削減する。
事前訓練されたフローモデルで初期化され、DMFカリキュラムは2000年代でCIFAR-10で1段階のFID 3.36に達する。
我々は,既存のフローモデルから微調整されたMeanflowモデルのより高速なトレーニングカリキュラムが,将来のワンステップ例の効率的なトレーニング手法を駆動することを期待している。
関連論文リスト
- TwinFlow: Realizing One-step Generation on Large Models with Self-adversarial Flows [25.487712175353035]
1ステップ生成モデルをトレーニングするフレームワークであるTwinFlowを提案する。
本手法は,テキスト・ツー・イメージタスクにおいて1-NFEで0.83のGenEvalスコアを得る。
提案手法は,GenEval および DPG-Bench ベンチマーク上でのオリジナルの 100-NFE モデルの性能と一致する。
論文 参考訳(メタデータ) (2025-12-03T07:45:46Z) - Joint Distillation for Fast Likelihood Evaluation and Sampling in Flow-based Models [100.28111930893188]
今日の最高の生成モデルの中には、単一の可能性を計算するために、数百から数千の神経機能評価を必要とするものもあります。
本研究では, 高速流動継手蒸留法 (F2D2) を提案し, サンプリングに必要なNFEの数を2桁に減らした。
F2D2はモジュール構造であり、既存のフローベースの数ステップサンプリングモデルと互換性がある。
論文 参考訳(メタデータ) (2025-12-02T10:48:20Z) - Transport Based Mean Flows for Generative Modeling [19.973366424307077]
フローマッチング生成モデルは、連続データ生成の強力なパラダイムとして現れています。
これらのモデルは、多数のシーケンシャルサンプリングステップを必要とするため、推論が遅い。
最近の研究はサンプリングステップの数を減らして推論を加速させようとしている。
論文 参考訳(メタデータ) (2025-09-26T17:12:19Z) - Mean Flows for One-step Generative Modeling [64.4997821467102]
本稿では,一段階生成モデリングのための原理的かつ効果的なフレームワークを提案する。
ニューラルネットワークトレーニングのガイドには,平均速度と瞬時速度を適切に定義したアイデンティティが導出され,使用される。
提案手法はMeanFlowモデルと呼ばれ,自己完結型であり,事前学習,蒸留,カリキュラム学習は不要である。
論文 参考訳(メタデータ) (2025-05-19T17:59:42Z) - Self-Corrected Flow Distillation for Consistent One-Step and Few-Step Text-to-Image Generation [3.8959351616076745]
フローマッチングは、生成モデルをトレーニングするための有望なフレームワークとして登場した。
本稿では, 整合性モデルと対向学習を統合した自己補正型流動蒸留法を提案する。
この研究は、数ステップと1ステップのサンプリングで一貫した生成品質を達成するための先駆者である。
論文 参考訳(メタデータ) (2024-12-22T07:48:49Z) - One Step Diffusion via Shortcut Models [109.72495454280627]
単一ネットワークとトレーニングフェーズを用いて高品質なサンプルを生成する,生成モデルのファミリであるショートカットモデルを導入する。
ショートカットモデルは、現在のノイズレベルと所望のステップサイズにネットワークを条件付け、生成プロセスでモデルをスキップすることができる。
蒸留と比較して、ショートカットモデルは複雑性を1つのネットワークとトレーニングフェーズに減らし、推論時に様々なステップ予算を許容する。
論文 参考訳(メタデータ) (2024-10-16T13:34:40Z) - Guided Flows for Generative Modeling and Decision Making [55.42634941614435]
その結果,ガイドフローは条件付き画像生成やゼロショット音声合成におけるサンプル品質を著しく向上させることがわかった。
特に、我々は、拡散モデルと比較して、オフライン強化学習設定axスピードアップにおいて、まず、計画生成にフローモデルを適用する。
論文 参考訳(メタデータ) (2023-11-22T15:07:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。