論文の概要: Dino Forcing Flow Models: Do not denoise what you can predict
- arxiv url: http://arxiv.org/abs/2610.11751v1
- Date: Thu, 08 Oct 2026 11:41:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.984751
- Title: Dino Forcing Flow Models: Do not denoise what you can predict
- Title(参考訳): ダイノ強制フローモデル: 予測できることを軽視するな
- Abstract要約: DINOのような事前訓練された表現を共用することで、フローマッチングモデルのトレーニング速度と品質を大幅に向上させることができる。
そこで我々は,事前学習した表現を直接予測し,モデルに独自の予測を与えるという,より単純な方法を提案する。
提案手法はFIDスコアによって測定され, より高速に収束し, 生成品質が向上する。
- 参考スコア(独自算出の注目度): 43.75072807799359
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Co-denoising pretrained representations such as DINO can substantially improve the training speed and quality of flow matching models, but it introduces a second denoising trajectory and requires carefully designed schedules. We propose a simpler alternative: predict the pretrained representation directly, then condition the model on its own prediction. This removes the need for a second ODE and any representation-specific denoising schedules, while retaining the benefits of representation guidance. Our approach converges substantially faster and achieves better generation quality as measured by FID score. On ImageNet, it outperforms the state of the art in latent space at 2x fewer epochs than prior methods; in pixel space, it improves FID over comparable prior methods by more than 20%. These results support a simple principle: do not denoise what you can predict. Our code is openly available at https://github.com/arijit-hub/dino_forcing.
- Abstract(参考訳): DINOのような事前訓練された表現を併用することで、トレーニング速度とフローマッチングモデルの質を大幅に向上させることができるが、第2の認知軌道を導入し、慎重に設計されたスケジュールを必要とする。
そこで我々は,事前学習した表現を直接予測し,モデルに独自の予測を与えるという,より単純な方法を提案する。
これにより、表現指導の利点を維持しながら、第2のODEと表現特化スケジュールの必要性がなくなる。
提案手法はFIDスコアによって測定され, より高速に収束し, 生成品質が向上する。
ImageNetでは、最先端の潜伏空間を2倍のエポックで上回り、ピクセル空間では、同等の先行メソッドよりもFIDを20%以上改善している。
これらの結果は単純な原則を支持します。
私たちのコードはhttps://github.com/arijit-hub/dino_forcing.comで公開されています。
関連論文リスト
- Thinking with Looped Flows [19.42368401391554]
人間や機械は計算により多くの時間を費やすことで難しい問題を解決することが多い。
ディープラーニングでは、ループモデルがこのアイデアを推論中に実装し、隠れた状態を繰り返し更新する。
本稿では,局所的な認知的目的によって繰り返しを訓練することで,この問題を副次的に解決するループフローを提案する。
論文 参考訳(メタデータ) (2026-09-10T16:52:54Z) - SimFlow: Simplified and End-to-End Training of Latent Normalizing Flows [37.7899995917052]
分散(VAEエンコーダによって予測される)を定数に修正する方法を見つける。
ImageNet $256 256$ 生成タスクでは、我々のモデル SimFlow が gFID スコア 2.15 を取得し、最先端のSTARFlow (gFID 2.40) よりも優れている。
SimFlowは、エンドツーエンドの表現アライメントアライメント(REPA-E)メソッドとシームレスに統合することができ、改良されたgFID 1.91を実現し、NF間の新しい状態を設定する。
論文 参考訳(メタデータ) (2025-12-03T18:59:57Z) - Fast constrained sampling in pre-trained diffusion models [80.99262780028015]
任意の制約下で高速で高品質な生成を可能にするアルゴリズムを提案する。
我々の手法は、最先端のトレーニングフリー推論手法に匹敵するか、超越した結果をもたらす。
論文 参考訳(メタデータ) (2024-10-24T14:52:38Z) - Truncated Consistency Models [57.50243901368328]
トレーニング一貫性モデルは、PF ODE 軌道に沿ったすべての中間点を対応するエンドポイントにマッピングする学習を必要とする。
このトレーニングパラダイムが一貫性モデルの1ステップ生成性能を制限することを実証的に見出した。
整合性関数の新しいパラメータ化と2段階の訓練手順を提案し,時間外学習が崩壊することを防ぐ。
論文 参考訳(メタデータ) (2024-10-18T22:38:08Z) - PrimeDepth: Efficient Monocular Depth Estimation with a Stable Diffusion Preimage [19.02295657801464]
この研究はゼロショット単眼深度推定の課題に対処する。
この分野での最近の進歩は、安定拡散のようなテキスト・ツー・イメージの基礎モデルを活用するというアイデアである。
拡散型アプローチの正の側面を保ちつつ、あるいは強化しながら、テスト時に高い効率を発揮できる方法であるPrimeDepthを提案する。
論文 参考訳(メタデータ) (2024-09-13T19:03:48Z) - Completely Self-Supervised Crowd Counting via Distribution Matching [92.09218454377395]
我々は,密集した群集数に対するトレーニングモデルに対する完全な自己超越的アプローチを提案する。
トレーニングに必要な入力は、大量の未ラベルの群衆画像以外は、群衆数に近似した上限である。
提案手法は,自然群集が逆伝播の誤り信号を生成するために利用可能な電力法分布に従うという考え方に富む。
論文 参考訳(メタデータ) (2020-09-14T13:20:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。