論文の概要: Mean Velocity Matching: Rethinking Generative Dynamics in Diffusion Models
- arxiv url: http://arxiv.org/abs/2609.25444v1
- Date: Mon, 21 Sep 2026 21:54:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:04.126616
- Title: Mean Velocity Matching: Rethinking Generative Dynamics in Diffusion Models
- Title(参考訳): 平均速度マッチング:拡散モデルにおける生成ダイナミクスの再考
- Abstract要約: 平均速度マッチングは、逆ダイナミクスの単一フィールドパラメータ化を提供する。
Transformerベースの生成モデルによる実験は、MVMImageNetThirtyTwoFID$ at MVMImageNetThirtyTwoNFE NFEのFIDを達成する。
- 参考スコア(独自算出の注目度): 10.514680973225532
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work studies prediction parameterization for stochastic generative dynamics in diffusion models. Existing velocity-based generative models provide the simplicity of learning a single transport field, but their standard formulation is deterministic, whereas stochastic extensions generally require additional score information or an intermediate velocity-to-score reconstruction. To retain single-field prediction while directly supporting stochastic reverse dynamics, this paper introduces Mean Velocity Matching (MVM). MVM constructs a Gaussian perturbation process for which the conditional expectation of a restoration-oriented velocity, $(x_0-x_t)/t$, directly forms the reverse-SDE drift. Consequently, a single learned field is sufficient to parameterize the stochastic reverse process without separately estimating or reconstructing the score. Because direct regression of this velocity becomes unbounded near $t=0$, MVM further introduces a $\sqrt{t}$-scaled parameterization that preserves the reverse dynamics while yielding a bounded training target. The same learned field also induces a deterministic probability-flow ODE, enabling stochastic and deterministic sampling to be studied within a unified formulation. Experiments with Transformer-based generative models achieve an FID of $\MVMImageNetThirtyTwoFID$ at \MVMImageNetThirtyTwoNFE\ NFE on ImageNet $32\times32$ and $\MVMImageNetTwoFiftySixFID$ at \MVMImageNetTwoFiftySixNFE\ NFE on ImageNet $256\times256$. Controlled SDE--ODE comparisons further show that the ODE performs better under very low NFE, whereas the stochastic reverse process achieves lower FID when sufficient function evaluations are available. These results demonstrate that MVM provides a direct single-field parameterization of stochastic reverse dynamics while maintaining competitive generation quality.
- Abstract(参考訳): 本研究では拡散モデルにおける確率的生成ダイナミクスのパラメータ化の予測について研究する。
既存の速度に基づく生成モデルは単一の輸送場を学習する単純さを提供するが、その標準的な定式化は決定論的であるが、確率的拡張は一般に追加のスコア情報や中間の速度からスコアへの再構成を必要とする。
本稿では,確率的逆ダイナミクスを直接サポートしながら単一フィールド予測を維持するために,平均速度マッチング(MVM)を提案する。
MVMは、回復指向速度の条件予測である$(x_0-x_t)/t$が直接逆SDEドリフトを形成するガウス摂動過程を構成する。
その結果、1つの学習フィールドは、スコアを別々に推定または再構成することなく、確率的逆過程をパラメータ化するのに十分である。
この速度の直接回帰は$t=0$近くで非有界になるので、MVMはさらに$\sqrt{t}$-scaledパラメータ化を導入し、有界なトレーニングターゲットを出力しながら逆ダイナミクスを保存する。
同じ学習分野も決定論的確率フローODEを誘導し、確率的および決定論的サンプリングを統一的な定式化内で研究することができる。
Transformerベースの生成モデルを用いた実験は、$\MVMImageNetThirtyTwoFID$ at \MVMImageNetThirtyTwoNFE\ NFE on ImageNet 3,2\times32$ and $\MVMImageNetTwoFiftySixFID$ at \MVMImageNetTwoFiftySixNFE\ NFE on ImageNet $256\times256$のFIDを達成する。
制御されたSDE-ODE比較は、ODEが非常に低いNFEでより良い性能を示す一方、確率的逆過程は十分な関数評価が可能である場合に低いFIDを達成することを示す。
これらの結果は、MVMが競合生成品質を維持しつつ、確率的逆ダイナミクスの直接単体パラメタライゼーションを提供することを示した。
関連論文リスト
- Scaling Reinforcement Learning for Diffusion Models via Velocity Matching [66.34541945134916]
RewardBenchファインチューニングは、人間の好みやタスク固有の目的に拡散モデルを適用するための重要なツールである。
自己回帰モデルとは異なり、拡散モデルは生成したサンプルの抽出可能な可能性を提供しない。
本稿では,速度場に直接作用する単純なトラジェクトリフリー更新である報酬ベースベロシティマッチング(RVM)を提案する。
論文 参考訳(メタデータ) (2026-08-24T17:13:43Z) - Riemannian MeanFlow for One-Step Generation on Manifolds [54.09734511705173]
フローマッチングは、生成モデルのシミュレーション不要なトレーニングを可能にする。
平均フローは、位置依存接空間に速度が存在する多様体値生成に拡張することができる。
球面, トーリ, SO(3)における実験は, 品質・効率のトレードオフを改善し, サンプリングコストを大幅に削減して, 競争力のある一段階サンプリングを実証した。
論文 参考訳(メタデータ) (2026-03-11T12:41:46Z) - Is Flow Matching Just Trajectory Replay for Sequential Data? [46.770624059457724]
時系列生成には、フローマッチング(FM)がますます使われている。
一般的な力学構造を学ぶのか、それとも単に効果的な「軌道再生」を行うのかはよく分かっていない。
インプリッドサンプリングは、非パラメトリックなメモリ拡張型連続時間力学系を構成するODEであることを示す。
論文 参考訳(メタデータ) (2026-02-09T06:48:45Z) - Improved Mean Flows: On the Challenges of Fastforward Generative Models [81.10827083963655]
MeanFlow (MF)は、最近ワンステップ生成モデリングのフレームワークとして確立されている。
ここでは、トレーニング目標とガイダンスメカニズムの両方において、重要な課題に対処する。
我々の改革により、より標準的な回帰問題が発生し、訓練安定性が向上する。
全体として、スクラッチから完全にトレーニングされた$textbfimproved MeanFlow$$(textbfiMF$)メソッドは、ImageNet 256$times$256上の単一の関数評価(1-NFE)で$textbf1.72$ FIDを達成する。
論文 参考訳(メタデータ) (2025-12-01T18:59:49Z) - MaRS: A Fast Sampler for Mean Reverting Diffusion based on ODE and SDE Solvers [12.639167101005695]
平均回帰(MR)拡散は微分方程式(SDE)の構造を直接修飾する
現在のトレーニングフリーの高速サンプリング器はMR拡散には直接適用されない。
MR拡散のサンプリングNFEを削減するために,MARS (MR Sampler) という新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-02-11T14:57:33Z) - Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative
Models [49.81937966106691]
我々は拡散モデルのデータ生成過程を理解するための非漸近理論のスイートを開発する。
従来の研究とは対照的に,本理論は基本的だが多目的な非漸近的アプローチに基づいて開発されている。
論文 参考訳(メタデータ) (2023-06-15T16:30:08Z) - Gravitational-wave parameter estimation with autoregressive neural
network flows [0.0]
深部ニューラルネットワークを用いた重力波データから二元ブラックホール系のパラメータを高速に推定するための自己回帰正規化フローを導入する。
正規化フロー(英: normalizing flow)は、単純な確率分布からより複雑なものへの変換を誘導するために用いられるサンプル空間上の可逆写像である。
可変オートエンコーダフレームワークに自己回帰フローを組み込むことにより,より強力な潜在変数モデルを構築する。
論文 参考訳(メタデータ) (2020-02-18T15:44:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。