論文の概要: Velocity Scaling in Flow Matching
- arxiv url: http://arxiv.org/abs/2610.10823v1
- Date: Wed, 07 Oct 2026 19:25:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.642231
- Title: Velocity Scaling in Flow Matching
- Title(参考訳): フローマッチングにおける速度スケーリング
- Abstract要約: 平均二乗誤差(MSE)で訓練された速度場は、系統的に過小評価される。
MSEトレーニングは,速度-マグニチュード差を生じさせないことを示す。
速度のスケーリングは人口の時間ラグを減少させる。
- 参考スコア(独自算出の注目度): 18.845766135684737
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scaling a learned flow-matching velocity field $v_θ$ by a gain $γ(t)$ was recently shown to greatly improve generation quality. Prior work argued that velocity fields trained with mean-squared error (MSE) systematically underestimate velocity magnitude and that scaling corrects this error. We show that MSE training does not create a velocity-magnitude deficit. We find instead that velocity scaling reduces population time lag: sampled states at model time $t$ resemble training states from an earlier time. Velocity scaling and moving model time back are two ways to address this population time lag. Across architectures and model sizes, measuring population time lag and using it to select a gain greatly improves generation quality, reducing FID from 28.0 to 12.2 (estimated by linear interpolation between FID measurements at neighboring gains) on ImageNet-256 at NFE 25 without guidance.
- Abstract(参考訳): 近年, 学習フローマッチング速度場$v_θ$を$γ(t)$でスケーリングすることで, 生成品質を大幅に向上することが示されている。
先行研究では、平均二乗誤差(MSE)で訓練された速度場は体系的に過小評価され、スケーリングはこの誤差を補正すると主張した。
MSEトレーニングは,速度-マグニチュード差を生じさせないことを示す。
モデル時間$t$のサンプル状態は、以前のトレーニング状態に似ています。
速度のスケーリングとモデルタイムの移動は、この人口時間のラグに対処する2つの方法です。
NFE 25のImageNet-256でFIDを28.0から12.2(隣接するゲインでのFID測定の線形補間によって推定される)に削減した。
関連論文リスト
- Understanding, Accelerating, and Improving MeanFlow Training [64.84964628592418]
MeanFlowは、瞬時および平均速度場を共同で学習することで、数ステップで高品質な生成モデリングを実現する。
両速度間の相互作用を分析し, (i) 確立された即時速度は平均速度を学習するための前提条件である。
即時速度の生成を加速する効果的なトレーニングスキームを設計し、その後、短区間平均速度から短区間平均速度に重点を移す。
論文 参考訳(メタデータ) (2025-11-24T12:59:27Z) - MeanFlow Transformers with Representation Autoencoders [71.45823902973349]
MeanFlow(MF)は、ノイズからデータへのジャンプを直接学習することで、効率的な数ステップ生成を可能にする拡散動機付き生成モデルである。
我々は、表現オートエンコーダ(RAE)の潜在空間におけるMFの効率的なトレーニングとサンプリング手法を開発する。
1ステップのFIDが2.03であり,バニラMFの3.43を上回っ,GFLOPSのサンプリングを38%削減し,ImageNet 256のトレーニングコストを83%削減した。
論文 参考訳(メタデータ) (2025-11-17T06:17:08Z) - Decoupled MeanFlow: Turning Flow Models into Flow Maps for Accelerated Sampling [68.76215229126886]
Decoupled MeanFlowは、フローモデルをアーキテクチャ変更なしにフローマップモデルに変換するシンプルなデコード戦略である。
提案手法では, 拡散変圧器の最終ブロックを後続の時間ステップに設定し, 事前学習した流れモデルを直接フローマップとして再利用する。
ImageNet 256x256 と 512x512 では、われわれのモデルはそれぞれ2.16 と2.12 の1ステップ FID に達し、先行技術よりも大きなマージンで上回っている。
論文 参考訳(メタデータ) (2025-10-28T14:43:48Z) - Graph Flow Matching: Enhancing Image Generation with Neighbor-Aware Flow Fields [19.09766809443072]
フローマッチングはサンプル生成を,データにノイズを伝達する連続時間速度場学習として使用する。
学習速度を反応項に分解する軽量な拡張であるグラフフローマッチングを提案する。
事前訓練された変分オートエンコーダの潜伏空間で作動する。
論文 参考訳(メタデータ) (2025-05-30T10:17:50Z) - Full waveform inversion with CNN-based velocity representation extension [4.255346660147713]
フルウェーブフォームインバージョン(FWI)は、観測データとシミュレーションデータとの差を最小限にして速度モデルを更新する。
数値モデリングおよび不完全地震データ取得における離散化誤差は、隣接演算子を介して伝搬するノイズを導入することができる。
我々は、前方シミュレーションを実行する前に速度モデルを洗練するために畳み込みニューラルネットワーク(CNN)を用いる。
速度とネットワークパラメータの両方を更新するために、同じデータ不適合損失を使用して、自己教師付き学習手順を作成します。
論文 参考訳(メタデータ) (2025-04-22T12:14:38Z) - Efficient Diffusion Training via Min-SNR Weighting Strategy [78.5801305960993]
拡散学習をマルチタスク学習問題として扱い,Min-SNR-$gamma$と呼ばれるシンプルなアプローチを導入する。
本結果は,従来の重み付け手法よりも3.4$times$高速で収束速度が大幅に向上したことを示す。
さらに効果的で、ImageNetの256times256$ベンチマークで2.06の新たなFIDスコアを達成した。
論文 参考訳(メタデータ) (2023-03-16T17:59:56Z) - EfficientNetV2: Smaller Models and Faster Training [91.77432224225221]
本稿では,従来のモデルよりも高速な学習速度とパラメータ効率を有する畳み込みネットワークであるEfficientNetV2を紹介する。
トレーニング対応のニューラルネットワークアーキテクチャ検索とスケーリングを組み合わせて、トレーニング速度とパラメータ効率を共同で最適化します。
実験の結果,EfficientNetV2モデルは最先端モデルよりも最大6.8倍の速度でトレーニングできることがわかった。
論文 参考訳(メタデータ) (2021-04-01T07:08:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。