論文の概要: Mean Flow Distillation: Robust and Stable Distillation for Flow Matching Models

• arxiv url: http://arxiv.org/abs/2606.11155v1
• Date: Tue, 09 Jun 2026 17:39:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-10 15:40:58.650946
• Title: Mean Flow Distillation: Robust and Stable Distillation for Flow Matching Models
• Title（参考訳）: 平均フロー蒸留:フローマッチングモデルにおけるロバストと安定な蒸留
• Authors: An Zhao, Shengyuan Zhang, Zhongjian Sun, Yixiang Zhou, Zejian Li, Ling Yang, Tianrun Chen, Lingyun Sun,
• Abstract要約: Mean Flow Distillation (MFD) はフローマッチングモデルに適した新しい蒸留フレームワークである。 MFDは時間的低域通過フィルタとして機能し、高周波最適化ノイズを効果的に抑制する。 平均流整合定理を証明し、一致した平均速度が厳密な分布アライメントに十分であることを示す。
• 参考スコア（独自算出の注目度）: 34.59515048908997
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Flow Matching models have demonstrated strong performance across a wide range of generative tasks. However, their reliance on ODE-based iterative sampling incurs substantial computational overhead in inference, which limits their applicability in real-time scenes. While distillation is a promising solution, existing approaches largely borrow from diffusion-based score matching, often failing to exploit the intrinsic geometric structure of flows and suffering from training instability, high variance, and degraded generation quality. In this paper, we propose Mean Flow Distillation (MFD), a novel distillation framework tailored for flow matching models. We theoretically demonstrate that MFD acts as a temporal low-pass filter, effectively suppressing the high-frequency optimization noise inherent in variational score distillation (VSD) while ensuring global trajectory consistency. We further prove the Mean Flow Matching Theorem, establishing that matching expected average velocities is sufficient for strict distribution alignment. Empirically, on challenging tasks of high-dimensional manifolds including 4D occupancy forecasting and text-to-image generation, MFD achieves state-of-the-art performance, enabling high-fidelity single-step generation.
• Abstract（参考訳）: フローマッチングモデルは、幅広い生成タスクで強いパフォーマンスを示している。 しかし、ODEベースの反復サンプリングへの依存は、推論においてかなりの計算オーバーヘッドをもたらし、リアルタイムシーンでの適用性が制限される。 蒸留は有望な解であるが、既存のアプローチは拡散に基づくスコアマッチングから大きく借用され、しばしばフローの内在的な幾何学的構造を活用できず、トレーニング不安定、高分散、劣化した生成品質に悩まされる。 本稿では,フローマッチングモデルに適した新しい蒸留フレームワークである平均流量蒸留(MFD)を提案する。 我々は,MFDが時間的低域通過フィルタとして機能することを理論的に証明し,大域的な軌道整合性を確保しつつ,変分スコア蒸留(VSD)に固有の高周波最適化ノイズを効果的に抑制する。 さらに、平均流マッチング理論を証明し、期待される平均流速が厳密な分布アライメントに十分であることを示す。 実証的には、4次元占有予測やテキスト・ツー・イメージ生成を含む高次元多様体の挑戦的なタスクにおいて、MFDは最先端のパフォーマンスを達成し、高忠実な単一ステップ生成を可能にする。

関連論文リスト

• Drifting Models for Surrogate Flow Modeling [0.4925906256430175]
  学習されたVAE潜在空間でドリフトを行う条件付きアーキテクチャを導入し,ラベル認識マスキングを用いて生成したサンプルを境界条件に整列させる。 我々のモデルは、2桁の精度と流れの整合性の反復拡散に一致し、2桁の速度で実行することができる。
  論文  参考訳（メタデータ） (2026-06-05T17:35:09Z)
• Drift Flow Matching [69.16550765154163]
  ドリフトフローマッチング(Drift Flow Matching)は,ドリフト生成モデルとフローベース反復生成を結びつけるフレームワークである。 DFMは直接輸送マップの効率を保ちつつ、複数の推論ステップを通じて生成を洗練させる。
  論文  参考訳（メタデータ） (2026-05-17T03:58:01Z)
• InjectFlow: Weak Guides Strong via Orthogonal Injection for Flow Matching [1.974921946982281]
  フローマッチング (FM) は高忠実度視覚生成の先駆的アプローチとして浮上している。 FMモデルはデータセットバイアスに敏感であり、アウト・オブ・ディストリビューションやマイノリティ・クラスのサンプルを生成する際に深刻な意味劣化を引き起こす。 InjectFlowは、初期速度場中に意味論を注入することで、新しいトレーニング不要な手法である。
  論文  参考訳（メタデータ） (2026-03-19T11:07:14Z)
• Large Scale Diffusion Distillation via Score-Regularized Continuous-Time Consistency [60.74505433956616]
  連続時間一貫性モデル(sCM)は理論的に原理化され、学術規模の拡散を加速するために実証的に強力である。 まず並列性互換なFlashAttention-2 JVPカーネルを開発し、100億以上のパラメータと高次元ビデオタスクを持つモデル上でsCMトレーニングを可能にする。 本稿では, スコア蒸留を長軸正則化器として組み込んだスコア規則化連続時間一貫性モデル(rCM)を提案する。
  論文  参考訳（メタデータ） (2025-10-09T16:45:30Z)
• Score Distillation of Flow Matching Models [67.86066177182046]
  我々は、Score Identity Distillation (SiD) を事前訓練されたテキスト対画像フローマッチングモデルに拡張する。 SiDは、データフリーとデータアシストの両方の設定で、これらのモデルですぐに使える。 これは、スコア蒸留がテキストと画像のフローマッチングモデルに広く適用されるという最初の体系的な証拠を提供する。
  論文  参考訳（メタデータ） (2025-09-29T17:45:48Z)
• A-FloPS: Accelerating Diffusion Sampling with Adaptive Flow Path Sampler [21.134678093577193]
  A-FloPSは、フローベースの生成モデルのための原則化された、トレーニング不要のフレームワークである。 A-FloPSは, 試料品質と効率の両面において, 最先端のトレーニング不要サンプリング器より一貫して優れていることを示す。 5ドルの関数評価で、A-FloPSはFIDを大幅に低くし、よりシャープでコヒーレントな画像を生成する。
  論文  参考訳（メタデータ） (2025-08-22T13:28:16Z)
• Solving Inverse Problems with FLAIR [68.87167940623318]
  本稿では,フローベース生成モデルを逆問題に先立って活用する学習自由変分フレームワークFLAIRを提案する。 標準画像ベンチマークの結果、FLAIRは再現性やサンプルの多様性の観点から、既存の拡散法や流れ法よりも一貫して優れていることが示された。
  論文  参考訳（メタデータ） (2025-06-03T09:29:47Z)
• Consistency Flow Matching: Defining Straight Flows with Velocity Consistency [97.28511135503176]
  本稿では,速度場の自己整合性を明示する新しいFM法であるConsistency Flow Matching(Consistency-FM)を紹介する。 予備実験により、一貫性FMは、一貫性モデルよりも4.4倍速く収束することにより、トレーニング効率を著しく向上することが示された。
  論文  参考訳（メタデータ） (2024-07-02T16:15:37Z)
• Flow map matching with stochastic interpolants: A mathematical framework for consistency models [15.520853806024943]
  フローマップマッチングは、基礎となる生成モデルの2時間フローマップを学ぶための原則化されたフレームワークである。 FMMは,高速サンプリングのための既存手法の幅広いクラスを統一し,拡張することを示す。
  論文  参考訳（メタデータ） (2024-06-11T17:41:26Z)
• Guided Flows for Generative Modeling and Decision Making [55.42634941614435]
  その結果,ガイドフローは条件付き画像生成やゼロショット音声合成におけるサンプル品質を著しく向上させることがわかった。 特に、我々は、拡散モデルと比較して、オフライン強化学習設定axスピードアップにおいて、まず、計画生成にフローモデルを適用する。
  論文  参考訳（メタデータ） (2023-11-22T15:07:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。