論文の概要: Cumulative Marginal Matching for One-Step Diffusion

• arxiv url: http://arxiv.org/abs/2610.34575v2
• Date: Fri, 30 Oct 2026 04:01:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.355116
• Title: Cumulative Marginal Matching for One-Step Diffusion
• Title（参考訳）: 1ステップ拡散に対する累積マージナルマッチング
• Abstract要約: 数ステップ生成の原則として,emphCumulative Marginal Matching (CMM)を提案する。 既存のemphShortcut-CSLの目的は,CMMの1次近似として現れることを示す。 標準ベンチマークの実験では、emphShortcut-CSLや他の最先端のワンステップと数ステップのベースラインよりも、生成品質が改善されている。
• 参考スコア（独自算出の注目度）: 3.9030995991016475
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The sampling procedures of diffusion and flow-matching models involve hundreds of denoising steps incurring substantial inference time, which has motivated a growing body of work on training schemes for few-step and one-step generation. Existing approaches primarily seek to align the generation trajectory of few-step and base models, yet their training objectives only involve discrepancies at a single point in the trajectory, encouraging only local \emph{point-level} alignment. While recent methods such as \emph{Shortcut-CSL} introduce cumulative objective that enforce alignment over the entire trajectory, this is suboptimal as they do not directly enforce alignment between the distributions induced by the two models throughout the generation process. We propose \emph{Cumulative Marginal Matching} (CMM), a principled objective for few-step generation: by viewing flow-matching as a sequence of intermediate marginal distributions connecting the prior and data distributions, CMM directly optimizes the cumulative discrepancy between the base and few-step marginal distributions over the entire sequence. Specifically, we formulate this discrepancy using the Wasserstein-2 distance. By exploiting the pushforward representation of flow-matching, we transform an intractable cumulative Wasserstein objective into a tractable surrogate that can be optimized using samples from the intermediate marginal, which are readily generated through the conditional interpolation process of flow-matching. Furthermore, we show that the existing \emph{Shortcut-CSL} objective arises as a first-order approximation of that of the CMM, establishing a theoretical connection between the two objectives. Experiments on standard benchmarks demonstrate improvement in generation quality over \emph{Shortcut-CSL} and other state-of-the-art one- and few-step baselines under identical training budgets.
• Abstract（参考訳）: 拡散および流れマッチングモデルのサンプリング手順には、かなりの推論時間をもたらす数百のデノナイジングステップが含まれており、これは数ステップと1ステップの生成のためのトレーニングスキームの育成に動機づけられている。 既存のアプローチは主に数段階モデルと基本モデルの生成軌跡の整列を図っているが、それらの訓練目的は軌道の単一点における不一致のみを伴い、局所的な \emph{point-level} の整列のみを奨励している。 emph{Shortcut-CSL} のような最近の手法では、全軌道上のアライメントを強制する累積的対象を導入するが、これは生成過程を通して2つのモデルによって誘導される分布間のアライメントを直接強制しないため、最適ではない。 フローマッチングを,先行分布とデータ分布を連結する中間境界分布の列として見ることにより,CMMは,基数と最小辺分布との累積差を直接最適化する。 具体的には、この差分をワッサーシュタイン2距離を用いて定式化する。 フローマッチングのプッシュフォワード表現を活用することで,フローマッチングの条件補間プロセスを通じて容易に生成できる中間縁からのサンプルを用いて最適化可能な,トラクタブルな累積サロゲートへと導出可能な累積サロゲートを変換する。 さらに,既存の<emph{Shortcut-CSL} の目的は,CMM の1次近似として生じることを示し,二つの目的の間に理論的な関係を確立する。 標準ベンチマークの実験では、同じトレーニング予算の下で、 \emph{Shortcut-CSL} や他の最先端の1段階と数段階のベースラインよりも、生成品質の向上が示されている。

関連論文リスト

• Midpoint Generative Models [52.59974039570536]
  我々は,一段階生成モデルを訓練するための原則的フレームワークであるMidpoint Generative Models (MGM)を紹介する。 MGMは、既存の一段階生成モデリング手法と競合する性能を達成し、生成モデリングに効果的で理論的に基礎づけられたアプローチを提供する。
  論文  参考訳（メタデータ） (2026-05-28T13:31:53Z)
• Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning [57.10440766103372]
  Trajectory Regularized Merging (TRM) は、拡張されたトラジェクトリ部分空間内の最適化プロセスとしてマージフェーズを再構成するフレームワークである。 本フレームワークは,タスクアライメント,予測整合性,勾配応答性といった3つの相乗的目標を統合し,統合モデルの履歴安定性と再活性化最適化のダイナミクスを同時に保存する。
  論文  参考訳（メタデータ） (2026-05-08T14:07:32Z)
• Trajectory Consistency for One-Step Generation on Euler Mean Flows [24.038760671907024]
  本研究では,フローベース生成フレームワークであるemphEuler Mean Flows (EMF)を提案する。 EMFは最小サンプリングコストで長距離軌道の整合性を実現する。
  論文  参考訳（メタデータ） (2026-01-31T04:32:32Z)
• Model Merging via Multi-Teacher Knowledge Distillation [11.543771846135021]
  モデルマージ設定に特化して、新しい平坦性を考慮したPAC-Bayes一般化を導入する。 我々は,少ないラベルのないデータに基づいて,マルチ教師の知識蒸留としてマージするモデルを構築した。 我々は,学生教師のKulback-Leibler分散の最小化が,合併モデルの過大なリスクの上限を直接締め付けることを正式に証明した。
  論文  参考訳（メタデータ） (2025-12-24T17:10:44Z)
• Learning Straight Flows: Variational Flow Matching for Efficient Generation [36.84747986070112]
  フローマッチングは、学習された曲線軌道に依存するため、ワンステップ生成の能力に制限がある。 textbfS-VFMは、軌道直線性を明示的に強制し、理想的には線形生成経路を生成する。
  論文  参考訳（メタデータ） (2025-11-15T22:51:58Z)
• Aligning Latent Spaces with Flow Priors [72.24305287508474]
  本稿では,学習可能な潜在空間を任意の目標分布に整合させるための新しいフレームワークを提案する。 特に,提案手法は計算コストの高い確率評価を排除し,最適化時のODE解決を回避する。
  論文  参考訳（メタデータ） (2025-06-05T16:59:53Z)
• Feynman-Kac Correctors in Diffusion: Annealing, Guidance, and Product of Experts [64.34482582690927]
  事前学習したスコアベースモデルから得られた熱処理, 幾何平均, 製品分布の配列から, 効率的かつ原理的に抽出する方法を提供する。 本稿では,サンプリング品質を向上させるために,推論時間スケーリングを利用する逐次モンテカルロ(SMC)再サンプリングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-03-04T17:46:51Z)
• Generative Lines Matching Models [2.6089354079273512]
  本研究では,2つの分布を補間する全直線に一致した新しい確率フローモデルを提案する。 その結果,LMMが生成する流れ場は時間的整合性に優れ,直線性スコアの優れた軌道が得られた。 全体として、LMMは確立されたベンチマークデータセット上で、最小限のNFEで最先端のFIDスコアを達成する。
  論文  参考訳（メタデータ） (2024-12-09T11:33:38Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。