論文の概要: Smoother Flow Matching via Contrastive Trajectory Repulsion
- arxiv url: http://arxiv.org/abs/2610.01408v1
- Date: Thu, 01 Oct 2026 10:11:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:24.048846
- Title: Smoother Flow Matching via Contrastive Trajectory Repulsion
- Title(参考訳): 対物軌道反発による気相流の整合
- Abstract要約: CoFlowは、フローマッチングに対照的な学習パラダイムを導入するフレームワークである。
速度場の局所リプシッツ定数を再現する。
数ステップの推論では、標準FMに比べてFIDが大幅に減少する。
- 参考スコア(独自算出の注目度): 8.760796627971356
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Trajectory crossing remains a critical bottleneck in Flow Matching (FM), and previous works typically view these crossings from a theoretical optimization perspective causing velocity averaging. They attempt to address it indirectly by post-hoc distillation or endpoint coupling, without explicitly regulating the intermediate trajectories. In this paper, we introduce a new network learning perspective: crossing points inherently induce large local Lipschitz constants in the target velocity field, leading to two drawbacks. First, high Lipschitz constants correspond to high-frequency signals in the velocity field that neural networks struggle to fit due to spectral bias. Second, they also imply drastic velocity variations, leading to severe numerical integration errors in few-step inference. To alleviate this, we propose CoFlow, a framework that introduces the contrastive learning paradigm into FM to explicitly repel trajectories during training, thereby lowering the local Lipschitz constants of the velocity field. Specifically, we formulate CoFlow from a Stochastic Differential Equation (SDE) perspective by injecting a repulsive drift term. This drift actively guides the forward process of positive samples away from negative trajectories, effectively reducing the local Lipschitz constant. Furthermore, we derive an equivalent stochastic interpolant formulation from this SDE, providing a simple and tractable design space to control the influence of negative samples. Extensive experiments on ImageNet 256x256 demonstrate that CoFlow significantly reduces FID compared to standard FM in few-step inference (e.g., 20 steps), with no added training overhead. The code can be accessed at: https://github.com/HKUST-LongGroup/CoFlow
- Abstract(参考訳): 軌道交差は、フローマッチング(FM)において依然として重要なボトルネックであり、従来の研究では、速度平均化を引き起こす理論的最適化の観点からこれらの交差を概ね見ることができる。
彼らは、中間軌道を明示的に調節することなく、熱後蒸留または終端結合によって間接的にそれを解決しようとする。
本稿では,新たなネットワーク学習の視点について紹介する: 交差点は本質的に目標速度場における大きな局所リプシッツ定数を誘導し,二つの欠点をもたらす。
第一に、高リプシッツ定数は、スペクトルバイアスによるニューラルネットワークの適合に苦しむ速度場の高周波信号に対応する。
第二に、これらは急激な速度変化を示唆し、数ステップの推論において重大な数値積分誤差をもたらす。
これを軽減するために,FMにコントラスト学習パラダイムを導入し,学習中の軌道を明示的に取り除き,速度場の局所リプシッツ定数を下げるフレームワークであるCoFlowを提案する。
具体的には,確率微分方程式(SDE)の観点から,反発的ドリフト項を注入することによってCoFlowを定式化する。
このドリフトは正のサンプルを負の軌道から遠ざけ、局所的なリプシッツ定数を効果的に減少させる。
さらに, このSDEから等価な確率補間式を導出し, 負のサンプルの影響を制御するための単純かつトラクタブルな設計空間を提供する。
ImageNet 256x256の大規模な実験では、CoFlowは数ステップの推論(例:20ステップ)で標準FMと比較してFIDを大幅に削減し、トレーニングのオーバーヘッドは追加されていない。
コードは、https://github.com/HKUST-LongGroup/CoFlowでアクセスできます。
関連論文リスト
- Limit Points of Reflow with Minibatch Optimal Transport [5.12067518301035]
整流流は、2つの確率分布の間の確率曲線を操る時間依存ベクトル場を学習する生成モデルである。
この反復の挙動を研究し、その極限点を特徴づける。
そのような$N$環状モノトンカップリングは、可逆性や直線性などの構造的および安定性の良好な性質を享受する。
論文 参考訳(メタデータ) (2026-08-07T09:51:33Z) - P-Flow: Proxy-gradient Flows for Linear Inverse Problems [28.438072266272954]
P-Flowは、プロキシ勾配を利用してソースポイントを更新することで、再構築プロセスを安定化するフレームワークである。
さまざまな復元タスクに対する実験は、P-Flowが競争力のあるパフォーマンスを提供することを示している。
論文 参考訳(メタデータ) (2026-05-08T17:07:36Z) - Posterior Augmented Flow Matching [64.1559809786948]
後拡張フローマッチング(PAFM)はフローマッチング(FM)の一般化である
PAFMは、異なるモデルスケールで最大3.4FID50KでFMよりも改善されていることを示す。
論文 参考訳(メタデータ) (2026-05-01T17:59:59Z) - Riemannian MeanFlow for One-Step Generation on Manifolds [54.09734511705173]
フローマッチングは、生成モデルのシミュレーション不要なトレーニングを可能にする。
平均フローは、位置依存接空間に速度が存在する多様体値生成に拡張することができる。
球面, トーリ, SO(3)における実験は, 品質・効率のトレードオフを改善し, サンプリングコストを大幅に削減して, 競争力のある一段階サンプリングを実証した。
論文 参考訳(メタデータ) (2026-03-11T12:41:46Z) - The Curse of Conditions: Analyzing and Improving Optimal Transport for Conditional Flow-Based Generation [56.33404393159126]
本稿では,最適輸送代入を計算する際に,コスト行列に条件付き重み付け項を追加する条件付き最適輸送C2OTを提案する。
実験では、この単純な修正は8gaussian-to-moons、CIFAR-10、ImageNet-32x32、ImageNet-256x256の離散的条件と連続的条件の両方で動作することを示した。
論文 参考訳(メタデータ) (2025-03-13T17:59:56Z) - Consistency Flow Matching: Defining Straight Flows with Velocity Consistency [97.28511135503176]
本稿では,速度場の自己整合性を明示する新しいFM法であるConsistency Flow Matching(Consistency-FM)を紹介する。
予備実験により、一貫性FMは、一貫性モデルよりも4.4倍速く収束することにより、トレーニング効率を著しく向上することが示された。
論文 参考訳(メタデータ) (2024-07-02T16:15:37Z) - Improving Consistency Models with Generator-Augmented Flows [16.049476783301724]
一貫性モデルは、ニューラルネットワークの単一前方通過におけるスコアベース拡散の多段階サンプリングを模倣する。
それらは、一貫性の蒸留と一貫性のトレーニングの2つの方法を学ぶことができる。
本稿では,一貫性モデルから得られたノイズデータを対応する出力へ転送する新しい流れを提案する。
論文 参考訳(メタデータ) (2024-06-13T20:22:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。