論文の概要: On the Stability and Convergence of Flow Map Training
- arxiv url: http://arxiv.org/abs/2610.20674v1
- Date: Wed, 14 Oct 2026 14:04:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 19:13:15.976705
- Title: On the Stability and Convergence of Flow Map Training
- Title(参考訳): フローマップ学習の安定性と収束性について
- Abstract要約: フローマップは、拡散軌道を1段階のサンプリング器に補正し、効率的な生成を解放する確率的生成法である。
多くのフローマップ学習手法では、停止勾配演算子をトレーニング対象の重要な部分として採用している。
関数勾配流解析は,フローマップの真のトレーニング力学を正確に記述している。
- 参考スコア(独自算出の注目度): 22.428658210484716
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Flow maps are a recent method of probabilistic generation that amortize diffusion trajectories into one-step samplers, unlocking efficient generation. While progress has been made in improving their empirical performance, there is still a lack of understanding behind the mechanisms underlying their success. Specifically, many flow map learning methods employ stop gradient operators as a crucial part of their training target. Adaptive weighting also drastically improves the generation capabilities of flow maps. Although many interpretations have been proposed to support the inclusion of these heuristics, none have analyzed the impact of these assumptions on the training dynamics of flow maps themselves. In this work, we address this issue by providing grounded theory explaining why such tricks are required. Analyzing the functional gradient flow induced by the MeanFlow and Lagrangian losses, we show their convergence to the true flow map, settling the validity of these objectives. For finite updates, we highlight a severe roadblock to the usage of these losses in practice: the possible unboundedness of the update. Adaptive normalization not only provides bounded updates, but, combined with a specific weighting, additionally provides convergence guarantees towards a neighborhood of the solution. On synthetic data, we show that our functional gradient flow analysis exactly describes the true training dynamics for flow maps. Experiments on standard image datasets demonstrate that a proper reweighting scheme is essential for strong empirical performance, which is only achieved for a specific range of reweighting strengths.
- Abstract(参考訳): フローマップは, 拡散軌道を1段階のサンプリング器に補正し, 効率よく生成する確率的生成法である。
経験的パフォーマンスを改善するための進歩はありますが、その成功の根底にあるメカニズムの裏には、まだ理解の欠如があります。
具体的には,多くのフローマップ学習手法では,学習目標の重要な部分として停止勾配演算子を用いる。
適応重み付けはフローマップの生成能力を大幅に改善する。
これらのヒューリスティクスの包含を支持する多くの解釈が提案されているが、これらの仮定がフローマップ自体のトレーニング力学に与える影響を解析することはなかった。
本稿では,このようなトリックが必要な理由を説明する根拠付き理論を提供することにより,この問題に対処する。
平均フローとラグランジアン損失によって引き起こされる関数的勾配流を解析し、これらの目的の妥当性を定めながら、真のフローマップへの収束を示す。
有限更新では、これらの損失の実際の使用に対する深刻な障害、すなわちアップデートの非有界性について強調する。
適応正規化は有界な更新を提供するだけでなく、特定の重み付けと組み合わせることで、解の近傍への収束を保証する。
合成データから,我々の関数的勾配流解析は,フローマップの真のトレーニング力学を正確に記述していることを示す。
標準画像データセットの実験では、適切な再重み付け方式が強い経験的性能に不可欠であることが示され、これは特定の範囲のリ重み付け強度に対してのみ達成される。
関連論文リスト
- Self-Consistent Flow: Unifying Velocity and Endpoint Prediction for Rectified Flow Models [7.517070288522858]
修正フローベースの生成モデルでは、ニューラルネットワークは、即時速度やデータエンドポイントなどの2つの異なるターゲットを予測するようにトレーニングすることができる。
データ終端予測にはトレーニングを安定させる明確な訓練信号があるのに対し、速度予測はデータ多様体近傍で安定したサンプリングダイナミクスを維持することを示す。
これらの知見により,両パラメータの利点を統一する新たな手法である自己持続フロー(SC-Flow)を提案する。
論文 参考訳(メタデータ) (2026-07-13T21:31:45Z) - Categorical Flow Maps [42.309126712129384]
カテゴリーフローマップ(Categorical Flow Map)は, 自己蒸留による数段階のカテゴリーデータ生成を高速化するフローマッチング手法である。
画像, 分子グラフ, テキストにおける最先端数ステップの結果を, 単一ステップ生成においても高い性能で達成する。
論文 参考訳(メタデータ) (2026-02-12T18:10:46Z) - FlowBypass: Rectified Flow Trajectory Bypass for Training-Free Image Editing [10.304374060580828]
トレーニング不要の画像編集は、その効率性とトレーニングデータからの独立性に注目が集まっている。
この問題に対処する以前の試みでは、一般的にバックボーン固有の機能操作を採用し、一般的な適用性を制限していた。
本稿では, インバージョンと再構成軌道を直接接続するバイパスを構成する, 整形流れを基盤とした, 新規かつ解析的なフレームワークであるFlowBypassを提案する。
論文 参考訳(メタデータ) (2026-02-02T08:37:00Z) - FlowSteer: Guiding Few-Step Image Synthesis with Authentic Trajectories [82.90132015584359]
ReFlowはフローマッチングと理論的に整合性があるが、現実的なシナリオでは最適ではない。
本研究では,ReFlowをベースとした蒸留手法であるFlowSteerを提案する。
論文 参考訳(メタデータ) (2025-11-24T07:13:23Z) - Align Your Flow: Scaling Continuous-Time Flow Map Distillation [63.927438959502226]
フローマップは、任意の2つのノイズレベルを1ステップで接続し、すべてのステップカウントで有効に保ちます。
画像生成ベンチマークにおいて、Align Your Flowと呼ばれるフローマップモデルを広範囲に検証する。
テキスト条件付き合成において、既存の非横断的訓練された数ステップのサンプルよりも優れたテキスト間フローマップモデルを示す。
論文 参考訳(メタデータ) (2025-06-17T15:06:07Z) - How to build a consistency model: Learning flow maps via self-distillation [18.299322342860517]
フローベース生成モデルは最先端のサンプルの品質を達成するが、推論時に微分方程式の高価な解を必要とする。
これらのモデルには、実際に効率的に学習する方法を明確に説明する統一的な記述がない。
本稿では,フローや拡散モデルに関連するフローマップを直接学習するための体系的なアルゴリズムフレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-24T18:50:50Z) - FlowIE: Efficient Image Enhancement via Rectified Flow [71.6345505427213]
FlowIEはフローベースのフレームワークであり、基本的な分布から高品質な画像への直線パスを推定する。
私たちのコントリビューションは、合成および実世界のデータセットに関する包括的な実験を通じて、厳密に検証されています。
論文 参考訳(メタデータ) (2024-06-01T17:29:29Z) - Deep Equilibrium Optical Flow Estimation [80.80992684796566]
最近のSOTA(State-of-the-art)光フローモデルでは、従来のアルゴリズムをエミュレートするために有限ステップの更新操作を使用する。
これらのRNNは大きな計算とメモリオーバーヘッドを課し、そのような安定した推定をモデル化するために直接訓練されていない。
暗黙的層の無限レベル固定点として直接流れを解く手法として,Deep equilibrium Flow estimatorを提案する。
論文 参考訳(メタデータ) (2022-04-18T17:53:44Z) - Deep learning: a statistical viewpoint [120.94133818355645]
ディープラーニングは、理論的観点からいくつかの大きな驚きを明らかにしました。
特に、簡単な勾配法は、最適でないトレーニング問題に対するほぼ完全な解決策を簡単に見つけます。
我々はこれらの現象を具体的原理で補うと推測する。
論文 参考訳(メタデータ) (2021-03-16T16:26:36Z) - Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。
本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
論文 参考訳(メタデータ) (2020-06-10T08:22:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。