論文の概要: Generative Modeling with Continuous Flows: Sample Complexity of Flow Matching
- arxiv url: http://arxiv.org/abs/2611.01559v1
- Date: Sun, 01 Nov 2026 04:31:34 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:12:51.298943
- Title: Generative Modeling with Continuous Flows: Sample Complexity of Flow Matching
- Title(参考訳): 連続フローによる生成モデリング:フローマッチングのサンプル複雑度
- Abstract要約: フローマッチングは拡散に基づく生成モデルに代わる有望な選択肢である。
いくつかの理論的解析は、速度場が正確な経験的リスク最小化によって得られると仮定して学習手順を理想化する。
我々は,有限サンプル統計誤差と有限時間経験的最適化誤差の両方を明示的に考慮した,フローマッチングのための経験的リスク最小化手法を考案した。
- 参考スコア(独自算出の注目度): 60.37045080890305
- License:
- Abstract: Flow matching has emerged as a promising alternative to diffusion-based generative modeling, offering a continuous-time ordinary differential equation formulation with fast sampling and a simple regression-based training objective. Despite its empirical success, some theoretical analyses idealize the learning procedure by assuming that the velocity field is obtained by exact empirical risk minimization. This assumption does not reflect the practical finite-dataset setting, where the empirical flow-matching loss is only approximately minimized by a finite number of stochastic-gradient updates. We develop an empirical-risk-minimizer-free analysis for flow matching that explicitly accounts for both finite-sample statistical error and finite-time empirical optimization error. Our analysis considers a finite dataset of \(N\) flow-matching samples and a learned parameter \(θ_T\) obtained after \(T\) stochastic gradient updates on the empirical objective. Under regularity assumptions on the interpolation path, sub-exponential source and target distributions, approximation by a bounded-parameter smooth neural velocity class, empirical-loss optimization, and uniform flow stability, we prove a guarantee that holds with high probability over the finite training dataset and in expectation over the stochastic-gradient randomness. The resulting bound separates approximation error, statistical error from the finite dataset, tail error from unbounded source and target distributions, and empirical optimization error from approximate minimization of the finite-sample objective.
- Abstract(参考訳): フローマッチングは拡散に基づく生成モデルに代わる有望な代替として現れ、高速サンプリングと単純な回帰に基づく訓練目的を備えた連続時間常微分方程式の定式化を提供する。
その経験的成功にもかかわらず、いくつかの理論的分析は、速度場が正確な経験的リスク最小化によって得られると仮定して学習手順を理想化する。
この仮定は、経験的フローマッチング損失が、有限数の確率勾配更新によってほぼ最小化されるような、実用的な有限データセットの設定を反映していない。
我々は,有限サンプル統計誤差と有限時間経験的最適化誤差の両方を明示的に考慮した,フローマッチングのための経験的リスク最小化手法を考案した。
本分析では, 実験対象の確率勾配更新後に得られた, フローマッチングサンプルの有限データセットと, 学習パラメータ \(θ_T\) を考察した。
補間経路, サブ指数源および対象分布, 境界パラメータスムーズな神経速度クラスによる近似, 経験的ロス最適化, 均一フロー安定性の正則性仮定により, 有限トレーニングデータセットよりも高い確率で保持し, 確率-漸進ランダム性に期待できる保証を証明した。
その結果、近似誤差、有限データセットからの統計的誤差、未有界音源および対象分布からの尾誤差、有限サンプル目標の近似最小化による経験的最適化誤差を分離する。
関連論文リスト
- Optimal Momentum Methods for Stochastic Multilevel Compositional Optimization [59.75358446504504]
本稿では,複数のスムーズな非パラメータからなるネスト構成を目的とするマルチレベル最適化について検討する。
我々は、運動量勾配推定器を構築するために、ミニバッチを持つ運動量ベース推定器を用いる。
また,関数値のクリッピングに一階近似を組み込んだバッチフリー手法を開発した。
論文 参考訳(メタデータ) (2026-10-01T12:32:40Z) - Generative Modeling with Continuous Flows: Sample Complexity of Flow Matching [60.37045080890305]
本稿では,フローマッチングに基づく生成モデルにおいて,サンプルの複雑さを初めて解析する。
速度場推定誤差をニューラルネットワーク近似誤差、有限標本サイズによる統計的誤差、速度場推定のための有限個の最適化ステップによる最適化誤差に分解する。
論文 参考訳(メタデータ) (2025-12-01T05:14:25Z) - Statistical Inference for Temporal Difference Learning with Linear Function Approximation [55.80276145563105]
The statistics properties of Temporal difference learning with Polyak-Ruppert averaging。
3つの理論的な貢献により、現在の最先端の成果が向上する。
論文 参考訳(メタデータ) (2024-10-21T15:34:44Z) - Bayesian Nonparametrics Meets Data-Driven Distributionally Robust Optimization [29.24821214671497]
機械学習と統計モデルのトレーニングは、しばしばデータ駆動型リスク基準の最適化を伴う。
ベイズ的非パラメトリック(ディリクレ過程)理論と、スムーズなあいまいさ-逆選好の最近の決定論的モデルを組み合わせた、新しいロバストな基準を提案する。
実用的な実装として、よく知られたディリクレプロセスの表現に基づいて、評価基準の抽出可能な近似を提案し、研究する。
論文 参考訳(メタデータ) (2024-01-28T21:19:15Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。