論文の概要: A Theory on Flow Matching with Neural Networks
- arxiv url: http://arxiv.org/abs/2606.10089v1
- Date: Mon, 08 Jun 2026 19:16:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-10 15:40:58.149137
- Title: A Theory on Flow Matching with Neural Networks
- Title(参考訳): ニューラルネットワークによる流れマッチングの一理論
- Authors: Yihan He, Qishuo Yin, Yuan Cao, Jianqing Fan, Han Liu,
- Abstract要約: 本研究では,条件付速度場に適合する流れの理論的基礎を構築した。
条件付き速度場マッチングの目的に対して一般化境界を導出する。
本分析は,非有界損失を伴うマルチタスク表現学習のための一般化に基づく。
- 参考スコア(独自算出の注目度): 18.21009159346104
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this work, we develop theoretical foundation for flow matching with neural-network-parameterized conditional velocity fields. We establish convergence guarantees for gradient descent in the over-parameterized 2-layered ReLU neural network regime. We derive generalization bounds for the conditional velocity-field matching objective. Building on these results, we provide Wasserstein-distance guarantees for the samples generated by the induced flow. Our analysis is based on generalization bound for multi-task representation learning with unbounded losses, which may be of independent interest beyond flow-based generative modeling. These theoretical results are validated through extensive experiments on both synthetic and real-world image benchmarks.
- Abstract(参考訳): 本研究では,ニューラルネットのパラメータ化条件付き速度場とのフローマッチングに関する理論的基礎を構築した。
過パラメータ化された2層ReLUニューラルネットワークシステムにおいて、勾配降下の収束保証を確立する。
条件付き速度場マッチングの目的に対して一般化境界を導出する。
これらの結果に基づいて、誘導流れによって生成されたサンプルに対して、ワッサーシュタイン距離保証を提供する。
本分析は,フローベース生成モデルを超えて,非有界な損失を伴うマルチタスク表現学習の一般化に基づく。
これらの理論的結果は、合成および実世界の画像ベンチマークの広範な実験によって検証される。
関連論文リスト
- VINA: Variational Invertible Neural Architectures [11.068746821872756]
変分無教師付き損失関数に基づくNNとNFの統一フレームワークを提案する。
我々は、理論的な性能保証、NNの後方精度の定量化、NFの分布精度を導出する。
本研究は,海洋音響逆転問題に対する我々のアプローチの有効性を実証することによる結論である。
論文 参考訳(メタデータ) (2026-02-24T02:16:44Z) - Generative Modeling with Continuous Flows: Sample Complexity of Flow Matching [60.37045080890305]
本稿では,フローマッチングに基づく生成モデルにおいて,サンプルの複雑さを初めて解析する。
速度場推定誤差をニューラルネットワーク近似誤差、有限標本サイズによる統計的誤差、速度場推定のための有限個の最適化ステップによる最適化誤差に分解する。
論文 参考訳(メタデータ) (2025-12-01T05:14:25Z) - KL-geodesics flow matching with a novel sampling scheme [4.347494885647007]
非自己回帰型言語モデルは全てのトークンを同時に生成し、従来の自己回帰型モデルよりも潜在的に高速である。
テキスト生成のための条件付きフローマッチング手法について検討する。
論文 参考訳(メタデータ) (2024-11-25T17:15:41Z) - Parallel-in-Time Solutions with Random Projection Neural Networks [0.07282584715927627]
本稿では、常微分方程式の解法であるパラレアルの基本的な並列時間法の一つを考察し、ニューラルネットワークを粗いプロパゲータとして採用することにより拡張する。
提案アルゴリズムの収束特性を理論的に解析し,ローレンツ方程式やバーガースの方程式を含むいくつかの例に対して有効性を示す。
論文 参考訳(メタデータ) (2024-08-19T07:32:41Z) - Analyzing Neural Network-Based Generative Diffusion Models through Convex Optimization [45.72323731094864]
本稿では,2層ニューラルネットワークを用いた拡散モデル解析のための理論的枠組みを提案する。
我々は,1つの凸プログラムを解くことで,スコア予測のための浅層ニューラルネットワークのトレーニングが可能であることを証明した。
本結果は, ニューラルネットワークに基づく拡散モデルが漸近的でない環境で何を学習するかを, 正確に評価するものである。
論文 参考訳(メタデータ) (2024-02-03T00:20:25Z) - Neural Sinkhorn Gradient Flow [11.4522103360875]
本稿では,ワッサーシュタイン勾配流の時間変化速度場をパラメータ化したニューラルシンクホーン勾配流(NSGF)モデルを提案する。
理論解析により, 試料径が無限大に大きくなるにつれて, 経験的近似の平均場限界は真の基礎速度場に収束することが示された。
高次元タスクにおけるモデル効率をさらに高めるために、二相NSGF++モデルが考案された。
論文 参考訳(メタデータ) (2024-01-25T10:44:50Z) - Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
平均場ランゲヴィン力学の収束速度解析について述べる。
ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
論文 参考訳(メタデータ) (2022-01-25T17:13:56Z) - A Convergence Theory Towards Practical Over-parameterized Deep Neural
Networks [56.084798078072396]
ネットワーク幅と収束時間の両方で既知の理論境界を大幅に改善することにより、理論と実践のギャップを埋める一歩を踏み出します。
本研究では, サンプルサイズが2次幅で, 両者の時間対数で線形なネットワークに対して, 地球最小値への収束が保証されていることを示す。
私たちの分析と収束境界は、いつでも合理的なサイズの同等のRELUネットワークに変換できる固定アクティベーションパターンを備えたサロゲートネットワークの構築によって導出されます。
論文 参考訳(メタデータ) (2021-01-12T00:40:45Z) - An Ode to an ODE [78.97367880223254]
我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。
この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
論文 参考訳(メタデータ) (2020-06-19T22:05:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。