論文の概要: Extended Flow Matching: a Method of Conditional Generation with
Generalized Continuity Equation
- arxiv url: http://arxiv.org/abs/2402.18839v1
- Date: Thu, 29 Feb 2024 04:12:32 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-01 16:14:02.249733
- Title: Extended Flow Matching: a Method of Conditional Generation with
Generalized Continuity Equation
- Title(参考訳): 拡張フローマッチング:一般化連続性方程式を用いた条件付き生成法
- Authors: Noboru Isobe, Masanori Koyama, Kohei Hayashi and Kenji Fukumizu
- Abstract要約: 本研究では,フローマッチングに基づく条件生成理論を開発する。
確率経路を経路空間上の分布として解釈することで、流れに基づく条件分布の生成の新しい理論を確立する。
- 参考スコア(独自算出の注目度): 23.105560565148107
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The task of conditional generation is one of the most important applications
of generative models, and numerous methods have been developed to date based on
the celebrated diffusion models, with the guidance-based classifier-free method
taking the lead. However, the theory of the guidance-based method not only
requires the user to fine-tune the "guidance strength," but its target vector
field does not necessarily correspond to the conditional distribution used in
training. In this paper, we develop the theory of conditional generation based
on Flow Matching, a current strong contender of diffusion methods. Motivated by
the interpretation of a probability path as a distribution on path space, we
establish a novel theory of flow-based generation of conditional distribution
by employing the mathematical framework of generalized continuity equation
instead of the continuity equation in flow matching. This theory naturally
derives a method that aims to match the matrix field as opposed to the vector
field. Our framework ensures the continuity of the generated conditional
distribution through the existence of flow between conditional distributions.
We will present our theory through experiments and mathematical results.
- Abstract(参考訳): 条件生成の課題は生成モデルの最も重要な応用の1つであり、指導に基づく分類器フリーな手法が先導する、祝福された拡散モデルに基づく多くの手法が開発されている。
しかし、誘導法の理論は「誘導強度」を微調整するだけでなく、目標ベクトル場が必ずしも訓練で使用する条件分布に対応しているとは限らない。
本稿では,現在の拡散法候補であるフローマッチングに基づく条件生成の理論を考案する。
確率経路を経路空間上の分布として解釈することで、フローマッチングにおける連続性方程式の代わりに一般化連続性方程式の数学的枠組みを用いて、流れに基づく条件分布の生成の新しい理論を確立する。
この理論は、ベクトル場とは対照的に行列場に一致することを目的とする手法を自然に導出する。
本フレームワークは,条件分布間の流れの存在を通じて生成した条件分布の連続性を保証する。
我々は実験と数学的結果を通して理論を提示する。
関連論文リスト
- Heavy-Tailed Diffusion Models [38.713884992630675]
従来の拡散・流れマッチングモデルでは, 重み付き挙動を捉えることができないことを示す。
ヘビーテール推定のための拡散フレームワークを再利用することで、この問題に対処する。
既存の拡散・流動モデルの拡張である t-EDM と t-Flow を導入する。
論文 参考訳(メタデータ) (2024-10-18T04:29:46Z) - Hessian-Informed Flow Matching [4.542719108171107]
Hessian-Informed Flow Matchingは、エネルギー関数のHessianを条件流に統合する新しいアプローチである。
この積分により、HI-FMは局所曲率と異方性共分散構造を考慮できる。
MNIST と Lennard-Jones 粒子のデータセットに関する実証的な評価は、HI-FM が試験サンプルの可能性を改善していることを示している。
論文 参考訳(メタデータ) (2024-10-15T09:34:52Z) - Local Flow Matching Generative Models [19.859984725284896]
フローマッチング(英: Flow Matching, FM)は、2つの分布を補間する連続的かつ非可逆的な流れを学習するためのシミュレーション不要な手法である。
FMサブモデルのシーケンスを学習し,それぞれがデータ-雑音方向のステップサイズまで拡散過程と一致するローカルフローマッチング(LFM)を導入する。
実験では, FMと比較して, LFMの訓練効率と競争的生成性能の改善を実証した。
論文 参考訳(メタデータ) (2024-10-03T14:53:10Z) - Bellman Diffusion: Generative Modeling as Learning a Linear Operator in the Distribution Space [72.52365911990935]
本稿では,MDPの線形性を維持する新しいDGMフレームワークであるBellman Diffusionを紹介する。
この結果から,ベルマン拡散は分布RLタスクにおける従来のヒストグラムベースベースラインよりも1.5倍高速に収束し,精度の高い画像生成装置であることがわかった。
論文 参考訳(メタデータ) (2024-10-02T17:53:23Z) - Flow matching achieves almost minimax optimal convergence [50.38891696297888]
フローマッチング (FM) は, シミュレーションのない生成モデルとして注目されている。
本稿では,大試料径のFMの収束特性を$p$-Wasserstein 距離で論じる。
我々は、FMが1leq p leq 2$でほぼ最小の収束率を達成できることを確立し、FMが拡散モデルに匹敵する収束率に達するという最初の理論的証拠を示す。
論文 参考訳(メタデータ) (2024-05-31T14:54:51Z) - Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory [87.00653989457834]
条件付き拡散モデルは現代の画像合成の基礎となり、計算生物学や強化学習などの分野に広く応用されている。
経験的成功にもかかわらず、条件拡散モデルの理論はほとんど欠落している。
本稿では,条件拡散モデルを用いた分布推定の急激な統計的理論を提示することにより,ギャップを埋める。
論文 参考訳(メタデータ) (2024-03-18T17:08:24Z) - Guided Flows for Generative Modeling and Decision Making [55.42634941614435]
その結果,ガイドフローは条件付き画像生成やゼロショット音声合成におけるサンプル品質を著しく向上させることがわかった。
特に、我々は、拡散モデルと比較して、オフライン強化学習設定axスピードアップにおいて、まず、計画生成にフローモデルを適用する。
論文 参考訳(メタデータ) (2023-11-22T15:07:59Z) - Improving and generalizing flow-based generative models with minibatch
optimal transport [90.01613198337833]
連続正規化フロー(CNF)のための一般条件流整合(CFM)技術を導入する。
CFMは、拡散モデルのフローをトレーニングするために使用されるような安定した回帰目標を特徴としているが、決定論的フローモデルの効率的な推論を好んでいる。
我々の目的の変種は最適輸送CFM (OT-CFM) であり、訓練がより安定し、より高速な推論をもたらすより単純なフローを生成する。
論文 参考訳(メタデータ) (2023-02-01T14:47:17Z) - Normalizing Flow with Variational Latent Representation [20.038183566389794]
正規化フロー(NF)の実用性能を向上させるため,変分潜在表現に基づく新しいフレームワークを提案する。
この考え方は、標準正規潜在変数をより一般的な潜在変数に置き換えることであり、変分ベイズを通して共同で学習される。
得られた手法は,複数のモードでデータ分布を生成する標準的な正規化フローアプローチよりもはるかに強力である。
論文 参考訳(メタデータ) (2022-11-21T16:51:49Z) - Training Deep Energy-Based Models with f-Divergence Minimization [113.97274898282343]
深部エネルギーベースモデル(EBM)は分布パラメトリゼーションにおいて非常に柔軟であるが、計算的に困難である。
所望のf偏差を用いてEMMを訓練するための、f-EBMと呼ばれる一般的な変分フレームワークを提案する。
実験の結果,F-EBMは対照的なばらつきよりも優れており,KL以外のf-divergencesを用いたEBMの訓練の利点も示された。
論文 参考訳(メタデータ) (2020-03-06T23:11:13Z) - Augmented Normalizing Flows: Bridging the Gap Between Generative Flows
and Latent Variable Models [11.206144910991481]
本研究では,拡張データ空間上での新たな生成フローの族を提案する。これは,サンプリングの計算コストを大幅に増大させることなく,表現性を向上させることを目的としている。
本稿では,フローベース生成モデリングの標準ベンチマークにおける最先端性能について述べる。
論文 参考訳(メタデータ) (2020-02-17T17:45:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。