論文の概要: Simplifying Flow Matching Transformations with Low-Rank Mixture Models
- arxiv url: http://arxiv.org/abs/2606.29724v1
- Date: Mon, 29 Jun 2026 03:03:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.026969
- Title: Simplifying Flow Matching Transformations with Low-Rank Mixture Models
- Title(参考訳): 低ランク混合モデルによるフローマッチング変換の簡易化
- Abstract要約: 本稿では,確率的主成分分析器(MPPCA)の混合物を流動の正規化のための潜在密度として用いることを提案する。
我々は,KL分散の観点でデータ分布とより密接に一致した潜在分布を学習することにより,学習フロー変換を単純化する。
MPPCAモデルは期待最大化アルゴリズムを用いて迅速かつ安価に適合し、高次元生成タスクにおいても潜在分布を初期化するための実用的な選択となる。
- 参考スコア(独自算出の注目度): 58.797704398690165
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Normalizing flows are powerful generative models that learn an invertible mapping between complex data distributions and simple latent distributions, typically a standard normal density. However, this choice of latent density can impose unnecessary complexity on the learned flow transformation due to the topological mismatch between the latent and data densities, leading to slower training and suboptimal performance. In this work, we propose using mixtures of probabilistic principal component analyzers (MPPCA) as the latent density for normalizing flows. We simplify the learned flow transformation by learning a latent distribution that more closely aligns with the data distribution in terms of KL divergence, thus enabling faster convergence and improved generative performance. Critically, MPPCA models can be fit quickly and cheaply using the expectation-maximization algorithm, making them a practical choice for initializing latent distributions even in high-dimensional generative tasks. We validate our method on both tabular and image datasets, demonstrating consistent gains in training efficiency and generation quality compared to baselines.
- Abstract(参考訳): 正規化フローは、複雑なデータ分布と単純な潜在分布(通常標準正規密度)の間の可逆写像を学ぶ強力な生成モデルである。
しかし、この潜伏密度の選択は、潜伏密度とデータ密度のトポロジ的ミスマッチのため、学習フロー変換に不要な複雑さを課し、訓練の遅れと最適以下の性能をもたらす。
本研究では,確率的主成分分析器(MPPCA)の混合物を流動の正規化のための潜在密度として用いることを提案する。
我々は,KL分散の観点でデータ分布とより緊密に整合する潜在分布を学習することにより,学習フロー変換を簡素化し,より高速な収束と生成性能の向上を実現する。
重要な点として、MPPCAモデルは期待最大化アルゴリズムを用いて迅速かつ安価に適合し、高次元生成タスクにおいても潜在分布を初期化するための実用的な選択となる。
本手法を表と画像の両方のデータセットで検証し,ベースラインと比較してトレーニング効率と生成品質が一貫した向上を示した。
関連論文リスト
- GeodesicNVS: Probability Density Geodesic Flow Matching for Novel View Synthesis [54.39598154430305]
本稿では,ペアビュー間の決定論的変換を直接学習するデータ間フローマッチングフレームワークを提案する。
PDG-FMは、事前訓練された拡散モデルの確率密度測定値から導かれる測地的補間剤を用いて流れの軌跡を制約する。
これらの結果は、一貫した新しいビュー生成のための決定論的フローマッチングにデータ依存の幾何正規化を組み込むことの利点を強調している。
論文 参考訳(メタデータ) (2026-03-01T09:30:11Z) - Flow Matching is Adaptive to Manifold Structures [32.55405572762157]
フローマッチングは拡散に基づく生成モデルに代わるシミュレーションベースである。
フローマッチングがデータ幾何学にどのように適応し、次元の呪いを回避するかを示す。
論文 参考訳(メタデータ) (2026-02-25T23:52:32Z) - Efficient Flow Matching using Latent Variables [9.363347684114474]
我々は、texttLatent-CFM$は、最先端のフローマッチングモデルよりも、トレーニングや計算が大幅に少ないため、生成品質が向上していることを示す。
また、物理過程から生じる空間場の生成的モデリングについても検討する。
論文 参考訳(メタデータ) (2025-05-07T14:59:23Z) - Marginalization Consistent Probabilistic Forecasting of Irregular Time Series via Mixture of Separable flows [4.489135297410294]
不規則な時系列における目標の連立分布の確率論的予測モデルは、機械学習においてあまり研究されていない分野である。
MOSES(Marginalization Consistent Mixture of Separable Flows)は,複数の潜伏ガウス過程と分離可能なユニ-正規性フローの混合をパラメタライズするモデルである。
4つのデータセットの実験では、MOSESは正確な結合予測と限界予測の両方を達成し、他の余分化の基線を全て上回り、ProFITiをわずかに下回っただけで、余分分布の予測では圧倒的に優れていることが示されている。
論文 参考訳(メタデータ) (2024-06-11T13:28:43Z) - Nonlinear Isometric Manifold Learning for Injective Normalizing Flows [58.720142291102135]
アイソメトリーを用いて、多様体学習と密度推定を分離する。
また、確率分布を歪ませない明示的な逆数を持つ埋め込みを設計するためにオートエンコーダを用いる。
論文 参考訳(メタデータ) (2022-03-08T08:57:43Z) - Resampling Base Distributions of Normalizing Flows [0.0]
学習された拒絶サンプリングに基づいて,フローを正規化するためのベース分布を導入する。
ログライクリフの最大化と逆Kulback-Leibler分散の最適化の両方を用いて、適切な学習アルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-10-29T14:44:44Z) - Gaussianization Flows [113.79542218282282]
そこで本研究では,サンプル生成における効率のよい繰り返しと効率のよい逆変換を両立できる新しい型正規化フローモデルを提案する。
この保証された表現性のため、サンプル生成の効率を損なうことなく、マルチモーダルなターゲット分布をキャプチャできる。
論文 参考訳(メタデータ) (2020-03-04T08:15:06Z) - Semi-Supervised Learning with Normalizing Flows [54.376602201489995]
FlowGMMは、フローの正規化を伴う生成半教師付き学習におけるエンドツーエンドのアプローチである。
我々は AG-News や Yahoo Answers のテキストデータなど,幅広いアプリケーションに対して有望な結果を示す。
論文 参考訳(メタデータ) (2019-12-30T17:36:33Z) - Learning Likelihoods with Conditional Normalizing Flows [54.60456010771409]
条件正規化フロー(CNF)はサンプリングと推論において効率的である。
出力空間写像に対する基底密度が入力 x 上で条件づけられた CNF について、条件密度 p(y|x) をモデル化する。
論文 参考訳(メタデータ) (2019-11-29T19:17:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。