論文の概要: Continuous normalizing flows on manifolds
- arxiv url: http://arxiv.org/abs/2104.14959v1
- Date: Sun, 14 Mar 2021 15:35:19 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-08 04:20:23.281106
- Title: Continuous normalizing flows on manifolds
- Title(参考訳): 多様体上の連続正規化フロー
- Authors: Luca Falorsi
- Abstract要約: 本稿では,最近導入されたニューラルODEと連続正規化フローを任意の滑らかな多様体に拡張する方法について述べる。
本稿では,これらの空間上のベクトル場をパラメータ化するための一般的な手法を提案する。
- 参考スコア(独自算出の注目度): 0.342658286826597
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Normalizing flows are a powerful technique for obtaining reparameterizable
samples from complex multimodal distributions. Unfortunately, current
approaches are only available for the most basic geometries and fall short when
the underlying space has a nontrivial topology, limiting their applicability
for most real-world data. Using fundamental ideas from differential geometry
and geometric control theory, we describe how the recently introduced Neural
ODEs and continuous normalizing flows can be extended to arbitrary smooth
manifolds. We propose a general methodology for parameterizing vector fields on
these spaces and demonstrate how gradient-based learning can be performed.
Additionally, we provide a scalable unbiased estimator for the divergence in
this generalized setting. Experiments on a diverse selection of spaces
empirically showcase the defined framework's ability to obtain
reparameterizable samples from complex distributions.
- Abstract(参考訳): 正規化フローは、複雑なマルチモーダル分布から再パラメータ化可能なサンプルを得るための強力な技術である。
残念なことに、現在のアプローチは最も基本的なジオメトリでのみ利用可能であり、基礎となる空間が非自明なトポロジを持つ場合に不足する。
微分幾何学と幾何学制御理論の基本的な考え方を用いて、最近導入されたニューラルオドと連続正規化フローを任意の滑らかな多様体に拡張できる方法について述べる。
本稿では,これらの空間上のベクトル場をパラメータ化する一般的な手法を提案し,勾配に基づく学習を行う方法を示す。
さらに、この一般化された環境での発散に対するスケーラブルな非バイアス推定器を提供する。
多様な空間の選択に関する実験では、複雑な分布から再パラメータ可能なサンプルを得るためのフレームワークの能力が実証的に示される。
関連論文リスト
- Topological Obstructions and How to Avoid Them [22.45861345237023]
局所最適性は特異点や不正確な次数や巻数によって生じる可能性があることを示す。
本稿では,データポイントを幾何学空間上のマルチモーダル分布にマッピングするフローベースモデルを提案する。
論文 参考訳(メタデータ) (2023-12-12T18:56:14Z) - Scaling Riemannian Diffusion Models [68.52820280448991]
非自明な多様体上の高次元タスクにスケールできることを示す。
我々は、$SU(n)$格子上のQCD密度と高次元超球面上の対照的に学習された埋め込みをモデル化する。
論文 参考訳(メタデータ) (2023-10-30T21:27:53Z) - Generative Modeling on Manifolds Through Mixture of Riemannian Diffusion Processes [57.396578974401734]
一般多様体上に生成拡散過程を構築するための原理的枠組みを導入する。
従来の拡散モデルの認知的アプローチに従う代わりに、橋梁プロセスの混合を用いて拡散過程を構築する。
混合過程を幾何学的に理解し,データ点への接する方向の重み付け平均としてドリフトを導出する。
論文 参考訳(メタデータ) (2023-10-11T06:04:40Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳(メタデータ) (2023-07-11T16:51:38Z) - Normalizing flows for lattice gauge theory in arbitrary space-time
dimension [135.04925500053622]
格子ゲージ理論における場配置のサンプリングへの正規化フローの応用は、これまで2つの時空次元においてほぼ独占的に検討されてきた。
我々は、スケーラブルで正確なフローベースサンプリングアルゴリズムの鍵となる、トラクタブルで偏りのないジャコビアン行列式によるマスク付き自己回帰について論じる。
具体的には、4つの時空次元におけるSU(3)ゲージ理論への原理的応用の結果が報告される。
論文 参考訳(メタデータ) (2023-05-03T19:54:04Z) - Flow Matching on General Geometries [43.252817099263744]
本稿では,多様体上の連続正規化フローをトレーニングするための,単純かつ強力なフレームワークを提案する。
単純な測地ではシミュレーションが不要であり、発散を必要としないことを示し、その対象ベクトル場を閉形式で計算する。
本手法は,多くの実世界の非ユークリッドデータセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2023-02-07T18:21:24Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Resampling Base Distributions of Normalizing Flows [0.0]
学習された拒絶サンプリングに基づいて,フローを正規化するためのベース分布を導入する。
ログライクリフの最大化と逆Kulback-Leibler分散の最適化の両方を用いて、適切な学習アルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-10-29T14:44:44Z) - A Unifying and Canonical Description of Measure-Preserving Diffusions [60.59592461429012]
ユークリッド空間における測度保存拡散の完全なレシピは、最近、いくつかのMCMCアルゴリズムを単一のフレームワークに統合した。
我々は、この構成を任意の多様体に改善し一般化する幾何学理論を開発する。
論文 参考訳(メタデータ) (2021-05-06T17:36:55Z) - Neural Manifold Ordinary Differential Equations [46.25832801867149]
マニフォールド連続正規化フロー(MCNF)の構築を可能にするニューラルマニフォールド正規微分方程式を導入する。
MCNFは変数の連続的な変化を伴う局所幾何学と計算確率のみを必要とする。
連続多様体力学の活用は、密度推定と下流タスクの両方において顕著な改善をもたらす。
論文 参考訳(メタデータ) (2020-06-18T03:24:58Z) - Neural Ordinary Differential Equations on Manifolds [0.342658286826597]
近年、ニューラルODEに基づくユークリッド空間の正規化フローは大きな可能性を秘めているが、同じ制限を被っている。
ベクトル場がこれらの空間上の可逆写像の柔軟なクラスをパラメータ化するための一般的なフレームワークを提供する方法を示す。
論文 参考訳(メタデータ) (2020-06-11T17:56:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。