論文の概要: Moser Flow: Divergence-based Generative Modeling on Manifolds

• arxiv url: http://arxiv.org/abs/2108.08052v1
• Date: Wed, 18 Aug 2021 09:00:24 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-19 14:55:13.748600
• Title: Moser Flow: Divergence-based Generative Modeling on Manifolds
• Title（参考訳）: moser flow:多様体上の発散に基づく生成モデル
• Authors: Noam Rozen, Aditya Grover, Maximilian Nickel, Yaron Lipman
• Abstract要約: Moser Flow (MF) は連続正規化フロー(CNF)ファミリーにおける新しい生成モデルのクラスである MFは、訓練中にODEソルバを介して呼び出しやバックプロパゲートを必要としない。 一般曲面からのサンプリングにおけるフローモデルの利用を初めて実演する。
• 参考スコア（独自算出の注目度）: 49.04974733536027
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We are interested in learning generative models for complex geometries described via manifolds, such as spheres, tori, and other implicit surfaces. Current extensions of existing (Euclidean) generative models are restricted to specific geometries and typically suffer from high computational costs. We introduce Moser Flow (MF), a new class of generative models within the family of continuous normalizing flows (CNF). MF also produces a CNF via a solution to the change-of-variable formula, however differently from other CNF methods, its model (learned) density is parameterized as the source (prior) density minus the divergence of a neural network (NN). The divergence is a local, linear differential operator, easy to approximate and calculate on manifolds. Therefore, unlike other CNFs, MF does not require invoking or backpropagating through an ODE solver during training. Furthermore, representing the model density explicitly as the divergence of a NN rather than as a solution of an ODE facilitates learning high fidelity densities. Theoretically, we prove that MF constitutes a universal density approximator under suitable assumptions. Empirically, we demonstrate for the first time the use of flow models for sampling from general curved surfaces and achieve significant improvements in density estimation, sample quality, and training complexity over existing CNFs on challenging synthetic geometries and real-world benchmarks from the earth and climate sciences.
• Abstract（参考訳）: 我々は、球面、トーラス、その他の暗黙曲面のような多様体を通して記述される複素幾何学の生成モデルを学ぶことに興味がある。 既存の(ユークリッド)生成モデルの現在の拡張は特定の幾何学に制限されており、通常計算コストが高い。 本稿では, 連続正規化フロー(CNF)ファミリーにおける生成モデルの新たなクラスであるMoser Flow(MF)を紹介する。 MFはまた、可変式の変更に対する解を通じてCNFを生成するが、他のCNF法とは異なり、そのモデル(学習された)密度は、ニューラルネットワーク(NN)のばらつきを除いたソース(事前)密度としてパラメータ化される。 発散は局所線型微分作用素であり、多様体上の近似や計算が容易である。 したがって、他のCNFとは異なり、MFは訓練中にODEソルバを介して呼び出しやバックプロパゲートを必要としない。 さらに、モデル密度をODEの解としてではなくNNの発散として明示的に表現することで、高忠実度密度の学習を容易にする。 理論的には、MFが適切な仮定の下で普遍密度近似器を構成することを証明している。 実験により, 一般曲面からの試料採取にフローモデルを用いることで, 既存のCNFに対する密度推定, サンプル品質, およびトレーニングの複雑さを, 地球・気候科学からの挑戦的な合成測地および実世界のベンチマークで大幅に改善した。

関連論文リスト

• Categorical Flow Matching on Statistical Manifolds [12.646272756981672]
  本稿では,情報幾何学に着想を得たパラメータ化確率尺度の多様体上でのフローマッチングフレームワークを提案する。 我々は,多様体間の微分同相法により数値安定性を克服する効率的なトレーニングとサンプリングアルゴリズムを開発した。 我々は、SFMが、既存のモデルがしばしば失敗するような統計多様体上でより複雑なパターンを学習できることを示した。
  論文  参考訳（メタデータ） (2024-05-26T05:50:39Z)
• Generative Modeling on Manifolds Through Mixture of Riemannian Diffusion Processes [57.396578974401734]
  一般多様体上に生成拡散過程を構築するための原理的枠組みを導入する。 従来の拡散モデルの認知的アプローチに従う代わりに、橋梁プロセスの混合を用いて拡散過程を構築する。 混合過程を幾何学的に理解し,データ点への接する方向の重み付け平均としてドリフトを導出する。
  論文  参考訳（メタデータ） (2023-10-11T06:04:40Z)
• Geometric Neural Diffusion Processes [55.891428654434634]
  拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。 これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
  論文  参考訳（メタデータ） (2023-07-11T16:51:38Z)
• Generalized Neural Closure Models with Interpretability [28.269731698116257]
  我々は、統合された神経部分遅延微分方程式の新規で汎用的な方法論を開発した。 マルコフ型および非マルコフ型ニューラルネットワーク(NN)の閉包パラメータ化を用いて, 偏微分方程式(PDE)における既存/低忠実度力学モデルを直接拡張する。 本研究では, 非線形波動, 衝撃波, 海洋酸性化モデルに基づく4つの実験セットを用いて, 新しい一般化ニューラルクロージャモデル(gnCMs)の枠組みを実証する。
  論文  参考訳（メタデータ） (2023-01-15T21:57:43Z)
• Marginalizable Density Models [14.50261153230204]
  本稿では,変数の任意の部分集合の確率,限界,条件に対するクローズドフォーム表現を提供する,新しいディープネットワークアーキテクチャを提案する。 このモデルはまた、変数数に時間複雑性の対数依存しか依存しない並列サンプリングを可能にする。
  論文  参考訳（メタデータ） (2021-06-08T23:54:48Z)
• E(n) Equivariant Normalizing Flows for Molecule Generation in 3D [87.12477361140716]
  本稿ではユークリッド対称性に同値な生成モデルを紹介する: E(n) 等変正規化フロー(E-NFs) 私たちの知る限りでは、これは3Dで分子を生成する可能性に基づく最初の深層生成モデルである。
  論文  参考訳（メタデータ） (2021-05-19T09:28:54Z)
• Neural Manifold Ordinary Differential Equations [46.25832801867149]
  マニフォールド連続正規化フロー(MCNF)の構築を可能にするニューラルマニフォールド正規微分方程式を導入する。 MCNFは変数の連続的な変化を伴う局所幾何学と計算確率のみを必要とする。 連続多様体力学の活用は、密度推定と下流タスクの両方において顕著な改善をもたらす。
  論文  参考訳（メタデータ） (2020-06-18T03:24:58Z)
• Flows for simultaneous manifold learning and density estimation [12.451050883955071]
  多様体学習フロー(M-flow)は、多様体構造を持つデータセットをより忠実に表現する。 M-フローはデータ多様体を学習し、周囲のデータ空間の標準フローよりも優れた推論を可能にする。
  論文  参考訳（メタデータ） (2020-03-31T02:07:48Z)
• Learning Likelihoods with Conditional Normalizing Flows [54.60456010771409]
  条件正規化フロー(CNF)はサンプリングと推論において効率的である。 出力空間写像に対する基底密度が入力 x 上で条件づけられた CNF について、条件密度 p(y|x) をモデル化する。
  論文  参考訳（メタデータ） (2019-11-29T19:17:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。