論文の概要: Joint Manifold Learning and Density Estimation Using Normalizing Flows
- arxiv url: http://arxiv.org/abs/2206.03293v1
- Date: Tue, 7 Jun 2022 13:35:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-08 20:35:25.566544
- Title: Joint Manifold Learning and Density Estimation Using Normalizing Flows
- Title（参考訳）: 正規化フローを用いた関節マニフォールド学習と密度推定
- Authors: Seyedeh Fatemeh Razavi, Mohammad Mahdi Mehmanchi, Reshad Hosseini,
Mostafa Tavassolipour
- Abstract要約: 問題に答えるために,1ピクセルあたりのペナル化と階層的トレーニングという2つのアプローチを導入する。
そこで本稿では,変換された空間をアンタングル化することで,共同多様体学習と密度推定を行う一段階法を提案する。
その結果, 共用多様体学習と密度推定において, 提案手法の優位性を検証した。
- 参考スコア（独自算出の注目度）: 4.939777212813711
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Based on the manifold hypothesis, real-world data often lie on a
low-dimensional manifold, while normalizing flows as a likelihood-based
generative model are incapable of finding this manifold due to their structural
constraints. So, one interesting question arises: $\textit{"Can we find
sub-manifold(s) of data in normalizing flows and estimate the density of the
data on the sub-manifold(s)?"}$. In this paper, we introduce two approaches,
namely per-pixel penalized log-likelihood and hierarchical training, to answer
the mentioned question. We propose a single-step method for joint manifold
learning and density estimation by disentangling the transformed space obtained
by normalizing flows to manifold and off-manifold parts. This is done by a
per-pixel penalized likelihood function for learning a sub-manifold of the
data. Normalizing flows assume the transformed data is Gaussianizationed, but
this imposed assumption is not necessarily true, especially in high dimensions.
To tackle this problem, a hierarchical training approach is employed to improve
the density estimation on the sub-manifold. The results validate the
superiority of the proposed methods in simultaneous manifold learning and
density estimation using normalizing flows in terms of generated image quality
and likelihood.
- Abstract（参考訳）: 多様体仮説に基づいて、実世界のデータはしばしば低次元多様体上に存在するが、確率に基づく生成モデルとしての正規化フローは、その構造的制約のためにこの多様体を見つけることができない。
なので、1つの興味深い疑問が生まれます: $\textit{" は、正規化フローにおけるデータのサブマニフォールドを見つけ、サブマニフォールド上のデータの密度を見積もることができますか?
本稿では,1ピクセルあたりのペナル化と階層的トレーニングという2つのアプローチを紹介する。
本稿では,多様体およびオフマニフォールド部分への流れの正規化により得られた変換空間を分離し,ジョイント多様体学習と密度推定のための単一ステップ法を提案する。
これは、データのサブマニフォールドを学習するためのピクセル単位のペナルティ化確率関数によって行われる。
正規化フローは変換されたデータがガウス化されていると仮定するが、この仮定は必ずしも真ではない。
この問題に対処するために,部分多様体の密度推定を改善するために階層的トレーニング手法が採用された。
この結果から,生成する画像品質と確率の観点で正規化フローを用いた同時多様体学習と密度推定における提案手法の優位性が検証された。
関連論文リスト
- Implicit Manifold Gaussian Process Regression [49.0787777751317]
ガウス過程の回帰は、よく校正された不確実性推定を提供するために広く用いられている。
これは、データが実際に存在する暗黙の低次元多様体のため、高次元データに苦しむ。
本稿では,データ(ラベル付きおよびラベルなし)から直接暗黙構造を完全に微分可能な方法で推定できる手法を提案する。
論文 参考訳（メタデータ） (2023-10-30T09:52:48Z) - Canonical normalizing flows for manifold learning [14.377143992248222]
そこで本研究では,新しい目的によって変換行列を強制し,顕著で非退化的な基底関数をほとんど持たない正準多様体学習フロー法を提案する。
正準多様体の流れは潜在空間をより効率的に利用し、データを表現するために顕著で異なる次元を自動生成する。
論文 参考訳（メタデータ） (2023-10-19T13:48:05Z) - Out-of-distribution detection using normalizing flows on the data
manifold [3.725042082196983]
本研究では,正規化フローを用いた多様体学習が分布外検出に及ぼす影響について検討した。
本研究では,正規化フローとして知られる確率ベースモデルの分布外検出能力を,多様体学習により向上させることを示す。
論文 参考訳（メタデータ） (2023-08-26T07:35:16Z) - Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳（メタデータ） (2023-07-25T18:47:53Z) - Convolutional Filtering on Sampled Manifolds [122.06927400759021]
サンプル多様体上の畳み込みフィルタリングは連続多様体フィルタリングに収束することを示す。
本研究は,ナビゲーション制御の問題点を実証的に明らかにした。
論文 参考訳（メタデータ） (2022-11-20T19:09:50Z) - ManiFlow: Implicitly Representing Manifolds with Normalizing Flows [145.9820993054072]
正規化フロー(NF)は、複雑な実世界のデータ分布を正確にモデル化することが示されているフレキシブルな明示的な生成モデルである。
摂動分布から標本を与えられた多様体上の最も可能性の高い点を復元する最適化目的を提案する。
最後に、NFsの明示的な性質、すなわち、ログのような勾配とログのような勾配から抽出された表面正規化を利用する3次元点雲に焦点を当てる。
論文 参考訳（メタデータ） (2022-08-18T16:07:59Z) - Nonlinear Isometric Manifold Learning for Injective Normalizing Flows [58.720142291102135]
アイソメトリーを用いて、多様体学習と密度推定を分離する。
また、確率分布を歪ませない明示的な逆数を持つ埋め込みを設計するためにオートエンコーダを用いる。
論文 参考訳（メタデータ） (2022-03-08T08:57:43Z) - Resampling Base Distributions of Normalizing Flows [0.0]
学習された拒絶サンプリングに基づいて,フローを正規化するためのベース分布を導入する。
ログライクリフの最大化と逆Kulback-Leibler分散の最適化の両方を用いて、適切な学習アルゴリズムを開発する。
論文 参考訳（メタデータ） (2021-10-29T14:44:44Z) - Tractable Density Estimation on Learned Manifolds with Conformal
Embedding Flows [0.0]
正規化フローは、単純な基底分布を複素対象分布に変換することにより、トラクタブル密度推定を提供する。
この問題を治療するための最近の試みは、正確な密度推定という、フローを正規化するという中心的な利益を損なう幾何学的な合併症を導入している。
我々は、訓練可能な共形埋め込みで標準流れを構成することが、多様体が支持するデータをモデル化する最も自然な方法であると主張する。
論文 参考訳（メタデータ） (2021-06-09T18:00:00Z) - Rectangular Flows for Manifold Learning [38.63646804834534]
正規化フローは、トラクタブル・オブ・ボリューム項を持つ可逆ニューラルネットワークである。
興味のあるデータは、通常、高次元の周囲空間に埋め込まれたいくつかの(しばしば未知の)低次元多様体に生きていると仮定される。
本稿では,モデルのパラメータに関して,この項の勾配を抽出可能な2つの手法を提案する。
論文 参考訳（メタデータ） (2021-06-02T18:30:39Z) - Learning Likelihoods with Conditional Normalizing Flows [54.60456010771409]
条件正規化フロー(CNF)はサンプリングと推論において効率的である。
出力空間写像に対する基底密度が入力 x 上で条件づけられた CNF について、条件密度 p(y|x) をモデル化する。
論文 参考訳（メタデータ） (2019-11-29T19:17:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。