論文の概要: Principal Manifold Flows
- arxiv url: http://arxiv.org/abs/2202.07037v1
- Date: Mon, 14 Feb 2022 20:58:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-16 13:52:58.313924
- Title: Principal Manifold Flows
- Title(参考訳): 主多様体流れ
- Authors: Edmond Cunningham, Adam Cobb and Susmit Jha
- Abstract要約: フローの正規化の幾何学的構造を特徴付け,輪郭を用いた潜伏変数とサンプルの関係を理解する。
我々は、その輪郭が主多様体である主多様体フロー(PF)と呼ばれる新しい正規化フローのクラスを導入する。
従来の正規化フローでは不可能な,変数次元の多様体上のデータに対して,PFが密度推定を行うことを示す。
- 参考スコア(独自算出の注目度): 6.628230604022489
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Normalizing flows map an independent set of latent variables to their samples
using a bijective transformation. Despite the exact correspondence between
samples and latent variables, their high level relationship is not well
understood. In this paper we characterize the geometric structure of flows
using principal manifolds and understand the relationship between latent
variables and samples using contours. We introduce a novel class of normalizing
flows, called principal manifold flows (PF), whose contours are its principal
manifolds, and a variant for injective flows (iPF) that is more efficient to
train than regular injective flows. PFs can be constructed using any flow
architecture, are trained with a regularized maximum likelihood objective and
can perform density estimation on all of their principal manifolds. In our
experiments we show that PFs and iPFs are able to learn the principal manifolds
over a variety of datasets. Additionally, we show that PFs can perform density
estimation on data that lie on a manifold with variable dimensionality, which
is not possible with existing normalizing flows.
- Abstract(参考訳): 正規化フローは、単射変換を用いて独立な潜伏変数の集合をサンプルにマッピングする。
サンプルと潜在変数の正確な対応にもかかわらず、それらのハイレベルな関係はよく分かっていない。
本稿では,主多様体を用いた流れの幾何学的構造を特徴付け,輪郭を用いた潜伏変数とサンプルの関係を理解する。
本稿では,その輪郭が主多様体である主多様体流(pf)と呼ばれる新しい正規化流れのクラスと,通常の射出流よりも訓練しやすい射出流(ipf)の変種を導入する。
pfs は任意のフローアーキテクチャを用いて構築でき、正規化された最大度目標で訓練され、すべての主多様体上で密度推定を行うことができる。
実験の結果,PF と iPF は様々なデータセット上で主多様体を学習できることがわかった。
さらに,既存の正規化フローでは不可能である可変次元多様体上のデータに対して,pfsが密度推定を行うことができることを示した。
関連論文リスト
- Canonical normalizing flows for manifold learning [14.377143992248222]
そこで本研究では,新しい目的によって変換行列を強制し,顕著で非退化的な基底関数をほとんど持たない正準多様体学習フロー法を提案する。
正準多様体の流れは潜在空間をより効率的に利用し、データを表現するために顕著で異なる次元を自動生成する。
論文 参考訳(メタデータ) (2023-10-19T13:48:05Z) - Convolutional Filtering on Sampled Manifolds [122.06927400759021]
サンプル多様体上の畳み込みフィルタリングは連続多様体フィルタリングに収束することを示す。
本研究は,ナビゲーション制御の問題点を実証的に明らかにした。
論文 参考訳(メタデータ) (2022-11-20T19:09:50Z) - Understanding the Covariance Structure of Convolutional Filters [86.0964031294896]
最近では、ConvMixerやConvNeXtのようなViTにインスパイアされた畳み込みネットワークは、注目すべき構造を持つ大カーネル深度畳み込みを使用している。
まず,このような学習フィルタの共分散行列が高度に構造化されていることを観測し,より大規模なネットワークを効果的に初期化するために,小さなネットワークから計算した共分散が用いられることを発見した。
論文 参考訳(メタデータ) (2022-10-07T15:59:13Z) - Matching Normalizing Flows and Probability Paths on Manifolds [57.95251557443005]
連続正規化フロー (Continuous Normalizing Flows, CNFs) は、常微分方程式(ODE)を解くことによって、先行分布をモデル分布に変換する生成モデルである。
我々は,CNFが生成する確率密度パスと目標確率密度パスとの間に生じる新たな分岐系であるPPDを最小化して,CNFを訓練することを提案する。
PPDの最小化によって得られたCNFは、既存の低次元多様体のベンチマークにおいて、その可能性とサンプル品質が得られることを示す。
論文 参考訳(メタデータ) (2022-07-11T08:50:19Z) - Joint Manifold Learning and Density Estimation Using Normalizing Flows [4.939777212813711]
問題に答えるために,1ピクセルあたりのペナル化と階層的トレーニングという2つのアプローチを導入する。
そこで本稿では,変換された空間をアンタングル化することで,共同多様体学習と密度推定を行う一段階法を提案する。
その結果, 共用多様体学習と密度推定において, 提案手法の優位性を検証した。
論文 参考訳(メタデータ) (2022-06-07T13:35:14Z) - Nonlinear Isometric Manifold Learning for Injective Normalizing Flows [58.720142291102135]
アイソメトリーを用いて、多様体学習と密度推定を分離する。
また、確率分布を歪ませない明示的な逆数を持つ埋め込みを設計するためにオートエンコーダを用いる。
論文 参考訳(メタデータ) (2022-03-08T08:57:43Z) - Equivariant Discrete Normalizing Flows [10.867162810786361]
離散層を用いた等変正規化フローの構築に着目する。
2つの新しい同変フロー:$G$-カップリングフローと$G$-Residualフローを導入する。
我々の構成である$G$-Residual Flowsも普遍的であり、$G$-equivariant diffeomorphismが$G$-Residual Flowによって正確にマッピング可能であることを証明している。
論文 参考訳(メタデータ) (2021-10-16T20:16:00Z) - Moser Flow: Divergence-based Generative Modeling on Manifolds [49.04974733536027]
Moser Flow (MF) は連続正規化フロー(CNF)ファミリーにおける新しい生成モデルのクラスである
MFは、訓練中にODEソルバを介して呼び出しやバックプロパゲートを必要としない。
一般曲面からのサンプリングにおけるフローモデルの利用を初めて実演する。
論文 参考訳(メタデータ) (2021-08-18T09:00:24Z) - SurVAE Flows: Surjections to Bridge the Gap between VAEs and Flows [78.77808270452974]
SurVAE Flowsは、VAEと正規化フローを含む構成可能な変換のためのモジュラーフレームワークである。
提案手法は,SurVAE フローとして表現できることが示唆された。
論文 参考訳(メタデータ) (2020-07-06T13:13:22Z) - Normalizing Flows Across Dimensions [10.21537170623373]
我々は、次元をまたぐことができる正規化フローの一般化であるノイズ注入流(NIF)を導入する。
NIF は射影変換を用いて高次元データ空間内の学習可能な多様体にラテント空間を明示的にマッピングする。
実験により,本手法を既存のフローアーキテクチャに適用することにより,サンプルの品質を著しく向上し,分離可能なデータ埋め込みが得られることを示す。
論文 参考訳(メタデータ) (2020-06-23T14:47:18Z) - Flows for simultaneous manifold learning and density estimation [12.451050883955071]
多様体学習フロー(M-flow)は、多様体構造を持つデータセットをより忠実に表現する。
M-フローはデータ多様体を学習し、周囲のデータ空間の標準フローよりも優れた推論を可能にする。
論文 参考訳(メタデータ) (2020-03-31T02:07:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。