論文の概要: Normalizing Flows Across Dimensions
- arxiv url: http://arxiv.org/abs/2006.13070v1
- Date: Tue, 23 Jun 2020 14:47:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-17 22:07:52.226969
- Title: Normalizing Flows Across Dimensions
- Title(参考訳): 次元にまたがる正規化流れ
- Authors: Edmond Cunningham, Renos Zabounidis, Abhinav Agrawal, Madalina
Fiterau, Daniel Sheldon
- Abstract要約: 我々は、次元をまたぐことができる正規化フローの一般化であるノイズ注入流(NIF)を導入する。
NIF は射影変換を用いて高次元データ空間内の学習可能な多様体にラテント空間を明示的にマッピングする。
実験により,本手法を既存のフローアーキテクチャに適用することにより,サンプルの品質を著しく向上し,分離可能なデータ埋め込みが得られることを示す。
- 参考スコア(独自算出の注目度): 10.21537170623373
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Real-world data with underlying structure, such as pictures of faces, are
hypothesized to lie on a low-dimensional manifold. This manifold hypothesis has
motivated state-of-the-art generative algorithms that learn low-dimensional
data representations. Unfortunately, a popular generative model, normalizing
flows, cannot take advantage of this. Normalizing flows are based on successive
variable transformations that are, by design, incapable of learning
lower-dimensional representations. In this paper we introduce noisy injective
flows (NIF), a generalization of normalizing flows that can go across
dimensions. NIF explicitly map the latent space to a learnable manifold in a
high-dimensional data space using injective transformations. We further employ
an additive noise model to account for deviations from the manifold and
identify a stochastic inverse of the generative process. Empirically, we
demonstrate that a simple application of our method to existing flow
architectures can significantly improve sample quality and yield separable data
embeddings.
- Abstract(参考訳): 顔の写真のような構造を持つ実世界データは、低次元多様体上に存在すると仮定される。
この多様体仮説は、低次元データ表現を学習する最先端の生成アルゴリズムを動機付けている。
残念ながら、フローの正規化という一般的な生成モデルは、これを活用できない。
正規化フローは、設計上、低次元表現を学習できない連続的な変数変換に基づいている。
本稿では,次元を横切ることができる正規化フローの一般化であるノイズ注入流(NIF)を紹介する。
NIF は射影変換を用いて高次元データ空間内の学習可能な多様体にラテント空間を明示的にマッピングする。
さらに,多様体からの偏差を考慮した付加雑音モデルを採用し,生成過程の確率的逆数を同定する。
実験により,本手法を既存のフローアーキテクチャに適用することにより,サンプルの品質を著しく向上し,分離可能なデータ埋め込みが得られることを示す。
関連論文リスト
- Implicit Manifold Gaussian Process Regression [49.0787777751317]
ガウス過程の回帰は、よく校正された不確実性推定を提供するために広く用いられている。
これは、データが実際に存在する暗黙の低次元多様体のため、高次元データに苦しむ。
本稿では,データ(ラベル付きおよびラベルなし)から直接暗黙構造を完全に微分可能な方法で推定できる手法を提案する。
論文 参考訳(メタデータ) (2023-10-30T09:52:48Z) - Canonical normalizing flows for manifold learning [14.377143992248222]
そこで本研究では,新しい目的によって変換行列を強制し,顕著で非退化的な基底関数をほとんど持たない正準多様体学習フロー法を提案する。
正準多様体の流れは潜在空間をより効率的に利用し、データを表現するために顕著で異なる次元を自動生成する。
論文 参考訳(メタデータ) (2023-10-19T13:48:05Z) - VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。
ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。
本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2023-04-03T13:13:19Z) - ManiFlow: Implicitly Representing Manifolds with Normalizing Flows [145.9820993054072]
正規化フロー(NF)は、複雑な実世界のデータ分布を正確にモデル化することが示されているフレキシブルな明示的な生成モデルである。
摂動分布から標本を与えられた多様体上の最も可能性の高い点を復元する最適化目的を提案する。
最後に、NFsの明示的な性質、すなわち、ログのような勾配とログのような勾配から抽出された表面正規化を利用する3次元点雲に焦点を当てる。
論文 参考訳(メタデータ) (2022-08-18T16:07:59Z) - Joint Manifold Learning and Density Estimation Using Normalizing Flows [4.939777212813711]
問題に答えるために,1ピクセルあたりのペナル化と階層的トレーニングという2つのアプローチを導入する。
そこで本稿では,変換された空間をアンタングル化することで,共同多様体学習と密度推定を行う一段階法を提案する。
その結果, 共用多様体学習と密度推定において, 提案手法の優位性を検証した。
論文 参考訳(メタデータ) (2022-06-07T13:35:14Z) - Nonlinear Isometric Manifold Learning for Injective Normalizing Flows [58.720142291102135]
アイソメトリーを用いて、多様体学習と密度推定を分離する。
また、確率分布を歪ませない明示的な逆数を持つ埋め込みを設計するためにオートエンコーダを用いる。
論文 参考訳(メタデータ) (2022-03-08T08:57:43Z) - Principal Manifold Flows [6.628230604022489]
フローの正規化の幾何学的構造を特徴付け,輪郭を用いた潜伏変数とサンプルの関係を理解する。
我々は、その輪郭が主多様体である主多様体フロー(PF)と呼ばれる新しい正規化フローのクラスを導入する。
従来の正規化フローでは不可能な,変数次元の多様体上のデータに対して,PFが密度推定を行うことを示す。
論文 参考訳(メタデータ) (2022-02-14T20:58:15Z) - Funnels: Exact maximum likelihood with dimensionality reduction [6.201770337181472]
我々は、SurVAEフレームワークを使用して、ファンネルと呼ばれる新しい層を介して、サージェクティブフローを減らす次元を構築する。
提案手法の有効性を様々なデータセットで示すとともに,既存のフローの性能を向上または一致させるとともに,遅延空間サイズを小さくすることを示す。
論文 参考訳(メタデータ) (2021-12-15T12:20:25Z) - Discrete Denoising Flows [87.44537620217673]
分類的確率変数に対する離散的フローベースモデル(DDF)を提案する。
他の離散フローベースモデルとは対照的に、我々のモデルは勾配バイアスを導入することなく局所的に訓練することができる。
そこで本研究では, DDFs が離散フローより優れていることを示し, 対数類似度で測定した2値MNIST と Cityscapes のセグメンテーションマップをモデル化した。
論文 参考訳(メタデータ) (2021-07-24T14:47:22Z) - Rectangular Flows for Manifold Learning [38.63646804834534]
正規化フローは、トラクタブル・オブ・ボリューム項を持つ可逆ニューラルネットワークである。
興味のあるデータは、通常、高次元の周囲空間に埋め込まれたいくつかの(しばしば未知の)低次元多様体に生きていると仮定される。
本稿では,モデルのパラメータに関して,この項の勾配を抽出可能な2つの手法を提案する。
論文 参考訳(メタデータ) (2021-06-02T18:30:39Z) - SurVAE Flows: Surjections to Bridge the Gap between VAEs and Flows [78.77808270452974]
SurVAE Flowsは、VAEと正規化フローを含む構成可能な変換のためのモジュラーフレームワークである。
提案手法は,SurVAE フローとして表現できることが示唆された。
論文 参考訳(メタデータ) (2020-07-06T13:13:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。