論文の概要: Hyperbolic VAE via Latent Gaussian Distributions
- arxiv url: http://arxiv.org/abs/2209.15217v3
- Date: Sun, 29 Oct 2023 06:18:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-01 01:27:55.768392
- Title: Hyperbolic VAE via Latent Gaussian Distributions
- Title(参考訳): 潜在ガウス分布による双曲型VAE
- Authors: Seunghyuk Cho, Juyong Lee, Dongwoo Kim
- Abstract要約: 本稿ではガウス多様体の変分オートエンコーダ(GM-VAE)を提案する。
実験では、画像データセットの密度推定とモデルベース強化学習における環境モデリングの2つのタスクにおけるGM-VAEの有効性を実証した。
- 参考スコア(独自算出の注目度): 7.258394470200572
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose a Gaussian manifold variational auto-encoder (GM-VAE) whose latent
space consists of a set of Gaussian distributions. It is known that the set of
the univariate Gaussian distributions with the Fisher information metric form a
hyperbolic space, which we call a Gaussian manifold. To learn the VAE endowed
with the Gaussian manifolds, we propose a pseudo-Gaussian manifold normal
distribution based on the Kullback-Leibler divergence, a local approximation of
the squared Fisher-Rao distance, to define a density over the latent space. In
experiments, we demonstrate the efficacy of GM-VAE on two different tasks:
density estimation of image datasets and environment modeling in model-based
reinforcement learning. GM-VAE outperforms the other variants of hyperbolic-
and Euclidean-VAEs on density estimation tasks and shows competitive
performance in model-based reinforcement learning. We observe that our model
provides strong numerical stability, addressing a common limitation reported in
previous hyperbolic-VAEs.
- Abstract(参考訳): 本稿ではガウス多様体の変分オートエンコーダ(GM-VAE)を提案する。
フィッシャー情報計量による単変数ガウス分布の集合が双曲空間を形成し、ガウス多様体と呼ぶことが知られている。
ガウス多様体に与えられたvaeを学習するために,2乗フィッシャー・ラオ距離の局所近似であるkullback-leibler divergenceに基づく擬ガウス多様体正規分布を提案し,潜在空間上の密度を定義する。
実験では,gm-vaeが画像データセットの密度推定と,モデルベース強化学習における環境モデリングに有効であることを示す。
GM-VAEは密度推定タスクにおいて他の双曲型およびユークリッド型VAEよりも優れ、モデルベース強化学習における競合性能を示す。
我々は,従来の双曲型VAEで報告された共通制限に対処し,強い数値安定性を提供する。
関連論文リスト
- Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian
Mixture Models [59.331993845831946]
拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。
本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
論文 参考訳(メタデータ) (2024-03-03T23:15:48Z) - Scaling Riemannian Diffusion Models [68.52820280448991]
非自明な多様体上の高次元タスクにスケールできることを示す。
我々は、$SU(n)$格子上のQCD密度と高次元超球面上の対照的に学習された埋め込みをモデル化する。
論文 参考訳(メタデータ) (2023-10-30T21:27:53Z) - Wrapped Distributions on homogeneous Riemannian manifolds [58.720142291102135]
パラメータ、対称性、モダリティなどの分布の性質の制御は、フレキシブルな分布の族を生み出す。
変動型オートエンコーダと潜在空間ネットワークモデル内で提案した分布を利用して,我々のアプローチを実証的に検証する。
論文 参考訳(メタデータ) (2022-04-20T21:25:21Z) - Generalised Gaussian Process Latent Variable Models (GPLVM) with
Stochastic Variational Inference [9.468270453795409]
ミニバッチ学習が可能なBayesianVMモデルの2倍の定式化について検討する。
このフレームワークが、異なる潜在変数の定式化とどのように互換性を持つかを示し、モデルの組を比較する実験を行う。
我々は、膨大な量の欠落データの存在下でのトレーニングと、高忠実度再構築の実施を実証する。
論文 参考訳(メタデータ) (2022-02-25T21:21:51Z) - The Schr\"odinger Bridge between Gaussian Measures has a Closed Form [101.79851806388699]
我々は OT の動的定式化(Schr"odinger bridge (SB) 問題)に焦点を当てる。
本稿では,ガウス測度間のSBに対する閉形式表現について述べる。
論文 参考訳(メタデータ) (2022-02-11T15:59:01Z) - Gaussian Graphical Models as an Ensemble Method for Distributed Gaussian
Processes [8.4159776055506]
我々はガウスの専門家の予測をガウス図形モデル(GGM)により集約する新しいアプローチを提案する。
まず、予測最大化(EM)アルゴリズムを用いて、潜伏変数と観測変数の合同分布を推定する。
我々の新しい手法は他の最先端のDGP手法よりも優れている。
論文 参考訳(メタデータ) (2022-02-07T15:22:56Z) - Riemannian Score-Based Generative Modeling [56.20669989459281]
経験的性能を示すスコアベース生成モデル(SGM)を紹介する。
現在のSGMは、そのデータが平坦な幾何学を持つユークリッド多様体上で支えられているという前提を定めている。
これにより、ロボット工学、地球科学、タンパク質モデリングの応用にこれらのモデルを使用することができない。
論文 参考訳(メタデータ) (2022-02-06T11:57:39Z) - Variational Filtering with Copula Models for SLAM [5.242618356321224]
より広い分布のクラスと同時局所化とマッピング(SLAM)を同時に行うことができるかを示す。
分布モデルとコプラを逐次モンテカルロ推定器に統合し、勾配に基づく最適化によって未知のモデルパラメータがいかに学習できるかを示す。
論文 参考訳(メタデータ) (2020-08-02T15:38:23Z) - Sparse Gaussian Processes with Spherical Harmonic Features [14.72311048788194]
領域間変分ガウス過程(GP)の新たなクラスを導入する。
我々の推論スキームは変分フーリエの特徴に匹敵するが、次元の呪いに苦しむことはない。
実験の結果,本モデルでは,600万項目のデータセットに対して,2桁の精度で回帰モデルを適合させることができることがわかった。
論文 参考訳(メタデータ) (2020-06-30T10:19:32Z) - Variational Hyper-Encoding Networks [62.74164588885455]
ニューラルネットワークパラメータの分布を符号化するHyperVAEというフレームワークを提案する。
遅延符号の後部分布を予測し,行列ネットワークデコーダを用いて後部分布q(theta)を生成する。
論文 参考訳(メタデータ) (2020-05-18T06:46:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。