論文の概要: q-VAE for Disentangled Representation Learning and Latent Dynamical
Systems
- arxiv url: http://arxiv.org/abs/2003.01852v3
- Date: Thu, 26 Aug 2021 02:15:13 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-26 12:41:02.980178
- Title: q-VAE for Disentangled Representation Learning and Latent Dynamical
Systems
- Title(参考訳): 分散表現学習と潜在力学系のためのq-VAE
- Authors: Taisuke Kobayashi
- Abstract要約: q-VAEと呼ばれるTsallis統計から導出される変分オートエンコーダ(VAE)を提案する。
提案手法では,サンプルデータに隠された潜伏空間を統計的に抽出するために標準VAEを用いる。
- 参考スコア(独自算出の注目度): 8.071506311915396
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A variational autoencoder (VAE) derived from Tsallis statistics called q-VAE
is proposed. In the proposed method, a standard VAE is employed to
statistically extract latent space hidden in sampled data, and this latent
space helps make robots controllable in feasible computational time and cost.
To improve the usefulness of the latent space, this paper focuses on
disentangled representation learning, e.g., $\beta$-VAE, which is the baseline
for it. Starting from a Tsallis statistics perspective, a new lower bound for
the proposed q-VAE is derived to maximize the likelihood of the sampled data,
which can be considered an adaptive $\beta$-VAE with deformed Kullback-Leibler
divergence. To verify the benefits of the proposed q-VAE, a benchmark task to
extract the latent space from the MNIST dataset was performed. The results
demonstrate that the proposed q-VAE improved disentangled representation while
maintaining the reconstruction accuracy of the data. In addition, it relaxes
the independency condition between data, which is demonstrated by learning the
latent dynamics of nonlinear dynamical systems. By combining disentangled
representation, the proposed q-VAE achieves stable and accurate long-term state
prediction from the initial state and the action sequence.
The dataset for hexapod walking is available on IEEE Dataport, doi:
https://dx.doi.org/10.21227/99af-jw71.
- Abstract(参考訳): q-VAEと呼ばれるTsallis統計から導出される変分オートエンコーダ(VAE)を提案する。
提案手法では,標本データに隠された潜在空間を統計的に抽出するために標準のvaeが用いられ,この潜在空間はロボットが計算可能な時間とコストで制御できるようにする。
潜在空間の有用性を改善するために,本稿では,そのベースラインである$\beta$-VAEなどの非絡み合い表現学習に焦点を当てる。
Tsallis統計の観点から、提案したq-VAEの新たな下限は、サンプルデータの可能性を最大化するために導出され、これは、変形したKullback-Leiblerの発散を伴う適応的な$\beta$-VAEと見なすことができる。
提案したq-VAEの利点を検証するため,MNISTデータセットから潜在空間を抽出するベンチマークタスクを行った。
その結果,提案したq-VAEはデータ再構成精度を維持しつつ,不整合表現を改善した。
さらに、非線形力学系の潜在力学を学習することで示されるデータ間の非依存状態を緩和する。
不連続表現を組み合わせることで、提案するq-vaeは初期状態と動作シーケンスから安定かつ正確な長期状態予測を実現する。
hexapod walkingのデータセットは、IEEE Dataport, doi: https://dx.doi.org/10.21227/99af-jw71で公開されている。
関連論文リスト
- Improved Anomaly Detection through Conditional Latent Space VAE Ensembles [49.1574468325115]
条件付きラテント空間変分オートエンコーダ(CL-VAE)は、既知の不整形クラスと未知の不整形クラスを持つデータに対する異常検出のための前処理を改善した。
モデルでは異常検出の精度が向上し、MNISTデータセットで97.4%のAUCが達成された。
さらに、CL-VAEは、アンサンブルの利点、より解釈可能な潜在空間、モデルサイズに制限のある複雑なデータでパターンを学習する能力の増大を示す。
論文 参考訳(メタデータ) (2024-10-16T07:48:53Z) - RegaVAE: A Retrieval-Augmented Gaussian Mixture Variational Auto-Encoder
for Language Modeling [79.56442336234221]
可変オートエンコーダ(VAE)に基づく検索拡張言語モデルであるRegaVAEを紹介する。
テキストコーパスを潜在空間にエンコードし、ソースとターゲットの両方のテキストから現在と将来の情報をキャプチャする。
各種データセットに対する実験結果から,テキスト生成品質と幻覚除去の大幅な改善が示された。
論文 参考訳(メタデータ) (2023-10-16T16:42:01Z) - Symmetric Equilibrium Learning of VAEs [56.56929742714685]
可変オートエンコーダ(VAE)をデコーダ-エンコーダペアとみなし,データ空間内の分布を潜在空間内の分布にマッピングする。
本研究では,エンコーダとデコーダに対して対称なナッシュ均衡学習手法を提案し,データと潜伏分布の両方がサンプリングによってのみアクセス可能な状況下でのVAEの学習を可能にする。
論文 参考訳(メタデータ) (2023-07-19T10:27:34Z) - Value function estimation using conditional diffusion models for control [62.27184818047923]
拡散値関数(DVF)と呼ばれる単純なアルゴリズムを提案する。
拡散モデルを用いて環境-ロボット相互作用の連成多段階モデルを学ぶ。
本稿では,DVFを用いて複数のコントローラの状態を効率よく把握する方法を示す。
論文 参考訳(メタデータ) (2023-06-09T18:40:55Z) - RENs: Relevance Encoding Networks [0.0]
本稿では,遅延空間に先行する自動相対性決定(ARD)を用いて,データ固有のボトルネック次元を学習する新しい確率的VOEベースのフレームワークであるrelevance encoding network (RENs)を提案する。
提案モデルは,サンプルの表現や生成品質を損なうことなく,関連性のあるボトルネック次元を学習することを示す。
論文 参考訳(メタデータ) (2022-05-25T21:53:48Z) - A Variational Autoencoder for Heterogeneous Temporal and Longitudinal
Data [0.3749861135832073]
近年,経時的および経時的データを処理可能なVAEの拡張は,医療,行動モデリング,予測保守に応用されている。
本研究では,既存の時間的および縦的VAEをヘテロジニアスデータに拡張するヘテロジニアス縦型VAE(HL-VAE)を提案する。
HL-VAEは高次元データセットに対する効率的な推論を提供し、連続、カウント、カテゴリー、順序データのための可能性モデルを含む。
論文 参考訳(メタデータ) (2022-04-20T10:18:39Z) - Covariate-informed Representation Learning with Samplewise Optimal
Identifiable Variational Autoencoders [15.254297587065595]
最近提案された変分オートエンコーダ (iVAE) は、データの潜在独立成分を学習するための有望なアプローチを提供する。
我々は新しいアプローチ、CI-iVAE(co-informed identible VAE)を開発した。
目的関数は逆関係を強制し、学習された表現はより多くの観測情報を含む。
論文 参考訳(メタデータ) (2022-02-09T00:18:33Z) - Learning Summary Statistics for Bayesian Inference with Autoencoders [58.720142291102135]
我々は,ディープニューラルネットワークに基づくオートエンコーダの内部次元を要約統計として利用する。
パラメータ関連情報を全て符号化するエンコーダのインセンティブを作成するため,トレーニングデータの生成に使用した暗黙的情報にデコーダがアクセスできるようにする。
論文 参考訳(メタデータ) (2022-01-28T12:00:31Z) - Reproducible, incremental representation learning with Rosetta VAE [0.0]
変分オートエンコーダは、高次元データから低次元構造を蒸留する最も一般的な方法の一つである。
我々は、以前に学習した表現を蒸留し、新しいモデルを再現し、事前の結果に基づいて構築する手法であるRosetta VAEを紹介する。
R-VAEは、VAEや$beta$-VAEと同様にデータを再構成し、連続的なトレーニング環境でターゲット潜在空間の回復において、両方の手法より優れていることを示す。
論文 参考訳(メタデータ) (2022-01-13T20:45:35Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Unsupervised Learning of slow features for Data Efficient Regression [15.73372211126635]
本稿では、遅延表現に時間的類似性制約を適用した$beta$-VAEの拡張である、遅い変分オートエンコーダ(S-VAE)を提案する。
合成2次元球追跡データセットと、最近の学習環境からのデータセットとDeepMind Lab環境から生成されたデータセットを用いて、下流タスクのデータ効率に対する3つの手法を評価する。
論文 参考訳(メタデータ) (2020-12-11T12:19:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。