論文の概要: Learning Conditional Variational Autoencoders with Missing Covariates
- arxiv url: http://arxiv.org/abs/2203.01218v1
- Date: Wed, 2 Mar 2022 16:22:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-03 18:16:43.917636
- Title: Learning Conditional Variational Autoencoders with Missing Covariates
- Title(参考訳): 共変量の欠如を伴う学習条件付き変分オートエンコーダ
- Authors: Siddharth Ramchandran, Gleb Tikhonov, Otto L\"onnroth, Pekka
Tiikkainen, Harri L\"ahdesm\"aki
- Abstract要約: 条件変分オートエンコーダ(CVAE)は、多種多様な深部生成モデルである。
CVAE および GP 以前のVAE を学習するための計算効率のよい手法を開発した。
本研究は,本手法が従来の手法よりも優れていることを示すとともに,シミュレーションデータセットに関する実験である。
- 参考スコア(独自算出の注目度): 0.8563354084119061
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Conditional variational autoencoders (CVAEs) are versatile deep generative
models that extend the standard VAE framework by conditioning the generative
model with auxiliary covariates. The original CVAE model assumes that the data
samples are independent, whereas more recent conditional VAE models, such as
the Gaussian process (GP) prior VAEs, can account for complex correlation
structures across all data samples. While several methods have been proposed to
learn standard VAEs from partially observed datasets, these methods fall short
for conditional VAEs. In this work, we propose a method to learn conditional
VAEs from datasets in which auxiliary covariates can contain missing values as
well. The proposed method augments the conditional VAEs with a prior
distribution for the missing covariates and estimates their posterior using
amortised variational inference. At training time, our method marginalises the
uncertainty associated with the missing covariates while simultaneously
maximising the evidence lower bound. We develop computationally efficient
methods to learn CVAEs and GP prior VAEs that are compatible with
mini-batching. Our experiments on simulated datasets as well as on a clinical
trial study show that the proposed method outperforms previous methods in
learning conditional VAEs from non-temporal, temporal, and longitudinal
datasets.
- Abstract(参考訳): 条件変分オートエンコーダ(CVAE)は、補助共変量で生成モデルを条件付けすることで標準VAEフレームワークを拡張する汎用的な深部生成モデルである。
元のCVAEモデルは、データサンプルは独立であると仮定するが、より最近の条件付きVAEモデル(例えばガウス過程(GP)以前のVAE)は、すべてのデータサンプルにまたがる複雑な相関構造を説明できる。
部分的に観測されたデータセットから標準的なVAEを学習するためのいくつかの手法が提案されているが、条件付きVAEには不足している。
本研究では,補助共変量も欠落値を含むことができるデータセットから条件付きvaesを学習する手法を提案する。
提案手法は条件付きvaesを共変量の事前分布で補強し,その後方を不定形変分推論を用いて推定する。
訓練時,本手法は欠落した共変量に関する不確かさを軽減し,同時に証拠を最小限に抑える。
我々は,ミニバッチに適合するCVAEとGP前のVAEを計算効率よく学習する手法を開発した。
シミュレーションデータセットと臨床実験を行った結果,提案手法は,非時間的,時間的および縦方向のデータセットから条件的vaesを学習する従来の手法よりも優れていることがわかった。
関連論文リスト
- Improved Anomaly Detection through Conditional Latent Space VAE Ensembles [49.1574468325115]
条件付きラテント空間変分オートエンコーダ(CL-VAE)は、既知の不整形クラスと未知の不整形クラスを持つデータに対する異常検出のための前処理を改善した。
モデルでは異常検出の精度が向上し、MNISTデータセットで97.4%のAUCが達成された。
さらに、CL-VAEは、アンサンブルの利点、より解釈可能な潜在空間、モデルサイズに制限のある複雑なデータでパターンを学習する能力の増大を示す。
論文 参考訳(メタデータ) (2024-10-16T07:48:53Z) - Geometry-Aware Instrumental Variable Regression [56.16884466478886]
本稿では,データ導出情報によるデータ多様体の幾何を考慮した移動型IV推定器を提案する。
本手法のプラグイン・アンド・プレイ実装は,標準設定で関連する推定器と同等に動作する。
論文 参考訳(メタデータ) (2024-05-19T17:49:33Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Matching aggregate posteriors in the variational autoencoder [0.5759862457142761]
変分オートエンコーダ(VAE)は、よく研究され、深い、潜伏変数モデル(DLVM)である。
本稿では,VAE に付随する目的関数を改良することにより,VAE の欠点を克服する。
提案手法はEmphaggregate variational autoencoder (AVAE) と命名され,VAEの理論的枠組みに基づいて構築されている。
論文 参考訳(メタデータ) (2023-11-13T19:22:37Z) - Missing Data Imputation and Acquisition with Deep Hierarchical Models
and Hamiltonian Monte Carlo [2.666288135543677]
混合型不完全データに対する階層型VAEモデルであるHH-VAEMを提案する。
実験の結果,HH-VAEMはデータ計算の欠如,教師付き学習,外れ値同定といったタスクにおいて,既存のベースラインよりも優れていた。
また,HH-VAEMで特徴が得られない場合に,情報ゲインを効率的に計算するためのサンプリングベース手法を提案する。
論文 参考訳(メタデータ) (2022-02-09T17:50:52Z) - CSDI: Conditional Score-based Diffusion Models for Probabilistic Time
Series Imputation [107.63407690972139]
Conditional Score-based Diffusion Model for Imputation (CSDI) は、観測データに条件付きスコアベース拡散モデルを利用する新しい時系列計算法である。
CSDIは、一般的なパフォーマンスメトリクスの既存の確率論的計算方法よりも40-70%改善されている。
さらに、Cは最先端の決定論的計算法と比較して誤差を5-20%削減する。
論文 参考訳(メタデータ) (2021-07-07T22:20:24Z) - Contrastive Model Inversion for Data-Free Knowledge Distillation [60.08025054715192]
そこで、データ多様性を最適化可能な目的として明示的にモデル化するContrastive Model Inversionを提案します。
我々の主な観察では、同じ量のデータの制約の下では、高いデータの多様性は、通常より強いインスタンス識別を示す。
CIFAR-10, CIFAR-100, Tiny-ImageNetを用いた実験により, 生成したデータを知識蒸留に使用する場合, CMIは極めて優れた性能を示すことが示された。
論文 参考訳(メタデータ) (2021-05-18T15:13:00Z) - Medical data wrangling with sequential variational autoencoders [5.9207487081080705]
本稿では,逐次変分オートエンコーダ(vaes)を用いた異種データ型とバースト欠落データを用いた医療データ記録のモデル化を提案する。
GP-VAEモデルより計算複雑性が低く,両指標を用いた場合,Shi-VAEが最高の性能を発揮することを示す。
論文 参考訳(メタデータ) (2021-03-12T10:59:26Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z) - Approximate Cross-Validation for Structured Models [20.79997929155929]
金標準評価技術は構造化クロスバリデーション(CV)である
しかし、すでに拡張された学習アルゴリズムを何度も再実行する必要があるため、ここでのCVは違法に遅くなる可能性がある。
従来の研究では、近似クロスバリデーション(ACV)法が高速かつ確実な代替手段であることが示された。
論文 参考訳(メタデータ) (2020-06-23T00:06:03Z) - Longitudinal Variational Autoencoder [1.4680035572775534]
不足値を含む高次元データを解析するための一般的なアプローチは、変分オートエンコーダ(VAE)を用いた低次元表現を学習することである。
標準的なVAEは、学習した表現はi.d.であり、データサンプル間の相関を捉えることができないと仮定する。
本稿では,多出力加法的ガウス過程(GP)を用いて,構造化された低次元表現を学習するVAEの能力を拡張した縦型VAE(L-VAE)を提案する。
我々の手法は時間変化の共有効果とランダム効果の両方に同時に対応でき、構造化された低次元表現を生成する。
論文 参考訳(メタデータ) (2020-06-17T10:30:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。