論文の概要: Missing Data Imputation and Acquisition with Deep Hierarchical Models
and Hamiltonian Monte Carlo
- arxiv url: http://arxiv.org/abs/2202.04599v1
- Date: Wed, 9 Feb 2022 17:50:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-10 15:33:42.897575
- Title: Missing Data Imputation and Acquisition with Deep Hierarchical Models
and Hamiltonian Monte Carlo
- Title(参考訳): 深い階層モデルとハミルトンモンテカルロによるデータインプットと取得の欠如
- Authors: Ignacio Peis, Chao Ma and Jos\'e Miguel Hern\'andez-Lobato
- Abstract要約: 混合型不完全データに対する階層型VAEモデルであるHH-VAEMを提案する。
実験の結果,HH-VAEMはデータ計算の欠如,教師付き学習,外れ値同定といったタスクにおいて,既存のベースラインよりも優れていた。
また,HH-VAEMで特徴が得られない場合に,情報ゲインを効率的に計算するためのサンプリングベース手法を提案する。
- 参考スコア(独自算出の注目度): 2.666288135543677
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Variational Autoencoders (VAEs) have recently been highly successful at
imputing and acquiring heterogeneous missing data and identifying outliers.
However, within this specific application domain, existing VAE methods are
restricted by using only one layer of latent variables and strictly Gaussian
posterior approximations. To address these limitations, we present HH-VAEM, a
Hierarchical VAE model for mixed-type incomplete data that uses Hamiltonian
Monte Carlo with automatic hyper-parameter tuning for improved approximate
inference. Our experiments show that HH-VAEM outperforms existing baselines in
the tasks of missing data imputation, supervised learning and outlier
identification with missing features. Finally, we also present a sampling-based
approach for efficiently computing the information gain when missing features
are to be acquired with HH-VAEM. Our experiments show that this sampling-based
approach is superior to alternatives based on Gaussian approximations.
- Abstract(参考訳): 変分オートエンコーダ(vaes: variational autoencoder)は、最近、不均一なデータや異常値の特定に非常に成功している。
しかし、この特定のアプリケーション領域内では、既存のVAE法は、潜伏変数の1つの層と厳密なガウス後方近似を用いることで制限される。
これらの制約に対処するため,ハミルトニアンモンテカルロを用いた混合型不完全データのための階層型vaeモデルhh-vaemを提案する。
実験の結果,HH-VAEMはデータ計算の欠如,教師付き学習,特徴の欠如による外乱識別といったタスクにおいて,既存のベースラインよりも優れていた。
最後に,HH-VAEMで特徴を抽出する際の情報ゲインを効率的に計算するためのサンプリングベース手法を提案する。
実験の結果,このサンプリングベースアプローチはガウス近似に基づく代替法よりも優れていることがわかった。
関連論文リスト
- Minimally Supervised Learning using Topological Projections in
Self-Organizing Maps [55.31182147885694]
自己組織化マップ(SOM)におけるトポロジカルプロジェクションに基づく半教師付き学習手法を提案する。
提案手法は,まずラベル付きデータ上でSOMを訓練し,最小限のラベル付きデータポイントをキーベストマッチングユニット(BMU)に割り当てる。
提案した最小教師付きモデルが従来の回帰手法を大幅に上回ることを示す。
論文 参考訳(メタデータ) (2024-01-12T22:51:48Z) - Max-affine regression via first-order methods [7.12511675782289]
最大アフィンモデルは信号処理と統計学の応用においてユビキタスに現れる。
最大アフィン回帰に対する勾配降下(GD)とミニバッチ勾配降下(SGD)の非漸近収束解析を行った。
論文 参考訳(メタデータ) (2023-08-15T23:46:44Z) - Consensus-Adaptive RANSAC [104.87576373187426]
本稿では,パラメータ空間の探索を学習する新しいRANSACフレームワークを提案する。
注意機構は、ポイント・ツー・モデル残差のバッチで動作し、軽量のワンステップ・トランスフォーマーで見いだされたコンセンサスを考慮するために、ポイント・ツー・モデル推定状態を更新する。
論文 参考訳(メタデータ) (2023-07-26T08:25:46Z) - Learning from aggregated data with a maximum entropy model [73.63512438583375]
我々は,観測されていない特徴分布を最大エントロピー仮説で近似することにより,ロジスティック回帰と類似した新しいモデルが,集約データからのみ学習されることを示す。
我々は、この方法で学習したモデルが、完全な非凝集データでトレーニングされたロジスティックモデルに匹敵するパフォーマンスを達成することができるという、いくつかの公開データセットに関する実証的な証拠を提示する。
論文 参考訳(メタデータ) (2022-10-05T09:17:27Z) - Learning Conditional Variational Autoencoders with Missing Covariates [0.8563354084119061]
条件変分オートエンコーダ(CVAE)は、多種多様な深部生成モデルである。
CVAE および GP 以前のVAE を学習するための計算効率のよい手法を開発した。
本研究は,本手法が従来の手法よりも優れていることを示すとともに,シミュレーションデータセットに関する実験である。
論文 参考訳(メタデータ) (2022-03-02T16:22:09Z) - Imputation-Free Learning from Incomplete Observations [73.15386629370111]
本稿では,不備な値を含む入力からの推論をインプットなしでトレーニングするIGSGD法の重要性について紹介する。
バックプロパゲーションによるモデルのトレーニングに使用する勾配の調整には強化学習(RL)を用いる。
我々の計算自由予測は、最先端の計算手法を用いて従来の2段階の計算自由予測よりも優れている。
論文 参考訳(メタデータ) (2021-07-05T12:44:39Z) - Learning Nonparametric Volterra Kernels with Gaussian Processes [0.0]
本稿では、ガウス過程(GP)を用いて表現されたカーネルを持つボルテラ級数を用いて、非線形作用素の非パラメトリックベイズ学習法を提案する。
NVKMは、演算子への入力関数が観測されず、GP先行を持つとき、単出力と多重出力の両方の回帰のための強力な方法を構成し、非線形および非パラメトリック潜在力モデルと見なすことができる。
論文 参考訳(メタデータ) (2021-06-10T08:21:00Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z) - Model-based clustering of partial records [11.193504036335503]
観測値の限界密度を用いたモデルベースの手法でクラスタリング手法を開発しています。
提案アルゴリズムは,不完全データセットの欠落値を考慮した,対応する全期待最大化(EM)手法と比較する。
シミュレーション研究により,本手法は実クラスタ分割の回復に有利であることが示された。
論文 参考訳(メタデータ) (2021-03-30T13:30:59Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳(メタデータ) (2021-01-06T17:36:26Z) - A Bayesian Approach with Type-2 Student-tMembership Function for T-S
Model Identification [47.25472624305589]
2型ファジィセットに基づくファジィック回帰クラスタリングは,非スパースデータに対して顕著な結果を示した。
ファジック回帰モデルのための革新的アーキテクチャを示し、スパースデータモデリングのために設計された新しい学生分布に基づく会員関数を提案する。
論文 参考訳(メタデータ) (2020-09-02T05:10:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。