Fugu-MT 論文翻訳(概要): Conditional Sampling of Variational Autoencoders via Iterated Approximate Ancestral Sampling

論文の概要: Conditional Sampling of Variational Autoencoders via Iterated Approximate Ancestral Sampling

arxiv url: http://arxiv.org/abs/2308.09078v2
Date: Wed, 8 Nov 2023 15:37:27 GMT
ステータス: 処理完了
システム内更新日: 2023-11-09 19:11:15.232619
Title: Conditional Sampling of Variational Autoencoders via Iterated Approximate Ancestral Sampling
Title（参考訳）: 反復近似アンセストラルサンプリングによる変分オートエンコーダの条件サンプリング
Authors: Vaidotas Simkus and Michael U. Gutmann
Abstract要約: 変分オートエンコーダ(VAE)の条件付きサンプリングは、データ計算の欠如など、様々なアプリケーションで必要とされるが、計算上は難解である。基本的条件付きサンプリングはMetropolis-within-Gibbs (MWG)である
参考スコア（独自算出の注目度）: 7.357511266926065
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Conditional sampling of variational autoencoders (VAEs) is needed in various applications, such as missing data imputation, but is computationally intractable. A principled choice for asymptotically exact conditional sampling is Metropolis-within-Gibbs (MWG). However, we observe that the tendency of VAEs to learn a structured latent space, a commonly desired property, can cause the MWG sampler to get "stuck" far from the target distribution. This paper mitigates the limitations of MWG: we systematically outline the pitfalls in the context of VAEs, propose two original methods that address these pitfalls, and demonstrate an improved performance of the proposed methods on a set of sampling tasks.
Abstract（参考訳）: 変分オートエンコーダ(vaes)の条件付きサンプリングは、データインプテーションの欠如など様々なアプリケーションで必要とされるが、計算上は難解である。漸近的に正確な条件サンプリングの原則はMetropolis-within-Gibbs (MWG)である。しかし,vaesが構造的潜在空間(一般に望まれる性質)を学習する傾向が,mwgサンプラーを目標分布から遠ざからせる可能性があることを観察した。本稿では,vaesの文脈における落とし穴を体系的に概説し,これらの落とし穴に対処する2つの手法を提案し,一連のサンプリングタスクにおける提案手法の性能向上を実証する。

関連論文リスト

Variational Learning of Gaussian Process Latent Variable Models through Stochastic Gradient Annealed Importance Sampling [22.256068524699472]
本研究では,これらの問題に対処するために,Annealed Importance Smpling (AIS)アプローチを提案する。シークエンシャルモンテカルロサンプリング器とVIの強度を組み合わせることで、より広い範囲の後方分布を探索し、徐々にターゲット分布に接近する。実験結果から,本手法はより厳密な変動境界,高い対数類似度,より堅牢な収束率で最先端の手法より優れていることが示された。
論文参考訳（メタデータ） (2024-08-13T08:09:05Z)
Discrete Probabilistic Inference as Control in Multi-path Environments [84.67055173040107]
本稿では,離散分布と構造化分布からサンプリングする問題を逐次決定問題として考察する。我々は,GFlowNetが,フローの保存を強制することによって,報酬に比例してオブジェクトをサンプリングするポリシーを学習していることを示す。また、GFlowNetの文献で見られるフローマッチングの目的が、精度の高いMaxEnt RLアルゴリズムと等価であることも証明した。
論文参考訳（メタデータ） (2024-02-15T20:20:35Z)
Invariant Anomaly Detection under Distribution Shifts: A Causal Perspective [6.845698872290768]
異常検出(AD、Anomaly Detection)は、異常なサンプルを識別する機械学習タスクである。分散シフトの制約の下では、トレーニングサンプルとテストサンプルが同じ分布から引き出されるという仮定が崩壊する。我々は,異常検出モデルのレジリエンスを,異なる種類の分布シフトに高めようとしている。
論文参考訳（メタデータ） (2023-12-21T23:20:47Z)
Continual-MAE: Adaptive Distribution Masked Autoencoders for Continual Test-Time Adaptation [49.827306773992376]
連続的テスト時間適応(CTTA)は、ソース事前学習モデルから目標分布の連続的な変化に移行するために提案される。提案手法は,CTTAタスクの分類とセグメンテーションの両方において,最先端の性能を実現する。
論文参考訳（メタデータ） (2023-12-19T15:34:52Z)
Amortizing intractable inference in large language models [56.92471123778389]
難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
論文参考訳（メタデータ） (2023-10-06T16:36:08Z)
Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文参考訳（メタデータ） (2023-06-27T08:15:28Z)
Sampling from Discrete Energy-Based Models with Quality/Efficiency Trade-offs [3.491202838583993]
エネルギーベースモデル(EBM)は、確率分布の非常に柔軟な仕様を可能にする。これらの分布から正確なサンプルを得るためのメカニズムは提供されていない。そこで本研究では,サンプリング効率とサンプリング品質のトレードオフを可能にする,新しい近似サンプリング手法であるQuasi Rejection Smpling (QRS)を提案する。
論文参考訳（メタデータ） (2021-12-10T17:51:37Z)
Adversarial sampling of unknown and high-dimensional conditional distributions [0.0]
本稿では, GAN (Generative Adversarial Network) と呼ばれるデータ駆動方式を用いて, サンプリング法と基礎分布の推定を行う。 GANは、2つの競合するニューラルネットワークをトレーニングし、トレーニングセット分布からサンプルを効果的に生成できるネットワークを生成する。提案アルゴリズムのすべてのバージョンは, 対象条件分布を, サンプルの品質に最小限の影響で効果的にサンプリングできることが示されている。
論文参考訳（メタデータ） (2021-11-08T12:23:38Z)
Parallelised Diffeomorphic Sampling-based Motion Planning [30.310891362316863]
並列化拡散型サンプリングベースモーションプランニング(PDMP)を提案する。 PDMPは、サンプリングベースモーションプランナーのサンプリング分布を、正規化フローに似た方法で変換する。 PDMPは、コストの勾配情報を利用して、最適化ベースのモーションプランニング手法と同様の方法で仕様を注入することができる。
論文参考訳（メタデータ） (2021-08-26T13:15:11Z)
Oops I Took A Gradient: Scalable Sampling for Discrete Distributions [53.3142984019796]
このアプローチは、多くの困難な設定において、ジェネリックサンプリングよりも優れていることを示す。また,高次元離散データを用いた深部エネルギーモデルトレーニングのための改良型サンプリング器についても実演した。
論文参考訳（メタデータ） (2021-02-08T20:08:50Z)
Batch Stationary Distribution Estimation [98.18201132095066]
サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
論文参考訳（メタデータ） (2020-03-02T09:10:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。