Fugu-MT 論文翻訳(概要): Bounding Evidence and Estimating Log-Likelihood in VAE

論文の概要: Bounding Evidence and Estimating Log-Likelihood in VAE

arxiv url: http://arxiv.org/abs/2206.09453v1
Date: Sun, 19 Jun 2022 17:13:58 GMT
ステータス: 処理完了
システム内更新日: 2022-06-22 13:06:47.674188
Title: Bounding Evidence and Estimating Log-Likelihood in VAE
Title（参考訳）: VAEにおけるログ類似度の評価と検証
Authors: {\L}ukasz Struski, Marcin Mazur, Pawe{\l} Batorski, Przemys{\l}aw Spurek, Jacek Tabor
Abstract要約: 変分ギャップの一般的かつ効果的な上限を示し、真の証拠を効率的に見積もることができる。この推定を適用することで,VAEモデルのログ類似度について,下限と上限を容易に取得できることが示される。
参考スコア（独自算出の注目度）: 11.874810254210619
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Many crucial problems in deep learning and statistics are caused by a variational gap, i.e., a difference between evidence and evidence lower bound (ELBO). As a consequence, in the classical VAE model, we obtain only the lower bound on the log-likelihood since ELBO is used as a cost function, and therefore we cannot compare log-likelihood between models. In this paper, we present a general and effective upper bound of the variational gap, which allows us to efficiently estimate the true evidence. We provide an extensive theoretical study of the proposed approach. Moreover, we show that by applying our estimation, we can easily obtain lower and upper bounds for the log-likelihood of VAE models.
Abstract（参考訳）: 深層学習と統計学における多くの重要な問題は、証拠と証拠の低い境界(ELBO)の違いによって引き起こされる。その結果,従来のVAEモデルでは,ELBOがコスト関数として使用されるため,対数類似度が低い値しか得られないので,モデル間で対数類似度を比較することはできない。本稿では,変分ギャップの一般的かつ効果的な上限を提示することで,真の証拠を効率的に推定する。提案手法の広範な理論的研究について述べる。さらに, この推定を適用して, VAEモデルのログ類似度に対する下限と上限を容易に得ることを示す。

関連論文リスト

Nonparametric logistic regression with deep learning [1.2509746979383698]
非パラメトリックロジスティック回帰では、クルバック・リーバーの発散は容易に発散できる。余剰リスクを解析する代わりに、最大可能性推定器の一貫性を示すのに十分である。重要な応用として、深層ニューラルネットワークによるNPMLEの収束率を導出する。
論文参考訳（メタデータ） (2024-01-23T04:31:49Z)
Rethinking Test-time Likelihood: The Likelihood Path Principle and Its Application to OOD Detection [5.747789057967598]
我々は、可能性経路(LPath)原理を導入し、可能性原理を一般化する。これにより、情報的要約統計の探索を、VAEsの条件付き確率の最小限の統計量にまで絞り込む。対応するLPathアルゴリズムは、推定値の低い単純かつ小さなVAEでもSOTA性能を示す。
論文参考訳（メタデータ） (2024-01-10T05:07:14Z)
Forward $\chi^2$ Divergence Based Variational Importance Sampling [2.841087763205822]
本稿では,ログ類似度を直接推定し,最大化する新しい変動重要度サンプリング(VIS)手法を提案する。我々は、混合モデル、変分自動エンコーダ、部分的に観測可能な一般化線形モデルなど、様々な一般的な潜在変数モデルにVISを適用する。
論文参考訳（メタデータ） (2023-11-04T21:46:28Z)
On the Trade-offs between Adversarial Robustness and Actionable Explanations [32.05150063480917]
本研究は, 対向的に頑健なモデルが動作可能な説明に与える影響を初めて研究する試みである。提案手法は,最先端のアルゴリズムが生成する手法のコストと妥当性の差に関する理論的境界を導出する。その結果, 逆向き頑健なモデルでは, コストが大幅に増加し, 結果の妥当性が低下することが示唆された。
論文参考訳（メタデータ） (2023-09-28T13:59:50Z)
Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
論文参考訳（メタデータ） (2023-06-09T08:30:51Z)
MaxMatch: Semi-Supervised Learning with Worst-Case Consistency [149.03760479533855]
半教師付き学習(SSL)のための最悪ケース整合正則化手法を提案する。本稿では,ラベル付きトレーニングデータとラベル付きトレーニングデータとを別々に比較した経験的損失項からなるSSLの一般化について述べる。この境界によって動機づけられたSSLの目的は、元のラベルのないサンプルと、その複数の拡張版との最大の矛盾を最小限に抑えるものである。
論文参考訳（メタデータ） (2022-09-26T12:04:49Z)
Flexible Amortized Variational Inference in qBOLD MRI [56.4324135502282]
データから酸素抽出率(OEF)と脱酸素血液量(DBV)をより明瞭に決定する。既存の推論手法では、DBVを過大評価しながら非常にノイズの多い、過小評価されたEFマップが得られる傾向にある。本研究は, OEFとDBVの可算分布を推定できる確率論的機械学習手法について述べる。
論文参考訳（メタデータ） (2022-03-11T10:47:16Z)
Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
因果機構は構造因果モデルによって記述できる。最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
論文参考訳（メタデータ） (2021-09-06T14:52:58Z)
Counterfactual Maximum Likelihood Estimation for Training Deep Networks [83.44219640437657]
深層学習モデルは、予測的手がかりとして学習すべきでない急激な相関を学習する傾向がある。本研究では,観測可能な共同設立者による相関関係の緩和を目的とした因果関係に基づくトレーニングフレームワークを提案する。自然言語推論(NLI)と画像キャプションという2つの実世界の課題について実験を行った。
論文参考訳（メタデータ） (2021-06-07T17:47:16Z)
A Multi-Level Attention Model for Evidence-Based Fact Checking [58.95413968110558]
シーケンス構造をトレーニング可能な,シンプルなモデルを提案する。 Fact extract and VERification のための大規模データセットの結果、我々のモデルはグラフベースのアプローチよりも優れていることが示された。
論文参考訳（メタデータ） (2021-06-02T05:40:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。