論文の概要: A Tutorial on VAEs: From Bayes' Rule to Lossless Compression
- arxiv url: http://arxiv.org/abs/2006.10273v2
- Date: Tue, 30 Jun 2020 19:59:43 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-19 10:07:24.229819
- Title: A Tutorial on VAEs: From Bayes' Rule to Lossless Compression
- Title(参考訳): VAEに関するチュートリアル:ベイズのルールから無意味な圧縮へ
- Authors: Ronald Yu
- Abstract要約: 変分オートエンコーダ(VAE)は、単純で、効率的で、人気のある最深度モデルである。
本チュートリアルでは、VAEの概要と、VAE目標の様々な導出と解釈を通してのツアーについて紹介する。
- 参考スコア(独自算出の注目度): 4.924126492174802
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Variational Auto-Encoder (VAE) is a simple, efficient, and popular deep
maximum likelihood model. Though usage of VAEs is widespread, the derivation of
the VAE is not as widely understood. In this tutorial, we will provide an
overview of the VAE and a tour through various derivations and interpretations
of the VAE objective. From a probabilistic standpoint, we will examine the VAE
through the lens of Bayes' Rule, importance sampling, and the
change-of-variables formula. From an information theoretic standpoint, we will
examine the VAE through the lens of lossless compression and transmission
through a noisy channel. We will then identify two common misconceptions over
the VAE formulation and their practical consequences. Finally, we will
visualize the capabilities and limitations of VAEs using a code example (with
an accompanying Jupyter notebook) on toy 2D data.
- Abstract(参考訳): 変分オートエンコーダ(VAE)は、単純で、効率的で、人気のある最深度モデルである。
VAEの使用は広く行われているが、VAEの派生は広くは理解されていない。
本チュートリアルでは、VAEの概要と、VAE目標の様々な導出と解釈を通してのツアーについて紹介する。
確率論的観点からは、ベイズの法則のレンズ、重要サンプリング、変数の変化公式を通してvaeを調べる。
情報理論の観点からは、損失のない圧縮とノイズチャネルによる透過のレンズを通してVAEを調べる。
次に、VAEの定式化に関する2つの一般的な誤解とその実践的結果を特定する。
最後に、toy 2dデータ上のコード例(jupyter notebook付き)を使用して、vaesの機能と制限を視覚化します。
関連論文リスト
- Training Latent Variable Models with Auto-encoding Variational Bayes: A
Tutorial [0.0]
AEVB (Auto-Encoding Variational Bayes) は、潜在変数モデルに適合する強力なアルゴリズムである。
本稿では,従来の期待最大化(EM)アルゴリズムによるAEVBのモチベーションに着目した。
論文 参考訳(メタデータ) (2022-08-16T16:07:05Z) - Conditional Deep Hierarchical Variational Autoencoder for Voice
Conversion [5.538544897623972]
変分オートエンコーダに基づく音声変換(VAE-VC)は、訓練のために音声と話者ラベルのペアだけを必要とする利点がある。
本稿では, モデル表現性の増加がVAE-VCに与える影響について検討する。
論文 参考訳(メタデータ) (2021-12-06T05:54:11Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Variational Autoencoders: A Harmonic Perspective [79.49579654743341]
本研究では,高調波解析の観点から変分オートエンコーダ(VAE)について検討する。
VAEのエンコーダ分散は、VAEエンコーダとデコーダニューラルネットワークによってパラメータ化された関数の周波数内容を制御する。
論文 参考訳(メタデータ) (2021-05-31T10:39:25Z) - Hierarchical Variational Autoencoder for Visual Counterfactuals [79.86967775454316]
条件変量オート(VAE)は、説明可能な人工知能(XAI)ツールとして注目されている。
本稿では, 後部の効果がいかに緩和され, 対物的効果が成功するかを示す。
本稿では,アプリケーション内の分類器を視覚的に監査できる階層型VAEについて紹介する。
論文 参考訳(メタデータ) (2021-02-01T14:07:11Z) - VAE^2: Preventing Posterior Collapse of Variational Video Predictions in
the Wild [131.58069944312248]
本稿では,VAE-in-VAEまたはVAE$2の新規なVAE構造を提案する。
我々は、観察されたビデオシーケンスの一部を、その過去と未来を橋渡しするランダムな遷移状態として扱い、あらゆる可能な遷移状態の下で、ビデオシーケンス上のマルコフ連鎖の可能性を最大化する。
VAE$2$は、未来と観測の間の直接的な依存を断ち切るため、後方崩壊問題を広範囲に緩和することができ、トレーニングデータによって提供される決定的な未来を直接遅らせることはない。
論文 参考訳(メタデータ) (2021-01-28T15:06:08Z) - Soft-IntroVAE: Analyzing and Improving the Introspective Variational
Autoencoder [23.04222873330133]
Soft-IntroVAEは、生成されたサンプルのスムーズな指数的損失でヒンジ損失項を置き換える修正されたIntroVAEです。
我々は、IntroVAEがデータ分布とエントロピー項からのKL距離の合計を最小化する分布に収束することを示した。
本稿では,非教師なし画像翻訳と分布外検出に対するsoft-introvaeの2つの応用について述べる。
論文 参考訳(メタデータ) (2020-12-24T13:53:29Z) - Autoencoding Variational Autoencoder [56.05008520271406]
我々は,この行動が学習表現に与える影響と,自己整合性の概念を導入することでそれを修正する結果について検討する。
自己整合性アプローチで訓練されたエンコーダは、敵攻撃による入力の摂動に対して頑健な(無神経な)表現につながることを示す。
論文 参考訳(メタデータ) (2020-12-07T14:16:14Z) - Simple and Effective VAE Training with Calibrated Decoders [123.08908889310258]
変分オートエンコーダ(VAE)は、複雑な分布をモデル化するための効果的で簡単な方法である。
復号分布の不確かさを学習する校正復号器の影響について検討する。
本稿では,一般的なガウス復号器の簡易かつ斬新な修正を提案し,その予測分散を解析的に計算する。
論文 参考訳(メタデータ) (2020-06-23T17:57:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。