Fugu-MT 論文翻訳(概要): Preventing posterior collapse in variational autoencoders for text generation via decoder regularization

論文の概要: Preventing posterior collapse in variational autoencoders for text generation via decoder regularization

arxiv url: http://arxiv.org/abs/2110.14945v1
Date: Thu, 28 Oct 2021 08:32:27 GMT
ステータス: 処理完了
システム内更新日: 2021-10-29 14:22:43.725098
Title: Preventing posterior collapse in variational autoencoders for text generation via decoder regularization
Title（参考訳）: デコーダ正規化によるテキスト生成用変分オートエンコーダの後方崩壊防止
Authors: Alban Petit and Caio Corro
Abstract要約: 本研究では, 後方崩壊を防止するために, フラタナルドロップアウトに基づく新たな正規化手法を提案する。いくつかのメトリクスを使ってアプローチを評価し、テストされたすべての構成の改善を観察する。
参考スコア（独自算出の注目度）: 7.259279261659759
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Variational autoencoders trained to minimize the reconstruction error are sensitive to the posterior collapse problem, that is the proposal posterior distribution is always equal to the prior. We propose a novel regularization method based on fraternal dropout to prevent posterior collapse. We evaluate our approach using several metrics and observe improvements in all the tested configurations.
Abstract（参考訳）: 再構成誤差を最小限に抑えるために訓練された変分オートエンコーダは、後部崩壊問題に敏感である。後方崩壊を防止するために, フラタナルドロップアウトに基づく新しい正規化法を提案する。いくつかのメトリクスを使ってアプローチを評価し、テストされたすべての構成の改善を観察する。

関連論文リスト

Divide-and-Conquer Posterior Sampling for Denoising Diffusion Priors [21.0128625037708]
提案手法は, 分割・分散型後方サンプリング方式である。これにより、再トレーニングを必要とせずに、現在のテクニックに関連する近似誤差を低減することができる。ベイズ逆問題に対するアプローチの汎用性と有効性を示す。
論文参考訳（メタデータ） (2024-03-18T01:47:24Z)
Improving Diffusion Models for Inverse Problems Using Optimal Posterior Covariance [52.093434664236014]
近年の拡散モデルは、特定の逆問題に対して再訓練することなく、ノイズの多い線形逆問題に対する有望なゼロショット解を提供する。この発見に触発されて、我々は、最大推定値から決定されるより原理化された共分散を用いて、最近の手法を改善することを提案する。
論文参考訳（メタデータ） (2024-02-03T13:35:39Z)
Posterior Consistency for Missing Data in Variational Autoencoders [11.18081298867526]
本稿では,データから変分オートエンコーダ(VAE)を学習する際の問題点について考察する。本稿では,この整合性を促進するエンコーダの後部分布の正規化手法を提案する。この改良された性能は、正規化フローを備えたVAEを含む多くのVAEのクラスで観測できる。
論文参考訳（メタデータ） (2023-10-25T13:56:02Z)
Look-back Decoding for Open-Ended Text Generation [62.53302138266465]
本研究では,現在の復号化過程と過去の復号化過程の分布距離を追跡する改良された復号化アルゴリズムであるLook-backを提案する。ルックバックは、潜在的反復句とトピックドリフトを自動的に予測し、障害モードを引き起こす可能性のあるトークンを削除することができる。文書の継続とストーリー生成に関する復号実験を行い、Look-backがより流動的で一貫性のあるテキストを生成することを実証する。
論文参考訳（メタデータ） (2023-05-22T20:42:37Z)
Controlling Posterior Collapse by an Inverse Lipschitz Constraint on the Decoder Network [37.43129242269175]
変分オートエンコーダ(VAE)は、過去数十年にわたって大きな成功を収めてきた深層生成モデルの1つである。 VAEは後部崩壊と呼ばれる問題に悩まされ、エンコーダが故障した時に発生する。逆リプシッツニューラルネットワークをデコーダに導入し、このアーキテクチャに基づいて、後方崩壊の度合いをシンプルで明確な方法で制御できる新しい方法を提案する。
論文参考訳（メタデータ） (2023-04-25T12:45:06Z)
Making Reconstruction-based Method Great Again for Video Anomaly Detection [64.19326819088563]
ビデオの異常検出は重要な問題だが、難しい問題だ。既存の再構成に基づく手法は、昔ながらの畳み込みオートエンコーダに依存している。連続フレーム再構築のための新しいオートエンコーダモデルを提案する。
論文参考訳（メタデータ） (2023-01-28T01:57:57Z)
Variational Laplace Autoencoders [53.08170674326728]
変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
論文参考訳（メタデータ） (2022-11-30T18:59:27Z)
Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
論文参考訳（メタデータ） (2022-06-23T14:16:30Z)
End-to-end reconstruction meets data-driven regularization for inverse problems [2.800608984818919]
本稿では,不適切な逆問題に対するエンド・ツー・エンドの再構成演算子を学習するための教師なしアプローチを提案する。提案手法は,古典的変分フレームワークと反復的アンローリングを組み合わせたものである。我々は,X線CT(Computerd tomography)の例で,最先端の教師なし手法よりも優れていることを示す。
論文参考訳（メタデータ） (2021-06-07T12:05:06Z)
Preventing Posterior Collapse with Levenshtein Variational Autoencoder [61.30283661804425]
我々は,エビデンス・ロー・バウンド(ELBO)を最適化し,後部崩壊を防止できる新しい目的に置き換えることを提案する。本稿では,Levenstein VAEが後方崩壊防止のための代替手法よりも,より情報的な潜伏表現を生成することを示す。
論文参考訳（メタデータ） (2020-04-30T13:27:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。