論文の概要: On PAC-Bayesian reconstruction guarantees for VAEs
- arxiv url: http://arxiv.org/abs/2202.11455v1
- Date: Wed, 23 Feb 2022 12:11:05 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-24 14:31:38.416479
- Title: On PAC-Bayesian reconstruction guarantees for VAEs
- Title(参考訳): VAEのPAC-Bayesian再構成保証について
- Authors: Badr-Eddine Ch\'erief-Abdellatif and Yuyang Shi and Arnaud Doucet and
Benjamin Guedj
- Abstract要約: 我々は、PAC-Bayes理論の議論を生かして、VAEの未確認テストデータに対する再構築能力を分析した。
本稿では,理論的再構成誤差の一般化境界を提案し,VAE目標の正則化効果について考察する。
- 参考スコア(独自算出の注目度): 25.88084956346361
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Despite its wide use and empirical successes, the theoretical understanding
and study of the behaviour and performance of the variational autoencoder (VAE)
have only emerged in the past few years. We contribute to this recent line of
work by analysing the VAE's reconstruction ability for unseen test data,
leveraging arguments from the PAC-Bayes theory. We provide generalisation
bounds on the theoretical reconstruction error, and provide insights on the
regularisation effect of VAE objectives. We illustrate our theoretical results
with supporting experiments on classical benchmark datasets.
- Abstract(参考訳): 広く使われていることと経験的な成功にもかかわらず、変分オートエンコーダ(VAE)の動作と性能に関する理論的理解と研究は、ここ数年で始まったばかりである。
我々は,vaeの非知覚テストデータの再構成能力を分析し,pac-bayes理論の議論を活用し,この最近の研究に寄与する。
我々は,理論再構成誤差の一般化境界を与え,vae目標の正規化効果に関する知見を提供する。
提案手法は,古典的ベンチマークデータセットにおける実験支援による理論的結果を示す。
関連論文リスト
- Top-K Pairwise Ranking: Bridging the Gap Among Ranking-Based Measures for Multi-Label Classification [120.37051160567277]
本稿では,Top-K Pairwise Ranking(TKPR)という新しい尺度を提案する。
一連の分析により、TKPRは既存のランキングベースの尺度と互換性があることが示されている。
一方,データ依存縮約法という新しい手法に基づいて,提案手法の急激な一般化を確立する。
論文 参考訳(メタデータ) (2024-07-09T09:36:37Z) - Empirical Tests of Optimization Assumptions in Deep Learning [41.05664717242051]
本稿では,理論解析において制御しなければならない重要な量を追跡するための新しい経験的指標を開発する。
テストされたすべての仮定は、確実に最適化性能を捉えられません。
このことは、理論解析に使用される解析的仮定の新しい実証的検証の必要性を強調している。
論文 参考訳(メタデータ) (2024-07-01T21:56:54Z) - Uncertainty Regularized Evidential Regression [5.874234972285304]
Evidential Regression Network (ERN)は、深層学習とDempster-Shaferの理論を統合する新しいアプローチである。
特定のアクティベーション関数は非負の値を強制するために使わなければならない。
本稿では,この限界を理論的に解析し,克服するための改善を提案する。
論文 参考訳(メタデータ) (2024-01-03T01:18:18Z) - A PAC-Bayesian Perspective on the Interpolating Information Criterion [54.548058449535155]
補間系の性能に影響を及ぼす要因を特徴付ける一般モデルのクラスに対して,PAC-Bayes境界がいかに得られるかを示す。
オーバーパラメータ化モデルに対するテスト誤差が、モデルとパラメータの初期化スキームの組み合わせによって課される暗黙の正規化の品質に依存するかの定量化を行う。
論文 参考訳(メタデータ) (2023-11-13T01:48:08Z) - On progressive sharpening, flat minima and generalisation [39.91683439206866]
我々は、トレーニングサンプルに対して、損失ヘッセンと入力出力ヤコビアンを結びつけるアンザッツを接地する。
次に、モデルの入出力ヤコビアンがそのリプシッツノルムに近似する程度を定量化する一連の理論的結果を証明する。
我々は、我々のアンザッツと理論結果を用いて、最近観測された進歩的シャープニング現象の新たな説明を行う。
論文 参考訳(メタデータ) (2023-05-24T03:44:50Z) - Learned ISTA with Error-based Thresholding for Adaptive Sparse Coding [58.73333095047114]
学習用ISTA(LISTA)のためのエラーベースのしきい値設定機構を提案する。
提案手法は, 縮小関数の学習可能なパラメータを再構成誤差からよく切り離していることを示す。
論文 参考訳(メタデータ) (2021-12-21T05:07:54Z) - Convergence Results For Q-Learning With Experience Replay [51.11953997546418]
コンバージェンスレート保証を行い、リプレイの頻度や回数といった重要なパラメータによってQ-ラーニングのコンバージェンスとどのように比較されるかについて議論する。
また、シンプルなMDPのクラスを導入・分析することで、これを厳格に改善する可能性を示す理論的な証拠も提示する。
論文 参考訳(メタデータ) (2021-12-08T10:22:49Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Theoretical Modeling of the Iterative Properties of User Discovery in a
Collaborative Filtering Recommender System [0.0]
レコメンデータシステムにおけるクローズドなフィードバックループは、さまざまな種類のバイアスを引き起こす可能性がある一般的な設定である。
本稿では,フィードバックループ設定内で動作するレコメンデータシステムの様々なコンポーネントの進化をモデル化するための理論的枠組みを提案する。
本研究は,フィードバックループの効果を定量化し,人工知能と機械学習アルゴリズムを設計するための理論的基礎を定めている。
論文 参考訳(メタデータ) (2020-08-21T20:30:39Z) - Towards a Theoretical Understanding of the Robustness of Variational
Autoencoders [82.68133908421792]
敵攻撃や他の入力摂動に対する変分オートエンコーダ(VAE)の堅牢性を理解するために,我々は進出している。
確率モデルにおけるロバスト性のための新しい基準である$r$-robustnessを開発する。
遠心法を用いて訓練したVAEが、ロバストネスの指標でよく評価されていることを示す。
論文 参考訳(メタデータ) (2020-07-14T21:22:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。