論文の概要: Indeterminacy in Latent Variable Models: Characterization and Strong Identifiability

• arxiv url: http://arxiv.org/abs/2206.00801v1
• Date: Thu, 2 Jun 2022 00:01:27 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-03 13:19:42.030224
• Title: Indeterminacy in Latent Variable Models: Characterization and Strong Identifiability
• Title（参考訳）: 潜在変数モデルの非決定性:特徴と強い識別可能性
• Authors: Quanhan Xi, Benjamin Bloem-Reddy
• Abstract要約: 潜在変数モデルの不確定性を解析するための理論的枠組みを構築する。 次に、強く識別可能な潜在変数モデルを特定する方法について検討する。
• 参考スコア（独自算出の注目度）: 3.959606869996233
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Most modern latent variable and probabilistic generative models, such as the variational autoencoder (VAE), have certain indeterminacies that are unresolvable even with an infinite amount of data. Recent applications of such models have indicated the need for \textit{strongly} identifiable models, in which an observation corresponds to a unique latent code. Progress has been made towards reducing model indeterminacies while maintaining flexibility, most notably by the iVAE (arXiv:1907.04809 [stat.ML]), which excludes many -- but not all -- indeterminacies. We construct a full theoretical framework for analyzing the indeterminacies of latent variable models, and characterize them precisely in terms of properties of the generator functions and the latent variable prior distributions. To illustrate, we apply the framework to better understand the structure of recent identifiability results. We then investigate how we might specify strongly identifiable latent variable models, and construct two such classes of models. One is a straightforward modification of iVAE; the other uses ideas from optimal transport and leads to novel models and connections to recent work.
• Abstract（参考訳）: 変分オートエンコーダ (VAE) のような現代の潜在変数および確率的生成モデルは、無限のデータでも解けない不確定性を持つ。 このようなモデルの最近の応用は、観察が一意な潜在コードに対応するような \textit{strongly} 識別可能なモデルが必要であることを示している。 柔軟性を維持しながらモデル不確定性を減らすための進歩は、特にiVAE (arXiv:1907.04809 [stat.ML])によってなされている。 我々は、潜在変数モデルの不確定性を分析するための完全な理論的枠組みを構築し、生成関数と潜在変数先行分布の性質を正確に評価する。 本稿では,近年の識別可能性評価結果の構造をよりよく理解するために,この枠組みを適用した。 次に,強識別可能な潜在変数モデルをどのように指定するかを調査し,そのようなモデルのクラスを2つ構成する。 1つはiVAEの簡単な修正であり、もう1つは最適な輸送からアイデアを使っており、新しいモデルや最近の研究とのつながりにつながっている。

関連論文リスト

• Model-agnostic multi-objective approach for the evolutionary discovery of mathematical models [55.41644538483948]
  現代のデータ科学では、どの部分がより良い結果を得るために置き換えられるかというモデルの性質を理解することがより興味深い。 合成データ駆動型モデル学習において,多目的進化最適化を用いてアルゴリズムの所望特性を求める。
  論文  参考訳（メタデータ） (2021-07-07T11:17:09Z)
• Closed-form Continuous-Depth Models [99.40335716948101]
  連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。 我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
  論文  参考訳（メタデータ） (2021-06-25T22:08:51Z)
• DirectDebug: Automated Testing and Debugging of Feature Models [55.41644538483948]
  変数モデル(例えば、特徴モデル)は、ソフトウェアアーティファクトの変数と共通性を表現する一般的な方法である。 複雑でしばしば大規模な機能モデルは欠陥になりうる、すなわち、ソフトウェアアーチファクトの期待される変動特性を表現しない。
  論文  参考訳（メタデータ） (2021-02-11T11:22:20Z)
• Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder [59.69303945834122]
  Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。 我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。 合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
  論文  参考訳（メタデータ） (2021-02-02T06:15:15Z)
• Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
  現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。 本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。 次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
  論文  参考訳（メタデータ） (2020-10-25T18:51:15Z)
• Deep Conditional Transformation Models [0.0]
  特徴集合上の結果変数条件の累積分布関数(CDF)を学習することは依然として困難である。 条件変換モデルは、条件付きCDFの大規模なクラスをモデル化できる半パラメトリックなアプローチを提供する。 我々は,新しいネットワークアーキテクチャを提案し,異なるモデル定義の詳細を提供し,適切な制約を導出する。
  論文  参考訳（メタデータ） (2020-10-15T16:25:45Z)
• Goal-directed Generation of Discrete Structures with Conditional Generative Models [85.51463588099556]
  本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。 提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
  論文  参考訳（メタデータ） (2020-10-05T20:03:13Z)
• ICE-BeeM: Identifiable Conditional Energy-Based Deep Models Based on Nonlinear ICA [11.919315372249802]
  確率モデルの同定可能性理論を考察する。 我々は,独立に修飾されたコンポーネント分析の枠組みにおけるコンポーネントの推定に,我々のモデルを利用できることを示す。
  論文  参考訳（メタデータ） (2020-02-26T14:43:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。