論文の概要: Disentangled Representation Learning with Wasserstein Total Correlation

• arxiv url: http://arxiv.org/abs/1912.12818v1
• Date: Mon, 30 Dec 2019 05:31:28 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-17 02:06:44.174498
• Title: Disentangled Representation Learning with Wasserstein Total Correlation
• Title（参考訳）: ワッサースタイン全相関を用いた連接表現学習
• Authors: Yijun Xiao, William Yang Wang
• Abstract要約: 本稿では,変分オートエンコーダとワッサースタインオートエンコーダの設定に総相関を導入し,非絡み付き潜在表現を学習する。 批評家は、ワッサーシュタインの総相関項を推定する主な目的と共に、敵対的に訓練される。 提案手法は, 再建能力の犠牲が小さく, 絡み合いに匹敵する性能を有することを示す。
• 参考スコア（独自算出の注目度）: 90.44329632061076
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Unsupervised learning of disentangled representations involves uncovering of different factors of variations that contribute to the data generation process. Total correlation penalization has been a key component in recent methods towards disentanglement. However, Kullback-Leibler (KL) divergence-based total correlation is metric-agnostic and sensitive to data samples. In this paper, we introduce Wasserstein total correlation in both variational autoencoder and Wasserstein autoencoder settings to learn disentangled latent representations. A critic is adversarially trained along with the main objective to estimate the Wasserstein total correlation term. We discuss the benefits of using Wasserstein distance over KL divergence to measure independence and conduct quantitative and qualitative experiments on several data sets. Moreover, we introduce a new metric to measure disentanglement. We show that the proposed approach has comparable performances on disentanglement with smaller sacrifices in reconstruction abilities.
• Abstract（参考訳）: 不整合表現の教師なし学習には、データ生成プロセスに寄与する様々な要因の解明が含まれる。 完全相関ペナリゼーションは近年の解離に対する手法において重要な要素である。 しかし、kullback-leibler (kl) の発散に基づく全相関はメトリックに依存しず、データサンプルに敏感である。 本稿では,変分オートエンコーダとワッセルシュタインオートエンコーダの設定にワッセルシュタイン全相関を導入し,非絡み付き潜在表現を学習する。 批評家は、ワッサーシュタインの総相関項を推定する主な目的と共に、敵対的に訓練される。 独立度を測り、複数のデータセット上で定量的かつ定性的な実験を行うために、KL分散よりもワッサーシュタイン距離を用いる利点について論じる。 さらに, 絡み合いを測定するための新しい指標を提案する。 提案手法は, 再建能力の犠牲が小さく, 絡み合いに匹敵する性能を有することを示す。

関連論文リスト

• Synthetic Tabular Data Validation: A Divergence-Based Approach [8.062368743143388]
  分散は、データ分散間の相違を定量化する。 従来のアプローチでは、各特徴に対して独立して発散率を計算する。 本稿では,差分推定を用いて限界比較の限界を克服する手法を提案する。
  論文  参考訳（メタデータ） (2024-05-13T15:07:52Z)
• Mutual Wasserstein Discrepancy Minimization for Sequential Recommendation [82.0801585843835]
  逐次リコメンデーションのためのMutual WasserStein差分最小化MSteinに基づく新しい自己教師型学習フレームワークを提案する。 また,ワッサーシュタイン離散度測定に基づく新しい学習損失を提案する。
  論文  参考訳（メタデータ） (2023-01-28T13:38:48Z)
• Disentanglement Analysis with Partial Information Decomposition [31.56299813238937]
  不整合表現は、異なる生成因子を個別にキャプチャする複数のランダム変数にデータをマッピングすることで、プロセスを逆転させることを目的としている。 現在の遠絡測定値は、各生成因子によって条件付けられた各変数の絶対偏差、分散、エントロピーなどの濃度を測定するように設計されている。 本研究では,2つ以上の変数間の情報共有を評価するために部分情報分解フレームワークを使用し,新しいアンタングル化指標を含むフレームワークを構築する。
  論文  参考訳（メタデータ） (2021-08-31T11:09:40Z)
• Learning disentangled representations with the Wasserstein Autoencoder [22.54887526392739]
  我々は,潜伏変数の総相関をペナルティ化するためのTCWAE(Total correlation Wasserstein Autoencoder)を提案する。 本稿では,WAEパラダイムにおける作業が,全相関項の分離を自然に可能にし,学習した表現に対する絡み合いの制御を可能にすることを示す。 さらに, 再構成期間におけるWAEパラダイムの柔軟性が向上する, 未知の生成因子を含む, より複雑なデータセット上での絡み合いと再構成のトレードオフについて検討する。
  論文  参考訳（メタデータ） (2020-10-07T14:52:06Z)
• Interpolation and Learning with Scale Dependent Kernels [91.41836461193488]
  非パラメトリックリッジレス最小二乗の学習特性について検討する。 スケール依存カーネルで定義される推定器の一般的な場合を考える。
  論文  参考訳（メタデータ） (2020-06-17T16:43:37Z)
• On Disentangled Representations Learned From Correlated Data [59.41587388303554]
  相関データに対する最も顕著な絡み合うアプローチの挙動を解析することにより、現実のシナリオにギャップを埋める。 本研究では,データセットの体系的相関が学習され,潜在表現に反映されていることを示す。 また、トレーニング中の弱い監督や、少数のラベルで事前訓練されたモデルを修正することで、これらの潜伏相関を解消する方法を実証する。
  論文  参考訳（メタデータ） (2020-06-14T12:47:34Z)
• An Investigation of Why Overparameterization Exacerbates Spurious Correlations [98.3066727301239]
  この動作を駆動するトレーニングデータの2つの重要な特性を特定します。 モデルの"記憶"に対する帰納的バイアスが,パラメータ化の超過を損なう可能性を示す。
  論文  参考訳（メタデータ） (2020-05-09T01:59:13Z)
• Learning from Aggregate Observations [82.44304647051243]
  本研究では,一組のインスタンスに監視信号が与えられる集合観察から学習する問題について検討する。 本稿では,多種多様な集合観測に適合する一般的な確率的枠組みを提案する。 単純な極大解は様々な微分可能なモデルに適用できる。
  論文  参考訳（メタデータ） (2020-04-14T06:18:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。