論文の概要: Learning Conditional Invariance through Cycle Consistency
- arxiv url: http://arxiv.org/abs/2111.13185v1
- Date: Thu, 25 Nov 2021 17:33:12 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-29 15:22:56.123629
- Title: Learning Conditional Invariance through Cycle Consistency
- Title(参考訳): サイクル一貫性による条件不変性学習
- Authors: Maxim Samarin, Vitali Nesterov, Mario Wieser, Aleksander Wieczorek,
Sonali Parbhoo, and Volker Roth
- Abstract要約: 本稿では,データセットの変動の有意義な要因と独立な要因を識別する新しい手法を提案する。
提案手法は,対象プロパティと残りの入力情報に対する2つの別個の潜在部分空間を含む。
我々は,より意味のある因子を同定し,よりスペーサーや解釈可能なモデルに導く合成および分子データについて実証する。
- 参考スコア(独自算出の注目度): 60.85059977904014
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Identifying meaningful and independent factors of variation in a dataset is a
challenging learning task frequently addressed by means of deep latent variable
models. This task can be viewed as learning symmetry transformations preserving
the value of a chosen property along latent dimensions. However, existing
approaches exhibit severe drawbacks in enforcing the invariance property in the
latent space. We address these shortcomings with a novel approach to cycle
consistency. Our method involves two separate latent subspaces for the target
property and the remaining input information, respectively. In order to enforce
invariance as well as sparsity in the latent space, we incorporate semantic
knowledge by using cycle consistency constraints relying on property side
information. The proposed method is based on the deep information bottleneck
and, in contrast to other approaches, allows using continuous target properties
and provides inherent model selection capabilities. We demonstrate on synthetic
and molecular data that our approach identifies more meaningful factors which
lead to sparser and more interpretable models with improved invariance
properties.
- Abstract(参考訳): データセット内の変動の有意義で独立した要因を特定することは、深い潜在変数モデルによって頻繁に対処される困難な学習タスクである。
このタスクは、潜在次元に沿って選択された性質の値を保持する学習対称性変換と見なすことができる。
しかし、既存のアプローチは、潜在空間における不変性を強制する際の深刻な欠点を示す。
我々はこれらの欠点をサイクル一貫性に対する新しいアプローチで解決する。
提案手法は,それぞれ対象プロパティと残りの入力情報に対する2つの別個の潜在部分空間を含む。
潜伏空間における分散性や疎結合性を強制するために、プロパティ側情報に依存するサイクル整合性制約を用いて意味知識を組み込む。
提案手法は情報ボトルネックに基づいており、他の手法とは対照的に、連続目標プロパティの使用が可能であり、固有モデル選択機能を提供する。
本研究では, 合成および分子データを用いて, より有意義な因子を同定し, 分散性が向上したスパーザーモデルと解釈可能なモデルに導くことを実証する。
関連論文リスト
- Flow Factorized Representation Learning [109.51947536586677]
本稿では、異なる入力変換を定義する潜在確率パスの別個のセットを規定する生成モデルを提案する。
本モデルは,ほぼ同変モデルに近づきながら,標準表現学習ベンチマークにおいて高い確率を達成することを示す。
論文 参考訳(メタデータ) (2023-09-22T20:15:37Z) - Towards Fair Disentangled Online Learning for Changing Environments [28.207499975916324]
オンライン学習における環境変化は、学習パラメータが環境に固有の部分的変化に起因していると論じる。
本稿では,各時点に収集したデータを2つの表現で切り離すことができるという仮定の下で,新しいアルゴリズムを提案する。
新たな後悔は、動的および静的な後悔の指標の混合形式と、公平性に配慮した長期的制約を伴って提案される。
論文 参考訳(メタデータ) (2023-05-31T19:04:16Z) - DOT-VAE: Disentangling One Factor at a Time [1.6114012813668934]
本稿では,変分オートエンコーダの潜伏空間を乱交空間で拡張し,Wake-Sleep-inspireed two-step algorithm for unsupervised disentanglementを用いて学習する手法を提案する。
我々のネットワークは、解釈可能な独立した因子を一度に1つのデータから切り離すことを学び、それを非絡み合った潜在空間の異なる次元にエンコードし、因子の数やそれらの共同分布について事前の仮定をしない。
論文 参考訳(メタデータ) (2022-10-19T22:53:02Z) - Identifiable Latent Causal Content for Domain Adaptation under Latent Covariate Shift [82.14087963690561]
マルチソースドメイン適応(MSDA)は、ラベル付き対象ドメインのラベル予測関数を学習する際の課題に対処する。
本稿では,潜在コンテンツ変数と潜時スタイル変数とともに,ドメイン間の潜時雑音を導入し,複雑な因果生成モデルを提案する。
提案手法は、シミュレーションと実世界の両方のデータセットに対して、例外的な性能と有効性を示す。
論文 参考訳(メタデータ) (2022-08-30T11:25:15Z) - Weakly Supervised Representation Learning with Sparse Perturbations [82.39171485023276]
潜伏変数のスパース摂動によって生じる観測の監督が弱い場合、未知の連続潜伏分布の下で識別が達成可能であることを示す。
本稿では,この理論に基づく自然な推定手法を提案し,それを低次元の合成および画像に基づく実験で説明する。
論文 参考訳(メタデータ) (2022-06-02T15:30:07Z) - Self-Supervised Learning with Data Augmentations Provably Isolates
Content from Style [32.20957709045773]
我々は拡張過程を潜在変数モデルとして定式化する。
本研究では,2対の観測結果に基づいて,潜在表現の識別可能性について検討した。
Causal3DIdentは、因果関係が豊富な高次元、視覚的に複雑な画像のデータセットである。
論文 参考訳(メタデータ) (2021-06-08T18:18:09Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳(メタデータ) (2020-07-25T08:54:26Z) - Learning to Manipulate Individual Objects in an Image [71.55005356240761]
本稿では,独立性および局所性を有する潜在因子を用いた生成モデルを学習する手法について述べる。
これは、潜伏変数の摂動が、オブジェクトに対応する合成画像の局所領域のみに影響を与えることを意味する。
他の教師なし生成モデルとは異なり、オブジェクトレベルのアノテーションを必要とせず、オブジェクト中心の操作を可能にする。
論文 参考訳(メタデータ) (2020-04-11T21:50:20Z) - NestedVAE: Isolating Common Factors via Weak Supervision [45.366986365879505]
我々は、バイアス低減の課題と、ドメイン間で共通する分離要因の関係を同定する。
共通因子を分離するために、潜伏変数モデルの理論と情報ボトルネック理論を組み合わせる。
共有重みを持つ2つの外部VAEは入力を再構成し、潜伏空間を推論し、一方、ネストされたVAEはペア化された画像の潜伏表現から1つの画像の潜伏表現を再構成しようとする。
論文 参考訳(メタデータ) (2020-02-26T15:49:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。