論文の概要: NestedVAE: Isolating Common Factors via Weak Supervision
- arxiv url: http://arxiv.org/abs/2002.11576v1
- Date: Wed, 26 Feb 2020 15:49:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-28 14:26:06.297065
- Title: NestedVAE: Isolating Common Factors via Weak Supervision
- Title(参考訳): NestedVAE: 弱視による共通要因の分離
- Authors: Matthew J. Vowels, Necati Cihan Camgoz and Richard Bowden
- Abstract要約: 我々は、バイアス低減の課題と、ドメイン間で共通する分離要因の関係を同定する。
共通因子を分離するために、潜伏変数モデルの理論と情報ボトルネック理論を組み合わせる。
共有重みを持つ2つの外部VAEは入力を再構成し、潜伏空間を推論し、一方、ネストされたVAEはペア化された画像の潜伏表現から1つの画像の潜伏表現を再構成しようとする。
- 参考スコア(独自算出の注目度): 45.366986365879505
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Fair and unbiased machine learning is an important and active field of
research, as decision processes are increasingly driven by models that learn
from data. Unfortunately, any biases present in the data may be learned by the
model, thereby inappropriately transferring that bias into the decision making
process. We identify the connection between the task of bias reduction and that
of isolating factors common between domains whilst encouraging domain specific
invariance. To isolate the common factors we combine the theory of deep latent
variable models with information bottleneck theory for scenarios whereby data
may be naturally paired across domains and no additional supervision is
required. The result is the Nested Variational AutoEncoder (NestedVAE). Two
outer VAEs with shared weights attempt to reconstruct the input and infer a
latent space, whilst a nested VAE attempts to reconstruct the latent
representation of one image, from the latent representation of its paired
image. In so doing, the nested VAE isolates the common latent factors/causes
and becomes invariant to unwanted factors that are not shared between paired
images. We also propose a new metric to provide a balanced method of evaluating
consistency and classifier performance across domains which we refer to as the
Adjusted Parity metric. An evaluation of NestedVAE on both domain and attribute
invariance, change detection, and learning common factors for the prediction of
biological sex demonstrates that NestedVAE significantly outperforms
alternative methods.
- Abstract(参考訳): 公平で偏りのない機械学習は、データから学習するモデルによって決定プロセスが駆動されるようになり、重要かつアクティブな研究分野である。
残念ながら、データに存在するバイアスはモデルによって学習され、したがってバイアスを意思決定プロセスに不適切に転送する。
バイアス低減の課題とドメイン間で共通する因子の分離の関係を,ドメイン固有の不変性を奨励しながら同定する。
共通の要因を分離するため、深潜変数モデルの理論と情報ボトルネック理論を組み合わせることにより、データは自然にドメイン間でペアリングされ、追加の監督は不要となる。
結果はNested Variational AutoEncoder (NestedVAE)である。
共有重みを持つ2つの外部VAEは入力を再構成し、潜伏空間を推論し、一方、ネストされたVAEはペア化された画像の潜伏表現から1つの画像の潜伏表現を再構成しようとする。
その際、ネストされたvaeは共通の潜伏因子/原因を分離し、ペア画像間で共有されていない望ましくない要因に不変となる。
また,調整されたパリティメトリックと呼ばれる領域間の一貫性と分類性能を評価するためのバランスのとれた手法を提案する。
NestedVAEの評価は、ドメインおよび属性の不変性、変化の検出、および生物学的性予測のための共通要因の学習において、NestedVAEが代替手法を著しく上回っていることを示している。
関連論文リスト
- Counterfactual Fairness through Transforming Data Orthogonal to Bias [7.109458605736819]
我々は新しいデータ前処理アルゴリズムOrthogonal to Bias (OB)を提案する。
OBは、連続的な敏感な変数群の影響を排除し、機械学習アプリケーションにおける反ファクトフェアネスを促進するように設計されている。
OBはモデルに依存しないため、幅広い機械学習モデルやタスクに適用できる。
論文 参考訳(メタデータ) (2024-03-26T16:40:08Z) - Causal Inference via Style Transfer for Out-of-distribution
Generalisation [10.998592702137858]
アウト・オブ・ディストリビューションの一般化は、目に見えないターゲットドメインをうまく一般化できるモデルを構築することを目的としている。
本稿では,正面調整を成功させることで,隠れた共同創設者を効果的に扱う新しい手法を提案する。
論文 参考訳(メタデータ) (2022-12-06T15:43:54Z) - On the Strong Correlation Between Model Invariance and Generalization [54.812786542023325]
一般化は、見えないデータを分類するモデルの能力をキャプチャする。
不変性はデータの変換におけるモデル予測の一貫性を測定する。
データセット中心の視点から、あるモデルの精度と不変性は異なるテストセット上で線形に相関している。
論文 参考訳(メタデータ) (2022-07-14T17:08:25Z) - Learning Conditional Invariance through Cycle Consistency [60.85059977904014]
本稿では,データセットの変動の有意義な要因と独立な要因を識別する新しい手法を提案する。
提案手法は,対象プロパティと残りの入力情報に対する2つの別個の潜在部分空間を含む。
我々は,より意味のある因子を同定し,よりスペーサーや解釈可能なモデルに導く合成および分子データについて実証する。
論文 参考訳(メタデータ) (2021-11-25T17:33:12Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Instrumental Variable-Driven Domain Generalization with Unobserved
Confounders [53.735614014067394]
ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインから、目に見えないターゲットドメインをうまく一般化できるモデルを学ぶことを目的としている。
観測不能な共同創設者のバイアスを2段階学習で除去し,インストゥルメンタル変数駆動型DG法(IV-DG)を提案する。
第1段階では、あるドメインの入力特徴の条件分布を他のドメインの入力特徴の条件分布として学習する。
第2段階では,ラベルと学習条件分布の関係を推定する。
論文 参考訳(メタデータ) (2021-10-04T13:32:57Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳(メタデータ) (2020-07-25T08:54:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。