論文の概要: On Disentangled Representations Learned From Correlated Data

• arxiv url: http://arxiv.org/abs/2006.07886v3
• Date: Fri, 16 Jul 2021 09:28:05 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-21 10:01:09.700179
• Title: On Disentangled Representations Learned From Correlated Data
• Title（参考訳）: 関連データから学習した歪んだ表現について
• Authors: Frederik Tr\"auble, Elliot Creager, Niki Kilbertus, Francesco Locatello, Andrea Dittadi, Anirudh Goyal, Bernhard Sch\"olkopf, Stefan Bauer
• Abstract要約: 相関データに対する最も顕著な絡み合うアプローチの挙動を解析することにより、現実のシナリオにギャップを埋める。 本研究では,データセットの体系的相関が学習され,潜在表現に反映されていることを示す。 また、トレーニング中の弱い監督や、少数のラベルで事前訓練されたモデルを修正することで、これらの潜伏相関を解消する方法を実証する。
• 参考スコア（独自算出の注目度）: 59.41587388303554
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The focus of disentanglement approaches has been on identifying independent factors of variation in data. However, the causal variables underlying real-world observations are often not statistically independent. In this work, we bridge the gap to real-world scenarios by analyzing the behavior of the most prominent disentanglement approaches on correlated data in a large-scale empirical study (including 4260 models). We show and quantify that systematically induced correlations in the dataset are being learned and reflected in the latent representations, which has implications for downstream applications of disentanglement such as fairness. We also demonstrate how to resolve these latent correlations, either using weak supervision during training or by post-hoc correcting a pre-trained model with a small number of labels.
• Abstract（参考訳）: 切り離しアプローチの焦点は、データのばらつきの独立した要因を特定することである。 しかし、実世界の観測の基礎となる因果変数はしばしば統計的に独立ではない。 本研究では,大規模実験(4260モデルを含む)において,相関データに対する最も顕著な不連続アプローチの挙動を分析することにより,現実のシナリオとのギャップを埋める。 我々は,データセット内の系統的な相関関係が学習され,潜在表現に反映されていることを示し,定量化する。 また,これらの潜在相関の解消方法については,訓練中の弱い監督や,少量のラベルで事前学習したモデルを修正することで検証する。

関連論文リスト

• Trade-off Between Dependence and Complexity for Nonparametric Learning -- an Empirical Process Approach [10.27974860479791]
  データが時間的依存を示す多くのアプリケーションでは、対応する経験的プロセスは理解されていない。 標準的な$beta/rho$-mixingの仮定の下では、経験過程の期待上限に一般化する。 長距離依存下であっても、i.d.設定と同じ速度で達成できることが示される。
  論文  参考訳（メタデータ） (2024-01-17T05:08:37Z)
• Spurious Correlations and Where to Find Them [17.1264393170134]
  モデルがデータから信頼できない特徴を学習すると、余計な相関が生じる。 突発的相関の発生の背後にある、よく研究されている仮説のいくつかを収集する。 因果グラフから生成された合成データセットを用いた標準ERMベースラインへの影響について検討する。
  論文  参考訳（メタデータ） (2023-08-21T21:06:36Z)
• A Causal Ordering Prior for Unsupervised Representation Learning [27.18951912984905]
  因果表現学習(Causal representation learning)は、データセットの変動の要因は、実際には因果関係にあると主張している。 本稿では,遅延付加雑音モデルを用いたデータ生成過程を考慮した,教師なし表現学習手法を提案する。
  論文  参考訳（メタデータ） (2023-07-11T18:12:05Z)
• Stubborn Lexical Bias in Data and Models [50.79738900885665]
  我々は、データに基づいてトレーニングされたモデルに、データのスプリアスパターンが現れるかどうかを調べるために、新しい統計手法を用いる。 トレーニングデータに*reweight*に最適化アプローチを適用し、数千のスプリアス相関を低減します。 驚くべきことに、この方法ではトレーニングデータの語彙バイアスを低減できますが、トレーニングされたモデルで対応するバイアスの強い証拠がまだ見つかっていません。
  論文  参考訳（メタデータ） (2023-06-03T20:12:27Z)
• Towards Causal Representation Learning and Deconfounding from Indefinite Data [17.793702165499298]
  非統計データ(画像、テキストなど)は、従来の因果データとプロパティやメソッドの点で重大な対立に遭遇する。 2つの新しい視点から因果データを再定義し、3つのデータパラダイムを提案する。 非定値データから因果表現を学習するための動的変分推論モデルとして,上記の設計を実装した。
  論文  参考訳（メタデータ） (2023-05-04T08:20:37Z)
• Biases in Inverse Ising Estimates of Near-Critical Behaviour [0.0]
  逆推論は、ペアワイズ相互作用を経験的相関から再構成することを可能にする。 Pseudo-likelihood (PLM) などの推定値に偏りが認められた。 データ駆動法は神経科学による機能的磁気共鳴イメージング(fMRI)データセットに研究され応用された。
  論文  参考訳（メタデータ） (2023-01-13T14:01:43Z)
• OR-Net: Pointwise Relational Inference for Data Completion under Partial Observation [51.083573770706636]
  この作業はリレーショナル推論を使って不完全なデータを埋めます。 本稿では,2つの点での相対性理論をモデル化するために,全関係ネットワーク (or-net) を提案する。
  論文  参考訳（メタデータ） (2021-05-02T06:05:54Z)
• Efficient Causal Inference from Combined Observational and Interventional Data through Causal Reductions [68.6505592770171]
  因果効果を推定する際の主な課題の1つである。 そこで本研究では,任意の数の高次元潜入共創者を置き換える新たな因果還元法を提案する。 パラメータ化縮小モデルを観測データと介入データから共同で推定する学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-03-08T14:29:07Z)
• Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
  本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。 堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。 異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
  論文  参考訳（メタデータ） (2020-07-21T08:18:06Z)
• An Investigation of Why Overparameterization Exacerbates Spurious Correlations [98.3066727301239]
  この動作を駆動するトレーニングデータの2つの重要な特性を特定します。 モデルの"記憶"に対する帰納的バイアスが,パラメータ化の超過を損なう可能性を示す。
  論文  参考訳（メタデータ） (2020-05-09T01:59:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。