論文の概要: Unsupervised Concept Discovery Mitigates Spurious Correlations
- arxiv url: http://arxiv.org/abs/2402.13368v1
- Date: Tue, 20 Feb 2024 20:48:00 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-22 18:11:42.691285
- Title: Unsupervised Concept Discovery Mitigates Spurious Correlations
- Title(参考訳): 無秩序な相関を緩和する無秩序な概念発見
- Authors: Md Rifat Arefin, Yan Zhang, Aristide Baratin, Francesco Locatello,
Irina Rish, Dianbo Liu, Kenji Kawaguchi
- Abstract要約: トレーニングデータにおける急激な相関関係のモデルはしばしば脆い予測を発生させ、意図しないバイアスを導入する。
対象中心学習の教師なし学習と突発的相関の緩和の新たな関連性を確立する。
- 参考スコア(独自算出の注目度): 47.76879971754353
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Models prone to spurious correlations in training data often produce brittle
predictions and introduce unintended biases. Addressing this challenge
typically involves methods relying on prior knowledge and group annotation to
remove spurious correlations, which may not be readily available in many
applications. In this paper, we establish a novel connection between
unsupervised object-centric learning and mitigation of spurious correlations.
Instead of directly inferring sub-groups with varying correlations with labels,
our approach focuses on discovering concepts: discrete ideas that are shared
across input samples. Leveraging existing object-centric representation
learning, we introduce CoBalT: a concept balancing technique that effectively
mitigates spurious correlations without requiring human labeling of subgroups.
Evaluation across the Waterbirds, CelebA and ImageNet-9 benchmark datasets for
subpopulation shifts demonstrate superior or competitive performance compared
state-of-the-art baselines, without the need for group annotation.
- Abstract(参考訳): トレーニングデータにおける急激な相関のモデルはしばしば脆い予測を生成し、意図しないバイアスを導入する。
この課題に対処するには、通常、多くのアプリケーションで容易に利用できないスプリアス相関を取り除くために、事前の知識とグループアノテーションに依存するメソッドが必要となる。
本稿では,教師なしオブジェクト中心学習と散発的相関の緩和との新たな関係性を確立する。
ラベルと異なる相関関係を持つ部分群を直接推論する代わりに、我々のアプローチは概念の発見に焦点を当てている。
既存のオブジェクト指向表現学習を活用したCoBalTは,サブグループの人によるラベル付けを必要とせず,効果的な相関を緩和する概念バランス技術である。
Waterbirds、CelebA、ImageNet-9ベンチマークデータセットによるサブポピュレーションシフトの評価は、グループアノテーションを必要とせずに、最先端のベースラインよりも優れた、あるいは競合的なパフォーマンスを示している。
関連論文リスト
- Jointprop: Joint Semi-supervised Learning for Entity and Relation
Extraction with Heterogeneous Graph-based Propagation [13.418617500641401]
共同半教師付きエンティティと関係抽出のための不均一グラフに基づく伝搬フレームワークであるJointpropを提案する。
我々は、エンティティと関係候補から統一されたスパンベースのヘテロジニアスグラフを構築し、信頼度スコアに基づいてクラスラベルを伝搬する。
我々はNERおよびREタスクにおける最先端の半教師付きアプローチよりも優れた性能を示す。
論文 参考訳(メタデータ) (2023-05-25T09:07:04Z) - Learning versus Refutation in Noninteractive Local Differential Privacy [133.80204506727526]
非対話的局所差分プライバシー(LDP)における2つの基本的な統計課題について検討する。
本研究の主な成果は,非対話型LDPプロトコルにおけるPAC学習の複雑さの完全な評価である。
論文 参考訳(メタデータ) (2022-10-26T03:19:24Z) - A Relation-Oriented Clustering Method for Open Relation Extraction [18.20811491136624]
関係指向クラスタリングモデルを提案し,それを用いてラベルなしデータの新しい関係を同定する。
我々は、インスタンスを対応する関係セントロイドに向かって集めることで、同じ関係を持つインスタンス間の距離を最小化する。
実験の結果,2つのデータセットに対して誤差率を29.2%,15.7%削減できることがわかった。
論文 参考訳(メタデータ) (2021-09-15T10:46:39Z) - Unsupervised Learning of Debiased Representations with Pseudo-Attributes [85.5691102676175]
教師なし方式で,単純かつ効果的な脱バイアス手法を提案する。
特徴埋め込み空間上でクラスタリングを行い、クラスタリング結果を利用して疑似属性を識別する。
次に,非偏り表現を学習するために,クラスタベースの新しい重み付け手法を用いる。
論文 参考訳(メタデータ) (2021-08-06T05:20:46Z) - Examining and Combating Spurious Features under Distribution Shift [94.31956965507085]
我々は、最小限の統計量という情報理論の概念を用いて、ロバストで刺激的な表現を定義し、分析する。
入力分布のバイアスしか持たない場合でも、モデルはトレーニングデータから急激な特徴を拾い上げることができることを証明しています。
分析から着想を得た結果,グループDROは,グループ同士の相関関係を直接考慮しない場合に失敗する可能性が示唆された。
論文 参考訳(メタデータ) (2021-06-14T05:39:09Z) - Semi-Supervised Clustering with Inaccurate Pairwise Annotations [3.7384509727711923]
本論文では,マストリンクと非リンク関係という形で,ペアワイズアノテーションを組み込んだクラスタリングモデルを提案する。
また,そのモデルを拡張して,専門家の正確性に関する事前知識を統合し,この知識の利用が有益である状況について議論する。
論文 参考訳(メタデータ) (2021-04-05T20:37:00Z) - Clustering-based Unsupervised Generative Relation Extraction [3.342376225738321]
クラスタリングに基づく教師なし生成関係抽出フレームワーク(CURE)を提案する。
我々は「エンコーダ・デコーダ」アーキテクチャを用いて自己教師付き学習を行い、エンコーダが関係情報を抽出できるようにする。
我々のモデルは、ニューヨーク・タイムズ(NYT)と国連並列コーパス(UNPC)の標準データセットにおいて、最先端モデルよりも優れている。
論文 参考訳(メタデータ) (2020-09-26T20:36:40Z) - Decorrelated Clustering with Data Selection Bias [55.91842043124102]
本稿では,データ選択バイアスを伴うクラスタリングのためのデコリレーション正規化K-Meansアルゴリズム(DCKM)を提案する。
DCKMアルゴリズムは,選択バイアスによって生じる予期せぬ特徴相関を除去する必要があることを示す。
論文 参考訳(メタデータ) (2020-06-29T08:55:50Z) - Automatically Discovering and Learning New Visual Categories with
Ranking Statistics [145.89790963544314]
我々は,他のクラスをラベル付けした画像コレクションにおいて,新しいクラスを発見する問題に対処する。
汎用クラスタリングモデルを学び、後者を用いて、非競合データ中の新しいクラスを識別する。
我々は,標準分類ベンチマークに対するアプローチと,新しいカテゴリー発見法の性能を,有意なマージンで評価した。
論文 参考訳(メタデータ) (2020-02-13T18:53:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。