論文の概要: Debiasing Counterfactuals In the Presence of Spurious Correlations
- arxiv url: http://arxiv.org/abs/2308.10984v1
- Date: Mon, 21 Aug 2023 19:01:45 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-23 14:16:08.809652
- Title: Debiasing Counterfactuals In the Presence of Spurious Correlations
- Title(参考訳): スプリアス相関の存在下での反事実の偏り
- Authors: Amar Kumar, Nima Fathi, Raghav Mehta, Brennan Nichyporuk, Jean-Pierre
R. Falet, Sotirios Tsaftaris, Tal Arbel
- Abstract要約: 我々は、(i)人気のデバイアス分類器と(ii)対実画像生成の両方を統合した、最初のエンドツーエンドトレーニングフレームワークを紹介する。
以上の結果から, 人口全体にわたる一般化可能なマーカーを学習し, (ii) 急激な相関を無視し, 根底にある疾患の病理に焦点をあてる脱バイアス法が実証された。
- 参考スコア(独自算出の注目度): 0.98342301244574
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning models can perform well in complex medical imaging
classification tasks, even when basing their conclusions on spurious
correlations (i.e. confounders), should they be prevalent in the training
dataset, rather than on the causal image markers of interest. This would
thereby limit their ability to generalize across the population. Explainability
based on counterfactual image generation can be used to expose the confounders
but does not provide a strategy to mitigate the bias. In this work, we
introduce the first end-to-end training framework that integrates both (i)
popular debiasing classifiers (e.g. distributionally robust optimization (DRO))
to avoid latching onto the spurious correlations and (ii) counterfactual image
generation to unveil generalizable imaging markers of relevance to the task.
Additionally, we propose a novel metric, Spurious Correlation Latching Score
(SCLS), to quantify the extent of the classifier reliance on the spurious
correlation as exposed by the counterfactual images. Through comprehensive
experiments on two public datasets (with the simulated and real visual
artifacts), we demonstrate that the debiasing method: (i) learns generalizable
markers across the population, and (ii) successfully ignores spurious
correlations and focuses on the underlying disease pathology.
- Abstract(参考訳): ディープラーニングモデルは複雑な医療画像分類タスクでうまく機能するが、たとえその結論が、関心のある因果画像マーカーではなく、トレーニングデータセットで広く普及している場合、スプリアス相関(すなわち共同設立者)に基づいても機能する。
これにより、全人口を統一する能力が制限される。
反事実画像生成に基づく説明可能性は、共同設立者の露出に使用できるが、バイアスを軽減するための戦略を提供していない。
本研究では,両方を統合する最初のエンドツーエンドトレーニングフレームワークを紹介する。
(i) 突発的相関のラッチを避けるために、一般的なデバイアス分類器(例えば、分布的ロバスト最適化(DRO))
二 タスクに関連性のある一般化可能な画像マーカーを提示するための反実画像生成。
さらに, ファクトイメージによって露呈されるスプリアス相関に依存する分類器の規模を定量化するために, SCLS (Spurious correlation Latching Score) という新しい尺度を提案する。
2つの公開データセット(シミュレーションと実際のビジュアルアーティファクト)の包括的な実験を通じて、デバイアスの方法が示す。
(i)人口にまたがる一般化マーカーを学習し、
(ii)有意な相関を無視し,基礎疾患の病理に焦点をあてた。
関連論文リスト
- Focusing Image Generation to Mitigate Spurious Correlations [13.225738145621843]
画像のインスタンスの特徴は背景の特徴と急激な相関を示し、ディープニューラル分類器の訓練プロセスに影響を与える。
本稿では,画像生成モデルを用いてスプリアス相関を緩和するSpurious correlations Guided Synthesis (SCGS) というデータ拡張手法を提案する。
論文 参考訳(メタデータ) (2024-12-27T04:48:56Z) - Towards Deconfounded Image-Text Matching with Causal Inference [36.739004282369656]
本稿では、画像テキストマッチングタスクのための革新的なDecon founded Causal Inference Network(DCIN)を提案する。
DCINは、モダル内およびモダル間共同創設者を分解し、それらを視覚的およびテキスト的特徴のエンコーディングステージに組み込む。
データセットバイアスによって引き起こされる刺激的な相関ではなく、因果関係を学ぶことができる。
論文 参考訳(メタデータ) (2024-08-22T11:04:28Z) - Spuriousness-Aware Meta-Learning for Learning Robust Classifiers [26.544938760265136]
Spurious correlations is brittle associations between certain attribute of inputs and target variables。
深部画像分類器はしばしばそれらを予測に利用し、相関が持たないデータの一般化が不十分になる。
スプリアス相関の影響を緩和することはロバストなモデル一般化に不可欠であるが、しばしばデータ内のスプリアス相関のアノテーションを必要とする。
論文 参考訳(メタデータ) (2024-06-15T21:41:25Z) - Decompose-and-Compose: A Compositional Approach to Mitigating Spurious Correlation [2.273629240935727]
画像の要素を組み合わせることで相関シフトを改善するために,分解分解(DaC)を提案する。
経験的リスク最小化(Empirical Risk Minimization, ERM)で訓練されたモデルでは, 通常, 因果成分, あるいはラベルとの急激な相関性が高い成分のいずれかに高い関与が認められた。
トレーニング中に,グループラベルやスプリアスの特徴に関する情報を必要とせず,画像に介入してグループバランスを行う手法を提案する。
論文 参考訳(メタデータ) (2024-02-29T07:24:24Z) - Self-supervised debiasing using low rank regularization [59.84695042540525]
純粋な相関は、ディープニューラルネットワークの強いバイアスを引き起こし、一般化能力を損なう可能性がある。
ラベルのないサンプルと互換性のある自己監督型脱バイアスフレームワークを提案する。
注目すべきは,提案フレームワークが自己教師付き学習ベースラインの一般化性能を著しく向上させることである。
論文 参考訳(メタデータ) (2022-10-11T08:26:19Z) - Causal Transportability for Visual Recognition [70.13627281087325]
画像とラベルの関連性は、設定間では転送できないため、標準分類器がフェールすることを示す。
次に、すべての共起源を摂食する因果効果が、ドメイン間で不変であることを示す。
これにより、画像分類における因果効果を推定するアルゴリズムを開発する動機付けとなる。
論文 参考訳(メタデータ) (2022-04-26T15:02:11Z) - General Greedy De-bias Learning [163.65789778416172]
本稿では,関数空間における勾配降下のような偏りのあるモデルとベースモデルを優雅に訓練する一般グリーディ・デバイアス学習フレームワーク(GGD)を提案する。
GGDは、事前知識を持つタスク固有バイアスモデルと、事前知識を持たない自己アンサンブルバイアスモデルの両方の設定の下で、より堅牢なベースモデルを学ぶことができる。
論文 参考訳(メタデータ) (2021-12-20T14:47:32Z) - Evaluation of Complexity Measures for Deep Learning Generalization in
Medical Image Analysis [77.34726150561087]
PAC-ベイズ平坦度とパスノルムに基づく測度は、モデルとデータの組み合わせについて最も一貫した説明をもたらす。
また,乳房画像に対するマルチタスク分類とセグメンテーションのアプローチについても検討した。
論文 参考訳(メタデータ) (2021-03-04T20:58:22Z) - Evaluating and Mitigating Bias in Image Classifiers: A Causal
Perspective Using Counterfactuals [27.539001365348906]
本稿では、逆学習推論(ALI)の改良版に構造因果モデル(SCM)を組み込むことにより、逆ファクトアルを生成する方法を提案する。
本稿では,事前学習された機械学習分類器の説明方法を示し,そのバイアスを評価し,そのバイアスを正則化器を用いて緩和する方法について述べる。
論文 参考訳(メタデータ) (2020-09-17T13:19:31Z) - Out-of-distribution Generalization via Partial Feature Decorrelation [72.96261704851683]
本稿では,特徴分解ネットワークと対象画像分類モデルとを協調的に最適化する,PFDL(Partial Feature Deorrelation Learning)アルゴリズムを提案する。
実世界のデータセットを用いた実験により,OOD画像分類データセットにおけるバックボーンモデルの精度が向上することを示した。
論文 参考訳(メタデータ) (2020-07-30T05:48:48Z) - Semi-supervised Medical Image Classification with Relation-driven
Self-ensembling Model [71.80319052891817]
医用画像分類のための関係駆動型半教師付きフレームワークを提案する。
これは、摂動下で与えられた入力の予測一貫性を促進することでラベルのないデータを利用する。
本手法は,シングルラベルおよびマルチラベル画像分類のシナリオにおいて,最先端の半教師付き学習手法よりも優れる。
論文 参考訳(メタデータ) (2020-05-15T06:57:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。