論文の概要: An investigation into the causes of race bias in AI-based cine CMR segmentation
- arxiv url: http://arxiv.org/abs/2408.02462v1
- Date: Mon, 5 Aug 2024 13:40:33 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-06 13:26:57.613974
- Title: An investigation into the causes of race bias in AI-based cine CMR segmentation
- Title（参考訳）: AIに基づくシネCMRセグメンテーションにおけるレースバイアスの原因に関する研究
- Authors: Tiarna Lee, Esther Puyol-Anton, Bram Ruijsink, Sebastien Roujol, Theodore Barfoot, Shaheim Ogbomo-Harmitt, Miaojing Shi, Andrew P. King,
- Abstract要約: 心臓磁気共鳴(CMR)画像の分類とセグメンテーションの一連の実験を英国バイオバンクで行った。
画像だけでは高い精度でレースを予測できるが、地上の真実のセグメンテーションでは精度は低い。
分類モデルで最も注目されたのは皮下脂肪などの非ハート領域であった。
- 参考スコア（独自算出の注目度）: 7.279664622541276
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial intelligence (AI) methods are being used increasingly for the automated segmentation of cine cardiac magnetic resonance (CMR) imaging. However, these methods have been shown to be subject to race bias, i.e. they exhibit different levels of performance for different races depending on the (im)balance of the data used to train the AI model. In this paper we investigate the source of this bias, seeking to understand its root cause(s) so that it can be effectively mitigated. We perform a series of classification and segmentation experiments on short-axis cine CMR images acquired from Black and White subjects from the UK Biobank and apply AI interpretability methods to understand the results. In the classification experiments, we found that race can be predicted with high accuracy from the images alone, but less accurately from ground truth segmentations, suggesting that the distributional shift between races, which is often the cause of AI bias, is mostly image-based rather than segmentation-based. The interpretability methods showed that most attention in the classification models was focused on non-heart regions, such as subcutaneous fat. Cropping the images tightly around the heart reduced classification accuracy to around chance level. Similarly, race can be predicted from the latent representations of a biased segmentation model, suggesting that race information is encoded in the model. Cropping images tightly around the heart reduced but did not eliminate segmentation bias. We also investigate the influence of possible confounders on the bias observed.
- Abstract（参考訳）: 人工心臓磁気共鳴(CMR)画像の自動分割に人工知能(AI)法がますます使われてきている。
しかし、これらの手法は人種バイアス、すなわちAIモデルのトレーニングに使用されるデータのバランスに応じて異なる人種のパフォーマンスを示すことが示されている。
本稿では,このバイアスの源泉を解明し,根本原因を解明し,効果的に緩和できるようにする。
英国バイオバンクの黒と白の被験者から得られた短軸シネCMR画像の分類とセグメンテーション実験を行い、その結果を理解するためにAIの解釈可能性手法を適用した。
分類実験では,画像のみから高い精度で人種を予測できるが,真理セグメンテーションでは精度が低いことが判明し,AIバイアスの原因となる人種間の分布変化が,主にセグメンテーションベースではなくイメージベースであることが示唆された。
分類モデルでは皮下脂肪などの非ハート領域に注意が向けられた。
心臓の周囲をしっかりと撮影すると、分類精度は偶然のレベルまで低下した。
同様に、レースはバイアス付きセグメンテーションモデルの潜在表現から予測することができ、レース情報はモデルに符号化されていることを示唆している。
心臓周囲の画像の収集は困難であったが, セグメンテーションバイアスは排除されなかった。
また,共同ファウンダーが観察されるバイアスに与える影響についても検討した。
関連論文リスト
- Classes Are Not Equal: An Empirical Study on Image Recognition Fairness [100.36114135663836]
我々は,クラスが等しくないことを実験的に証明し,様々なデータセットにまたがる画像分類モデルにおいて,公平性の問題が顕著であることを示した。
以上の結果から,モデルでは認識が困難であるクラスに対して,予測バイアスが大きくなる傾向が示唆された。
データ拡張および表現学習アルゴリズムは、画像分類のある程度の公平性を促進することにより、全体的なパフォーマンスを向上させる。
論文 参考訳（メタデータ） (2024-02-28T07:54:50Z) - An investigation into the impact of deep learning model choice on sex
and race bias in cardiac MR segmentation [8.449342469976758]
被検者の性別と人種の不均衡が、AIによる心臓磁気共鳴画像のセグメンテーションにどのように影響するかを検討する。
4つのモデルのうち3つのモデルに有意な性的偏見があり、すべてのモデルに人種的偏見がある。
論文 参考訳（メタデータ） (2023-08-25T14:55:38Z) - Spuriosity Rankings: Sorting Data to Measure and Mitigate Biases [62.54519787811138]
本稿では,突発的手がかりに依存したモデルバイアスを簡易かつ効果的に測定・緩和する手法を提案する。
我々は,解釈可能なネットワークの深部神経的特徴をベースとして,それらのクラス内の画像のランク付けを行う。
以上の結果から,素早い特徴依存によるモデルバイアスは,モデルがどのようにトレーニングされたかよりも,モデルがトレーニングされていることの影響がはるかに大きいことが示唆された。
論文 参考訳（メタデータ） (2022-12-05T23:15:43Z) - Decoupled Mixup for Generalized Visual Recognition [71.13734761715472]
視覚認識のためのCNNモデルを学習するための新しい「デカップリング・ミクスアップ」手法を提案する。
本手法は,各画像を識別領域と雑音発生領域に分離し,これらの領域を均一に組み合わせてCNNモデルを訓練する。
実験結果から,未知のコンテキストからなるデータに対する本手法の高一般化性能を示す。
論文 参考訳（メタデータ） (2022-10-26T15:21:39Z) - A systematic study of race and sex bias in CNN-based cardiac MR
segmentation [6.507372382471608]
CNNを用いたセグメンテーションにおいて,トレーニングセットの不均衡が人種や性バイアスに与える影響について,最初の系統的研究を行った。
本研究は,短軸シン心磁気共鳴画像から心構造を抽出し,人種/性不均衡の異なる複数のCNNセグメンテーションモデルを訓練する。
性別実験では有意な偏見はないが、2つの異なる人種実験では有意な偏見が見られ、健康データセットにおける異なる人口集団の適切な表現を検討する必要性が浮き彫りになっている。
論文 参考訳（メタデータ） (2022-09-04T14:32:00Z) - Pseudo Bias-Balanced Learning for Debiased Chest X-ray Classification [57.53567756716656]
本研究では, バイアスラベルを正確に把握せず, 脱バイアス胸部X線診断モデルの開発について検討した。
本稿では,まずサンプルごとのバイアスラベルをキャプチャし,予測する新しいアルゴリズム,擬似バイアスバランス学習を提案する。
提案手法は他の最先端手法よりも一貫した改善を実現した。
論文 参考訳（メタデータ） (2022-03-18T11:02:18Z) - "Just Drive": Colour Bias Mitigation for Semantic Segmentation in the
Context of Urban Driving [8.147652597876862]
畳み込みニューラルネットワークは、幾何学よりも色やテクスチャに頼っていることが示されている。
本稿では,都会の運転シーンにおけるセマンティックセグメンテーションモデルによって生じるバイアスを,反復的に訓練された未学習アルゴリズムを用いて緩和する。
論文 参考訳（メタデータ） (2021-12-02T10:56:19Z) - Unravelling the Effect of Image Distortions for Biased Prediction of
Pre-trained Face Recognition Models [86.79402670904338]
画像歪みの存在下での4つの最先端深層顔認識モデルの性能評価を行った。
我々は、画像歪みが、異なるサブグループ間でのモデルの性能ギャップと関係していることを観察した。
論文 参考訳（メタデータ） (2021-08-14T16:49:05Z) - Reading Race: AI Recognises Patient's Racial Identity In Medical Images [9.287449389763413]
画像の解釈を行う人間の専門家にとって明らかな、医療画像における人種の相関関係は知られていない。
標準的なディープラーニングモデルは、複数の画像モダリティにまたがる高性能な医療画像から競合を予測するためにトレーニングすることができる。
論文 参考訳（メタデータ） (2021-07-21T21:10:16Z) - Fairness in Cardiac MR Image Analysis: An Investigation of Bias Due to
Data Imbalance in Deep Learning Based Segmentation [1.6386696247541932]
AIにおける「フェアネス」とは、人種や性別などの人口統計特性に基づいて、潜在的なバイアスのアルゴリズムを評価することを指す。
近年, 心MR領域の深層学習(DL)が注目されているが, それらの妥当性についてはまだ研究されていない。
異なる人種集団間でDiceのパフォーマンスに統計的に有意な差が認められた。
論文 参考訳（メタデータ） (2021-06-23T13:27:35Z) - LOGAN: Local Group Bias Detection by Clustering [86.38331353310114]
コーパスレベルでバイアスを評価することは、モデルにバイアスがどのように埋め込まれているかを理解するのに十分ではない、と我々は主張する。
クラスタリングに基づく新しいバイアス検出手法であるLOGANを提案する。
毒性分類および対象分類タスクの実験は、LOGANが局所領域のバイアスを特定することを示している。
論文 参考訳（メタデータ） (2020-10-06T16:42:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。