論文の概要: The Limits of Fair Medical Imaging AI In The Wild

• arxiv url: http://arxiv.org/abs/2312.10083v1
• Date: Mon, 11 Dec 2023 18:59:50 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-15 13:50:36.853373
• Title: The Limits of Fair Medical Imaging AI In The Wild
• Title（参考訳）: 野生動物におけるフェア・メディカル・イメージング・aiの限界
• Authors: Yuzhe Yang, Haoran Zhang, Judy W Gichoya, Dina Katabi, Marzyeh Ghassemi
• Abstract要約: 医療用AIが人口統計エンコーディングをどのように利用するかを検討する。 医療画像AIは、疾患分類において、人口動態のショートカットを利用することを確認した。 人口統計属性のエンコーディングが少ないモデルは、しばしば「グローバルに最適」であることがわかった。
• 参考スコア（独自算出の注目度）: 43.97266228706059
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As artificial intelligence (AI) rapidly approaches human-level performance in medical imaging, it is crucial that it does not exacerbate or propagate healthcare disparities. Prior research has established AI's capacity to infer demographic data from chest X-rays, leading to a key concern: do models using demographic shortcuts have unfair predictions across subpopulations? In this study, we conduct a thorough investigation into the extent to which medical AI utilizes demographic encodings, focusing on potential fairness discrepancies within both in-distribution training sets and external test sets. Our analysis covers three key medical imaging disciplines: radiology, dermatology, and ophthalmology, and incorporates data from six global chest X-ray datasets. We confirm that medical imaging AI leverages demographic shortcuts in disease classification. While correcting shortcuts algorithmically effectively addresses fairness gaps to create "locally optimal" models within the original data distribution, this optimality is not true in new test settings. Surprisingly, we find that models with less encoding of demographic attributes are often most "globally optimal", exhibiting better fairness during model evaluation in new test environments. Our work establishes best practices for medical imaging models which maintain their performance and fairness in deployments beyond their initial training contexts, underscoring critical considerations for AI clinical deployments across populations and sites.
• Abstract（参考訳）: 人工知能(AI)は、医療画像における人間のレベルパフォーマンスに急速にアプローチしているため、医療格差を悪化させ、伝播させることは不可欠である。 以前の研究では、胸部x線から人口統計データを推測するaiの能力を確立しており、重要な懸念となっている。 本研究では,医療用AIが人口統計エンコーディングをどのように利用するかについて,分布内トレーニングセットと外部テストセットの両方において,潜在的公正性の違いに着目し,徹底的な調査を行う。 対象は放射線科,皮膚科,眼科の3分野であり,6つの胸部x線データからのデータを取り入れた。 医療画像AIは、疾患分類における人口動態のショートカットを活用する。 ショートカットの修正は、元のデータ分散内で「局所的に最適な」モデルを作成するためにフェアネスギャップを効果的に解決するが、新しいテスト設定ではこの最適性は当てはまらない。 驚くべきことに、人口統計属性のエンコーディングが少ないモデルは、新しいテスト環境でのモデル評価において、最も「グローバルに最適」であることが多い。 我々の研究は、最初のトレーニングコンテキストを超えて、デプロイメントのパフォーマンスと公平性を維持する医療画像モデルのベストプラクティスを確立し、人口やサイトをまたがるAI臨床展開における重要な考慮事項を明らかにする。

関連論文リスト

• The Era of Foundation Models in Medical Imaging is Approaching : A Scoping Review of the Clinical Value of Large-Scale Generative AI Applications in Radiology [0.0]
  放射線技師の不足に起因する社会問題は激化しており、人工知能は潜在的な解決策として強調されている。 最近出現する大規模生成AIは、大規模言語モデル(LLM)からマルチモーダルモデルへと拡張されている。 このスコーピングレビューは、大規模生成型AIアプリケーションの臨床的価値に関する既存の文献を体系的に整理する。
  論文  参考訳（メタデータ） (2024-09-03T00:48:50Z)
• Advancing human-centric AI for robust X-ray analysis through holistic self-supervised learning [33.9544297423474]
  873kの胸部X線で自己監督によって訓練された大型ビジュアルエンコーダであるRayDinoについて紹介する。 我々はレイディーノと過去の9つの放射線学課題における最先端モデルを比較し、分類と密分化からテキスト生成までについて述べる。 以上の結果から,患者中心型AIがX線の臨床・解釈に有用であることが示唆された。
  論文  参考訳（メタデータ） (2024-05-02T16:59:10Z)
• Demographic Bias of Expert-Level Vision-Language Foundation Models in Medical Imaging [13.141767097232796]
  自己監督型視覚言語基盤モデルは、明示的なトレーニングアノテーションに頼ることなく、幅広い病態を検出することができる。 これらのAIモデルが人間の偏見を反映または増幅しないことを保証することが不可欠である。 本研究では,5つのグローバルソースデータセットを対象とした胸部X線診断における最先端の視覚言語基盤モデルのアルゴリズム的公正性について検討した。
  論文  参考訳（メタデータ） (2024-02-22T18:59:53Z)
• LVM-Med: Learning Large-Scale Self-Supervised Vision Models for Medical Imaging via Second-order Graph Matching [59.01894976615714]
  LVM-Medは、大規模医療データセットに基づいてトレーニングされた、最初のディープネットワークファミリーである。 55の公開データセットから約13万の医療画像を収集しました。 LVM-Medは、多くの最先端の教師付き、自己監督型、基礎モデルよりも経験的に優れている。
  論文  参考訳（メタデータ） (2023-06-20T22:21:34Z)
• Generative models improve fairness of medical classifiers under distribution shifts [49.10233060774818]
  データから現実的な拡張を自動的に学習することは、生成モデルを用いてラベル効率の良い方法で可能であることを示す。 これらの学習の強化は、モデルをより堅牢で統計的に公平に配布できることを示した。
  論文  参考訳（メタデータ） (2023-04-18T18:15:38Z)
• Vision-Language Modelling For Radiological Imaging and Reports In The Low Data Regime [70.04389979779195]
  本稿では,視覚および言語入力を共通空間に埋め込んだ医用視覚言語モデル(VLM)について検討する。 本稿では,新しい画像領域やテキスト領域への汎用事前学習モデルの適用など,低データ性能向上のためのいくつかの候補手法について検討する。 テキスト・ツー・イメージ検索をベンチマークとして,2つの胸部X線および放射線学的報告を用いた可変サイズのトレーニングデータセットを用いて,これらの手法の性能評価を行った。
  論文  参考訳（メタデータ） (2023-03-30T18:20:00Z)
• Self-supervised Multi-modal Training from Uncurated Image and Reports Enables Zero-shot Oversight Artificial Intelligence in Radiology [31.045221580446963]
  医療用クロスアテンションビジョンランゲージモデル(医療用X-VL)を提案する。 我々のモデルは、ゼロショット分類からゼロショット誤り訂正まで、さまざまなゼロショットタスクを監視できる。 提案手法は,データ制限設定において特に有効であり,医療領域に広く適用可能である可能性が示唆された。
  論文  参考訳（メタデータ） (2022-08-10T04:35:58Z)
• Robust and Efficient Medical Imaging with Self-Supervision [80.62711706785834]
  医用画像AIの堅牢性とデータ効率を向上させるための統一表現学習戦略であるREMEDISを提案する。 様々な医療画像タスクを研究し, 振り返りデータを用いて3つの現実的な応用シナリオをシミュレートする。
  論文  参考訳（メタデータ） (2022-05-19T17:34:18Z)
• Reading Race: AI Recognises Patient's Racial Identity In Medical Images [9.287449389763413]
  画像の解釈を行う人間の専門家にとって明らかな、医療画像における人種の相関関係は知られていない。 標準的なディープラーニングモデルは、複数の画像モダリティにまたがる高性能な医療画像から競合を予測するためにトレーニングすることができる。
  論文  参考訳（メタデータ） (2021-07-21T21:10:16Z)
• Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for Thoracic Disease Identification [83.6017225363714]
  ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。 胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。 本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
  論文  参考訳（メタデータ） (2021-02-26T02:29:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。