論文の概要: No Fair Lunch: A Causal Perspective on Dataset Bias in Machine Learning for Medical Imaging

• arxiv url: http://arxiv.org/abs/2307.16526v1
• Date: Mon, 31 Jul 2023 09:48:32 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-01 15:11:45.885179
• Title: No Fair Lunch: A Causal Perspective on Dataset Bias in Machine Learning for Medical Imaging
• Title（参考訳）: No Fair Lunch:医療画像のための機械学習におけるデータセットバイアスの因果的展望
• Authors: Charles Jones, Daniel C. Castro, Fabio De Sousa Ribeiro, Ozan Oktay, Melissa McCradden, Ben Glocker
• Abstract要約: 我々は、データセットバイアスの異なるソースが区別できないが、かなり異なる緩和戦略を必要とすることを示す。 医療画像の公平性を推論し、安全で公平なAI予測モデルの開発を支援するための実践的な3段階の枠組みを提供する。
• 参考スコア（独自算出の注目度）: 20.562862525019916
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As machine learning methods gain prominence within clinical decision-making, addressing fairness concerns becomes increasingly urgent. Despite considerable work dedicated to detecting and ameliorating algorithmic bias, today's methods are deficient with potentially harmful consequences. Our causal perspective sheds new light on algorithmic bias, highlighting how different sources of dataset bias may appear indistinguishable yet require substantially different mitigation strategies. We introduce three families of causal bias mechanisms stemming from disparities in prevalence, presentation, and annotation. Our causal analysis underscores how current mitigation methods tackle only a narrow and often unrealistic subset of scenarios. We provide a practical three-step framework for reasoning about fairness in medical imaging, supporting the development of safe and equitable AI prediction models.
• Abstract（参考訳）: 臨床的意思決定において機械学習の手法が優位に立つにつれ、公平性の懸念への対処がますます急務となる。 アルゴリズムバイアスの検出と改善に力を入れているが、今日の手法は潜在的に有害な結果に欠ける。 我々の因果的視点は、アルゴリズムバイアスに新たな光を当て、データセットバイアスの異なるソースが、区別できないが、かなり異なる緩和戦略を必要とすることを強調している。 本稿では,有病率,プレゼンテーション,アノテーションの相違から起因した因果バイアス機構の3つの家系を紹介する。 我々の因果解析は、現在の緩和手法がシナリオの狭小かつ非現実的なサブセットにどのように取り組むかを示している。 医療画像の公平性を推論し、安全で公平なAI予測モデルの開発を支援するための実践的な3段階の枠組みを提供する。

関連論文リスト

• Seeing Unseen: Discover Novel Biomedical Concepts via Geometry-Constrained Probabilistic Modeling [53.7117640028211]
  同定された問題を解決するために,幾何制約付き確率的モデリング処理を提案する。 構成された埋め込み空間のレイアウトに適切な制約を課すために、重要な幾何学的性質のスイートを組み込む。 スペクトルグラフ理論法は、潜在的な新規クラスの数を推定するために考案された。
  論文  参考訳（メタデータ） (2024-03-02T00:56:05Z)
• Towards objective and systematic evaluation of bias in artificial intelligence for medical imaging [2.0890189482817165]
  医療画像におけるバイアスがAIモデルに与える影響を調査するための新しい分析フレームワークを提案する。 医用画像AIの偏りを評価するために, サイリコ試験の制御を行うためのこのフレームワークを開発し, テストした。
  論文  参考訳（メタデータ） (2023-11-03T01:37:28Z)
• Causal Triplet: An Open Challenge for Intervention-centric Causal Representation Learning [98.78136504619539]
  Causal Tripletは、視覚的に複雑なシーンを特徴とする因果表現学習ベンチマークである。 この結果から,不整合表現やオブジェクト中心表現の知識によって構築されたモデルが,分散表現よりもはるかに優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-12T17:43:38Z)
• Detecting Shortcut Learning for Fair Medical AI using Shortcut Testing [62.9062883851246]
  機械学習は医療の改善に大いに貢献するが、その利用が健康格差を広めたり増幅したりしないことを確実にすることは重要である。 アルゴリズムの不公平性の潜在的な要因の1つ、ショートカット学習は、トレーニングデータにおける不適切な相関に基づいてMLモデルが予測した時に発生する。 マルチタスク学習を用いて,臨床MLシステムの公平性評価の一環として,ショートカット学習の評価と緩和を行う手法を提案する。
  論文  参考訳（メタデータ） (2022-07-21T09:35:38Z)
• A Sandbox Tool to Bias(Stress)-Test Fairness Algorithms [19.86635585740634]
  バイアス注入型サンドボックスツールの概念と実装について, 各種バイアスの公平性について検討する。 既存のツールキットとは異なり、私たちのツールはMLパイプラインに事実上バイアスを注入する制御された環境を提供します。 特に、バイアス注入前において、偏りのない状態の真のラベルに介入した後に生じる予測を比較することで、与えられた治療法が注入されたバイアスを軽減することができるかどうかを検証できる。
  論文  参考訳（メタデータ） (2022-04-21T16:12:19Z)
• Information-Theoretic Bias Reduction via Causal View of Spurious Correlation [71.9123886505321]
  本稿では,スプリアス相関の因果的解釈による情報理論バイアス測定手法を提案する。 本稿では,バイアス正規化損失を含むアルゴリズムバイアスに対する新しいデバイアスフレームワークを提案する。 提案したバイアス測定とデバイアス法は、多様な現実シナリオで検証される。
  論文  参考訳（メタデータ） (2022-01-10T01:19:31Z)
• Estimating and Improving Fairness with Adversarial Learning [65.99330614802388]
  本研究では,深層学習に基づく医療画像解析システムにおけるバイアスの同時緩和と検出を目的としたマルチタスク・トレーニング戦略を提案する。 具体的には,バイアスに対する識別モジュールと,ベース分類モデルにおける不公平性を予測するクリティカルモジュールを追加することを提案する。 大規模で利用可能な皮膚病変データセットのフレームワークを評価します。
  論文  参考訳（メタデータ） (2021-03-07T03:10:32Z)
• All of the Fairness for Edge Prediction with Optimal Transport [11.51786288978429]
  グラフにおけるエッジ予測の課題に対する公平性の問題について検討する。 本稿では,任意のグラフの隣接行列に対して,グループと個々の公正性のトレードオフを伴う埋め込み非依存の補修手順を提案する。
  論文  参考訳（メタデータ） (2020-10-30T15:33:13Z)
• Fair Meta-Learning For Few-Shot Classification [7.672769260569742]
  バイアスデータに基づいてトレーニングされた機械学習アルゴリズムは、不公平な予測を行う傾向がある。 本稿では,メタトレイン中のバイアスを効果的に軽減する,高速適応型数ショットメタラーニング手法を提案する。 提案手法は,モデル出力のバイアスを効果的に軽減し,不明瞭なタスクに対して精度と公平性の両方を一般化することを実証的に実証する。
  論文  参考訳（メタデータ） (2020-09-23T22:33:47Z)
• Towards causal benchmarking of bias in face analysis algorithms [54.19499274513654]
  顔分析アルゴリズムのアルゴリズムバイアスを測定する実験手法を開発した。 提案手法は,一致したサンプル画像の合成トランスクター'を生成することに基づく。 性別分類アルゴリズムの偏見を従来の観察法を用いて分析することにより,本手法の有効性を検証した。
  論文  参考訳（メタデータ） (2020-07-13T17:10:34Z)
• Domain aware medical image classifier interpretation by counterfactual impact analysis [2.512212190779389]
  ニューラルネットワークに基づく属性法を導入し、任意のトレーニングされた予測器に適用する。 提案手法は,局所的な画像摂動が予測者のスコアに与える影響を計測することにより,入力画像の正当領域を1つの前方通過で同定する。
  論文  参考訳（メタデータ） (2020-07-13T11:11:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。