論文の概要: On the Interplay of Human-AI Alignment,Fairness, and Performance Trade-offs in Medical Imaging

• arxiv url: http://arxiv.org/abs/2505.10231v1
• Date: Thu, 15 May 2025 12:43:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-16 22:29:06.31217
• Title: On the Interplay of Human-AI Alignment,Fairness, and Performance Trade-offs in Medical Imaging
• Title（参考訳）: 医用画像におけるヒト-AIアライメント, フェーネス, パフォーマンストレードオフの相互作用について
• Authors: Haozhe Luo, Ziyu Zhou, Zixin Shu, Aurélie Pahud de Mortanges, Robert Berke, Mauricio Reyes,
• Abstract要約: この領域における人間とAIの整合性と公正性に関する最初の体系的な調査を提供する。 以上の結果から,人間の洞察を取り入れることで,公平さのギャップを減らし,領域外一般化を促進することが示唆された。 これらの結果は、公正で堅牢で汎用的な医療AIシステムを開発するための、有望なアプローチとして、人間とAIのアライメントを強調している。
• 参考スコア（独自算出の注目度）: 3.054669417364281
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks excel in medical imaging but remain prone to biases, leading to fairness gaps across demographic groups. We provide the first systematic exploration of Human-AI alignment and fairness in this domain. Our results show that incorporating human insights consistently reduces fairness gaps and enhances out-of-domain generalization, though excessive alignment can introduce performance trade-offs, emphasizing the need for calibrated strategies. These findings highlight Human-AI alignment as a promising approach for developing fair, robust, and generalizable medical AI systems, striking a balance between expert guidance and automated efficiency. Our code is available at https://github.com/Roypic/Aligner.
• Abstract（参考訳）: ディープニューラルネットワークは医療画像に優れていますが、偏見に悩まされがちです。 この領域における人間とAIの整合性と公正性に関する最初の体系的な調査を提供する。 以上の結果から,人間の洞察を組み込むことは公平さのギャップを連続的に減らし,ドメイン外の一般化を促進するが,過剰なアライメントはパフォーマンスのトレードオフを招き,校正戦略の必要性を強調している。 これらの調査結果は、専門家の指導と自動化効率のバランスを崩し、公正で堅牢で一般化可能な医療AIシステムを開発するための、有望なアプローチとして、人間とAIのアライメントを強調している。 私たちのコードはhttps://github.com/Roypic/Aligner.comから入手可能です。

関連論文リスト

• Balancing Fairness and Performance in Healthcare AI: A Gradient Reconciliation Approach [3.997371369137763]
  明示的な公平性を考慮せずにデプロイされたAIシステムは、既存の医療格差を悪化させるリスクを負う。 予測性能とマルチ属性フェアネス最適化のバランスをとる新しい勾配調整フレームワークであるFairGradを提案する。
  論文  参考訳（メタデータ） (2025-04-19T19:24:34Z)
• Fair Foundation Models for Medical Image Analysis: Challenges and Perspectives [2.5573554033525636]
  自己教師付き学習を通じて膨大なデータセットに基づいてトレーニングされたファンデーションモデル(FM)は、医療画像タスクにまたがる効率的な適応を可能にする。 これらのモデルは公正性を高める可能性を示しているが、人口統計学的グループ間で一貫したパフォーマンスを達成する上で大きな課題は残る。 この包括的な枠組みは、体系的なバイアス緩和と政策関与を組み合わせることで、医療におけるAIの同等性に対する技術的障壁と制度的障壁の両方に効果的に対処できることを示すことで、現在の知識を前進させる。
  論文  参考訳（メタデータ） (2025-02-24T04:54:49Z)
• Towards Bidirectional Human-AI Alignment: A Systematic Review for Clarifications, Framework, and Future Directions [101.67121669727354]
  近年のAIの進歩は、AIシステムを意図された目標、倫理的原則、個人とグループの価値に向けて導くことの重要性を強調している。 人間のAIアライメントの明確な定義とスコープの欠如は、このアライメントを達成するための研究領域間の共同作業を妨げる、大きな障害となる。 我々は、2019年から2024年1月までに400以上の論文を体系的にレビューし、HCI(Human-Computer Interaction)、自然言語処理(NLP)、機械学習(ML)といった複数の分野にまたがって紹介する。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)
• Towards Clinical AI Fairness: Filling Gaps in the Puzzle [15.543248260582217]
  このレビューでは、医療データと提供されたAIフェアネスソリューションの両方に関して、いくつかの欠陥を体系的に指摘する。 AI技術がますます活用されている多くの医療分野において、AIフェアネスの研究の欠如を強調している。 これらのギャップを埋めるために、我々のレビューは医療研究コミュニティとAI研究コミュニティの両方にとって実行可能な戦略を前進させます。
  論文  参考訳（メタデータ） (2024-05-28T07:42:55Z)
• A Conceptual Algorithm for Applying Ethical Principles of AI to Medical Practice [5.005928809654619]
  AIを利用するツールは、複数のドメインにまたがる専門家レベルのパフォーマンスに、ますます一致するか、超えている。 これらのシステムは、人口、人種、社会経済の境界を越えたケア提供の格差を減らすことを約束している。 このようなAIツールの民主化は、ケアコストを削減し、リソース割り当てを最適化し、ケアの質を向上させる。
  論文  参考訳（メタデータ） (2023-04-23T04:14:18Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Robust and Efficient Medical Imaging with Self-Supervision [80.62711706785834]
  医用画像AIの堅牢性とデータ効率を向上させるための統一表現学習戦略であるREMEDISを提案する。 様々な医療画像タスクを研究し, 振り返りデータを用いて3つの現実的な応用シナリオをシミュレートする。
  論文  参考訳（メタデータ） (2022-05-19T17:34:18Z)
• Algorithm Fairness in AI for Medicine and Healthcare [4.626801344708786]
  アルゴリズムの公平性は 公平なケアを提供する上で 難しい問題です 人種のサブ人口にまたがるAIモデルの最近の評価では、患者の診断、治療、医療費の請求などにおいて、大きな不平等が明らかになっている。
  論文  参考訳（メタデータ） (2021-10-01T18:18:13Z)
• Learning to Complement Humans [67.38348247794949]
  オープンワールドにおけるAIに対するビジョンの高まりは、知覚、診断、推論タスクのために人間を補完できるシステムの開発に焦点を当てている。 我々は,人間-機械チームの複合的なパフォーマンスを最適化するために,エンド・ツー・エンドの学習戦略をどのように活用できるかを実証する。
  論文  参考訳（メタデータ） (2020-05-01T20:00:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。