論文の概要: What Does It Mean for a Medical AI System to Be Right?

• arxiv url: http://arxiv.org/abs/2605.11963v1
• Date: Tue, 12 May 2026 11:18:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.815008
• Title: What Does It Mean for a Medical AI System to Be Right?
• Title（参考訳）: 医療用AIシステムの正しさとは何か?
• Authors: Antony Gitau,
• Abstract要約: 論文は、医療用AIの正確性は、ベンチマークのパフォーマンスを再現できる唯一の特性ではない、と論じている。 本論文は, 4つのテーマを通じて, 基礎的真理ラベルの不安定性, 過信AIの不確実性, 標準的臨床指標の不適切性, 時間的プレッシャのある臨床環境における自動化バイアスのリスクについて論じる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper examines what it means for a medical AI system to be right by grounding the question in a specific clinical context: the automatic classification of plasma cells in digitized bone marrow smears for the diagnosis of multiple myeloma. Drawing on philosophy of science and research ethics, the paper argues that correctness in medical AI is not a singular property reducible to benchmark performance, but a multi-dimensional concept involving the availability of expertly labeled medical datasets, the explainability and interpretability of model outputs, the clinical meaningfulness of evaluation metrics, and the distribution of accountability in human-AI workflows. As such, the paper develops this argument through four interrelated themes: the instability of ground truth labels, the opacity of overconfident AI, the inadequacy of standard clinical metrics, and the risk of automation bias in time-pressured clinical settings.
• Abstract（参考訳）: 本報告では, 多発性骨髄腫の診断において, 血管柄付き骨髄スメアーの細胞分類を自動的に行うことにより, 医療用AIシステムが, 特定の臨床的文脈で疑問を解き明かすことが何を意味するのかを考察する。 この論文は、科学と研究倫理の哲学に基づいて、医療AIの正しさは、ベンチマークのパフォーマンスを再現できる唯一の特性ではなく、専門的なラベル付き医療データセットの可用性、モデルアウトプットの説明可能性と解釈可能性、評価指標の臨床的意義、人間-AIワークフローにおける説明責任の分布を含む多次元概念であると主張している。 そこで,本論文では,基礎的真理ラベルの不確実性,過信AIの不透明性,標準的臨床指標の不適切性,時間的プレッシャーのある臨床環境における自動化バイアスのリスクの4つのテーマを通じて,この議論を展開している。

関連論文リスト

• Medical Model Synthesis Architectures: A Case Study [72.46211022258122]
  現在のAIシステムは、不確実性の下で調整された推論に苦労している。 我々は,不確実性の下で,現実的に有用だが公式に透過的な臨床予測を行うことができるAIシステムのためのフレームワークを提案する。 このフレームワークの最初の概念実証は、どのようにして差分診断に利用できるかを示す。
  論文  参考訳（メタデータ） (2026-05-10T19:30:16Z)
• Medical Imaging AI Competitions Lack Fairness [50.895929923643905]
  課題データセットが現実の臨床的多様性を代表するものなのか、FAIR原則に従ってアクセス可能で法的に再利用可能なものなのか、という2つの相補的な側面に沿って公正性を評価する。 本研究の結果は, 地理的位置, モダリティ, 問題型関連バイアスなどのデータセット構成に有意な偏りがみられ, 現在のベンチマークは実世界の臨床多様性を十分に反映していないことが示唆された。 これらの欠点は、ベンチマークエコシステムの基本的な制限を明らかにし、リーダボードの成功と臨床関連性との間の断絶を浮き彫りにします。
  論文  参考訳（メタデータ） (2025-12-19T13:48:10Z)
• Medical Reasoning in the Era of LLMs: A Systematic Review of Enhancement Techniques and Applications [59.721265428780946]
  医学における大きな言語モデル(LLM)は印象的な能力を実現しているが、体系的で透明で検証可能な推論を行う能力に重大なギャップが残っている。 本稿は、この新興分野に関する最初の体系的なレビューを提供する。 本稿では,学習時間戦略とテスト時間メカニズムに分類した推論強化手法の分類法を提案する。
  論文  参考訳（メタデータ） (2025-08-01T14:41:31Z)
• Uncertainty-aware abstention in medical diagnosis based on medical texts [87.88110503208016]
  本研究は,AI支援医療診断における信頼性の重要課題について論じる。 本研究は,診断に自信がなければ,診断システムによる意思決定の回避を可能にする選択予測手法に焦点をあてる。 我々は、選択予測タスクにおける信頼性を高めるための新しい最先端手法であるHUQ-2を紹介する。
  論文  参考訳（メタデータ） (2025-02-25T10:15:21Z)
• A survey of recent methods for addressing AI fairness and bias in biomedicine [48.46929081146017]
  人工知能システムは、人種や性別に基づくような社会的不平等を永続するか、偏見を示すことができる。 バイオメディカル自然言語処理 (NLP) やコンピュータビジョン (CV) の分野での様々な脱バイアス法に関する最近の論文を調査した。 我々は,2018年1月から2023年12月にかけて,複数のキーワードの組み合わせを用いて,PubMed,ACMデジタルライブラリ,IEEE Xploreに関する文献検索を行った。 バイオメディシンに応用可能な一般領域からの他の方法について検討し, バイアスに対処し, 公平性を向上する方法について検討した。
  論文  参考訳（メタデータ） (2024-02-13T06:38:46Z)
• Detecting algorithmic bias in medical-AI models using trees [7.939586935057782]
  本稿では,医療AI意思決定支援システムにおけるアルゴリズムバイアスの領域を検出するための革新的な枠組みを提案する。 本手法は,医学・AIモデルにおける潜在的なバイアスを,特に敗血症予測の文脈で効果的に同定する。
  論文  参考訳（メタデータ） (2023-12-05T18:47:34Z)
• Informing clinical assessment by contextualizing post-hoc explanations of risk prediction models in type-2 diabetes [50.8044927215346]
  本研究は, 合併症リスク予測のシナリオを考察し, 患者の臨床状態に関する文脈に焦点を当てる。 我々は、リスク予測モデル推論に関する文脈を提示し、その受容性を評価するために、最先端のLLMをいくつか採用する。 本論文は,実世界における臨床症例における文脈説明の有効性と有用性を明らかにする最初のエンドツーエンド分析の1つである。
  論文  参考訳（メタデータ） (2023-02-11T18:07:11Z)
• The role of explainability in creating trustworthy artificial intelligence for health care: a comprehensive survey of the terminology, design choices, and evaluation strategies [1.2762298148425795]
  透明性の欠如は、医療におけるAIシステムの実装における主要な障壁の1つとして認識されている。 我々は最近の文献をレビューし、説明可能なAIシステムの設計について研究者や実践者にガイダンスを提供する。 我々は、説明可能なモデリングが信頼できるAIに貢献できると結論づけるが、説明可能性の利点は実際に証明する必要がある。
  論文  参考訳（メタデータ） (2020-07-31T09:08:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。