論文の概要: A User-Centric Analysis of Explainability in AI-Based Medical Image Diagnosis

• arxiv url: http://arxiv.org/abs/2605.02903v1
• Date: Tue, 31 Mar 2026 09:42:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 06:56:26.499133
• Title: A User-Centric Analysis of Explainability in AI-Based Medical Image Diagnosis
• Title（参考訳）: AIを用いた医用画像診断における説明可能性に関するユーザ中心分析
• Authors: Julia Wagner, Tim Schlippe,
• Abstract要約: 33名の医師を対象に調査したところ,88%がAIが診断を説明することが重要であると回答した。 境界ボックスとレポートの組み合わせは、評価されたアスペクトの可視性、完全性、スピード、適用性において、他のテストされたXAIメソッドよりも優れている。
• 参考スコア（独自算出の注目度）: 0.042970700836450486
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In recent years, AI systems in the medical domain have advanced significantly. However, despite outperforming humans, they are rarely used in practice since it is often not clear how they make their decisions. Optimal explanation and visualization of the decision process are often lacking. Therefore, we conducted a comparative user-centric analysis of the latest state-of-the-art textual, visual and multimodal explainable artificial intelligence (XAI) methods for medical image diagnosis. Our survey of 33 physicians showed that 88% agree that it is important that AI explains the diagnosis -- 64% even strongly agree. A combination of bounding box and report is rated better than the other tested XAI methods in the evaluated aspects understandability, completeness, speed, and applicability. We even tested the potential negative impact of false AI-based medical image diagnoses and found that 50% of the participants trusted false AI diagnoses over all tested XAI methods.
• Abstract（参考訳）: 近年,医療分野のAIシステムは著しく進歩している。 しかし、人間よりも優れていますが、どのように判断するかがはっきりしないことが多いため、実際に使用されることは稀です。 意思決定プロセスの最適な説明と視覚化は、しばしば欠落しています。 そこで我々は,医用画像診断のための最新のテキスト・ビジュアル・マルチモーダル・説明可能な人工知能(XAI)のユーザ中心分析を行った。 33人の医師を対象に行った調査では、AIが診断を説明することが重要であることに88%が同意していることがわかった。 境界ボックスとレポートの組み合わせは、評価されたアスペクトの可視性、完全性、スピード、適用性において、他のテストされたXAIメソッドよりも優れている。 私たちは、偽のAIベースの医療画像診断による潜在的なネガティブな影響をテストし、被験者の50%がテストされたすべてのXAIメソッドに対して偽のAI診断を信頼していることを発見した。

関連論文リスト

• Explainable AI as a Double-Edged Sword in Dermatology: The Impact on Clinicians versus The Public [46.86429592892395]
  説明可能なAI(XAI)は、AI意思決定の洞察を提供することによって、この問題に対処する。 フェアネスに基づく診断AIモデルと異なるXAI説明を組み合わせた2つの大規模実験の結果を報告する。
  論文  参考訳（メタデータ） (2025-12-14T00:06:06Z)
• How to Evaluate Medical AI [4.23552814358972]
  アルゴリズム診断(RPAD, RRAD)の相対精度とリコールについて紹介する。 RPADとRADは、AIの出力を単一の参照ではなく複数の専門家の意見と比較する。 大規模な研究によると、DeepSeek-V3のようなトップパフォーマンスモデルは、専門家のコンセンサスに匹敵する一貫性を達成している。
  論文  参考訳（メタデータ） (2025-09-15T14:01:22Z)
• Reverse Physician-AI Relationship: Full-process Clinical Diagnosis Driven by a Large Language Model [71.40113970879219]
  医師とAIの関係を逆転させるパラダイムシフトを提案する。 DxDirector-7Bは先進的な深層思考能力を持つLLMであり,医師の関与を最小限に抑えたフルプロセス診断を可能にする。 DxDirector-7Bは診断精度が優れているだけでなく、医師の作業量を大幅に削減する。
  論文  参考訳（メタデータ） (2025-08-14T09:51:20Z)
• Dermatologist-like explainable AI enhances melanoma diagnosis accuracy: eye-tracking study [1.1876787296873537]
  人工知能(AI)システムは皮膚科医のメラノーマの診断精度を大幅に改善した。 これらの進歩にもかかわらず、皮膚科医がAIとXAIの両方のツールとどのように関わるかの客観的評価には、依然として重要な必要性がある。 そこで本研究では,76名の皮膚科医を対象に,XAIシステムを用いてメラノーマとネビの16例の皮膚内視鏡像の診断を行った。
  論文  参考訳（メタデータ） (2024-09-20T13:08:33Z)
• The Limits of Perception: Analyzing Inconsistencies in Saliency Maps in XAI [0.0]
  説明可能な人工知能(XAI)は、AIの意思決定プロセスの解明に不可欠である。 ブラックボックス」として機能し、その理由が曖昧でアクセスできないため、誤診のリスクが高まる。 この透明性へのシフトは、単に有益であるだけでなく、医療におけるAI統合の責任を負うための重要なステップでもある。
  論文  参考訳（メタデータ） (2024-03-23T02:15:23Z)
• BMAD: Benchmarks for Medical Anomaly Detection [51.22159321912891]
  異常検出(AD)は、機械学習とコンピュータビジョンの基本的な研究課題である。 医用画像では、ADはまれな疾患や病態を示す可能性のある異常の検出と診断に特に重要である。 医用画像の異常検出方法を評価するための総合評価ベンチマークを導入する。
  論文  参考訳（メタデータ） (2023-06-20T20:23:46Z)
• What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps [69.53730499849023]
  説明可能なAI(XAI)を評価するために,ユーザ中心のペルソナ概念を提案する。 分析の結果,ユーザの人口統計や性格,説明のタイプ,影響説明の嗜好が示された。 私たちの洞察は、対話的で人間中心のXAIを実践的な応用に近づけます。
  論文  参考訳（メタデータ） (2022-10-07T12:51:27Z)
• Towards the Use of Saliency Maps for Explaining Low-Quality Electrocardiograms to End Users [51.644376281196394]
  診断に医用画像を使用する場合,画像が高品質であることが重要である。 遠隔医療において一般的な問題は、患者が診療所を退院した後にのみ、品質問題が警告されることである。 本稿では,低品質な医用画像をリアルタイムにフラグ付け,説明するためのAIシステムの開発について報告する。
  論文  参考訳（メタデータ） (2022-07-06T14:53:26Z)
• Artificial Intelligence in Dry Eye Disease [4.444624718360766]
  ドライアイ病(DED)は5～50%の頻度である。 医学への応用における近年の成功は、主に機械学習のサブ分野の発展によるものである。 これは、DEDにおけるAIの使用に関する最初の文献レビューである。
  論文  参考訳（メタデータ） (2021-09-02T10:17:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。