論文の概要: Opening the black box of deep learning: Validating the statistical association between explainable artificial intelligence (XAI) and clinical domain knowledge in fundus image-based glaucoma diagnosis

• arxiv url: http://arxiv.org/abs/2504.04549v1
• Date: Sun, 06 Apr 2025 16:57:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-08 14:11:22.394066
• Title: Opening the black box of deep learning: Validating the statistical association between explainable artificial intelligence (XAI) and clinical domain knowledge in fundus image-based glaucoma diagnosis
• Title（参考訳）: 深層学習のブラックボックスを開く:基礎画像による緑内障診断における説明可能な人工知能(XAI)と臨床領域知識の統計的関連性検証
• Authors: Han Yuan, Lican Kang, Yong Li,
• Abstract要約: 緑内障分類における深層学習モデルの意思決定過程を明らかにする。 VGG-11、ResNet-18、DeiT-Tiny、Swin Transformer-Tinyを含む4つのディープニューラルネットワークを開発した。 我々の研究は、ディープニューラルネットワーク臨床医間の決定論理の収束の証拠を提供する。
• 参考スコア（独自算出の注目度）: 10.864183122318703
• License:
• Abstract: While deep learning has exhibited remarkable predictive capabilities in various medical image tasks, its inherent black-box nature has hindered its widespread implementation in real-world healthcare settings. Our objective is to unveil the decision-making processes of deep learning models in the context of glaucoma classification by employing several Class Activation Map (CAM) techniques to generate model focus regions and comparing them with clinical domain knowledge of the anatomical area (optic cup, optic disk, and blood vessels). Four deep neural networks, including VGG-11, ResNet-18, DeiT-Tiny, and Swin Transformer-Tiny, were developed using binary diagnostic labels of glaucoma and five CAM methods (Grad-CAM, XGrad-CAM, Score-CAM, Eigen-CAM, and Layer-CAM) were employed to highlight the model focus area. We applied the paired-sample t-test to compare the percentage of anatomies in the model focus area to the proportion of anatomies in the entire image. After that, Pearson's and Spearman's correlation tests were implemented to examine the relationship between model predictive ability and the percentage of anatomical structures in the model focus area. On five public glaucoma datasets, all deep learning models consistently displayed statistically significantly higher percentages of anatomical structures in the focus area than the proportions of anatomical structures in the entire image. Also, we validated the positive relationship between the percentage of anatomical structures in the focus area and model predictive performance. Our study provides evidence of the convergence of decision logic between deep neural networks and human clinicians through rigorous statistical tests. We anticipate that it can help alleviate clinicians' concerns regarding the trustworthiness of deep learning in healthcare. For reproducibility, the code and dataset have been released at GitHub.
• Abstract（参考訳）: 深層学習は様々な医療画像タスクにおいて顕著な予測能力を示してきたが、その固有のブラックボックスの性質は、現実世界の医療環境におけるその広範な実装を妨げている。 本研究の目的は,緑内障の分類における深層学習モデルの意思決定過程を明らかにすることであり,複数のクラス活性化マップ(CAM)技術を用いてモデル焦点領域を生成し,解剖学的領域(光学カップ,光ディスク,血管)の臨床領域知識と比較することである。 VGG-11, ResNet-18, DeiT-Tiny, Swin Transformer-Tinyの4つのディープニューラルネットワークが緑内障のバイナリ診断ラベルと5つのCAM(Grad-CAM, XGrad-CAM, Score-CAM, Eigen-CAM, Layer-CAM)を用いて開発された。 モデル焦点領域の解剖率と画像全体の解剖率を比較するために,ペアサンプルt-testを適用した。 その後、モデル焦点領域におけるモデル予測能力と解剖学的構造の割合との関係を調べるために、ピアソンとスピアマンの相関試験を実施した。 5つの公共緑内障データセットにおいて、すべてのディープラーニングモデルは、画像全体の解剖学的構造の割合よりも、焦点領域における解剖学的構造の割合が統計的に有意に高かった。 また,焦点領域における解剖学的構造の割合とモデル予測性能との正の相関を検証した。 本研究は、厳密な統計的テストを通じて、ディープニューラルネットワークとヒト臨床医の意思決定ロジックの収束の証拠を提供する。 医療における深層学習の信頼性に関する臨床医の懸念を和らげることが期待できる。 再現性のために、コードとデータセットがGitHubでリリースされた。

関連論文リスト

• Abnormality-Driven Representation Learning for Radiology Imaging [0.8321462983924758]
  病変強調型コントラスト学習(LeCL)は,CTスキャンの異なる部位にわたる2次元軸方向スライスにおける異常により引き起こされる視覚的表現を得るための新しい手法である。 本研究は, 腫瘍病変位置, 肺疾患検出, 患者ステージングの3つの臨床的課題に対するアプローチを, 最先端の4つの基礎モデルと比較した。
  論文  参考訳（メタデータ） (2024-11-25T13:53:26Z)
• Deep Generative Models Unveil Patterns in Medical Images Through Vision-Language Conditioning [3.4299097748670255]
  深部生成モデルでは、データセットのサイズと品質を向上することにより、医療画像解析が大幅に進歩している。 画像合成プロセスの指針として,臨床データとセグメンテーションマスクを組み合わせることによって,ハイブリッド条件による生成構造を用いる。 我々のアプローチは、画像と臨床情報の視覚的相関が低いため、従来の医療報告誘導合成よりも困難であり、課題である。
  論文  参考訳（メタデータ） (2024-10-17T17:48:36Z)
• A Textbook Remedy for Domain Shifts: Knowledge Priors for Medical Image Analysis [48.84443450990355]
  ディープネットワークは、医学的なスキャンに適用すると、例外のない状況で失敗することが多いため、自然画像の解析において広く成功している。 胸部X線や皮膚病変画像の文脈において、異なる病院から採取したデータや、性別、人種などの人口統計学的変数によって構築されたデータなど、ドメインシフトに対するモデル感度に焦点をあてる。 医学教育からインスピレーションを得て,自然言語で伝達される明示的な医学知識を基盤としたディープネットワークを提案する。
  論文  参考訳（メタデータ） (2024-05-23T17:55:02Z)
• Exploiting Causality Signals in Medical Images: A Pilot Study with Empirical Results [1.2400966570867322]
  本稿では,ニューラルネットワークによる分類目的の画像から弱い因果信号を発見し,利用するための新しい手法を提案する。 このようにして、画像の1つの部分における特徴の存在が、画像の別の部分における他の特徴の出現にどのように影響するかをモデル化する。 提案手法は,畳み込みニューラルネットワークのバックボーンと因果係数抽出モジュールから構成される。
  論文  参考訳（メタデータ） (2023-09-19T08:00:26Z)
• LVM-Med: Learning Large-Scale Self-Supervised Vision Models for Medical Imaging via Second-order Graph Matching [59.01894976615714]
  LVM-Medは、大規模医療データセットに基づいてトレーニングされた、最初のディープネットワークファミリーである。 55の公開データセットから約13万の医療画像を収集しました。 LVM-Medは、多くの最先端の教師付き、自己監督型、基礎モデルよりも経験的に優れている。
  論文  参考訳（メタデータ） (2023-06-20T22:21:34Z)
• ROCT-Net: A new ensemble deep convolutional model with improved spatial resolution learning for detecting common diseases from retinal OCT images [0.0]
  本稿では,OCT画像から網膜疾患を検出するために,新たな深層アンサンブル畳み込みニューラルネットワークを提案する。 本モデルは,2つの頑健な畳み込みモデルの学習アーキテクチャを用いて,リッチかつマルチレゾリューションな特徴を生成する。 2つのデータセットに関する実験と、他のよく知られた深層畳み込みニューラルネットワークとの比較により、アーキテクチャが分類精度を最大5%向上できることが証明された。
  論文  参考訳（メタデータ） (2022-03-03T17:51:01Z)
• MCUa: Multi-level Context and Uncertainty aware Dynamic Deep Ensemble for Breast Cancer Histology Image Classification [18.833782238355386]
  我々は,MCUa(Multi-level Context and Uncertainty aware)動的深層学習アンサンブルモデルという新しいCNNを提案する。 MCUamodelは、乳がん組織像データセットで98.11%の精度を達成した。
  論文  参考訳（メタデータ） (2021-08-24T13:18:57Z)
• Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for Thoracic Disease Identification [83.6017225363714]
  ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。 胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。 本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
  論文  参考訳（メタデータ） (2021-02-26T02:29:30Z)
• Few-shot Medical Image Segmentation using a Global Correlation Network with Discriminative Embedding [60.89561661441736]
  医療画像分割のための新しい手法を提案する。 深層畳み込みネットワークを用いた数ショット画像セグメンタを構築します。 深層埋め込みの識別性を高め,同一クラスの特徴領域のクラスタリングを促進する。
  論文  参考訳（メタデータ） (2020-12-10T04:01:07Z)
• Explaining Clinical Decision Support Systems in Medical Imaging using Cycle-Consistent Activation Maximization [112.2628296775395]
  ディープニューラルネットワークを用いた臨床意思決定支援は、着実に関心が高まりつつあるトピックとなっている。 臨床医は、その根底にある意思決定プロセスが不透明で理解しにくいため、この技術の採用をためらうことが多い。 そこで我々は,より小さなデータセットであっても,分類器決定の高品質な可視化を生成するCycleGANアクティベーションに基づく,新たな意思決定手法を提案する。
  論文  参考訳（メタデータ） (2020-10-09T14:39:27Z)
• 1-D Convlutional Neural Networks for the Analysis of Pupil Size Variations in Scotopic Conditions [79.71065005161566]
  1次元畳み込みニューラルネットワークモデルは、短距離配列の分類のために訓練されている。 モデルは、ホールドアウトテストセット上で、高い平均精度で予測を提供する。
  論文  参考訳（メタデータ） (2020-02-06T17:25:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。