論文の概要: MiMICRI: Towards Domain-centered Counterfactual Explanations of Cardiovascular Image Classification Models
- arxiv url: http://arxiv.org/abs/2404.16174v1
- Date: Wed, 24 Apr 2024 20:04:55 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-26 16:02:40.900476
- Title: MiMICRI: Towards Domain-centered Counterfactual Explanations of Cardiovascular Image Classification Models
- Title（参考訳）: MiMICRI:心血管画像分類モデルにおける領域中心の対実的説明に向けて
- Authors: Grace Guo, Lifu Deng, Animesh Tandon, Alex Endert, Bum Chul Kwon,
- Abstract要約: MiMICRIは、ユーザーが形態的構造に対応する医療画像のセグメントをインタラクティブに選択、置換するのに役立つ。
生成したカウンターファクトから,各セグメントがモデル予測に与える影響を評価することができる。
私たちはこの図書館を2人の医療専門家と評価した。
- 参考スコア（独自算出の注目度）: 11.998309673666167
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: The recent prevalence of publicly accessible, large medical imaging datasets has led to a proliferation of artificial intelligence (AI) models for cardiovascular image classification and analysis. At the same time, the potentially significant impacts of these models have motivated the development of a range of explainable AI (XAI) methods that aim to explain model predictions given certain image inputs. However, many of these methods are not developed or evaluated with domain experts, and explanations are not contextualized in terms of medical expertise or domain knowledge. In this paper, we propose a novel framework and python library, MiMICRI, that provides domain-centered counterfactual explanations of cardiovascular image classification models. MiMICRI helps users interactively select and replace segments of medical images that correspond to morphological structures. From the counterfactuals generated, users can then assess the influence of each segment on model predictions, and validate the model against known medical facts. We evaluate this library with two medical experts. Our evaluation demonstrates that a domain-centered XAI approach can enhance the interpretability of model explanations, and help experts reason about models in terms of relevant domain knowledge. However, concerns were also surfaced about the clinical plausibility of the counterfactuals generated. We conclude with a discussion on the generalizability and trustworthiness of the MiMICRI framework, as well as the implications of our findings on the development of domain-centered XAI methods for model interpretability in healthcare contexts.
- Abstract（参考訳）: 近年、広くアクセス可能な大規模な医用画像データセットが普及し、心臓血管画像分類と分析のための人工知能(AI)モデルが急増している。
同時に、これらのモデルによる潜在的に重大な影響は、特定の画像入力が与えられたモデル予測を説明することを目的とした、説明可能なAI(XAI)メソッドの開発を動機付けている。
しかし、これらの手法の多くはドメイン専門家によって開発・評価されておらず、説明は専門知識やドメイン知識の観点からは文脈化されていない。
本稿では,心血管画像分類モデルのドメイン中心の対実的説明を提供する,新しいフレームワークとピソンライブラリであるMIMICRIを提案する。
MiMICRIは、ユーザーが形態的構造に対応する医療画像のセグメントをインタラクティブに選択、置換するのに役立つ。
生成された偽物から、ユーザーは各セグメントがモデル予測に与える影響を評価し、そのモデルを既知の医療事実に対して検証することができる。
私たちはこの図書館を2人の医療専門家と評価した。
我々の評価は、ドメイン中心のXAIアプローチがモデル説明の解釈可能性を高め、専門家が関連するドメイン知識の観点からモデルについて推論するのに役立つことを示す。
しかし, 副作用の臨床的妥当性についても懸念が浮上した。
我々は、MiMICRIフレームワークの汎用性と信頼性に関する議論と、医療場面におけるモデル解釈可能性のためのドメイン中心のXAI手法の開発に関する知見の意義を結論付けた。
関連論文リスト
- DiffExplainer: Unveiling Black Box Models Via Counterfactual Generation [11.201840101870808]
ブラックボックスモデルに接続した場合に異なる決定を誘導する反ファクト画像を生成することができるエージェントモデルを提案する。
このエージェントモデルを用いることで、ブラックモデルの最終予測に影響を与える影響のあるイメージパターンを明らかにすることができる。
医療予後タスクの厳格な領域におけるアプローチの検証を行った。
論文 参考訳（メタデータ） (2024-06-21T14:27:02Z) - MLIP: Enhancing Medical Visual Representation with Divergence Encoder
and Knowledge-guided Contrastive Learning [48.97640824497327]
本稿では、画像テキストのコントラスト学習を通じて、言語情報を視覚領域に統合するための案内信号として、ドメイン固有の医療知識を活用する新しいフレームワークを提案する。
我々のモデルには、設計した分散エンコーダによるグローバルコントラスト学習、局所トークン・知識・パッチアライメントコントラスト学習、知識誘導型カテゴリレベルのコントラスト学習、エキスパートナレッジによるコントラスト学習が含まれる。
特に、MLIPは、限られた注釈付きデータであっても最先端の手法を超越し、医療表現学習の進歩におけるマルチモーダル事前学習の可能性を強調している。
論文 参考訳（メタデータ） (2024-02-03T05:48:50Z) - Robust and Interpretable Medical Image Classifiers via Concept
Bottleneck Models [49.95603725998561]
本稿では,自然言語の概念を用いた堅牢で解釈可能な医用画像分類器を構築するための新しいパラダイムを提案する。
具体的には、まず臨床概念をGPT-4から検索し、次に視覚言語モデルを用いて潜在画像の特徴を明示的な概念に変換する。
論文 参考訳（メタデータ） (2023-10-04T21:57:09Z) - Informing clinical assessment by contextualizing post-hoc explanations
of risk prediction models in type-2 diabetes [50.8044927215346]
本研究は, 合併症リスク予測のシナリオを考察し, 患者の臨床状態に関する文脈に焦点を当てる。
我々は、リスク予測モデル推論に関する文脈を提示し、その受容性を評価するために、最先端のLLMをいくつか採用する。
本論文は,実世界における臨床症例における文脈説明の有効性と有用性を明らかにする最初のエンドツーエンド分析の1つである。
論文 参考訳（メタデータ） (2023-02-11T18:07:11Z) - Self-supervised Multi-modal Training from Uncurated Image and Reports
Enables Zero-shot Oversight Artificial Intelligence in Radiology [31.045221580446963]
医療用クロスアテンションビジョンランゲージモデル(医療用X-VL)を提案する。
我々のモデルは、ゼロショット分類からゼロショット誤り訂正まで、さまざまなゼロショットタスクを監視できる。
提案手法は,データ制限設定において特に有効であり,医療領域に広く適用可能である可能性が示唆された。
論文 参考訳（メタデータ） (2022-08-10T04:35:58Z) - Visual Interpretable and Explainable Deep Learning Models for Brain
Tumor MRI and COVID-19 Chest X-ray Images [0.0]
我々は、ディープニューラルネットワークが医療画像をどのように分析するかを照らすための属性手法を評価する。
我々は近年の深層畳み込みニューラルネットワークモデルによる脳腫瘍MRIと新型コロナウイルス胸部X線データセットからの予測を属性とした。
論文 参考訳（メタデータ） (2022-08-01T16:05:14Z) - Explainable Deep Learning Methods in Medical Image Classification: A
Survey [0.0]
最先端のディープラーニングモデルは、異なるタイプの医療データの分類において、人間レベルの精度を達成した。
これらのモデルは、主に解釈可能性の欠如のために、臨床ではほとんど採用されていない。
ディープラーニングモデルのブラックボックス性は、これらのモデルの意思決定プロセスを説明するための戦略を考案する必要性を高めている。
論文 参考訳（メタデータ） (2022-05-10T09:28:14Z) - TorchEsegeta: Framework for Interpretability and Explainability of
Image-based Deep Learning Models [0.0]
臨床医はしばしば自動画像処理アプローチ、特にディープラーニングに基づく手法の適用に懐疑的である。
本稿では,アルゴリズムの決定に最も影響を及ぼす解剖学的領域を記述することによって,ディープラーニングアルゴリズムの結果の解釈と説明を支援するアプローチを提案する。
ディープラーニングモデルに様々な解釈可能性および説明可能性技術を適用するための統合フレームワークであるTorchEsegetaを提案する。
論文 参考訳（メタデータ） (2021-10-16T01:00:15Z) - Variational Knowledge Distillation for Disease Classification in Chest
X-Rays [102.04931207504173]
我々は,X線に基づく疾患分類のための新しい確率的推論フレームワークである反復的知識蒸留(VKD)を提案する。
提案手法の有効性を,X線画像とEHRを用いた3つの公開ベンチマークデータセットに示す。
論文 参考訳（メタデータ） (2021-03-19T14:13:56Z) - Deep Co-Attention Network for Multi-View Subspace Learning [73.3450258002607]
マルチビューサブスペース学習のための深層コアテンションネットワークを提案する。
共通情報と相補情報の両方を敵意で抽出することを目的としている。
特に、新しいクロス再構成損失を使用し、ラベル情報を利用して潜在表現の構築を誘導する。
論文 参考訳（メタデータ） (2021-02-15T18:46:44Z) - Domain Shift in Computer Vision models for MRI data analysis: An
Overview [64.69150970967524]
機械学習とコンピュータビジョン手法は、医用画像解析において優れた性能を示している。
しかし、現在臨床応用はごくわずかである。
異なるソースや取得ドメインのデータへのモデルの不適切な転送性は、その理由の1つです。
論文 参考訳（メタデータ） (2020-10-14T16:34:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。