論文の概要: Clinically Meaningful Explainability for NeuroAI: An ethical, technical, and clinical perspective
- arxiv url: http://arxiv.org/abs/2603.18028v1
- Date: Fri, 06 Mar 2026 10:16:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 08:17:42.401469
- Title: Clinically Meaningful Explainability for NeuroAI: An ethical, technical, and clinical perspective
- Title（参考訳）: NeuroAIの臨床的説明可能性 : 倫理的・技術的・臨床的視点
- Authors: Laura Schopp, Ambra DImperio, Jalal Etesami, Marcello Ienca,
- Abstract要約: 我々は,AIを用いたクローズドループ医療ニューロテクノロジーには臨床的に有意義な説明責任が不可欠であると主張している。
我々の目的は、神経技術や規制フレームワーク開発に携わるステークホルダーに、説明責任が適切な利害関係者のニーズを満たすように知らせることである。
- 参考スコア（独自算出の注目度）: 4.679326716033649
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: While explainable AI (XAI) is often heralded as a means to enhance transparency and trustworthiness in closed-loop neurotechnology for psychiatric and neurological conditions, its real-world prevalence remains low. Moreover, empirical evidence suggests that the type of explanations provided by current XAI methods often fails to align with clinicians' end-user needs. In this viewpoint, we argue that clinically meaningful explainability (CME) is essential for AI-enabled closed-loop medical neurotechnology and must be addressed from an ethical, technical, and clinical perspective. Instead of exhaustive technical detail, clinicians prioritize clinically relevant, actionable explanations, such as clear representations of input-output relationships and feature importance. Full technical transparency, although theoretically desirable, often proves irrelevant or even overwhelming in practice, as it may lead to informational overload. Therefore, we advocate for CME in the neurotechnology domain: prioritizing actionable clarity over technical completeness and designing interface visualizations that intuitively map AI outputs and key features into clinically meaningful formats. To this end, we introduce a reference architecture called NeuroXplain, which translates CME into actionable technical design recommendations for any future neurostimulation device. Our aim is to inform stakeholders working in neurotechnology and regulatory framework development to ensure that explainability fulfills the right needs for the right stakeholders and ultimately leads to better patient treatment and care.
- Abstract（参考訳）: 説明可能なAI(XAI)は、精神疾患や神経疾患に対するクローズドループ神経テクノロジーの透明性と信頼性を高める手段としてしばしば推奨されるが、現実の頻度は依然として低い。
また,現来のXAI法で規定される説明のタイプが,臨床医のエンドユーザのニーズに合致しないことが実証的証拠として示唆されている。
この観点から、我々は、CMEがAI対応のクローズドループ医療ニューロテクノロジーに不可欠であり、倫理的、技術的、臨床的観点から対処する必要があると論じる。
臨床医は、徹底的な技術的詳細ではなく、入出力関係の明確な表現や特徴の重要性など、臨床的に関連性があり、実行可能な説明を優先する。
完全な技術的透明性は理論上望ましいが、情報過負荷につながる可能性があるため、実際は無関係あるいは圧倒的な結果になることが多い。
そこで我々は,神経工学分野におけるCMEを提唱する: 技術的完全性よりも行動可能な明快さを優先し,AI出力や重要な特徴を直感的に臨床的に意味のある形式にマッピングするインタフェースの視覚化を設計する。
この目的のために、我々は、CMEを将来の神経刺激デバイスに対して実行可能な技術設計レコメンデーションに変換するNeuroXplainと呼ばれる参照アーキテクチャを導入する。
我々の目標は、神経技術や規制フレームワークの開発に携わるステークホルダーに、説明責任が適切なステークホルダーのニーズを満たすことを保証することであり、最終的には患者の治療とケアを改善することである。
関連論文リスト
- Human-AI Co-design for Clinical Prediction Models [8.099095493749868]
我々は,AIエージェントを用いて,完全に解釈可能な臨床予測モデルの開発を加速する,反復的ヒューマン・イン・ザ・ループ・フレームワークであるHACHIを紹介する。
2つの現実的予測タスクにおいて、HACHIは既存のアプローチを上回り、新しい臨床関連概念を表面化し、臨床現場や期間にわたってモデルの一般化性を向上させる。
論文 参考訳（メタデータ） (2026-01-14T02:04:34Z) - Before the Clinic: Transparent and Operable Design Principles for Healthcare AI [42.994619952353396]
医療AIの先進的な技術的要件を運用するための基本設計原則を2つ提案する。
我々は、これらの原則を確立されたXAIフレームワークに根ざし、それらをドキュメント化された臨床ニーズにマッピングし、新たなガバナンス要件との整合性を実証します。
この前臨床プレイブックは、開発チームに対して実行可能なガイダンスを提供し、臨床評価への道を加速し、AI研究者、医療実践家、規制ステークホルダーを分かち合う共通語彙を確立する。
論文 参考訳（メタデータ） (2025-10-31T04:05:09Z) - From Explainability to Action: A Generative Operational Framework for Integrating XAI in Clinical Mental Health Screening [0.3181700357675698]
本稿では,このギャップは翻訳問題であり,生成操作フレームワークを提案する。
このフレームワークは、様々なXAIツールから得られた生の技術的出力を取り込み、臨床ガイドラインでそれらを合成するように設計されている。
論文 参考訳（メタデータ） (2025-10-10T05:46:39Z) - Interpretable Neuropsychiatric Diagnosis via Concept-Guided Graph Neural Networks [56.75602443936853]
青少年の5人に1人は、不安、うつ病、行動障害などの精神状態または行動の健康状態と診断されている。
従来の研究では、障害予測にグラフニューラルネットワーク(GNN)アプローチを使用していたが、ブラックボックスのままであり、信頼性と臨床翻訳を制限している。
本研究では,解釈可能な機能接続の概念を符号化する概念に基づく診断フレームワークを提案する。
我々の設計は臨床的に意味のある接続パターンを通じて予測を保証し、解釈可能性と強い予測性能の両方を可能にする。
論文 参考訳（メタデータ） (2025-10-02T19:38:46Z) - Interpretable Clinical Classification with Kolgomorov-Arnold Networks [70.72819760172744]
Kolmogorov-Arnold Networks (KAN) は、透明で象徴的な表現を通じて固有の解釈能力を提供する。
Kansは、組み込みの患者レベルの洞察、直感的な可視化、最寄りの患者の検索をサポートする。
これらの結果は、カンを、臨床医が理解し、監査し、行動できる信頼できるAIへの有望なステップと位置づけている。
論文 参考訳（メタデータ） (2025-09-20T17:21:58Z) - Medical Reasoning in the Era of LLMs: A Systematic Review of Enhancement Techniques and Applications [59.721265428780946]
医学における大きな言語モデル(LLM)は印象的な能力を実現しているが、体系的で透明で検証可能な推論を行う能力に重大なギャップが残っている。
本稿は、この新興分野に関する最初の体系的なレビューを提供する。
本稿では,学習時間戦略とテスト時間メカニズムに分類した推論強化手法の分類法を提案する。
論文 参考訳（メタデータ） (2025-08-01T14:41:31Z) - Doctor-in-the-Loop: An Explainable, Multi-View Deep Learning Framework for Predicting Pathological Response in Non-Small Cell Lung Cancer [0.6800826356148091]
非小細胞肺癌(NSCLC)はいまだに世界的な健康上の課題である。
専門家主導のドメイン知識と説明可能な人工知能技術を統合する新しいフレームワークであるDoctor-in-the-Loopを提案する。
アプローチでは段階的なマルチビュー戦略を採用し,より広いコンテキスト特徴からより微細で病変特異的な詳細まで,モデルの焦点を段階的に洗練する。
論文 参考訳（メタデータ） (2025-02-21T16:35:30Z) - An Introduction to Natural Language Processing Techniques and Framework
for Clinical Implementation in Radiation Oncology [1.2714439146420664]
放射線オンコロジー研究において,大規模言語モデル(LLM)を用いた最先端NLPアプリケーションを提案する。
LLMは、厳格な評価と検証を必要とする幻覚、偏見、倫理的違反など、多くの誤りを起こしやすい。
本論は, 臨床放射線腫瘍学におけるNLPモデルの開発と利用に関心がある研究者や臨床医に対して, 指導と洞察を提供することを目的とする。
論文 参考訳（メタデータ） (2023-11-03T19:32:35Z) - Cross-modal Clinical Graph Transformer for Ophthalmic Report Generation [116.87918100031153]
眼科報告生成(ORG)のためのクロスモーダルな臨床グラフ変換器(CGT)を提案する。
CGTは、デコード手順を駆動する事前知識として、臨床関係を視覚特徴に注入する。
大規模FFA-IRベンチマークの実験は、提案したCGTが従来のベンチマーク手法より優れていることを示した。
論文 参考訳（メタデータ） (2022-06-04T13:16:30Z) - Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。
現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。
本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
論文 参考訳（メタデータ） (2021-06-14T20:48:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。