論文の概要: Semantic match: Debugging feature attribution methods in XAI for healthcare

• arxiv url: http://arxiv.org/abs/2301.02080v2
• Date: Fri, 6 Jan 2023 09:11:32 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-09 23:06:15.064987
• Title: Semantic match: Debugging feature attribution methods in XAI for healthcare
• Title（参考訳）: semantic match: ヘルスケアのためのxaiのデバッギング機能帰属メソッド
• Authors: Giovanni Cin\`a, Tabea E. R\"ober, Rob Goedhart, \c{S}. \.Ilker Birbil
• Abstract要約: ホック後の局所的説明可能性に関する既存の批判は、風呂水で赤ちゃんを捨てるものであると論じる。 特徴重要度を確実に利用することができるかを理解するために,低レベルの特徴と高レベルの特徴の区別を導入する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The recent spike in certified Artificial Intelligence (AI) tools for healthcare has renewed the debate around adoption of this technology. One thread of such debate concerns Explainable AI (XAI) and its promise to render AI devices more transparent and trustworthy. A few voices active in the medical AI space have expressed concerns on the reliability of Explainable AI techniques and especially feature attribution methods, questioning their use and inclusion in guidelines and standards. Despite valid concerns, we argue that existing criticism on the viability of post-hoc local explainability methods throws away the baby with the bathwater by generalizing a problem that is specific to image data. We begin by characterizing the problem as a lack of semantic match between explanations and human understanding. To understand when feature importance can be used reliably, we introduce a distinction between feature importance of low- and high-level features. We argue that for data types where low-level features come endowed with a clear semantics, such as tabular data like Electronic Health Records (EHRs), semantic match can be obtained, and thus feature attribution methods can still be employed in a meaningful and useful way.
• Abstract（参考訳）: 最近、医療用の認証人工知能(AI)ツールが急増し、この技術の採用に関する議論が再燃している。 このような議論の1つのスレッドは、説明可能なAI(XAI)と、AIデバイスをより透明で信頼性の高いものにすることの約束に関するものだ。 医療AI分野で活動している一部の声は、説明可能なAI技術、特に特徴帰属手法の信頼性に関する懸念を表明し、その使用とガイドラインや標準への含意を疑問視している。 画像データに固有の問題を一般化することにより, 保温後の局所的説明可能性に関する既存の批判は, 浴水で赤ちゃんを投げ捨てるものである, と論じる。 まず、その問題を説明と人間の理解のセマンティックマッチの欠如として特徴づける。 機能の重要度がいつ確実に使用できるのかを理解するため、低レベルと高レベルの機能の重要度を区別する。 EHR(Electronic Health Records)のような表層データのような,低レベルの機能に明確なセマンティクスが付与されたデータタイプに対しては,セマンティクスマッチングが実現可能であるため,機能属性手法を有意義かつ有用な方法で使用することが可能である,と論じる。

関連論文リスト

• Fool Me Once? Contrasting Textual and Visual Explanations in a Clinical Decision-Support Setting [43.110187812734864]
  視覚的説明(可用性マップ)、自然言語の説明、両方のモダリティの組み合わせの3種類の説明を評価した。 テキストに基づく説明は、高い信頼度をもたらすことが分かっており、従順マップと組み合わせることで軽減される。 また、説明の質、すなわち、それがどれだけ事実的に正しい情報であり、それがAIの正しさとどの程度一致しているかが、異なる説明タイプの有用性に大きく影響していることも観察します。
  論文  参考訳（メタデータ） (2024-10-16T06:43:02Z)
• The Role of AI in Drug Discovery: Challenges, Opportunities, and Strategies [97.5153823429076]
  この分野でのAIのメリット、課題、欠点についてレビューする。 データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
  論文  参考訳（メタデータ） (2022-12-08T23:23:39Z)
• What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps [69.53730499849023]
  説明可能なAI(XAI)を評価するために,ユーザ中心のペルソナ概念を提案する。 分析の結果,ユーザの人口統計や性格,説明のタイプ,影響説明の嗜好が示された。 私たちの洞察は、対話的で人間中心のXAIを実践的な応用に近づけます。
  論文  参考訳（メタデータ） (2022-10-07T12:51:27Z)
• Why we do need Explainable AI for Healthcare [0.0]
  我々は、Explainable AI研究プログラムが人間と機械の相互作用の中心であると主張している。 有効な懸念にもかかわらず、私たちはExplainable AI研究プログラムが人間と機械の相互作用の中心であると主張している。
  論文  参考訳（メタデータ） (2022-06-30T15:35:50Z)
• Neuro-Symbolic Artificial Intelligence (AI) for Intent based Semantic Communication [85.06664206117088]
  6Gネットワークはデータ転送のセマンティクスと有効性(エンドユーザ)を考慮する必要がある。 観測データの背後にある因果構造を学習するための柱としてNeSy AIが提案されている。 GFlowNetは、無線システムにおいて初めて活用され、データを生成する確率構造を学ぶ。
  論文  参考訳（メタデータ） (2022-05-22T07:11:57Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• Explainable AI: current status and future directions [11.92436948211501]
  説明可能な人工知能(XAI)は、人工知能(AI)分野における新たな研究分野である。 XAIは、AIが特定のソリューションをどのように取得したかを説明し、他の"wh"質問にも答えることができる。 本稿では,マルチメディア(テキスト,画像,音声,ビデオ)の観点から,これらの技術の概要を紹介する。
  論文  参考訳（メタデータ） (2021-07-12T08:42:19Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• Explainable AI meets Healthcare: A Study on Heart Disease Dataset [0.0]
  目的は、様々な技術を用いて説明可能なAIシステムの理解性と解釈可能性について実践者に啓蒙することである。 本論文は、心臓病データセットに基づく例を収録し、信頼性を高めるために説明可能性技術をどのように好むべきかを解明する。
  論文  参考訳（メタデータ） (2020-11-06T05:18:43Z)
• Explainability in Deep Reinforcement Learning [68.8204255655161]
  説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。 エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
  論文  参考訳（メタデータ） (2020-08-15T10:11:42Z)
• The role of explainability in creating trustworthy artificial intelligence for health care: a comprehensive survey of the terminology, design choices, and evaluation strategies [1.2762298148425795]
  透明性の欠如は、医療におけるAIシステムの実装における主要な障壁の1つとして認識されている。 我々は最近の文献をレビューし、説明可能なAIシステムの設計について研究者や実践者にガイダンスを提供する。 我々は、説明可能なモデリングが信頼できるAIに貢献できると結論づけるが、説明可能性の利点は実際に証明する必要がある。
  論文  参考訳（メタデータ） (2020-07-31T09:08:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。