論文の概要: On the Design and Evaluation of Human-centered Explainable AI Systems: A Systematic Review and Taxonomy

• arxiv url: http://arxiv.org/abs/2510.12201v1
• Date: Tue, 14 Oct 2025 06:52:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-15 19:02:32.213495
• Title: On the Design and Evaluation of Human-centered Explainable AI Systems: A Systematic Review and Taxonomy
• Title（参考訳）: 人間中心型説明可能なAIシステムの設計と評価について:システムレビューと分類学
• Authors: Aline Mangold, Juliane Zietz, Susanne Weinhold, Sebastian Pannasch,
• Abstract要約: 本稿では,XAIシステムの評価を行う65のユーザ・スタディについて概説する。 我々は,XAIシステムの人間中心設計(設計目標)の目的を提案する。 AI初心者にとって、関連する設計目標には、責任ある使用、受け入れ、ユーザビリティが含まれる。
• 参考スコア（独自算出の注目度）: 0.1909020214605419
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: As AI becomes more common in everyday living, there is an increasing demand for intelligent systems that are both performant and understandable. Explainable AI (XAI) systems aim to provide comprehensible explanations of decisions and predictions. At present, however, evaluation processes are rather technical and not sufficiently focused on the needs of human users. Consequently, evaluation studies involving human users can serve as a valuable guide for conducting user studies. This paper presents a comprehensive review of 65 user studies evaluating XAI systems across different domains and application contexts. As a guideline for XAI developers, we provide a holistic overview of the properties of XAI systems and evaluation metrics focused on human users (human-centered). We propose objectives for the human-centered design (design goals) of XAI systems. To incorporate users' specific characteristics, design goals are adapted to users with different levels of AI expertise (AI novices and data experts). In this regard, we provide an extension to existing XAI evaluation and design frameworks. The first part of our results includes the analysis of XAI system characteristics. An important finding is the distinction between the core system and the XAI explanation, which together form the whole system. Further results include the distinction of evaluation metrics into affection towards the system, cognition, usability, interpretability, and explanation metrics. Furthermore, the users, along with their specific characteristics and behavior, can be assessed. For AI novices, the relevant extended design goals include responsible use, acceptance, and usability. For data experts, the focus is performance-oriented and includes human-AI collaboration and system and user task performance.
• Abstract（参考訳）: 日常生活においてAIが一般的になるにつれて、パフォーマンスと理解に富んだインテリジェントなシステムへの需要が高まっている。 説明可能なAI(XAI)システムは、決定と予測に関する理解可能な説明を提供することを目的としている。 しかし、現時点では、評価プロセスはかなり技術的であり、人間のユーザのニーズに十分に焦点を当てていない。 これにより,人的ユーザに関する評価研究は,ユーザ研究を行う上で貴重なガイドとなる。 本稿では, XAI システムをさまざまな領域やアプリケーションコンテキストで評価する65のユーザスタディについて概説する。 XAI開発者のためのガイドラインとして、XAIシステムの性質と、人間中心(人間中心)に焦点を当てた評価指標を概観する。 我々は,XAIシステムの人間中心設計(設計目標)の目的を提案する。 ユーザの特定の特徴を取り入れるために、設計目標は、さまざまなレベルのAI専門知識(AI初心者とデータエキスパート)を持つユーザに適用される。 この点に関して、既存のXAI評価および設計フレームワークの拡張を提供する。 本研究の最初の部分は,XAIシステム特性の分析を含む。 重要な発見は、コアシステムとXAI説明の区別である。 さらに、評価指標をシステムに対する愛情、認識、ユーザビリティ、解釈可能性、説明メトリクスに区別する。 さらに、ユーザの特徴や振る舞いとともに、ユーザを評価することができる。 AI初心者にとって、関連する設計目標には、責任ある使用、受け入れ、ユーザビリティが含まれる。 データエキスパートにとって、焦点はパフォーマンス指向であり、人間とAIのコラボレーションとシステムとユーザタスクのパフォーマンスを含んでいる。

関連論文リスト

• AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
  人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。 このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
  論文  参考訳（メタデータ） (2025-03-04T03:55:38Z)
• How Human-Centered Explainable AI Interface Are Designed and Evaluated: A Systematic Survey [48.97104365617498]
  Em Explainable Interfaces (EIs) の登場する領域は,XAI のユーザインターフェースとユーザエクスペリエンス設計に重点を置いている。 本稿では,人間とXAIの相互作用の現在の動向と,EI設計・開発に向けた将来的な方向性を明らかにするために,53の出版物を体系的に調査する。
  論文  参考訳（メタデータ） (2024-03-21T15:44:56Z)
• How much informative is your XAI? A decision-making assessment task to objectively measure the goodness of explanations [53.01494092422942]
  XAIに対する個人化アプローチとユーザ中心アプローチの数は、近年急速に増加している。 ユーザ中心のXAIアプローチがユーザとシステム間のインタラクションに肯定的な影響を与えることが明らかとなった。 我々は,XAIシステムの良否を客観的かつ定量的に評価するための評価課題を提案する。
  論文  参考訳（メタデータ） (2023-12-07T15:49:39Z)
• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)
• Towards Human-centered Explainable AI: A Survey of User Studies for Model Explanations [18.971689499890363]
  我々は過去5年間に人間によるXAI評価で97コア論文を特定し分析してきた。 我々の研究は、XAIがレコメンダシステムなど特定のアプリケーション領域で急速に普及していることを示している。 我々は,XAI研究者や実践者を対象としたユーザスタディの設計と実施に関する実践的ガイドラインを提案する。
  論文  参考訳（メタデータ） (2022-10-20T20:53:00Z)
• What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps [69.53730499849023]
  説明可能なAI(XAI)を評価するために,ユーザ中心のペルソナ概念を提案する。 分析の結果,ユーザの人口統計や性格,説明のタイプ,影響説明の嗜好が示された。 私たちの洞察は、対話的で人間中心のXAIを実践的な応用に近づけます。
  論文  参考訳（メタデータ） (2022-10-07T12:51:27Z)
• Connecting Algorithmic Research and Usage Contexts: A Perspective of Contextualized Evaluation for Explainable AI [65.44737844681256]
  説明可能なAI(XAI)を評価する方法に関するコンセンサスの欠如は、この分野の進歩を妨げる。 このギャップを埋める一つの方法は、異なるユーザ要求を考慮に入れた評価方法を開発することである、と我々は主張する。
  論文  参考訳（メタデータ） (2022-06-22T05:17:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。