論文の概要: Notion of Explainable Artificial Intelligence -- An Empirical Investigation from A Users Perspective

• arxiv url: http://arxiv.org/abs/2311.02102v1
• Date: Wed, 1 Nov 2023 22:20:14 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-12 19:46:08.456254
• Title: Notion of Explainable Artificial Intelligence -- An Empirical Investigation from A Users Perspective
• Title（参考訳）: 説明可能な人工知能の概念 --ユーザの視点からの実証的研究-
• Authors: AKM Bahalul Haque, A.K.M. Najmul Islam, Patrick Mikalef
• Abstract要約: 本研究は、ユーザ中心の説明可能なAIを調査し、研究コンテキストとしてレコメンデーションシステムを検討することを目的とする。 我々は,推薦システムに関する質的データを収集するために,フォーカスグループインタビューを行った。 以上の結果から,エンドユーザーはオンデマンドの補足情報による非技術的かつ適切な説明を望んでいることが明らかとなった。
• 参考スコア（独自算出の注目度）: 0.3069335774032178
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The growing attention to artificial intelligence-based applications has led to research interest in explainability issues. This emerging research attention on explainable AI (XAI) advocates the need to investigate end user-centric explainable AI. Thus, this study aims to investigate usercentric explainable AI and considered recommendation systems as the study context. We conducted focus group interviews to collect qualitative data on the recommendation system. We asked participants about the end users' comprehension of a recommended item, its probable explanation, and their opinion of making a recommendation explainable. Our findings reveal that end users want a non-technical and tailor-made explanation with on-demand supplementary information. Moreover, we also observed users requiring an explanation about personal data usage, detailed user feedback, and authentic and reliable explanations. Finally, we propose a synthesized framework that aims at involving the end user in the development process for requirements collection and validation.
• Abstract（参考訳）: 人工知能ベースのアプリケーションへの注目が高まり、説明可能性の問題に対する研究の関心が高まっている。 説明可能なAI(XAI)に対するこの新たな研究の注目は、エンドユーザー中心の説明可能なAIを調査する必要があることを主張している。 そこで本研究では,ユーザ中心の説明可能なAIを調査し,研究コンテキストとしてレコメンデーションシステムを検討する。 推薦システムに関する質的データを集めるために,フォーカスグループインタビューを実施した。 参加者は,推奨項目のエンドユーザーによる理解,想定可能な説明,推奨事項の提示に関する意見について質問した。 以上の結果から,エンドユーザーはオンデマンドの補足情報による非技術的かつ適切な説明を求めていることがわかった。 さらに,個人データの利用状況,詳細なユーザフィードバック,正確かつ信頼性の高い説明を求めるユーザも観察した。 最後に,要求の収集と検証のための開発プロセスにエンドユーザーが関与することを目的とした合成フレームワークを提案する。

関連論文リスト

• On Evaluating Explanation Utility for Human-AI Decision Making in NLP [39.58317527488534]
  アプリケーショングラウンド評価に適した既存の指標について検討する。 我々は,人間-AIチームの形成と研究のために,芸術の状態を再評価することの重要性を実証する。
  論文  参考訳（メタデータ） (2024-07-03T23:53:27Z)
• Opening the Black-Box: A Systematic Review on Explainable AI in Remote Sensing [51.524108608250074]
  ブラックボックス機械学習アプローチは、リモートセンシングにおける知識抽出における主要なモデリングパラダイムとなっている。 我々は、この分野における重要なトレンドを特定するための体系的なレビューを行い、新しい説明可能なAIアプローチに光を当てた。 また,課題と将来的な研究方向性について,より詳細な展望を述べる。
  論文  参考訳（メタデータ） (2024-02-21T13:19:58Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Interactive Explanation with Varying Level of Details in an Explainable Scientific Literature Recommender System [0.5937476291232802]
  本稿では,ユーザ中心の対話型説明モデルの採用を目標とし,さまざまな詳細レベルの説明を提供するとともに,ユーザのニーズや好みに基づいた説明の対話,制御,パーソナライズを可能にする。 本研究では,対話的説明の提供がユーザによる説明可能なRSの知覚に与える影響について質的研究を行った。
  論文  参考訳（メタデータ） (2023-06-09T10:48:04Z)
• Assisting Human Decisions in Document Matching [52.79491990823573]
  我々は,意思決定者のパフォーマンスを向上する支援情報の種類を評価するためのプロキシマッチングタスクを考案した。 ブラックボックスモデルによる説明を提供することで,マッチング作業におけるユーザの精度が低下することが判明した。 一方,タスク固有のデシラタに密接に対応するように設計されたカスタムメソッドは,ユーザのパフォーマンス向上に有効であることが判明した。
  論文  参考訳（メタデータ） (2023-02-16T17:45:20Z)
• Selective Explanations: Leveraging Human Input to Align Explainable AI [40.33998268146951]
  人間の入力を小さなサンプルに利用して選択的な説明を生成するための一般的なフレームワークを提案する。 事例として,意思決定支援タスクを用いて,意思決定者が決定タスクにどう関係するかに基づいて,選択的な説明を探索する。 我々の実験は、AIへの過度な依存を減らすための選択的な説明の可能性を実証している。
  論文  参考訳（メタデータ） (2023-01-23T19:00:02Z)
• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)
• What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps [69.53730499849023]
  説明可能なAI(XAI)を評価するために,ユーザ中心のペルソナ概念を提案する。 分析の結果,ユーザの人口統計や性格,説明のタイプ,影響説明の嗜好が示された。 私たちの洞察は、対話的で人間中心のXAIを実践的な応用に近づけます。
  論文  参考訳（メタデータ） (2022-10-07T12:51:27Z)
• Directions for Explainable Knowledge-Enabled Systems [3.7250420821969827]
  我々は、人工知能と密接に関連する分野における説明文献の調査を活用して、一連の説明型を生成する。 それぞれの型を定義し、このスタイルの説明の必要性を動機付けるサンプル質問を提供します。 この一連の説明型は、将来のシステム設計者が要求の生成と優先順位付けに役立ちます。
  論文  参考訳（メタデータ） (2020-03-17T04:34:29Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。