論文の概要: Questioning the AI: Informing Design Practices for Explainable AI User Experiences

• arxiv url: http://arxiv.org/abs/2001.02478v3
• Date: Fri, 3 Sep 2021 20:10:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-01-13 09:49:50.813323
• Title: Questioning the AI: Informing Design Practices for Explainable AI User Experiences
• Title（参考訳）: AIに関する質問: 説明可能なAIユーザエクスペリエンスのために設計プラクティスを教える
• Authors: Q. Vera Liao, Daniel Gruen, Sarah Miller
• Abstract要約: 説明可能なAI(XAI)への関心の高まりは、このトピックに関する膨大なアルゴリズム作業の収集につながった。 私たちは、説明可能なAI製品を作成するための現在のXAIアルゴリズム作業とプラクティスのギャップを特定しようとしています。 我々は,ユーザが説明責任を表現できるXAI質問バンクを開発した。
• 参考スコア（独自算出の注目度）: 33.81809180549226
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A surge of interest in explainable AI (XAI) has led to a vast collection of algorithmic work on the topic. While many recognize the necessity to incorporate explainability features in AI systems, how to address real-world user needs for understanding AI remains an open question. By interviewing 20 UX and design practitioners working on various AI products, we seek to identify gaps between the current XAI algorithmic work and practices to create explainable AI products. To do so, we develop an algorithm-informed XAI question bank in which user needs for explainability are represented as prototypical questions users might ask about the AI, and use it as a study probe. Our work contributes insights into the design space of XAI, informs efforts to support design practices in this space, and identifies opportunities for future XAI work. We also provide an extended XAI question bank and discuss how it can be used for creating user-centered XAI.
• Abstract（参考訳）: 説明可能なAI(XAI)への関心の高まりは、このトピックに関する膨大なアルゴリズム作業の収集につながった。 多くの人がaiシステムに説明可能性機能を組み込む必要性を認識しているが、aiを理解するために現実世界のユーザーニーズにどう対処するかは未解決の問題だ。 さまざまなAI製品に取り組んでいる20人のUXと設計実践者にインタビューすることで、説明可能なAI製品を作成するための現在のXAIアルゴリズム作業とプラクティスのギャップを特定したいと思っています。 そこで我々は,AIについて質問する可能性のあるプロトタイプ質問として,説明可能性に対するユーザニーズを表現したアルゴリズムインフォームドXAI質問バンクを開発し,研究用プローブとして利用する。 我々の研究は、XAIの設計領域に関する洞察を提供し、この領域におけるデザインプラクティスをサポートするための努力を通知し、将来のXAI作業の機会を特定します。 また、拡張されたXAI質問銀行を提供し、ユーザ中心のXAIの作成にどのように使用できるかについて議論する。

関連論文リスト

• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)
• What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps [69.53730499849023]
  説明可能なAI(XAI)を評価するために,ユーザ中心のペルソナ概念を提案する。 分析の結果,ユーザの人口統計や性格,説明のタイプ,影響説明の嗜好が示された。 私たちの洞察は、対話的で人間中心のXAIを実践的な応用に近づけます。
  論文  参考訳（メタデータ） (2022-10-07T12:51:27Z)
• "Help Me Help the AI": Understanding How Explainability Can Support Human-AI Interaction [22.00514030715286]
  我々は,鳥類識別アプリMerlinのエンドユーザ20名を対象に,実世界のAIアプリケーションについて調査を行った。 我々は、AIシステムとのコラボレーションを改善するために、実用的に有用な情報の必要性を人々が表現していることを発見した。 また,既存のXAIアプローチに対するエンドユーザの認識を評価し,パートベースの説明を好んだ。
  論文  参考訳（メタデータ） (2022-10-02T20:17:11Z)
• Transcending XAI Algorithm Boundaries through End-User-Inspired Design [27.864338632191608]
  エンドユーザに対する説明責任重視の機能サポートの欠如は、高度なドメインにおけるAIの安全で責任ある使用を妨げる可能性がある。 我々の研究は、エンドユーザーがXAIを使用する際の技術的な問題を根底から解決することで、新たな研究課題がもたらされることを示している。 このようなエンドユーザにインスパイアされた研究質問は、AIを民主化し、クリティカルドメインにおけるAIの責任ある使用を保証することによって、社会的善を促進できる可能性がある。
  論文  参考訳（メタデータ） (2022-08-18T09:44:51Z)
• Connecting Algorithmic Research and Usage Contexts: A Perspective of Contextualized Evaluation for Explainable AI [65.44737844681256]
  説明可能なAI(XAI)を評価する方法に関するコンセンサスの欠如は、この分野の進歩を妨げる。 このギャップを埋める一つの方法は、異なるユーザ要求を考慮に入れた評価方法を開発することである、と我々は主張する。
  論文  参考訳（メタデータ） (2022-06-22T05:17:33Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
  本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。 このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
  論文  参考訳（メタデータ） (2021-09-27T09:56:23Z)
• Designer-User Communication for XAI: An epistemological approach to discuss XAI design [4.169915659794568]
  Signifying Message を概念的なツールとして、XAI シナリオを構造化および議論します。 私たちは、ヘルスケアAIシステムの議論にその使用を実験します。
  論文  参考訳（メタデータ） (2021-05-17T13:18:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。