論文の概要: Designer-User Communication for XAI: An epistemological approach to
discuss XAI design
- arxiv url: http://arxiv.org/abs/2105.07804v1
- Date: Mon, 17 May 2021 13:18:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-18 21:59:41.893422
- Title: Designer-User Communication for XAI: An epistemological approach to
discuss XAI design
- Title（参考訳）: XAIのためのデザイナー・ユーザ・コミュニケーション: XAI設計を議論するための認識論的アプローチ
- Authors: Juliana Jansen Ferreira and Mateus Monteiro
- Abstract要約: Signifying Message を概念的なツールとして、XAI シナリオを構造化および議論します。
私たちは、ヘルスケアAIシステムの議論にその使用を実験します。
- 参考スコア（独自算出の注目度）: 4.169915659794568
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial Intelligence is becoming part of any technology we use nowadays.
If the AI informs people's decisions, the explanation about AI's outcomes,
results, and behavior becomes a necessary capability. However, the discussion
of XAI features with various stakeholders is not a trivial task. Most of the
available frameworks and methods for XAI focus on data scientists and ML
developers as users. Our research is about XAI for end-users of AI systems. We
argue that we need to discuss XAI early in the AI-system design process and
with all stakeholders. In this work, we aimed at investigating how to
operationalize the discussion about XAI scenarios and opportunities among
designers and developers of AI and its end-users. We took the Signifying
Message as our conceptual tool to structure and discuss XAI scenarios. We
experiment with its use for the discussion of a healthcare AI-System.
- Abstract（参考訳）: 人工知能は、現在私たちが使っているあらゆる技術の一部になっています。
AIが人々の判断を知らせるならば、AIの結果、結果、行動の説明が必要とされる能力となる。
しかし、様々な利害関係者とのXAI機能に関する議論は、ささいな作業ではない。
XAIの利用可能なフレームワークとメソッドのほとんどは、データサイエンティストとML開発者をユーザとして重視している。
我々の研究は、AIシステムのエンドユーザー向けのXAIに関するものです。
AIシステム設計プロセスの初期段階で、すべての利害関係者とXAIを議論する必要があります。
本研究では,AIのデザイナと開発者間のXAIシナリオと機会に関する議論の運用方法について検討した。
私たちは、XAIシナリオを構造化し、議論するための概念的なツールとしてSignify Messageを採用しました。
我々は医療AIシステムに関する議論にその利用を実験する。
関連論文リスト
- XAI for All: Can Large Language Models Simplify Explainable AI? [0.0699049312989311]
x-[plAIn]"は、カスタムのLarge Language Modelを通じて、XAIをより広く利用できるようにする新しいアプローチである。
我々の目標は、様々なXAI手法の明確で簡潔な要約を生成できるモデルを設計することであった。
使用事例調査の結果から,本モデルは理解し易く,観衆特有の説明を提供するのに有効であることが示された。
論文 参考訳（メタデータ） (2024-01-23T21:47:12Z) - Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。
本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。
43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
論文 参考訳（メタデータ） (2022-11-12T21:54:05Z) - Towards Human Cognition Level-based Experiment Design for Counterfactual
Explanations (XAI) [68.8204255655161]
XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。
認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。
本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
論文 参考訳（メタデータ） (2022-10-31T19:20:22Z) - Connecting Algorithmic Research and Usage Contexts: A Perspective of
Contextualized Evaluation for Explainable AI [65.44737844681256]
説明可能なAI(XAI)を評価する方法に関するコンセンサスの欠如は、この分野の進歩を妨げる。
このギャップを埋める一つの方法は、異なるユーザ要求を考慮に入れた評価方法を開発することである、と我々は主張する。
論文 参考訳（メタデータ） (2022-06-22T05:17:33Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - On Two XAI Cultures: A Case Study of Non-technical Explanations in
Deployed AI System [3.4918511133757977]
XAIの多くは、実際にはデプロイされたAIシステムの主要なオーディエンスであり、主要な利害関係者である非AI専門家には理解できない。
我々は,非技術者を対象としたXAI手法の開発が重要であることを主張する。
そして、AIの専門家が非技術ステークホルダーにAI決定の非技術的な説明を提供した、実生活のケーススタディを提示します。
論文 参考訳（メタデータ） (2021-12-02T07:02:27Z) - A User-Centred Framework for Explainable Artificial Intelligence in
Human-Robot Interaction [70.11080854486953]
本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。
このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
論文 参考訳（メタデータ） (2021-09-27T09:56:23Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳（メタデータ） (2021-06-25T22:31:55Z) - The human-AI relationship in decision-making: AI explanation to support
people on justifying their decisions [4.169915659794568]
人々は、AIがどのように機能するか、そしてそのシステムとの関係を構築するために、その成果をもっと意識する必要があります。
意思決定のシナリオでは、人々はAIがどのように機能するか、そしてそのシステムとの関係を構築する結果についてもっと意識する必要があります。
論文 参考訳（メタデータ） (2021-02-10T14:28:34Z) - Questioning the AI: Informing Design Practices for Explainable AI User
Experiences [33.81809180549226]
説明可能なAI(XAI)への関心の高まりは、このトピックに関する膨大なアルゴリズム作業の収集につながった。
私たちは、説明可能なAI製品を作成するための現在のXAIアルゴリズム作業とプラクティスのギャップを特定しようとしています。
我々は,ユーザが説明責任を表現できるXAI質問バンクを開発した。
論文 参考訳（メタデータ） (2020-01-08T12:34:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。