論文の概要: ConvXAI: Delivering Heterogeneous AI Explanations via Conversations to
Support Human-AI Scientific Writing
- arxiv url: http://arxiv.org/abs/2305.09770v2
- Date: Mon, 29 May 2023 03:08:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-31 00:11:58.931630
- Title: ConvXAI: Delivering Heterogeneous AI Explanations via Conversations to
Support Human-AI Scientific Writing
- Title（参考訳）: ConvXAI:人間とAIの科学的記述を支援するための会話による異種AI説明の提供
- Authors: Hua Shen, Chieh-Yang Huang, Tongshuang Wu, Ting-Hao 'Kenneth' Huang
- Abstract要約: 本稿では,複数のXAIタイプを組み込んだ対話型XAIシステムであるConvXAIについて紹介する。
我々はドメイン固有言語を設計し、本質的な会話型XAIモジュールを実装し、一般化のための会話型共通XAI APIをリリースする。
21名のユーザを対象にした2つの内的調査の結果,ConvXAIは人間の理解と文章の質の向上,生産性と文質の面での筆記プロセスの改善に有用であることが示唆された。
- 参考スコア（独自算出の注目度）: 33.466012287233774
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While various AI explanation (XAI) methods have been proposed to interpret AI
systems, whether the state-of-the-art XAI methods are practically useful for
humans remains inconsistent findings. To improve the usefulness of XAI methods,
a line of studies identifies the gaps between the diverse and dynamic
real-world user needs with the status quo of XAI methods. Although prior
studies envision mitigating these gaps by integrating multiple XAI methods into
the universal XAI interfaces (e.g., conversational or GUI-based XAI systems),
there is a lack of work investigating how these systems should be designed to
meet practical user needs. In this study, we present ConvXAI, a conversational
XAI system that incorporates multiple XAI types, and empowers users to request
a variety of XAI questions via a universal XAI dialogue interface.
Particularly, we innovatively embed practical user needs (i.e., four principles
grounding on the formative study) into ConvXAI design to improve practical
usefulness. Further, we design the domain-specific language (DSL) to implement
the essential conversational XAI modules and release the core conversational
universal XAI API for generalization. The findings from two within-subjects
studies with 21 users show that ConvXAI is more useful for humans in perceiving
the understanding and writing improvement, and improving the writing process in
terms of productivity and sentence quality. Finally, this work contributes
insight into the design space of useful XAI, reveals humans' XAI usage patterns
with empirical evidence in practice, and identifies opportunities for future
useful XAI work.
- Abstract（参考訳）: 様々なAI説明法(XAI)がAIシステムを理解するために提案されているが、最先端のXAI法が人間にとって実用的に有用であるか否かは相容れない。
XAI法の有用性を高めるために,XAI法の現状クォーを用いて,多様な実世界のユーザニーズと動的ユーザニーズのギャップを明らかにする。
以前の研究では、複数のXAIメソッドを共通のXAIインターフェース(例えば、対話型またはGUIベースのXAIシステム)に統合することで、これらのギャップを緩和することを想定していたが、これらのシステムが実際にユーザのニーズを満たすように設計されるべきかどうかを調査する作業が不足している。
本研究では,複数のXAIタイプを組み込んだ会話型XAIシステムであるConvXAIについて述べる。
特に,実践的ユーザニーズ(すなわち形式的学習に基づく4つの原則)をConvXAI設計に革新的に組み込んで実用性を向上させる。
さらに、ドメイン固有言語(DSL)を設計し、本質的な会話型XAIモジュールを実装し、一般化のための会話型共通XAI APIをリリースする。
21名のユーザを対象にした2つの内的調査の結果,ConvXAIは人間の理解と文章の質の向上,生産性と文質の面での筆記プロセスの改善に有用であることが示唆された。
最後に、本研究は、有用なXAIの設計空間に関する洞察を提供し、実際に実証的な証拠を持つ人間のXAI利用パターンを明らかにし、将来の有用なXAI作業の機会を明らかにする。
関連論文リスト
- Investigating the Role of Explainability and AI Literacy in User Compliance [2.8623940003518156]
XAIの導入により,ユーザのコンプライアンスが向上する一方で,AIリテラシーの影響も受けていることがわかった。
また,AIリテラシーXAIとユーザのコンプライアンスの関係は,ユーザのメンタルモデルが介在していることも確認した。
論文 参考訳（メタデータ） (2024-06-18T14:28:12Z) - Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。
本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。
43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
論文 参考訳（メタデータ） (2022-11-12T21:54:05Z) - What Do End-Users Really Want? Investigation of Human-Centered XAI for
Mobile Health Apps [69.53730499849023]
説明可能なAI(XAI)を評価するために,ユーザ中心のペルソナ概念を提案する。
分析の結果,ユーザの人口統計や性格,説明のタイプ,影響説明の嗜好が示された。
私たちの洞察は、対話的で人間中心のXAIを実践的な応用に近づけます。
論文 参考訳（メタデータ） (2022-10-07T12:51:27Z) - "Help Me Help the AI": Understanding How Explainability Can Support
Human-AI Interaction [22.00514030715286]
我々は,鳥類識別アプリMerlinのエンドユーザ20名を対象に,実世界のAIアプリケーションについて調査を行った。
我々は、AIシステムとのコラボレーションを改善するために、実用的に有用な情報の必要性を人々が表現していることを発見した。
また,既存のXAIアプローチに対するエンドユーザの認識を評価し,パートベースの説明を好んだ。
論文 参考訳（メタデータ） (2022-10-02T20:17:11Z) - On some Foundational Aspects of Human-Centered Artificial Intelligence [52.03866242565846]
人間中心人工知能(Human Centered Artificial Intelligence)の意味については明確な定義はない。
本稿では,AIコンポーネントを備えた物理・ソフトウェア計算エージェントを指すHCAIエージェントについて紹介する。
HCAIエージェントの概念は、そのコンポーネントや機能とともに、人間中心のAIに関する技術的および非技術的議論を橋渡しする手段であると考えています。
論文 参考訳（メタデータ） (2021-12-29T09:58:59Z) - A User-Centred Framework for Explainable Artificial Intelligence in
Human-Robot Interaction [70.11080854486953]
本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。
このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
論文 参考訳（メタデータ） (2021-09-27T09:56:23Z) - Designer-User Communication for XAI: An epistemological approach to
discuss XAI design [4.169915659794568]
Signifying Message を概念的なツールとして、XAI シナリオを構造化および議論します。
私たちは、ヘルスケアAIシステムの議論にその使用を実験します。
論文 参考訳（メタデータ） (2021-05-17T13:18:57Z) - Joint Mind Modeling for Explanation Generation in Complex Human-Robot
Collaborative Tasks [83.37025218216888]
本稿では,人間とロボットのコラボレーションにおいて,人間のようなコミュニケーションを実現するための新しい説明可能なAI(XAI)フレームワークを提案する。
ロボットは、人間のユーザの階層的なマインドモデルを構築し、コミュニケーションの一形態として自身のマインドの説明を生成する。
その結果,提案手法はロボットの協調動作性能とユーザ認識を著しく向上させることがわかった。
論文 参考訳（メタデータ） (2020-07-24T23:35:03Z) - Questioning the AI: Informing Design Practices for Explainable AI User
Experiences [33.81809180549226]
説明可能なAI(XAI)への関心の高まりは、このトピックに関する膨大なアルゴリズム作業の収集につながった。
私たちは、説明可能なAI製品を作成するための現在のXAIアルゴリズム作業とプラクティスのギャップを特定しようとしています。
我々は,ユーザが説明責任を表現できるXAI質問バンクを開発した。
論文 参考訳（メタデータ） (2020-01-08T12:34:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。