論文の概要: Investigating the Role of Explainability and AI Literacy in User Compliance

• arxiv url: http://arxiv.org/abs/2406.12660v1
• Date: Tue, 18 Jun 2024 14:28:12 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-19 18:38:36.949690
• Title: Investigating the Role of Explainability and AI Literacy in User Compliance
• Title（参考訳）: ユーザコンプライアンスにおける説明可能性とAIリテラシーの役割の検討
• Authors: Niklas Kühl, Christian Meske, Maximilian Nitsche, Jodie Lobana,
• Abstract要約: XAIの導入により,ユーザのコンプライアンスが向上する一方で,AIリテラシーの影響も受けていることがわかった。 また,AIリテラシーXAIとユーザのコンプライアンスの関係は,ユーザのメンタルモデルが介在していることも確認した。
• 参考スコア（独自算出の注目度）: 2.8623940003518156
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: AI is becoming increasingly common across different domains. However, as sophisticated AI-based systems are often black-boxed, rendering the decision-making logic opaque, users find it challenging to comply with their recommendations. Although researchers are investigating Explainable AI (XAI) to increase the transparency of the underlying machine learning models, it is unclear what types of explanations are effective and what other factors increase compliance. To better understand the interplay of these factors, we conducted an experiment with 562 participants who were presented with the recommendations of an AI and two different types of XAI. We find that users' compliance increases with the introduction of XAI but is also affected by AI literacy. We also find that the relationships between AI literacy XAI and users' compliance are mediated by the users' mental model of AI. Our study has several implications for successfully designing AI-based systems utilizing XAI.
• Abstract（参考訳）: AIは、さまざまなドメインでますます一般的になっています。 しかし、洗練されたAIベースのシステムは、しばしばブラックボックス化され、意思決定ロジックが不透明になるため、ユーザーは推奨に従わざるを得ない。 研究者たちは、基礎となる機械学習モデルの透明性を高めるために、説明可能なAI(XAI)を調査しているが、どのような説明が有効であるか、他の要因がコンプライアンスを向上させるのかは明らかではない。 これらの要因の相互作用をよりよく理解するために,AIと2種類のXAIを推奨する参加者562名を対象に実験を行った。 XAIの導入によってユーザのコンプライアンスが増加するが、AIリテラシーの影響も受けている。 また,AIリテラシーXAIとユーザのコンプライアンスの関係は,ユーザのメンタルモデルが介在していることも確認した。 我々の研究は、XAIを利用したAIベースのシステムの設計にいくつかの意味を持っている。

関連論文リスト

• Improving Health Professionals' Onboarding with AI and XAI for Trustworthy Human-AI Collaborative Decision Making [3.2381492754749632]
  医療・健康を専攻する健康専門家や学生との半構造化面接の結果を報告する。 そこで我々は,脳卒中リハビリテーション評価のためのAIシステムの教材を作成するために,人間とAIのインタラクションガイドラインを構築した。 この結果から,従来のパフォーマンス指標をAIに提示する以外に,参加者はベンチマーク情報を希望していることが判明した。
  論文  参考訳（メタデータ） (2024-05-26T04:30:17Z)
• Why is plausibility surprisingly problematic as an XAI criterion? [38.0428570713717]
  われわれは,XAIの共通基準である妥当性を初めて批判的に検討する。 それは、AIの説明がいかに人間に納得させるかを測定する。 XAIアルゴリズムの評価や最適化の基準として可視性を使うことは推奨しません。
  論文  参考訳（メタデータ） (2023-03-30T20:59:44Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• Connecting Algorithmic Research and Usage Contexts: A Perspective of Contextualized Evaluation for Explainable AI [65.44737844681256]
  説明可能なAI(XAI)を評価する方法に関するコンセンサスの欠如は、この分野の進歩を妨げる。 このギャップを埋める一つの方法は、異なるユーザ要求を考慮に入れた評価方法を開発することである、と我々は主張する。
  論文  参考訳（メタデータ） (2022-06-22T05:17:33Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• On Two XAI Cultures: A Case Study of Non-technical Explanations in Deployed AI System [3.4918511133757977]
  XAIの多くは、実際にはデプロイされたAIシステムの主要なオーディエンスであり、主要な利害関係者である非AI専門家には理解できない。 我々は,非技術者を対象としたXAI手法の開発が重要であることを主張する。 そして、AIの専門家が非技術ステークホルダーにAI決定の非技術的な説明を提供した、実生活のケーススタディを提示します。
  論文  参考訳（メタデータ） (2021-12-02T07:02:27Z)
• A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
  本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。 このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
  論文  参考訳（メタデータ） (2021-09-27T09:56:23Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)
• The human-AI relationship in decision-making: AI explanation to support people on justifying their decisions [4.169915659794568]
  人々は、AIがどのように機能するか、そしてそのシステムとの関係を構築するために、その成果をもっと意識する必要があります。 意思決定のシナリオでは、人々はAIがどのように機能するか、そしてそのシステムとの関係を構築する結果についてもっと意識する必要があります。
  論文  参考訳（メタデータ） (2021-02-10T14:28:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。