論文の概要: Exploring the Impact of Explainable AI and Cognitive Capabilities on Users' Decisions
- arxiv url: http://arxiv.org/abs/2505.01192v1
- Date: Fri, 02 May 2025 11:30:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-05 17:21:20.00325
- Title: Exploring the Impact of Explainable AI and Cognitive Capabilities on Users' Decisions
- Title（参考訳）: 説明可能なAIと認知能力がユーザの判断に及ぼす影響を探る
- Authors: Federico Maria Cau, Lucio Davide Spano,
- Abstract要約: NFC(Need for Cognition)のようなパーソナリティ特性は、低レベルのNFC個人と高レベルのNFC個人の間で異なる意思決定結果をもたらす可能性がある。
ローンアプリケーションのシナリオにおいて,AI情報の提示が精度,AI依存度,認知負荷に与える影響について検討した。
精度, 認知負荷において, NFC群と高い群では有意な差は認められず, 意思決定における人格特性の役割について疑問が呈された。
- 参考スコア（独自算出の注目度）: 1.1049608786515839
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial Intelligence (AI) systems are increasingly used for decision-making across domains, raising debates over the information and explanations they should provide. Most research on Explainable AI (XAI) has focused on feature-based explanations, with less attention on alternative styles. Personality traits like the Need for Cognition (NFC) can also lead to different decision-making outcomes among low and high NFC individuals. We investigated how presenting AI information (prediction, confidence, and accuracy) and different explanation styles (example-based, feature-based, rule-based, and counterfactual) affect accuracy, reliance on AI, and cognitive load in a loan application scenario. We also examined low and high NFC individuals' differences in prioritizing XAI interface elements (loan attributes, AI information, and explanations), accuracy, and cognitive load. Our findings show that high AI confidence significantly increases reliance on AI while reducing cognitive load. Feature-based explanations did not enhance accuracy compared to other conditions. Although counterfactual explanations were less understandable, they enhanced overall accuracy, increasing reliance on AI and reducing cognitive load when AI predictions were correct. Both low and high NFC individuals prioritized explanations after loan attributes, leaving AI information as the least important. However, we found no significant differences between low and high NFC groups in accuracy or cognitive load, raising questions about the role of personality traits in AI-assisted decision-making. These findings highlight the need for user-centric personalization in XAI interfaces, incorporating diverse explanation styles and exploring multiple personality traits and other user characteristics to optimize human-AI collaboration.
- Abstract（参考訳）: 人工知能(AI)システムは、ドメイン間の意思決定にますます使われており、提供すべき情報や説明に関する議論が提起されている。
説明可能なAI(XAI)に関するほとんどの研究は、機能に基づいた説明に重点を置いており、代替のスタイルにはあまり注目していない。
Need for Cognition(NFC)のようなパーソナリティ特性は、低レベルのNFC個人と高レベルのNFC個人の間で異なる意思決定結果をもたらす可能性がある。
ローンアプリケーションのシナリオにおいて、AI情報(予測、信頼、正確性)と異なる説明スタイル(例ベース、特徴ベース、ルールベース、偽物)の提示が、精度、AIへの依存、認知負荷にどのように影響するかを検討した。
また、XAIインターフェース要素(ローン属性、AI情報、説明書)の優先順位付け、精度、認知負荷の低・高NFC個人差についても検討した。
以上の結果から,高いAI信頼度は認知負荷を低減しつつ,AIへの依存度を著しく高めることが明らかとなった。
特徴に基づく説明は,他の条件と比較して精度は向上しなかった。
反事実的説明は理解できないが、全体的な正確性を高め、AIへの依存を高め、AI予測が正しければ認知負荷を減らす。
NFCの低い個人と高い個人はローン属性の後に説明を優先し、AI情報を最重要視している。
しかし、精度や認知負荷において、低いNFC群と高いNFC群の間に有意な差は見られず、AIによる意思決定における性格特性の役割について疑問が持ち上がった。
これらの知見は、XAIインタフェースにおけるユーザ中心のパーソナライズの必要性を強調し、多様な説明スタイルを取り入れ、人間とAIのコラボレーションを最適化するために、複数のパーソナライズ特性やその他のユーザー特性を探索する。
関連論文リスト
- Engaging with AI: How Interface Design Shapes Human-AI Collaboration in High-Stakes Decision-Making [8.948482790298645]
各種意思決定支援機構がユーザエンゲージメント,信頼,人間とAIの協調タスクパフォーマンスに与える影響について検討する。
その結果,AIの信頼性レベルやテキスト説明,パフォーマンス視覚化などのメカニズムにより,人間とAIの協調作業性能が向上することが判明した。
論文 参考訳（メタデータ） (2025-01-28T02:03:00Z) - How Performance Pressure Influences AI-Assisted Decision Making [57.53469908423318]
我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。
我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
論文 参考訳（メタデータ） (2024-10-21T22:39:52Z) - What Else Do I Need to Know? The Effect of Background Information on
Users' Reliance on QA Systems [23.69129423040988]
本研究では,予測に十分な情報がない場合のQAシステムとのインタラクションについて検討する。
本研究は,モデルの正しさを評価するのに十分な情報がない場合でも,利用者がモデル予測に頼っていることを明らかにした。
論文 参考訳（メタデータ） (2023-05-23T17:57:12Z) - Towards Human Cognition Level-based Experiment Design for Counterfactual
Explanations (XAI) [68.8204255655161]
XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。
認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。
本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
論文 参考訳（メタデータ） (2022-10-31T19:20:22Z) - Alterfactual Explanations -- The Relevance of Irrelevance for Explaining
AI Systems [0.9542023122304099]
我々は、決定を完全に理解するためには、関連する特徴に関する知識だけでなく、無関係な情報の認識もAIシステムのユーザーのメンタルモデルの作成に大きく貢献すると主張している。
私たちのアプローチは、Alterfactual Explanations(Alterfactual Explanations)と呼ばれ、AIの入力の無関係な特徴が変更された別の現実を示すことに基づいています。
我々は,AIの推論のさまざまな側面を,反事実的説明法よりも理解するために,人工的説明が適していることを示す。
論文 参考訳（メタデータ） (2022-07-19T16:20:37Z) - Adaptive cognitive fit: Artificial intelligence augmented management of
information facets and representations [62.997667081978825]
ビッグデータ技術と人工知能(AI)応用の爆発的な成長は、情報ファセットの普及に繋がった。
等角性や正確性などの情報フェートは、情報に対する人間の認識を支配的かつ著しく左右する。
認知の限界を克服するために情報表現を適応できる人工知能技術が必要であることを示唆する。
論文 参考訳（メタデータ） (2022-04-25T02:47:25Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - Knowledge-intensive Language Understanding for Explainable AI [9.541228711585886]
AIが主導する意思決定の仕方と、どの決定要因が含まれているかを理解することが不可欠である。
意思決定に直接関係する人間中心の説明を持つことは重要である。
人間が理解し、使用する明示的なドメイン知識を巻き込む必要がある。
論文 参考訳（メタデータ） (2021-08-02T21:12:30Z) - The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。
その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
論文 参考訳（メタデータ） (2021-07-28T17:32:04Z) - Does Explainable Artificial Intelligence Improve Human Decision-Making? [17.18994675838646]
我々は、AI(制御)を使わずに客観的な人間の意思決定精度を、AI予測(説明なし)とAI予測(説明なし)とを比較して評価する。
あらゆる種類のAI予測は、ユーザの判断精度を改善する傾向がありますが、説明可能なAIが有意義な影響を与えるという決定的な証拠はありません。
我々の結果は、少なくともいくつかの状況において、説明可能なAIが提供する「なぜ」情報は、ユーザの意思決定を促進することができないことを示唆している。
論文 参考訳（メタデータ） (2020-06-19T15:46:13Z) - Effect of Confidence and Explanation on Accuracy and Trust Calibration
in AI-Assisted Decision Making [53.62514158534574]
ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。
信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
論文 参考訳（メタデータ） (2020-01-07T15:33:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。