論文の概要: Don't be Fooled: The Misinformation Effect of Explanations in Human-AI Collaboration

• arxiv url: http://arxiv.org/abs/2409.12809v1
• Date: Thu, 19 Sep 2024 14:34:20 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-07 13:23:33.517684
• Title: Don't be Fooled: The Misinformation Effect of Explanations in Human-AI Collaboration
• Title（参考訳）: 人間とAIのコラボレーションにおける説明の誤情報効果
• Authors: Philipp Spitzer, Joshua Holstein, Katelyn Morrison, Kenneth Holstein, Gerhard Satzger, Niklas Kühl,
• Abstract要約: 我々は,人間がXAIに支えられたAIによる意思決定について研究している。 その結果,誤った説明が正しいAIアドバイスに付随する場合に誤報が生じることがわかった。 この効果は、人間が欠陥のある推論戦略を推測し、タスクの実行を妨げ、手続き的知識の障害を示す。
• 参考スコア（独自算出の注目度）: 11.824688232910193
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Across various applications, humans increasingly use black-box artificial intelligence (AI) systems without insight into these systems' reasoning. To counter this opacity, explainable AI (XAI) methods promise enhanced transparency and interpretability. While recent studies have explored how XAI affects human-AI collaboration, few have examined the potential pitfalls caused by incorrect explanations. The implications for humans can be far-reaching but have not been explored extensively. To investigate this, we ran a study (n=160) on AI-assisted decision-making in which humans were supported by XAI. Our findings reveal a misinformation effect when incorrect explanations accompany correct AI advice with implications post-collaboration. This effect causes humans to infer flawed reasoning strategies, hindering task execution and demonstrating impaired procedural knowledge. Additionally, incorrect explanations compromise human-AI team-performance during collaboration. With our work, we contribute to HCI by providing empirical evidence for the negative consequences of incorrect explanations on humans post-collaboration and outlining guidelines for designers of AI.
• Abstract（参考訳）: 様々な応用において、人間はブラックボックス人工知能(AI)システムを使うようになり、これらのシステムの推論を理解できなくなる。 この不透明さに対処するため、説明可能なAI(XAI)メソッドは、透明性と解釈可能性の向上を約束する。 近年の研究では、XAIが人間とAIのコラボレーションにどのように影響するかが研究されているが、誤った説明による潜在的な落とし穴についての調査は少ない。 人間への影響は遠方にあるが、広くは調査されていない。 そこで我々は,AI支援による意思決定に関する研究(n=160)を行い,人間をXAIで支援した。 実験の結果,誤った説明が正しいAIアドバイスと協調後の意味を伴う場合,誤報効果がみられた。 この効果は、人間が欠陥のある推論戦略を推測し、タスクの実行を妨げ、手続き的知識の障害を示す。 さらに、誤った説明は、コラボレーション中の人間とAIのチームパフォーマンスを損なう。 我々の研究は、AIの設計者に対する、人間が協力した後の誤った説明と概説の否定的な結果を示す実証的な証拠を提供することで、HCIに貢献する。

関連論文リスト

• Let people fail! Exploring the influence of explainable virtual and robotic agents in learning-by-doing tasks [45.23431596135002]
  本研究は,古典的対パートナー意識による説明が学習作業中の人間の行動とパフォーマンスに与える影響を比較検討した。 その結果, パートナー意識による説明は, 関係する人工エージェントの種類によって, 参加者に異なる影響を及ぼした。
  論文  参考訳（メタデータ） (2024-11-15T13:22:04Z)
• Unraveling the Dilemma of AI Errors: Exploring the Effectiveness of Human and Machine Explanations for Large Language Models [8.863857300695667]
  質問応答課題において, 人文文156件と, サリエンシに基づく説明文について分析した。 以上の結果から,人間の唾液マップは,機械の唾液マップよりもAIの回答を説明するのに有用であることが示唆された。 この発見は、説明におけるAIエラーのジレンマを示唆するものであり、役に立つ説明は、間違ったAI予測をサポートする場合にタスクパフォーマンスを低下させる可能性がある。
  論文  参考訳（メタデータ） (2024-04-11T13:16:51Z)
• The Impact of Imperfect XAI on Human-AI Decision-Making [8.305869611846775]
  鳥種識別作業において,誤った説明が人間の意思決定行動にどのように影響するかを評価する。 この結果から,AIと人間-AIチームパフォーマンスへの不完全なXAIと,人間の専門知識レベルの影響が明らかになった。
  論文  参考訳（メタデータ） (2023-07-25T15:19:36Z)
• Improving Human-AI Collaboration With Descriptions of AI Behavior [14.904401331154062]
  人々はAIシステムを使って意思決定を改善するが、しばしばAIの予測を過度に、あるいは過度に予測し、手伝わなかったよりも悪いパフォーマンスをする。 人々がAIアシスタントを適切に頼りにするために、行動記述を示すことを提案する。
  論文  参考訳（メタデータ） (2023-01-06T00:33:08Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps [69.53730499849023]
  説明可能なAI(XAI)を評価するために,ユーザ中心のペルソナ概念を提案する。 分析の結果,ユーザの人口統計や性格,説明のタイプ,影響説明の嗜好が示された。 私たちの洞察は、対話的で人間中心のXAIを実践的な応用に近づけます。
  論文  参考訳（メタデータ） (2022-10-07T12:51:27Z)
• Diagnosing AI Explanation Methods with Folk Concepts of Behavior [70.10183435379162]
  我々は「成功」は、その説明がどんな情報を含むかだけでなく、人間の説明者がどのような情報から理解するかにも依存すると考えている。 我々は、人間の説明による社会的帰属の枠組みとして、行動の民意的概念を用いる。
  論文  参考訳（メタデータ） (2022-01-27T00:19:41Z)
• A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
  本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。 このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
  論文  参考訳（メタデータ） (2021-09-27T09:56:23Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• Does the Whole Exceed its Parts? The Effect of AI Explanations on Complementary Team Performance [44.730580857733]
  以前の研究では、AIが人間と最高のチームの両方を上回った場合にのみ、説明による改善が観察された。 我々は、3つのデータセットで混合メソッドのユーザー研究を行い、人間に匹敵する精度のAIが、参加者のタスク解決に役立ちます。 説明は、人間がAIの推奨を受け入れる可能性を高める。
  論文  参考訳（メタデータ） (2020-06-26T03:34:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。