論文の概要: CoAX: Cognitive-Oriented Attribution eXplanation User Model of Human Understanding of AI Explanations

• arxiv url: http://arxiv.org/abs/2604.27354v1
• Date: Thu, 30 Apr 2026 03:12:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 16:31:53.894149
• Title: CoAX: Cognitive-Oriented Attribution eXplanation User Model of Human Understanding of AI Explanations
• Title（参考訳）: CoAX:AI説明の人間理解のための認知指向属性eXplanationユーザモデル
• Authors: Louth Bin Rawshan, Zhuoyu Wang, Brian Y. Lim,
• Abstract要約: XAIは、AIモデルを使用する際のユーザ理解と意思決定を改善することを目的としている。 最近のユーザ評価では、この目標が先入観的であることが明らかになっている。 我々は,AI決定を予想する意思決定タスクにおいて,異なるXAI手法に対する様々な推論戦略を検討した。
• 参考スコア（独自算出の注目度）: 8.572512533736312
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Explainable AI (XAI) aims to improve user understanding and decisions when using AI models. However, despite innovations in XAI, recent user evaluations reveal that this goal remains elusive. Understanding human cognition can help explain why users struggle to effectively use AI explanations. Focusing on reasoning on structured (tabular) data, we examined various reasoning strategies for different XAI methods (none, feature importance, feature attribution) in the decision task of anticipating AI decisions (i.e., forward simulation). We i) elicited reasoning strategies from a formative user study, and ii) collected decisions from a summative user study. Using cognitive modeling, we implemented the processes underlying each reasoning strategy and evaluated their alignment with human decision-making. We found that our models better fit human decisions than baseline machine learning proxies, providing insights into which reasoning strategies are (in)effective. We then demonstrate how the fitted model can be used to form hypotheses and investigate research questions that are costly to study with real human participants. This work contributes to debugging human understanding of XAI, informing the future development of more usable and interpretable AI explanations.
• Abstract（参考訳）: 説明可能なAI(XAI)は、AIモデルを使用する際のユーザの理解と意思決定を改善することを目的としている。 しかしながら、XAIのイノベーションにもかかわらず、最近のユーザ評価では、この目標が依然として先入観的であることが明らかになっている。 人間の認知を理解することは、ユーザーがAIの説明を効果的に利用するのに苦労する理由を説明するのに役立つ。 構造化された(語彙)データに基づく推論に着目し,AI決定を予想する決定課題(前方シミュレーション)において,異なるXAI手法(None, feature importance, feature Attribution)の様々な推論戦略を検討した。 我が家 一 形式的ユーザスタディから推論戦略を付与し、 二 要約ユーザ研究から決定を収集すること。 認知モデルを用いて、各推論戦略の基礎となるプロセスを実装し、人間の意思決定との整合性を評価した。 私たちのモデルは、ベースラインの機械学習プロキシよりも人間の判断に適合し、推論戦略がどの(効果的である)かについての洞察を提供しています。 次に,本モデルを用いて仮説を定式化し,実際の被験者と研究するのにコストがかかる研究課題を考察する。 この研究は、XAIの人間の理解のデバッグに寄与し、より使いやすく解釈可能なAI説明の今後の発展を知らせる。

関連論文リスト

• When Models Know More Than They Can Explain: Quantifying Knowledge Transfer in Human-AI Collaboration [79.69935257008467]
  我々は,人間とAIの知識伝達能力に関する概念的かつ実験的フレームワークである知識統合と伝達評価(KITE)を紹介する。 最初の大規模人間実験(N=118)を行い,その測定を行った。 2段階のセットアップでは、まずAIを使って問題解決戦略を思いつき、その後独立してソリューションを実装し、モデル説明が人間の理解に与える影響を分離します。
  論文  参考訳（メタデータ） (2025-06-05T20:48:16Z)
• Utilizing Human Behavior Modeling to Manipulate Explanations in AI-Assisted Decision Making: The Good, the Bad, and the Scary [19.884253335528317]
  AIモデルの最近の進歩は、人間の意思決定プロセスへのAIベースの意思決定支援の統合を高めている。 AIによる意思決定の可能性を完全に解き放つために、研究者たちは、人間がAIレコメンデーションを最終決定にどのように組み込むかをコンピュータでモデル化した。 より適切にAIレコメンデーションに頼れるように、人間の意思決定者にAIの説明を提供することは、一般的な慣習となっている。
  論文  参考訳（メタデータ） (2024-11-02T18:33:28Z)
• Study on the Helpfulness of Explainable Artificial Intelligence [0.0]
  法律、ビジネス、倫理的要件は、効果的なXAIの使用を動機付けている。 本稿では,ユーザがプロキシタスクをうまく実行する能力を通じて,XAI手法を評価することを提案する。 言い換えれば、人間の意思決定におけるXAIの有用性について論じる。
  論文  参考訳（メタデータ） (2024-10-14T14:03:52Z)
• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• Understanding the Role of Human Intuition on Reliance in Human-AI Decision-Making with Explanations [44.01143305912054]
  意思決定者の直感がAI予測と説明の使用に与える影響について検討する。 以上の結果から,AIの予測と説明に関する3種類の直観が明らかになった。 これらの経路を用いて、なぜ機能に基づく説明が参加者の決定結果を改善しなかったのかを説明し、AIへの依存度を高めた。
  論文  参考訳（メタデータ） (2023-01-18T01:33:50Z)
• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)
• The human-AI relationship in decision-making: AI explanation to support people on justifying their decisions [4.169915659794568]
  人々は、AIがどのように機能するか、そしてそのシステムとの関係を構築するために、その成果をもっと意識する必要があります。 意思決定のシナリオでは、人々はAIがどのように機能するか、そしてそのシステムとの関係を構築する結果についてもっと意識する必要があります。
  論文  参考訳（メタデータ） (2021-02-10T14:28:34Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。