論文の概要: Not All Explanations Are Sought: Information-Seeking Psychology for Human-Centered XAI

• arxiv url: http://arxiv.org/abs/2608.27464v1
• Date: Wed, 15 Jul 2026 08:41:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 14:48:16.078741
• Title: Not All Explanations Are Sought: Information-Seeking Psychology for Human-Centered XAI
• Title（参考訳）: 人間中心のXAIのための情報探索心理学
• Abstract要約: 我々は、人間中心の説明可能なAI(HCXAI)は、情報探索の心理学からの洞察を取り入れるべきであると主張している。 そこで本稿では,楽器,ヘドニック,認知という,期待される3種類のユーティリティに基づいて,説明に携わるか否かを評価することを提案する。
• 参考スコア（独自算出の注目度）: 1.0055143995729414
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This position paper argues that human-centered explainable AI (HCXAI) should incorporate insights from the psychology of information seeking. Drawing on Sharot and Sunstein's framework of information-seeking motives, we propose that people evaluate whether to engage with explanations based on three types of expected utility: instrumental (will it help me act better?), hedonic (will it make me feel better?), and cognitive (will it improve my understanding?). Each utility is estimated through a lens shaped by well-documented cognitive biases, including illusion of control, automation bias, unrealistic optimism, impact bias, overconfidence, and confirmation bias. These biases can lead to two failure modes: excessive information-seeking that fragments attention without improving decisions, and insufficient information-seeking that leaves critical risks and misunderstandings unexamined. This challenge is particularly acute for agentic AI systems, where explanations must support not just understanding a single output but anticipating cascading actions, assessing risks, and deciding when to intervene. By integrating information-seeking psychology into HCXAI, we advocate for a shift from making explanations available to making them sought: designing systems that account for when and why users actually want to know.
• Abstract（参考訳）: このポジションペーパーでは、人間中心の説明可能なAI(HCXAI)は、情報探索の心理学からの洞察を取り入れるべきである、と論じている。 Sharot氏とSunstein氏の情報探索のモチベーションに関するフレームワークを参考に、私たちは、期待されるユーティリティの3つのタイプに基づいて、説明を行うかどうかを評価することを提案します。 それぞれのユーティリティは、制御の錯覚、自動化バイアス、非現実的な楽観主義、衝撃バイアス、過信、確認バイアスなど、よく文書化された認知バイアスによって形成されたレンズによって推定される。 これらのバイアスは、意思決定を改善することなく注意を断片化する過剰な情報検索と、重大なリスクと誤解を未確認のまま残した不十分な情報検索の2つの障害モードにつながる可能性がある。 この課題は、単一のアウトプットを理解するだけでなく、カスケードアクションを予想し、リスクを評価し、いつ介入するかを判断する、エージェントAIシステムにとって特に緊急である。 情報探索心理学をHCXAIに統合することにより、ユーザが実際に知りたい理由と理由を考慮に入れたシステムを設計する、情報探索心理学をHCXAIに組み込むことで、必要な説明を行うためのシフトを提唱する。

関連論文リスト

• Warning labels shift perceptions of sycophantic AI, but not its influence [63.79516339973759]
  警告ラベルが梅毒の影響を緩和するかどうかを検証する。 システムをサイコファンティック(...あなたと同意し、間違っていても検証するかもしれない)としてラベル付けすることは、ユーザの認識をシフトさせる。 しかし、ユーザーの自己認識する正当性や、紛争を修復する意思に薬局が与える影響を確実に減少させるものではない。
  論文  参考訳（メタデータ） (2026-06-19T11:01:45Z)
• The Psychology of Falsehood: A Human-Centric Survey of Misinformation Detection [14.842285597243688]
  誤報はデジタル時代の最も重要な問題の1つだ。 個人が情報に対してどのように認識し、解釈し、感情的に反応するかを活用する。 これにより、事実性を超えて、より人間中心の検出フレームワークを採用する必要性が浮き彫りになる。
  論文  参考訳（メタデータ） (2025-09-19T11:51:17Z)
• Can AI Explanations Make You Change Your Mind? [14.993627659170976]
  AIベースの意思決定支援システムでは、ユーザがAIの提案をいつ信頼するか、いつ質問するかを判断するのに役立つ。 説明可能なDSSに対する信頼に関するオンライン調査を行い、参加者が説明にほとんど時間を費やしておらず、常に詳細を考慮していないことに驚きました。 このデータを探索的に分析し、参加者がAIの説明をいかに慎重に検討するかを調査する。
  論文  参考訳（メタデータ） (2025-08-11T16:36:20Z)
• See What I Mean? CUE: A Cognitive Model of Understanding Explanations [20.1614283918021]
  本稿では,説明の認知的理解モデルを提案する。 調査では、視覚障害者のタスクパフォーマンスに匹敵するが、信頼性や努力は低いことがわかった。 我々は,(1)説明理解のための形式化された認知モデル,(2)人間中心の説明特性の総合的定義,(3)アクセシブルなユーザカスタマイズ型XAIを動機づけた実証的証拠を提示する。
  論文  参考訳（メタデータ） (2025-05-09T22:05:20Z)
• People Attribute Purpose to Autonomous Vehicles When Explaining Their Behavior: Insights from Cognitive Science for Explainable AI [22.138074429937795]
  効果的な人間中心の説明可能な人工知能(XAI)は人間の推論によく似ているとしばしば主張されている。 本稿では, 機械的, 遠隔的, あるいは反現実的を問わず, 人々がどのように説明を行うかを分析するための説明モードの枠組みを提案する。 我々の主な発見は、参加者がテレロジカルな説明を、反ファクト的な説明よりもはるかに良い品質とみなし、テレロジカルな表現が、知覚された品質の最良の予測因子であると認識していることである。
  論文  参考訳（メタデータ） (2024-03-11T11:48:50Z)
• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)
• EgoTaskQA: Understanding Human Tasks in Egocentric Videos [89.9573084127155]
  EgoTaskQAベンチマークは、現実世界のエゴセントリックなビデオに対する質問回答を通じて、タスク理解の重要な次元を提供する。 我々は,(1)行動依存と効果,(2)意図と目標,(3)エージェントの他者に対する信念の理解を念頭に設計する。 我々は、我々のベンチマークで最先端のビデオ推論モデルを評価し、複雑なゴール指向のエゴセントリックなビデオを理解する上で、人間の間に大きなギャップがあることを示します。
  論文  参考訳（メタデータ） (2022-10-08T05:49:05Z)
• What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps [69.53730499849023]
  説明可能なAI(XAI)を評価するために,ユーザ中心のペルソナ概念を提案する。 分析の結果,ユーザの人口統計や性格,説明のタイプ,影響説明の嗜好が示された。 私たちの洞察は、対話的で人間中心のXAIを実践的な応用に近づけます。
  論文  参考訳（メタデータ） (2022-10-07T12:51:27Z)
• Alterfactual Explanations -- The Relevance of Irrelevance for Explaining AI Systems [0.9542023122304099]
  我々は、決定を完全に理解するためには、関連する特徴に関する知識だけでなく、無関係な情報の認識もAIシステムのユーザーのメンタルモデルの作成に大きく貢献すると主張している。 私たちのアプローチは、Alterfactual Explanations(Alterfactual Explanations)と呼ばれ、AIの入力の無関係な特徴が変更された別の現実を示すことに基づいています。 我々は,AIの推論のさまざまな側面を,反事実的説明法よりも理解するために,人工的説明が適していることを示す。
  論文  参考訳（メタデータ） (2022-07-19T16:20:37Z)
• Diagnosing AI Explanation Methods with Folk Concepts of Behavior [70.10183435379162]
  我々は「成功」は、その説明がどんな情報を含むかだけでなく、人間の説明者がどのような情報から理解するかにも依存すると考えている。 我々は、人間の説明による社会的帰属の枠組みとして、行動の民意的概念を用いる。
  論文  参考訳（メタデータ） (2022-01-27T00:19:41Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。