論文の概要: Leveraging Mental Models for Human-Centered Explanations: A Systematic Design Approach Illustrated by Explainable Fake Review Identification

• arxiv url: http://arxiv.org/abs/2610.24903v1
• Date: Sat, 17 Oct 2026 22:56:43 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:39:23.796646
• Title: Leveraging Mental Models for Human-Centered Explanations: A Systematic Design Approach Illustrated by Explainable Fake Review Identification
• Title（参考訳）: 人間中心的説明のためのメンタルモデルの導入:説明可能なフェイクレビュー同定による体系的設計アプローチ
• Abstract要約: 説明可能なAI(XAI)は、ユーザインテリジェンスよりもモデルの忠実度を優先し、技術的透明性を満足するが人間のセンスメイキングをサポートしない説明を与えることが多い。 本稿では,人間中心のアプローチであるMIND-Xを提案する。 我々の研究は、単に「透明性の溝」を超えて人間中心の説明設計を進め、メンタルモデルに沿った設計プロセスが、ユーザ中心の説明タスクにおけるインテリジェンスを改善し、説明責任をサポートすることを実証した。
• 参考スコア（独自算出の注目度）: 44.65630574236903
• License:
• Abstract: Explainable AI (XAI) often prioritizes model fidelity over user intelligibility, yielding explanations that satisfy technical transparency yet fail to support human sense-making. We propose a human-centered approach, MIND-X (Mental-model INtegrated Design for eXplainability), which aligns explanations with users' mental models, commonsense concepts, and judgment heuristics. Using fake review detection as a case study, we contribute: (1) a qualitative study (n=10) that elicits how people assess review credibility and produces an actionable, design-guiding taxonomy of perceptual cues; (2) a set of design principles that link those cues to explanation strategies and prompt LLMs to generate adaptive, language-based explanations; and (3) a quantitative evaluation (n=166) showing that these explanations offer distinct advantages over token-level transparency methods widely used in explainable text classification in terms of understandability, satisfaction, perceived trust, persuasiveness, and decision-making support. Rather than claiming general superiority, our evaluation illustrates how grounding explanations in users' everyday reasoning practices can produce more intelligible and context-sensitive accounts. Our findings advance human-centered explanation design beyond a mere "gloss of transparency," demonstrating that a mental-model-aligned design process can improve intelligibility and support accountability across user-centered explanation tasks.
• Abstract（参考訳）: 説明可能なAI(XAI)は、ユーザインテリジェンスよりもモデルの忠実度を優先し、技術的透明性を満足するが人間のセンスメイキングをサポートしない説明を与えることが多い。 本稿では,人間中心型アプローチ MIND-X (Mental-model INtegrated Design for eXplainability) を提案する。 偽レビュー検出を事例研究として用いて,(1)信頼度を評価し,知覚的手がかりの行動可能な設計指導型分類を生成する質的研究(n=10),(2)説明戦略とLLMを結びつけて適応的・言語的説明を導き出す設計原則のセット,(3)説明可能なテキスト分類において広く用いられるトークンレベルの透明性手法に対して,定量的な評価(n=166)が有益であることを示す。 本評価は,一般的な優位性を主張するよりも,ユーザの日常的推論の実践における説明が,より理解しやすく,文脈に敏感なアカウントを生み出すことを示す。 我々の研究は、単に「透明性の溝」を超えて人間中心の説明設計を進め、メンタルモデルに沿った設計プロセスが、ユーザ中心の説明タスクにおけるインテリジェンスを改善し、説明責任をサポートすることを実証した。

関連論文リスト

• Integrating Feature Understandability into Feature Selection for Human-Centred Tabular Explanations [2.386554354545508]
  本研究では,人間に基づく特徴理解能力を特徴選択に取り入れ,人中心的説明の生成を改善する。 このモデルにより生成されたSHAPに基づく説明は,ユーザフィードバックを用いて評価し,説明品質の変化を評価する。 理解可能性の統合は、分類性能の最小コストでより理解しやすい説明が得られると結論付けている。
  論文  参考訳（メタデータ） (2026-10-12T11:44:57Z)
• See What I Mean? CUE: A Cognitive Model of Understanding Explanations [20.1614283918021]
  本稿では,説明の認知的理解モデルを提案する。 調査では、視覚障害者のタスクパフォーマンスに匹敵するが、信頼性や努力は低いことがわかった。 我々は,(1)説明理解のための形式化された認知モデル,(2)人間中心の説明特性の総合的定義,(3)アクセシブルなユーザカスタマイズ型XAIを動機づけた実証的証拠を提示する。
  論文  参考訳（メタデータ） (2025-05-09T22:05:20Z)
• Concept Induction using LLMs: a user experiment for assessment [1.1982127665424676]
  本研究では,人間に対する説明として意味のある高レベルな概念を生成するために,LLM(Large Language Model)の可能性を探る。 我々は、LLMによって生成された概念を、人間によって生成された概念とECII概念誘導システムという、他の2つの方法と比較する。 人為的な説明は依然として優れているが, GPT-4 から派生した概念は, ECII が生成した概念よりも人間にとって理解しやすいことが示唆された。
  論文  参考訳（メタデータ） (2024-04-18T03:22:02Z)
• Conceptual and Unbiased Reasoning in Language Models [98.90677711523645]
  本稿では,抽象的質問に対する概念的推論をモデルに強制する,新しい概念化フレームワークを提案する。 既存の大規模言語モデルは概念的推論では不足しており、様々なベンチマークでは9%から28%に低下している。 ハイレベルな抽象的推論が不偏で一般化可能な意思決定の鍵となるので、モデルがどのように改善できるかについて議論する。
  論文  参考訳（メタデータ） (2024-03-30T00:53:53Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Helpful, Misleading or Confusing: How Humans Perceive Fundamental Building Blocks of Artificial Intelligence Explanations [11.667611038005552]
  我々は、洗練された予測アルゴリズムから一歩引いて、単純な意思決定モデルの説明可能性について検討する。 我々は、人々がそれぞれの表現の理解性をどう感じているかを評価することを目的とする。 これにより、さまざまな利害関係者が、より精巧な人工知能の説明が構築される基本的な概念の無知性を判断することができる。
  論文  参考訳（メタデータ） (2023-03-02T03:15:35Z)
• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。