論文の概要: Rules or Weights? Comparing User Understanding of Explainable AI Techniques with the Cognitive XAI-Adaptive Model

• arxiv url: http://arxiv.org/abs/2602.19620v1
• Date: Mon, 23 Feb 2026 09:07:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-24 17:42:02.742881
• Title: Rules or Weights? Comparing User Understanding of Explainable AI Techniques with the Cognitive XAI-Adaptive Model
• Title（参考訳）: ルールやウェイト? 説明可能なAI技術のユーザ理解と認知型XAI適応モデルの比較
• Authors: Louth Bin Rawshan, Zhuoyu Wang, Brian Y Lim,
• Abstract要約: ルールとウェイトは、AI決定を説明するための一般的なXAIテクニックである。 解釈可能性を比較するための認知的枠組みが欠如しているため、どちらを選ぶかはいまだ不明である。 共有メモリ表現を用いた認知型XAI適応モデルであるCoXAMを提案する。
• 参考スコア（独自算出の注目度）: 8.572512533736312
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Rules and Weights are popular XAI techniques for explaining AI decisions. Yet, it remains unclear how to choose between them, lacking a cognitive framework to compare their interpretability. In an elicitation user study on forward and counterfactual decision tasks, we identified 7 reasoning strategies of interpreting three XAI Schemas - weights, rules, and their hybrid. To analyze their capabilities, we propose CoXAM, a Cognitive XAI-Adaptive Model with shared memory representation to encode instance attributes, linear weights, and decision rules. CoXAM employs computational rationality to choose among reasoning processes based on the trade-off in utility and reasoning time, separately for forward or counterfactual decision tasks. In a validation study, CoXAM demonstrated a stronger alignment with human decision-making compared to baseline machine learning proxy models. The model successfully replicated and explained several key empirical findings, including that counterfactual tasks are inherently harder than forward tasks, decision tree rules are harder to recall and apply than linear weights, and the helpfulness of XAI depends on the application data context, alongside identifying which underlying reasoning strategies were most effective. With CoXAM, we contribute a cognitive basis to accelerate debugging and benchmarking disparate XAI techniques.
• Abstract（参考訳）: ルールとウェイトは、AI決定を説明するための一般的なXAIテクニックである。 しかし、その相互解釈性を比較するための認知的枠組みが欠如しているため、どちらを選ぶかはいまだ不明である。 先進的, 対実的意思決定タスクに関する説明的ユーザスタディでは, 3つのXAIスキーマ(重み, ルール, ハイブリッド)を解釈する7つの推論戦略を特定した。 これらの特徴を解析するために,インスタンス属性,線形重み,決定ルールを符号化する共有メモリ表現を備えた認知型XAI適応モデルであるCoXAMを提案する。 CoXAMは計算的合理性を用いて、実用性におけるトレードオフと推論時間に基づいて推論プロセスを選択する。 バリデーションスタディでは、ベースライン機械学習プロキシモデルと比較して、CoXAMは人間の意思決定と強い整合性を示した。 モデルがうまく複製し、いくつかの重要な経験的発見を説明した。例えば、カウンターファクトなタスクは、フォワードタスクよりも本質的に難しいこと、決定木ルールはリコールが難しく、リニアウェイトよりも適用が難しいこと、XAIの有用性はアプリケーションデータコンテキストに依存すること、そして根底にある推論戦略がどれが最も効果的か、などである。 CoXAMでは,デバッグを高速化し,異なるXAIテクニックのベンチマークを行うための認知的基盤を提供する。

関連論文リスト

• Two Experts Are All You Need for Steering Thinking: Reinforcing Cognitive Effort in MoE Reasoning Models Without Additional Training [86.70255651945602]
  我々はReinforcecing Cognitive Experts(RICE)と呼ばれる新しい推論時ステアリング手法を導入する。 RICEは、追加のトレーニングや複雑化なしに推論のパフォーマンスを改善することを目的としている。 先行する MoE ベースの LRM を用いた経験的評価は、推論精度、認知効率、ドメイン間の一般化において顕著で一貫した改善を示す。
  論文  参考訳（メタデータ） (2025-05-20T17:59:16Z)
• Explainable artificial intelligence (XAI): from inherent explainability to large language models [0.0]
  説明可能なAI(XAI)技術は、機械学習モデルの説明可能性や解釈可能性を促進する。 本稿では、本質的に解釈可能なモデルから現代的なアプローチまで、説明可能なAI手法の進歩について詳述する。 我々は、視覚言語モデル(VLM)フレームワークを利用して、他の機械学習モデルの説明可能性を自動化または改善する説明可能なAI技術についてレビューする。
  論文  参考訳（メタデータ） (2025-01-17T06:16:57Z)
• Study on the Helpfulness of Explainable Artificial Intelligence [0.0]
  法律、ビジネス、倫理的要件は、効果的なXAIの使用を動機付けている。 本稿では,ユーザがプロキシタスクをうまく実行する能力を通じて,XAI手法を評価することを提案する。 言い換えれば、人間の意思決定におけるXAIの有用性について論じる。
  論文  参考訳（メタデータ） (2024-10-14T14:03:52Z)
• Explainable AI for Enhancing Efficiency of DL-based Channel Estimation [1.0136215038345013]
  人工知能に基づく意思決定のサポートは、将来の6Gネットワークの重要な要素である。 このようなアプリケーションでは、ブラックボックスモデルとしてAIを使用するのは危険で難しい。 本稿では,無線通信におけるチャネル推定を目的とした新しいXAI-CHESTフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-09T16:24:21Z)
• REX: Rapid Exploration and eXploitation for AI Agents [103.68453326880456]
  本稿では、REXと呼ばれるAIエージェントのための高速探索およびeXploitationのための改良されたアプローチを提案する。 REXは追加の報酬層を導入し、アッパー信頼境界(UCB)スコアに似た概念を統合し、より堅牢で効率的なAIエージェントのパフォーマンスをもたらす。
  論文  参考訳（メタデータ） (2023-07-18T04:26:33Z)
• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)
• Connecting Algorithmic Research and Usage Contexts: A Perspective of Contextualized Evaluation for Explainable AI [65.44737844681256]
  説明可能なAI(XAI)を評価する方法に関するコンセンサスの欠如は、この分野の進歩を妨げる。 このギャップを埋める一つの方法は、異なるユーザ要求を考慮に入れた評価方法を開発することである、と我々は主張する。
  論文  参考訳（メタデータ） (2022-06-22T05:17:33Z)
• Rational Shapley Values [0.0]
  ポストホックな説明可能な人工知能(XAI)の一般的なツールは、文脈に敏感であるか、要約が難しい。 非互換なアプローチを合成し拡張する新しいXAI手法である、エミュレーション型シェープリー値を導入する。 私は、意思決定理論や因果モデリングのツールを活用して、XAIにおける多くの既知の課題を解決する実用的なアプローチを定式化し、実装します。
  論文  参考訳（メタデータ） (2021-06-18T15:45:21Z)
• Leveraging Expert Consistency to Improve Algorithmic Decision Support [62.61153549123407]
  建設のギャップを狭めるために観測結果と組み合わせることができる情報源として,歴史専門家による意思決定の利用について検討する。 本研究では,データ内の各ケースが1人の専門家によって評価された場合に,専門家の一貫性を間接的に推定する影響関数に基づく手法を提案する。 本研究は, 児童福祉領域における臨床現場でのシミュレーションと実世界データを用いて, 提案手法が構成ギャップを狭めることに成功していることを示す。
  論文  参考訳（メタデータ） (2021-01-24T05:40:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。