論文の概要: Integrating Feature Understandability into Feature Selection for Human-Centred Tabular Explanations

• arxiv url: http://arxiv.org/abs/2610.16627v1
• Date: Mon, 12 Oct 2026 11:44:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.366678
• Title: Integrating Feature Understandability into Feature Selection for Human-Centred Tabular Explanations
• Title（参考訳）: 人中心的タブラリ説明のための特徴選択への特徴理解性の統合
• Abstract要約: 本研究では,人間に基づく特徴理解能力を特徴選択に取り入れ,人中心的説明の生成を改善する。 このモデルにより生成されたSHAPに基づく説明は,ユーザフィードバックを用いて評価し,説明品質の変化を評価する。 理解可能性の統合は、分類性能の最小コストでより理解しやすい説明が得られると結論付けている。
• 参考スコア（独自算出の注目度）: 2.386554354545508
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing human-centred XAI research predominantly evaluates explanations after they have been generated. However, this fails to provide actionable insights into improving accessibility. This study incorporates human-based feature understandability into feature selection to improve the generation of human-centred explanations. Natural language explanations for machine learning models trained on tabular data often cite influential features in the input data to explain a given decision. As a consequence, users' ability to understand the produced explanation hinges on their understanding of the cited features. To quantify this natural-language feature understandability, Rossberg et al. proposed the Feature Understandability Scale, which assigns numerical `understandability scores' to features based on user feedback. To evaluate the degree to which these scores can improve machine learning explanation quality, this study collects understandability scores across two datasets, proposes an understandability-aware feature selection algorithm to select features that are both understandable and informative, and trains a random forest based on these feature subsets. The SHAP-based explanations generated by this model are evaluated using user feedback, and changes in explanation quality are assessed. The individual evaluation of the explanations showed that while the understandability-based explanations scored higher on average, the difference was not statistically significant. In contrast, the comparative evaluation found that participants preferred these explanations significantly more frequently than expected at the chance level. It is concluded that the integration of understandability can yield more understandable explanations at minimal cost to classification performance, although changes to quality require elucidation in larger cohorts.
• Abstract（参考訳）: 既存の人中心XAI研究は、生成後の説明を主に評価している。 しかし、これによってアクセシビリティの改善に関する実用的な洞察が得られない。 本研究では,人間に基づく特徴理解能力を特徴選択に取り入れ,人中心的説明の生成を改善する。 表形式のデータに基づいて訓練された機械学習モデルの自然言語説明は、与えられた決定を説明するために入力データに影響を及ぼす特徴をしばしば引用する。 その結果、ユーザが作成した説明文を理解する能力は、引用された特徴に対する理解に依存している。 この自然言語機能の理解性を定量化するため、Rossbergらは、ユーザフィードバックに基づいた機能に数値的な‘理解可能性スコア’を割り当てるFeature Understandability Scaleを提案した。 本研究は、これらのスコアが機械学習の説明品質を向上させる程度を評価するために、2つのデータセットにまたがる理解可能性スコアを収集し、理解可能性を考慮した特徴選択アルゴリズムを提案し、これらの特徴サブセットに基づいてランダムな森林を訓練する。 このモデルによって生成されたSHAPに基づく説明は,ユーザフィードバックを用いて評価し,説明品質の変化を評価する。 説明の個人的評価は, 理解可能性に基づく説明が平均よりも高い値を示したが, 統計的に有意な差は認められなかった。 対照的に、比較評価では、参加者はこれらの説明を、偶然のレベルで予想されるよりもはるかに頻繁に好んだ。 理解可能性の統合は、より大規模なコホートにおいて、品質の変化は解明を必要とするが、最小限のコストで、分類性能においてより理解しやすい説明が得られると結論付けている。

関連論文リスト

• Beyond Satisfaction: From Placebic to Actionable Explanations For Enhanced Understandability [0.0]
  本稿では、機械学習システムの説明可能性を評価する上で、ユーザ満足度指標の過度な信頼性を批判する。 主観的な調査では、ユーザにとって有用なドメイン理解を構築する上で、説明が本当に有効かどうかを把握できないことが分かりました。 エージェントの説明能力の今後の評価は、主観的な評価とともに客観的なタスクパフォーマンス指標を統合して、説明品質をより正確に測定することを提案する。
  論文  参考訳（メタデータ） (2025-12-06T23:06:18Z)
• Learning to Reject Low-Quality Explanations via User Feedback [19.00554619010889]
  ユーザ中心の低品質記述リジェクタ(ULER)を導入し,人間格付けと機能ごとの関連性判定から簡単なリジェクタを学習する。 実験の結果,ULERはLtXの戦略を拒否するために最先端の学習と説明学習の両方に優れることがわかった。
  論文  参考訳（メタデータ） (2025-07-17T08:40:28Z)
• XForecast: Evaluating Natural Language Explanations for Time Series Forecasting [72.57427992446698]
  時系列予測は、特に正確な予測に依存するステークホルダーにとって、意思決定を支援する。 伝統的に説明可能なAI(XAI)メソッドは、機能や時間的重要性を基盤とするものであり、専門家の知識を必要とすることが多い。 時系列データにおける複雑な因果関係のため,予測NLEの評価は困難である。
  論文  参考訳（メタデータ） (2024-10-18T05:16:39Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Digital Socrates: Evaluating LLMs through Explanation Critiques [37.25959112212333]
  Digital Socratesは、モデル説明のためのオープンソースの自動批評モデルである。 我々は,デジタルソクラテスが学生モデルについての洞察を明らかにするのにどのように役立つかを示す。
  論文  参考訳（メタデータ） (2023-11-16T06:51:46Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Discriminative Attribution from Counterfactuals [64.94009515033984]
  本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。 本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-28T00:53:34Z)
• Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
  分析による特徴に基づく説明の新たな評価基準を確立する。 我々は、緩やかに必要であり、予測に十分である新しい説明を得る。 我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
  論文  参考訳（メタデータ） (2020-05-31T05:52:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。