論文の概要: PREF-XAI: Preference-Based Personalized Rule Explanations of Black-Box Machine Learning Models

• arxiv url: http://arxiv.org/abs/2604.19684v1
• Date: Tue, 21 Apr 2026 17:07:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-22 22:41:49.892741
• Title: PREF-XAI: Preference-Based Personalized Rule Explanations of Black-Box Machine Learning Models
• Title（参考訳）: PreF-XAI:Black-Box 機械学習モデルの嗜好に基づくパーソナライズドルール記述
• Authors: Salvatore Greco, Jacek Karolczak, Roman Słowiński, Jerzy Stefanowski,
• Abstract要約: Preference-Based Explainable Artificial Intelligence (PREF-XAI) は、優先順位に基づく意思決定問題として説明を再設計する新しい視点である。 PreF-XAI内では、説明は固定出力として扱われるのではなく、ユーザ固有の基準に従って評価され、選択される代替手段として扱われる。 PreF-XAIは、限られたフィードバックからユーザの好みを正確に再構築し、非常に関連性の高い説明を識別し、新しい説明規則を発見できることを示す。
• 参考スコア（独自算出の注目度）: 2.969056717104372
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Explainable artificial intelligence (XAI) has predominantly focused on generating model-centric explanations that approximate the behavior of black-box models. However, such explanations often overlook a fundamental aspect of interpretability: different users require different explanations depending on their goals, preferences, and cognitive constraints. Although recent work has explored user-centric and personalized explanations, most existing approaches rely on heuristic adaptations or implicit user modeling, lacking a principled framework for representing and learning individual preferences. In this paper, we consider Preference-Based Explainable Artificial Intelligence (PREF-XAI), a novel perspective that reframes explanation as a preference-driven decision problem. Within PREF-XAI, explanations are not treated as fixed outputs, but as alternatives to be evaluated and selected according to user-specific criteria. In the PREF-XAI perspective, here we propose a methodology that combines rule-based explanations with formal preference learning. User preferences are elicited through a ranking of a small set of candidate explanations and modeled via an additive utility function inferred using robust ordinal regression. Experimental results on real-world datasets show that PREF-XAI can accurately reconstruct user preferences from limited feedback, identify highly relevant explanations, and discover novel explanatory rules not initially considered by the user. Beyond the proposed methodology, this work establishes a connection between XAI and preference learning, opening new directions for interactive and adaptive explanation systems.
• Abstract（参考訳）: 説明可能な人工知能(XAI)は主にブラックボックスモデルの振る舞いを近似するモデル中心の説明を生成することに焦点を当てている。 しかし、このような説明はしばしば、解釈可能性の基本的な側面を見落としている: 異なるユーザーは、目標、好み、認知的制約によって異なる説明を必要とする。 最近の研究はユーザ中心でパーソナライズされた説明を探求しているが、既存のアプローチのほとんどはヒューリスティックな適応や暗黙的なユーザーモデリングに依存しており、個人の好みを表現し学習するための原則的な枠組みが欠如している。 本稿では,Preference-Based Explainable Artificial Intelligence (PREF-XAI)について考察する。 PreF-XAI内では、説明は固定出力として扱われるのではなく、ユーザ固有の基準に従って評価され、選択される代替手段として扱われる。 PreF-XAIの観点から、ルールに基づく説明と形式的嗜好学習を組み合わせた方法論を提案する。 ユーザの好みは、少数の候補説明のランク付けを通じて導き出され、堅牢な順序回帰を用いて推論される付加ユーティリティ関数によってモデル化される。 実世界のデータセットを用いた実験結果から,PreF-XAIは限られたフィードバックからユーザの好みを正確に再構築し,高度に関連する説明を識別し,ユーザが当初考慮していない新しい説明規則を発見できることがわかった。 提案手法の他に,XAIと嗜好学習の関連性を確立し,対話型・適応型説明システムのための新たな方向性を開拓する。

関連論文リスト

• Personalized Reasoning: Just-In-Time Personalization and Why LLMs Fail At It [81.50711040539566]
  現在の大規模言語モデル(LLM)開発は、タスク解決と優先順位調整を別の課題として扱う。 静的ベンチマークを対話型パーソナライズタスクに変換する評価手法であるPreFDISCOを紹介する。 我々のフレームワークは、ユーザコンテキストに応じて、同じ質問が異なる推論チェーンを必要とするシナリオを作成します。
  論文  参考訳（メタデータ） (2025-09-30T18:55:28Z)
• Towards consistency of rule-based explainer and black box model -- fusion of rule induction and XAI-based feature importance [0.0]
  ルールベースのモデルは、人間の理解可能な表現、すなわち解釈可能な表現を提供する。 このような説明の生成には、ルールベースモデルによるブラックボックスモデルの近似が含まれる。 ルールベースモデルが近似したブラックボックスモデルと同じ方法で決定を行うかどうかは、まだ調査されていない。
  論文  参考訳（メタデータ） (2024-07-16T07:56:29Z)
• Even-if Explanations: Formal Foundations, Priorities and Complexity [18.126159829450028]
  線形モデルとツリーモデルの両方がニューラルネットワークよりも厳密に解釈可能であることを示す。 ユーザが好みに基づいて説明をパーソナライズすることのできる、嗜好に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-01-17T11:38:58Z)
• RecExplainer: Aligning Large Language Models for Explaining Recommendation Models [50.74181089742969]
  大規模言語モデル (LLM) は、理解、推論、指導において顕著な知性を示した。 本稿では, ブラックボックスレコメンデータモデルを説明するために, LLM を代理モデルとして利用することについて検討する。 効果的なアライメントを容易にするために,行動アライメント,意図アライメント,ハイブリッドアライメントという3つの手法を導入する。
  論文  参考訳（メタデータ） (2023-11-18T03:05:43Z)
• Explaining and visualizing black-box models through counterfactual paths [5.930734371401315]
  本稿では,特徴の条件付き置換によって生成された,いわゆる反現実パスを用いた説明可能なAI(XAI)の新たなアプローチを提案する。 このアルゴリズムは、モデル予測における最も影響の大きい特徴の逐次的な置換を特定することで、重要度を測定する。 ドメイン知識を取り入れた知識グラフにおいて、反実的パスに基づく説明を生成するのに特に適している。
  論文  参考訳（メタデータ） (2023-07-15T10:16:51Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation [132.77005365032468]
  MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。 MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。 公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
  論文  参考訳（メタデータ） (2022-05-31T04:57:06Z)
• Explainable Recommender Systems via Resolving Learning Representations [57.24565012731325]
  説明はユーザー体験を改善し、システムの欠陥を発見するのに役立つ。 本稿では,表現学習プロセスの透明性を向上させることによって,説明可能な新しい推薦モデルを提案する。
  論文  参考訳（メタデータ） (2020-08-21T05:30:48Z)
• Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
  分析による特徴に基づく説明の新たな評価基準を確立する。 我々は、緩やかに必要であり、予測に十分である新しい説明を得る。 我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
  論文  参考訳（メタデータ） (2020-05-31T05:52:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。