論文の概要: XALIGN: A Human-centric Visual Analytics Approach to Understanding AI Explanations

• arxiv url: http://arxiv.org/abs/2610.31015v1
• Date: Thu, 22 Oct 2026 09:49:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.311991
• Title: XALIGN: A Human-centric Visual Analytics Approach to Understanding AI Explanations
• Title（参考訳）: XALIGN:AI説明を理解するための人間中心のビジュアルアナリティクスアプローチ
• Abstract要約: XALIGNは、同じランダムフォレストモデルに対して、ルールベースの説明といくつかの機能属性メソッドを並べて表示する、ビジュアル分析ワークフローとインターフェースである。 我々は、XALIGNをドイツの信用データセットと気象データセットの2つのケーススタディに適用し、ICONモデル出力とCloudnet観測から得られた事象を分類した。 どちらの場合も、ルールベースの説明と一つのメソッドが示さない帰属メソッドとの間には相違がある。
• 参考スコア（独自算出の注目度）: 1.9223856107206057
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Explainable AI (XAI) methods are usually evaluated for technical properties such as faithfulness and robustness. In high-stakes application domains, experts also need to check model predictions against established knowledge. Different explanation methods often disagree, and this disagreement is hard to see when each method is inspected separately. We propose XALIGN, a visual analytics workflow and interface that shows rule-based explanations and several feature attribution methods (TreeSHAP, KernelSHAP, and LIME) side by side for the same Random Forest model. Agreements and contradictions between the methods become visible signals that users can explore and compare with domain knowledge. We apply XALIGN in two case studies: the German Credit dataset and a meteorological dataset, in which events derived from ICON model output and Cloudnet observations are classified. In both, the views reveal discrepancies between the rule-based explanation and the attribution methods that a single method would not show. In an expert evaluation with three specialists, participants found XALIGN useful for identifying influential features and for avoiding over-trust in predictions. Linking rules to attributions was harder for the participant without an XAI background.
• Abstract（参考訳）: 説明可能なAI(XAI)メソッドは通常、忠実さや堅牢さといった技術的特性に対して評価される。 高度なアプリケーションドメインでは、専門家は確立した知識に対するモデル予測をチェックする必要がある。 異なる説明法はしばしば相違するが、この相違はそれぞれの方法が別々に検査されるかどうかを見極めるのが難しい。 我々は,同じランダムフォレストモデルに対して,ルールに基づく説明といくつかの特徴帰属手法(TreeSHAP, KernelSHAP, LIME)を並べて示すビジュアル分析ワークフローとインタフェースであるXALIGNを提案する。 メソッド間の合意と矛盾は、ユーザがドメイン知識を探索し比較できる可視的な信号になる。 我々は、XALIGNをドイツの信用データセットと気象データセットの2つのケーススタディに適用し、ICONモデル出力とCloudnet観測から得られた事象を分類した。 どちらの場合も、ルールベースの説明と一つのメソッドが示さない帰属メソッドとの間には相違がある。 3人の専門家による専門家による評価では、XALIGNは影響力のある特徴を識別し、予測における過剰な信頼を避けるのに有用であることがわかった。 XAIの背景を持たない参加者にとって、帰属規則のリンクは困難であった。

関連論文リスト

• Revisiting Explainable AI through Model-Independent Concept Dictionaries [50.64295204479213]
  DictXAIは、辞書を介して入力ドメイン内の概念を直接定義する手法である。 DictXAIは従来のXAIや既存のコンセプトベースアプローチよりも解釈可能で、動作可能で、アーキテクチャに依存しない洞察を提供する。
  論文  参考訳（メタデータ） (2026-10-07T15:56:15Z)
• FedXDS: Leveraging Model Attribution Methods to counteract Data Heterogeneity in Federated Learning [16.981834481629885]
  FedXDSは、クライアント間で選択的に共有すべきデータ要素を正確に識別するために、機能属性技術を利用する最初のアプローチである。 理論的プライバシー保証を提供し、メンバーシップ推論とフィーチャーインバージョン攻撃の両方に対する堅牢性を実証的に実証する。
  論文  参考訳（メタデータ） (2026-06-30T14:35:45Z)
• Understanding the (Extra-)Ordinary: Validating Deep Model Decisions with Prototypical Concept-based Explanations [13.60538902487872]
  本稿では, 実例的(地域的)かつクラス的(グローバル的)な意思決定戦略をプロトタイプを通じて伝達する, ポストホックなコンセプトベースXAIフレームワークを提案する。 我々は,3つのデータセットにまたがるアウト・オブ・ディストリビューション・サンプル,突発的なモデル行動,データ品質問題同定におけるアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2023-11-28T10:53:26Z)
• Advancing Post Hoc Case Based Explanation with Feature Highlighting [0.8287206589886881]
  テスト画像中の複数の明瞭な特徴部分を分離し、トレーニングデータに見られる説明事例に接続する2つの一般的なアルゴリズムを提案する。 提案手法は,実世界データにおける曖昧な分類に対して,ユーザの「正確さ」感を適切に校正することを示す。
  論文  参考訳（メタデータ） (2023-11-06T16:34:48Z)
• Prototype-based Aleatoric Uncertainty Quantification for Cross-modal Retrieval [139.21955930418815]
  クロスモーダル検索手法は、共通表現空間を共同学習することにより、視覚と言語モダリティの類似性関係を構築する。 しかし、この予測は、低品質なデータ、例えば、腐敗した画像、速いペースの動画、詳細でないテキストによって引き起こされるアレタリック不確実性のために、しばしば信頼性が低い。 本稿では, 原型に基づくAleatoric Uncertainity Quantification (PAU) フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-09-29T09:41:19Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Explanation Method for Anomaly Detection on Mixed Numerical and Categorical Spaces [0.9543943371833464]
  EADMNC (混合数値およびカテゴリー空間における説明可能な異常検出) これは、元のモデルで得られた予測に説明可能性を追加する。 本稿では,大規模な実世界のデータ,特にネットワーク侵入検出領域における実験結果について報告する。
  論文  参考訳（メタデータ） (2022-09-09T08:20:13Z)
• Deep Co-Attention Network for Multi-View Subspace Learning [73.3450258002607]
  マルチビューサブスペース学習のための深層コアテンションネットワークを提案する。 共通情報と相補情報の両方を敵意で抽出することを目的としている。 特に、新しいクロス再構成損失を使用し、ラベル情報を利用して潜在表現の構築を誘導する。
  論文  参考訳（メタデータ） (2021-02-15T18:46:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。