論文の概要: Revisiting Explainable AI through Model-Independent Concept Dictionaries

• arxiv url: http://arxiv.org/abs/2610.10301v1
• Date: Wed, 07 Oct 2026 15:56:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:23.016319
• Title: Revisiting Explainable AI through Model-Independent Concept Dictionaries
• Title（参考訳）: モデルに依存しない概念辞書による説明可能なAIの再検討
• Abstract要約: DictXAIは、辞書を介して入力ドメイン内の概念を直接定義する手法である。 DictXAIは従来のXAIや既存のコンセプトベースアプローチよりも解釈可能で、動作可能で、アーキテクチャに依存しない洞察を提供する。
• 参考スコア（独自算出の注目度）: 50.64295204479213
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern applications of AI rely on increasingly complex models. Explainable AI (XAI) has emerged as a set of techniques aimed at improving model transparency. However, existing XAI methods typically assume input features to be inherently interpretable, or they rely on intermediate internal abstractions that are difficult to characterize and highly architecture-specific, hindering consistent use across models. To address these limitations, we propose DictXAI, a method that defines concepts directly in the input domain via a dictionary---a large, potentially overcomplete set of predefined elements, each carrying an interpretable meaning. Technically, DictXAI first computes a sparse code of the input and then attributes the model's prediction to the associated dictionary elements. We demonstrate the actionable nature of DictXAI explanations, showing that they can attribute AI malfunctions (e.g., Clever Hans effects) directly to identifiable artifact patterns in the data, while fostering human-AI alignment on intricate biomedical signals. We further demonstrate our method's ability to operate across a wide variety of dictionaries, including learned image bases, analytically defined waveforms for electrocardiography, and experimentally acquired dictionary elements. Overall, our results show that DictXAI provides more interpretable, actionable, and architecture-agnostic insights than classical XAI or existing concept-based approaches.
• Abstract（参考訳）: 現代のAIの応用はますます複雑なモデルに依存している。 説明可能なAI(XAI)は、モデルの透明性を改善するための一連のテクニックとして登場した。 しかし、既存のXAIメソッドは通常、入力機能は本質的に解釈可能であると仮定する。 これらの制約に対処するため、我々はDictXAIという辞書を通して入力領域における概念を直接定義する手法を提案する。 技術的には、DictXAIはまず入力のスパースコードを計算し、次にモデルの予測を関連する辞書要素に関連付ける。 我々は、DctXAIの説明の実行可能な性質を実証し、AIの誤動作(例えば、クレバー・ハンス効果)を直接データ中の識別可能なアーティファクトパターンに関連付けるとともに、複雑な生体医学信号に対する人間とAIのアライメントを促進することができることを示した。 さらに、学習画像ベース、心電図解析用波形、実験的に取得した辞書要素など、幅広いディクショナリーをまたいで動作可能であることを示す。 全体として、DctXAIは古典的XAIや既存の概念に基づくアプローチよりも解釈可能で、行動可能で、アーキテクチャに依存しない洞察を提供する。

関連論文リスト

• Formal Abductive Latent Explanations for Prototype-Based Networks [7.001970497421476]
  ケースベースの推論ネットワークは、プロトタイプと呼ばれるトレーニングサンプルの入力とプロトタイプの部分の類似性に基づいて予測を行う。 このような説明は時に誤解を招くものであり、安全クリティカルな文脈での有用性を損なうものであることを示す。 本稿では, 予測を暗示するインスタンスの中間表現について, 十分な条件を表現する形式として, ALE(Abductive Latent Explanations)を提案する。
  論文  参考訳（メタデータ） (2025-11-20T17:42:41Z)
• ForenX: Towards Explainable AI-Generated Image Detection with Multimodal Large Language Models [82.04858317800097]
  ForenXは画像の真正性を識別するだけでなく、人間の思考に共鳴する説明を提供する新しい手法である。 ForenXは、強力なマルチモーダル大言語モデル(MLLM)を使用して、法医学的な手がかりを分析し、解釈する。 本稿では,AI生成画像における偽証拠の記述専用のデータセットであるForgReasonを紹介する。
  論文  参考訳（メタデータ） (2025-08-02T15:21:26Z)
• DAVID-XR1: Detecting AI-Generated Videos with Explainable Reasoning [58.70446237944036]
  DAVID-Xは、AI生成ビデオに詳細な欠陥レベル、時間空間アノテーションと有理書を組み合わせた最初のデータセットである。 DAVID-XR1は、視覚的推論の解釈可能な連鎖を提供するために設計されたビデオ言語モデルである。 以上の結果から,AI生成ビデオコンテンツの信頼性確認のための説明可能な検出手法が期待できることを示す。
  論文  参考訳（メタデータ） (2025-06-13T13:39:53Z)
• Towards Symbolic XAI -- Explanation Through Human Understandable Logical Relationships Between Features [19.15360328688008]
  本稿では,入力特徴間の論理的関係を表すシンボリッククエリに関連性を持つ,シンボリックXAIというフレームワークを提案する。 このフレームワークは、ユーザーによるカスタマイズと人間可読性の両方に柔軟性のある、モデルの意思決定プロセスを理解する。
  論文  参考訳（メタデータ） (2024-08-30T10:52:18Z)
• Extracting human interpretable structure-property relationships in chemistry using XAI and large language models [0.4769602527256662]
  本稿では,XAI手法と大規模言語モデル(LLM)を統合したXpertAIフレームワークを提案する。 以上の結果から,XpertAI は LLM と XAI ツールの強みを組み合わせ,具体的な,科学的,解釈可能な説明を生成することが示唆された。
  論文  参考訳（メタデータ） (2023-11-07T15:02:32Z)
• Theoretical Behavior of XAI Methods in the Presence of Suppressor Variables [0.8602553195689513]
  近年,「説明可能な人工知能(XAI)」のコミュニティは,モデル「複雑性」と「解釈可能性」のギャップを埋めるための膨大な手法を生み出している。 本研究のアプローチの大部分は, 相関雑音の存在下での非クラス関連抑制機能に非ゼロの重要性が寄与すると考えられる。
  論文  参考訳（メタデータ） (2023-06-02T11:41:19Z)
• Interpretability at Scale: Identifying Causal Mechanisms in Alpaca [62.65877150123775]
  本研究では、Boundless DASを用いて、命令に従う間、大規模言語モデルにおける解釈可能な因果構造を効率的に探索する。 私たちの発見は、成長し、最も広くデプロイされている言語モデルの内部構造を忠実に理解するための第一歩です。
  論文  参考訳（メタデータ） (2023-05-15T17:15:40Z)
• OmniXAI: A Library for Explainable AI [98.07381528393245]
  eXplainable AI(XAI)のオープンソースPythonライブラリであるOmniXAIを紹介する。 オールニウェイで説明可能なAI機能と、さまざまな解釈可能な機械学習技術を提供する。 実践者にとってこのライブラリは、アプリケーションの説明を生成するために、使いやすく統合されたインターフェースを提供する。
  論文  参考訳（メタデータ） (2022-06-01T11:35:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。