論文の概要: LIMEtree: Consistent and Faithful Surrogate Explanations of Multiple Classes

• arxiv url: http://arxiv.org/abs/2005.01427v4
• Date: Wed, 26 Feb 2025 15:32:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-02 21:05:01.769030
• Title: LIMEtree: Consistent and Faithful Surrogate Explanations of Multiple Classes
• Title（参考訳）: LIMEtree: 複数のクラスの一貫性と忠実なサロゲート説明
• Authors: Kacper Sokol, Peter Flach,
• Abstract要約: マルチクラス説明の新しいパラダイムを紹介する。 LIMEtree と呼ばれる多出力回帰木に基づく局所代理モデルを提案する。 強い忠実性の保証に加えて、我々の実装は多様な説明型を提供します。
• 参考スコア（独自算出の注目度）: 7.031336702345381
• License:
• Abstract: Explainable artificial intelligence provides tools to better understand predictive models and their decisions, but many such methods are limited to producing insights with respect to a single class. When generating explanations for several classes, reasoning over them to obtain a comprehensive view may be difficult since they can present competing or contradictory evidence. To address this challenge we introduce the novel paradigm of multi-class explanations. We outline the theory behind such techniques and propose a local surrogate model based on multi-output regression trees -- called LIMEtree -- that offers faithful and consistent explanations of multiple classes for individual predictions while being post-hoc, model-agnostic and data-universal. On top of strong fidelity guarantees, our implementation delivers a range of diverse explanation types, including counterfactual statements favoured in the literature. We evaluate our algorithm with respect to explainability desiderata, through quantitative experiments and via a pilot user study, on image and tabular data classification tasks, comparing it to LIME, which is a state-of-the-art surrogate explainer. Our contributions demonstrate the benefits of multi-class explanations and wide-ranging advantages of our method across a diverse set of scenarios.
• Abstract（参考訳）: 説明可能な人工知能は、予測モデルとその決定をよりよく理解するためのツールを提供するが、そのような方法の多くは、単一のクラスに関する洞察を生み出すことに限定されている。 いくつかのクラスの説明を生成する際には、それらが競合するあるいは矛盾する証拠を提示できるため、包括的な見解を得るための推論は困難である。 この課題に対処するために,多クラス説明の新しいパラダイムを導入する。 我々は,これらの手法の背景にある理論を概説し,多出力回帰木に基づく局所代理モデル(LIMEtree)を提案する。 本実装では,強い忠実性保証に加えて,文献に好まれる反事実文など,多種多様な説明型を提供する。 筆者らは,画像および表層データ分類タスクを用いて,定量的実験およびパイロットユーザスタディを通じて,説明可能性デシダラタに関するアルゴリズムを評価し,現状のサロゲート説明装置であるLIMEと比較した。 提案するコントリビューションは,多種多様なシナリオにまたがるマルチクラス説明の利点と,メソッドの幅広い利点を示すものである。

関連論文リスト

• LatentQA: Teaching LLMs to Decode Activations Into Natural Language [72.87064562349742]
  自然言語におけるモデルアクティベーションに関するオープンな疑問に答えるタスクであるLatentQAを紹介する。 本稿では,アクティベーションと関連する質問応答ペアのデータセット上で,デコーダLLMを微調整するLatent Interpretation Tuning (LIT)を提案する。 我々のデコーダはまた、ステレオタイプ付き文のモデルのデバイアス化や世代ごとの感情制御など、モデルを制御するために使用する差別化可能な損失も規定している。
  論文  参考訳（メタデータ） (2024-12-11T18:59:33Z)
• Language Model as Visual Explainer [72.88137795439407]
  本稿では,木構造言語学的説明を用いた視覚モデル解釈のための体系的アプローチを提案する。 提案手法は,属性を付与した木の形で人間に理解可能な説明を提供する。 提案手法の有効性を確認するため,新しいベンチマークを導入し,厳密な評価を行う。
  論文  参考訳（メタデータ） (2024-12-08T20:46:23Z)
• Reasoning with trees: interpreting CNNs using hierarchies [3.6763102409647526]
  畳み込みニューラルネットワーク(CNN)の忠実かつ解釈可能な説明に階層的セグメンテーション技術を用いるフレームワークを導入する。 本手法はモデルの推論忠実性を維持するモデルに基づく階層的セグメンテーションを構築する。 実験により、我々のフレームワークであるxAiTreesが高度に解釈可能で忠実なモデル説明を提供することが示された。
  論文  参考訳（メタデータ） (2024-06-19T06:45:19Z)
• Explaining Text Similarity in Transformer Models [52.571158418102584]
  説明可能なAIの最近の進歩により、トランスフォーマーの説明の改善を活用することで、制限を緩和できるようになった。 両線形類似性モデルにおける2次説明の計算のために開発された拡張であるBiLRPを用いて、NLPモデルにおいてどの特徴相互作用が類似性を促進するかを調べる。 我々の発見は、異なる意味的類似性タスクやモデルに対するより深い理解に寄与し、新しい説明可能なAIメソッドが、どのようにして深い分析とコーパスレベルの洞察を可能にするかを強調した。
  論文  参考訳（メタデータ） (2024-05-10T17:11:31Z)
• FIND: A Function Description Benchmark for Evaluating Interpretability Methods [86.80718559904854]
  本稿では,自動解釈可能性評価のためのベンチマークスイートであるFIND(Function Interpretation and Description)を紹介する。 FINDには、トレーニングされたニューラルネットワークのコンポーネントに似た機能と、私たちが生成しようとしている種類の記述が含まれています。 本研究では、事前訓練された言語モデルを用いて、自然言語とコードにおける関数の振る舞いの記述を生成する手法を評価する。
  論文  参考訳（メタデータ） (2023-09-07T17:47:26Z)
• Concept-based Explanations using Non-negative Concept Activation Vectors and Decision Tree for CNN Models [4.452019519213712]
  本稿では、概念に基づく説明書から抽出した概念に基づいて決定木を訓練することで、畳み込みニューラルネットワーク(CNN)モデルの解釈可能性を高めることができるかどうかを評価する。
  論文  参考訳（メタデータ） (2022-11-19T21:42:55Z)
• ELUDE: Generating interpretable explanations via a decomposition into labelled and unlabelled features [23.384134043048807]
  モデルの予測を2つの部分に分解する説明フレームワークを開発する。 後者を識別することで、モデルの"説明できない"部分を分析することができます。 また,同機能領域で訓練された複数のモデルに対して,非競合機能セットが一般化可能であることを示す。
  論文  参考訳（メタデータ） (2022-06-15T17:36:55Z)
• Learning to Scaffold: Optimizing Model Explanations for Teaching [74.25464914078826]
  我々は3つの自然言語処理とコンピュータビジョンタスクのモデルを訓練する。 筆者らは,本フレームワークで抽出した説明文を学習した学生が,従来の手法よりもはるかに効果的に教師をシミュレートできることを発見した。
  論文  参考訳（メタデータ） (2022-04-22T16:43:39Z)
• Explanation as a process: user-centric construction of multi-level and multi-modal explanations [0.34410212782758043]
  本稿では,マルチレベルとマルチモーダルな説明を組み合わせたプロセスベースアプローチを提案する。 私たちは、解釈可能な機械学習アプローチであるインダクティブロジックプログラミングを使用して、理解可能なモデルを学びます。
  論文  参考訳（メタデータ） (2021-10-07T19:26:21Z)
• Contrastive Explanations for Model Interpretability [77.92370750072831]
  分類モデルの対照的説明を生成する手法を提案する。 本手法は潜在空間へのモデル表現の投影に基づいている。 本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
  論文  参考訳（メタデータ） (2021-03-02T00:36:45Z)
• Generating Hierarchical Explanations on Text Classification via Feature Interaction Detection [21.02924712220406]
  特徴的相互作用を検出することによって階層的な説明を構築する。 このような説明は、単語とフレーズが階層の異なるレベルでどのように結合されるかを視覚化する。 実験は、モデルに忠実であり、人間に解釈可能な説明を提供する上で、提案手法の有効性を示す。
  論文  参考訳（メタデータ） (2020-04-04T20:56:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。