論文の概要: On the Limits of Sufficient Explanations
- arxiv url: http://arxiv.org/abs/2611.18163v1
- Date: Fri, 13 Nov 2026 13:38:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.346087
- Title: On the Limits of Sufficient Explanations
- Title(参考訳): 十分な説明の限界について
- Abstract要約: グラフや文字列などの構造化データ上の分類器に十分な説明が存在する条件を特徴付ける。
選択された部分だけで予測ラベルが保証された場合、説明は十分である。
言語,タンパク質,分子の分類に関する統計を評価した結果,ほとんどのデータセットでは完全充足は不可能であることが判明した。
- 参考スコア(独自算出の注目度): 2.957223821964636
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We formally characterize the conditions under which sufficient explanations exist for classifiers on structured data such as graphs and strings. We focus on post-hoc explainers that select parts of the input as sufficient explanations. An explanation is sufficient if the selected part alone ensures the predicted label. Sufficient explanations have been widely adopted across data modalities, including graphs, strings, and images. However, a unified formal analysis of sufficient explanations remains missing. We bridge this gap with four main contributions: (i) We define a general explanation formalism consisting of an instance space, a classifier, and a select relation. The select relation specifies which potential sub-instances or feature subsets can be selected as explanations from each instance; (ii) We show that the existence of sufficient explainers is fully characterized by the interplay between the classifier and the select relation; (iii) We extend this analysis to practically relevant variants of sufficiency, including probabilistic sufficiency and deletion sufficiency; (iv) Based on the formal analysis, we devise statistics that bound the maximum achievable sufficiency for a given task. We evaluate these statistics on language, protein, and molecular classification datasets and find that full sufficiency is unattainable on most of them. Since these bounds hold for every explainer, they provide a task-level reference against which any explainer's sufficiency can be judged in absolute terms.
- Abstract(参考訳): グラフや文字列などの構造化データに対して,分類器に十分な説明が存在する条件を形式的に特徴づける。
我々は、入力の一部を十分な説明として選択するポストホックな説明器に焦点を当てる。
選択された部分だけで予測ラベルが保証された場合、説明は十分である。
十分な説明は、グラフ、文字列、画像など、データモダリティで広く採用されている。
しかし、十分な説明の統一的な公式な分析はいまだに残っていない。
このギャップを4つの主要な貢献で埋める。
i) 例空間,分類器,選択関係からなる一般的な説明形式を定義する。
選択関係は、各インスタンスからどの潜在的なサブインスタンスまたは機能サブセットを説明として選択できるかを指定する。
二 十分な説明書の存在は、分類器と選択関係の相互作用によって完全に特徴づけられることを示す。
三 この分析を、確率的充足力及び削除充足力を含む実用上関係のある充足力の変種に拡張する。
フォーマルな分析に基づいて、与えられたタスクに対して達成可能な最大効率を束縛する統計を考案する。
これらの統計データを言語,タンパク質,分子分類のデータセットで評価し,その大部分で完全満足度が達成不可能であることを見出した。
これらの境界は全ての説明者に対して成り立つので、どの説明者の十分性も絶対的な条件で判断できるタスクレベル参照を提供する。
関連論文リスト
- Abductive explanations of classifiers under constraints: Complexity and properties [6.629765271909503]
制約を考慮に入れた3つの新しいタイプの説明を提案する。
それらは、機能空間全体から、あるいはデータセットから生成できる。
我々は、冗長で過剰なAXpを捨てるには、カバレッジが十分であることを示す。
論文 参考訳(メタデータ) (2024-09-18T17:15:39Z) - Axiomatic Characterisations of Sample-based Explainers [8.397730500554047]
サンプルやデータセットから特徴に基づく説明を生成する説明を精査する。
我々は、他のすべてと互換性のある2つの重要な特性を満たす説明者のファミリー全体を識別する。
我々は、説明の存在と不確実なグローバル整合性を保証する最初の(広義の)説明者を紹介する。
論文 参考訳(メタデータ) (2024-08-09T07:10:07Z) - Explanation Selection Using Unlabeled Data for Chain-of-Thought
Prompting [80.9896041501715]
非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。
本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
論文 参考訳(メタデータ) (2023-02-09T18:02:34Z) - On Computing Probabilistic Abductive Explanations [30.325691263226968]
最も広く研究されているAI(XAI)アプローチは正しくない。
PI説明は重要な欠点も示しており、最も目に見えるものはおそらくその大きさである。
本稿では,多くの広く使用されている分類器に対して,関連する集合を計算するための実践的アプローチについて検討する。
論文 参考訳(メタデータ) (2022-12-12T15:47:10Z) - Bounding Counterfactuals under Selection Bias [60.55840896782637]
本稿では,識別不能なクエリと識別不能なクエリの両方に対処するアルゴリズムを提案する。
選択バイアスによって引き起こされる欠如にもかかわらず、利用可能なデータの可能性は無限であることを示す。
論文 参考訳(メタデータ) (2022-07-26T10:33:10Z) - Probabilistic Sufficient Explanations [31.08715352013011]
確率論的に十分な説明を導入し、分類の例を特徴の「最も単純な」部分集合を選ぶものとして記述する。
保証をそのまま保ちつつ、所望の説明を見つけるためのスケーラブルなアルゴリズムを設計する。
本実験は, 十分な説明を求める上でのアルゴリズムの有効性を実証し, アンカーや論理的説明と比較して, その優位性を示すものである。
論文 参考訳(メタデータ) (2021-05-21T04:03:10Z) - Discrete Reasoning Templates for Natural Language Understanding [79.07883990966077]
我々は,複雑な質問をより単純な質問に分解する手法を提案する。
事前定義された推論テンプレートの指示に従って最終回答を導出する。
我々のアプローチは、解釈可能でありながら最先端技術と競合し、監督をほとんど必要としないことを示す。
論文 参考訳(メタデータ) (2021-04-05T18:56:56Z) - The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal
Sufficient Subsets [61.66584140190247]
機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。
そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
論文 参考訳(メタデータ) (2020-09-23T09:45:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。