論文の概要: ExplAIner: A Declarative Query Language for Explaining Classification Models
- arxiv url: http://arxiv.org/abs/2607.06407v1
- Date: Tue, 07 Jul 2026 15:36:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-08 21:24:51.576229
- Title: ExplAIner: A Declarative Query Language for Explaining Classification Models
- Title（参考訳）: ExplAIner: 分類モデルを記述するための宣言型クエリ言語
- Abstract要約: 我々はExplAInerと呼ばれるブラックボックスモデルを説明するための宣言型クエリ言語を開発した。
ExplAInerは、帰納的、コントラスト的、特徴ベース、距離ベースのクエリなど、幅広い説明概念を表現できることを示す。
また,厳密な部分順序に関して最小限の計算説明を行うために,ExplAInerの最適化指向のフラグメントであるOps-FOILを導入する。
- 参考スコア（独自算出の注目度）: 12.44009629083712
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The XAI community has studied a wide range of queries and scores for explaining predictions of ML models. From a data management perspective, this proliferation of explanation notions calls for declarative query languages in which such notions can be specified, combined, and analyzed uniformly. In this paper, we develop such a framework for Boolean models. We first revisit FOIL, an interpretability query language for black-box models, and show that it has two fundamental limitations: it cannot express central optimality-based explanation queries, and its evaluation problem over decision trees is hard for every level of the polynomial hierarchy. We then introduce ExplAIner, a query language based on FOIL with an extended vocabulary and a layered structure. We show that ExplAIner can express a broad family of explanation notions, including abductive, contrastive, feature-based, and distance-based queries. We also prove that the evaluation problem for each query in ExplAIner belongs to the Boolean hierarchy over every class of Boolean models for which some basic predicates can be evaluated in polynomial time. In particular, that property holds for deterministic and decomposable Boolean circuits. Finally, we introduce Opt-FOIL, an optimization-oriented fragment of ExplAIner for computing explanations that are minimal with respect to strict partial orders, and prove that its evaluation problem is in $\mathrm{FP}^{\mathrm{NP}}$ under the same tractability assumptions. These complexity results have a direct algorithmic consequence: a fixed ExplAIner query can be evaluated with a fixed number of calls to a SAT solver, while a notion of explanation specified in Opt-FOIL can be computed with a polynomial number of such calls. This is particularly relevant in formal XAI, where SAT solvers have been successfully used to compute explanations for several classes of ML models.
- Abstract（参考訳）: XAIコミュニティは、MLモデルの予測を説明するために、幅広いクエリとスコアを研究してきた。
データ管理の観点から、この説明概念の拡散は、そのような概念を特定、組み合わせ、一様に分析できる宣言型クエリ言語を要求する。
本稿では,ブールモデルのためのそのようなフレームワークを開発する。
我々はまず,ブラックボックスモデルに対する解釈可能性クエリ言語FOILを再検討し,中央最適性に基づく説明クエリを表現できないこと,決定木に対する評価問題は多項式階層のすべてのレベルにおいて難しいこと,という2つの基本的制約があることを証明した。
次に,拡張語彙と階層構造を持つFOILに基づくクエリ言語であるExplAInerを紹介する。
ExplAInerは、帰納的、コントラスト的、特徴ベース、距離ベースのクエリなど、幅広い説明概念を表現できることを示す。
また、ExplAInerにおける各クエリに対する評価問題は、いくつかの基本的な述語を多項式時間で評価できるブールモデルのクラスごとのブール階層に属することを証明した。
特に、その性質は決定論的かつ分解可能なブール回路である。
最後に、厳密な部分順序に関して最小限の計算説明のための最適化指向のExplAInerのフラグメントであるOps-FOILを紹介し、その評価問題は、同じトラクタビリティ仮定の下で$\mathrm{FP}^{\mathrm{NP}}$であることを示す。
固定されたExplAInerクエリはSATソルバへの固定数の呼び出しで評価でき、Opt-FOILで指定された説明の概念はそのような呼び出しの多項式数で計算できる。
これは、SATソルバがMLモデルのいくつかのクラスにおける説明の計算に成功している形式的XAIに特に関係している。
関連論文リスト
- Solving Hard XAI Queries Based on a Compiled Dual-Rail Encoding [7.088503833248158]
現実のアプリケーションにおける人工知能(AI)の採用は、その信頼性に関する多くの懸念を引き起こしている。
eXplainable AI(XAI)の分野は、AIシステムによる決定について、ユーザに説明を提供することを目的として登場した。
論文 参考訳（メタデータ） (2026-09-04T09:33:00Z) - TopBench: A Benchmark for Implicit Prediction and Reasoning over Tabular Question Answering [80.93487993878836]
現実世界のクエリの一般的なクラスは暗黙的に予測され、単に検索するのではなく、歴史的パターンから観測されていない回答を推測する必要がある。
これらのクエリには、潜在意図を認識することと、大規模テーブル上での信頼性の高い予測推論という2つの課題がある。
単点予測から意思決定,処理効果分析,複雑な推論に至るまで,4つのサブタスクにわたる779のサンプルからなるベンチマークであるTopBenchを紹介する。
論文 参考訳（メタデータ） (2026-04-30T16:22:51Z) - ReasonX: Declarative Reasoning on Explanations [7.744846780771137]
ReasonX は線型制約の理論上の作用素の閉代数における式(あるいはクエリ)に基づく説明ツールである。
ユーザーは背景知識や常識知識を線形制約として表現することができる。
論文 参考訳（メタデータ） (2026-02-27T08:50:02Z) - OrLog: Resolving Complex Queries with LLMs and Probabilistic Reasoning [51.58235452818926]
そこで我々は,論理的推論から述語レベルの妥当性推定を分離するニューロシンボリック検索フレームワークOrLogを紹介する。
大規模言語モデル (LLM) は1つの復号のない前方通過において原子述語に対する可視性スコアを提供し、確率論的推論エンジンはクエリ満足度の後方確率を導出する。
論文 参考訳（メタデータ） (2026-01-30T15:31:58Z) - Effective Instruction Parsing Plugin for Complex Logical Query Answering on Knowledge Graphs [51.33342412699939]
知識グラフクエリ埋め込み(KGQE)は、不完全なKGに対する複雑な推論のために、低次元KG空間に一階論理(FOL)クエリを埋め込むことを目的としている。
近年の研究では、FOLクエリの論理的セマンティクスをよりよく捉えるために、さまざまな外部情報(エンティティタイプや関係コンテキストなど)を統合している。
コードのようなクエリ命令から遅延クエリパターンをキャプチャする効果的なクエリ命令解析(QIPP)を提案する。
論文 参考訳（メタデータ） (2024-10-27T03:18:52Z) - A Uniform Language to Explain Decision Trees [6.658444706223188]
提案した論理は,従来の文献で考慮した多種多様な解釈可能性クエリを表現できるだけでなく,ユーザが求める説明を最適化するさまざまな目的を指定できることを示す。
OPT-DT-FOILの評価をSATベースで実装し,産業規模の決定木を表現した。
論文 参考訳（メタデータ） (2023-10-18T00:07:38Z) - A Neuro-Symbolic Framework for Answering Graph Pattern Queries in Knowledge Graphs [17.93455358818447]
ほとんどのニューロシンボリッククエリプロセッサは木のようなグラフパターンクエリに制約されている。
不完全な知識グラフ上で任意のグラフパターンクエリに応答するフレームワークを導入する。
論文 参考訳（メタデータ） (2023-10-06T21:31:17Z) - Query Structure Modeling for Inductive Logical Reasoning Over Knowledge
Graphs [67.043747188954]
KGに対する帰納的論理的推論のための構造モデル付きテキスト符号化フレームワークを提案する。
線形化されたクエリ構造とエンティティを、事前訓練された言語モデルを使ってエンコードして、回答を見つける。
2つの帰納的論理推論データセットと3つの帰納的推論データセットについて実験を行った。
論文 参考訳（メタデータ） (2023-05-23T01:25:29Z) - Knowledge Base Question Answering by Case-based Reasoning over Subgraphs [81.22050011503933]
本モデルでは,既存のKG補完アルゴリズムよりも複雑な推論パターンを必要とする問合せに対して,より効果的に答えることを示す。
提案モデルは、KBQAベンチマークの最先端モデルよりも優れているか、競合的に動作する。
論文 参考訳（メタデータ） (2022-02-22T01:34:35Z) - Foundations of Symbolic Languages for Model Interpretability [2.3361634876233817]
本稿では,2種類のMLモデル上でのFOILクエリの計算複雑性について検討する。
本稿では,高レベルの宣言型言語でラップされたFOILのプロトタイプ実装について述べる。
論文 参考訳（メタデータ） (2021-10-05T21:56:52Z) - Text Modular Networks: Learning to Decompose Tasks in the Language of
Existing Models [61.480085460269514]
本稿では,既存のモデルで解けるより単純なモデルに分解することで,複雑なタスクを解くための解釈可能なシステムを構築するためのフレームワークを提案する。
我々はこのフレームワークを用いて、ニューラルネットワークのファクトイド単一スパンQAモデルとシンボリック電卓で答えられるサブクエストに分解することで、マルチホップ推論問題に答えられるシステムであるModularQAを構築する。
論文 参考訳（メタデータ） (2020-09-01T23:45:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。