論文の概要: Evaluation of Black-Box XAI Approaches for Predictors of Values of Boolean Formulae
- arxiv url: http://arxiv.org/abs/2509.09982v1
- Date: Fri, 12 Sep 2025 05:52:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-15 16:03:07.985492
- Title: Evaluation of Black-Box XAI Approaches for Predictors of Values of Boolean Formulae
- Title（参考訳）: ブール式値予測器のためのブラックボックスXAI手法の評価
- Authors: Stav Armoni-Friedmann, Hana Chockler, David A. Kelly,
- Abstract要約: 本稿では,既存のツールReXをベースにした新しいXAIツールB-ReXを提案する。
B-ReXは、10値のランダムなブール式上で0.072$pm$0.012のジェンセン=シャノンの発散を達成する。
- 参考スコア（独自算出の注目度）: 4.3331379059769395
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Evaluating explainable AI (XAI) approaches is a challenging task in general, due to the subjectivity of explanations. In this paper, we focus on tabular data and the specific use case of AI models predicting the values of Boolean functions. We extend the previous work in this domain by proposing a formal and precise measure of importance of variables based on actual causality, and we evaluate state-of-the-art XAI tools against this measure. We also present a novel XAI tool B-ReX, based on the existing tool ReX, and demonstrate that it is superior to other black-box XAI tools on a large-scale benchmark. Specifically, B-ReX achieves a Jensen-Shannon divergence of 0.072 $\pm$ 0.012 on random 10-valued Boolean formulae
- Abstract（参考訳）: 説明可能なAI(XAI)アプローチを評価することは、説明の主観性のため、一般的に難しい課題である。
本稿では,表形式のデータに着目し,ブール関数の値を予測するAIモデルの特定のユースケースについて述べる。
我々は,この領域における従来の研究を,実際の因果性に基づく変数の重要性の形式的かつ正確な尺度を提案し,その指標に対して最先端のXAIツールを評価する。
また、既存のツールReXをベースにした新しいXAIツールB-ReXを提案し、大規模なベンチマークで他のブラックボックスXAIツールよりも優れていることを示した。
具体的には、B-ReXは、10値のランダムなブール式上で0.072$\pm$0.012のジェンセン=シャノンの発散を達成する。
関連論文リスト
- Explainable AI-Based Interface System for Weather Forecasting Model [21.801445160287532]
本研究では,気象学におけるブラックボックスモデルの説明の要件を3つ定義する。
適切なXAI法を各要件にマッピングし、生成した説明を定量的に定性的に検証する。
以上の結果から, 意思決定性やユーザ信頼度の向上が示唆された。
論文 参考訳（メタデータ） (2025-04-01T13:52:34Z) - Explainable AI for Enhancing Efficiency of DL-based Channel Estimation [1.0136215038345013]
人工知能に基づく意思決定のサポートは、将来の6Gネットワークの重要な要素である。
このようなアプリケーションでは、ブラックボックスモデルとしてAIを使用するのは危険で難しい。
本稿では,無線通信におけるチャネル推定を目的とした新しいXAI-CHESTフレームワークを提案する。
論文 参考訳（メタデータ） (2024-07-09T16:24:21Z) - Cloud-based XAI Services for Assessing Open Repository Models Under Adversarial Attacks [7.500941533148728]
計算コンポーネントとアセスメントタスクをパイプラインにカプセル化するクラウドベースのサービスフレームワークを提案する。
我々は、AIモデルの5つの品質特性を評価するために、XAIサービスの応用を実証する。
論文 参考訳（メタデータ） (2024-01-22T00:37:01Z) - How much informative is your XAI? A decision-making assessment task to
objectively measure the goodness of explanations [53.01494092422942]
XAIに対する個人化アプローチとユーザ中心アプローチの数は、近年急速に増加している。
ユーザ中心のXAIアプローチがユーザとシステム間のインタラクションに肯定的な影響を与えることが明らかとなった。
我々は,XAIシステムの良否を客観的かつ定量的に評価するための評価課題を提案する。
論文 参考訳（メタデータ） (2023-12-07T15:49:39Z) - Precise Benchmarking of Explainable AI Attribution Methods [0.0]
本稿では,最新のXAI属性手法のベンチマークのための新しい評価手法を提案する。
提案手法は, 基礎的真理の説明を伴う合成分類モデルから成り立っている。
実験の結果, Guided-Backprop 法と Smoothgrad XAI 法の性能に関する新たな知見が得られた。
論文 参考訳（メタデータ） (2023-08-06T17:03:32Z) - An Experimental Investigation into the Evaluation of Explainability
Methods [60.54170260771932]
この研究は、9つの最先端XAI法と3つのダミー法(例えば、ランダム・サリエンシ・マップ)に適用された14の異なるメトリクスを比較した。
実験の結果、これらの指標のどれが高い相関関係を示し、潜在的な冗長性を示している。
論文 参考訳（メタデータ） (2023-05-25T08:07:07Z) - Optimizing Explanations by Network Canonization and Hyperparameter
Search [74.76732413972005]
ルールベースで修正されたバックプロパゲーションXAIアプローチは、モダンなモデルアーキテクチャに適用される場合、しばしば課題に直面します。
モデルカノン化は、基礎となる機能を変更することなく問題のあるコンポーネントを無視してモデルを再構成するプロセスである。
本研究では、一般的なディープニューラルネットワークアーキテクチャに適用可能な、現在関連するモデルブロックのカノン化を提案する。
論文 参考訳（メタデータ） (2022-11-30T17:17:55Z) - RankFeat: Rank-1 Feature Removal for Out-of-distribution Detection [65.67315418971688]
textttRankFeat は OOD 検出のためのシンプルだが効果的な textttpost hoc アプローチである。
textttRankFeatは、Emphstate-of-the-artパフォーマンスを実現し、以前のベストメソッドと比較して平均偽陽性率(FPR95)を17.90%削減する。
論文 参考訳（メタデータ） (2022-09-18T16:01:31Z) - SAMBA: Safe Model-Based & Active Reinforcement Learning [59.01424351231993]
SAMBAは、確率論的モデリング、情報理論、統計学といった側面を組み合わせた安全な強化学習のためのフレームワークである。
我々は,低次元および高次元の状態表現を含む安全な力学系ベンチマークを用いて,アルゴリズムの評価を行った。
アクティブなメトリクスと安全性の制約を詳細に分析することで,フレームワークの有効性を直感的に評価する。
論文 参考訳（メタデータ） (2020-06-12T10:40:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。