Fugu-MT 論文翻訳(概要): Towards Faithful Agentic XAI: A Verification Method and an Open-World Benchmark for Better Model Faithfulness

論文の概要: Towards Faithful Agentic XAI: A Verification Method and an Open-World Benchmark for Better Model Faithfulness

arxiv url: http://arxiv.org/abs/2605.27879v1
Date: Wed, 27 May 2026 02:56:30 GMT
ステータス: 翻訳完了
システム内更新日: 2026-05-28 17:38:55.699554
Title: Towards Faithful Agentic XAI: A Verification Method and an Open-World Benchmark for Better Model Faithfulness
Title（参考訳）: 忠実エージェントXAI:モデル忠実度向上のための検証方法とオープンワールドベンチマーク
Authors: Jaechang Kim, Sunung Mun, Seungjoon Lee, Jaewoong Cho, Jungseul Ok,
Abstract要約: 本稿では,明示的な検証を通じて説明の忠実性を改善するフレームワークであるFithful Agentic XAIを提案する。 FAXは、ドラフト説明をクレームに分解し、本質的に忠実なツールに対してそれらを横断的にチェックする。 CRAFTER-XAI-Benchでは、FAXはシミュレーション忠実度を最強のベースラインで0.20から0.46に改善し、高い情報性、関連性、流布性を維持している。
参考スコア（独自算出の注目度）: 29.380265903481874
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Explainable AI (XAI) helps users interpret model behavior and identify potential faults. Agentic XAI systems use Large Language Models (LLMs) to make explanations more accessible through natural-language interaction, but they can also produce plausible yet unfaithful explanations. This risk arises because unreliable XAI outputs for complex models can be amplified by LLMs and mislead users. We propose Faithful Agentic XAI (FAX), a framework that improves explanation faithfulness through explicit verification. FAX decomposes draft explanations into claims and cross-checks them against inherently faithful tools, filtering unsupported or contradictory claims before final generation. We also introduce CRAFTER-XAI-Bench, an open-world reinforcement learning benchmark with complex policies, diverse goals, and challenging scenarios for assessing model-specific faithfulness. On CRAFTER-XAI-Bench, FAX improves simulation faithfulness from 0.20 for the strongest baseline to 0.46 while maintaining high informativeness, relevance, and fluency. On three tabular benchmarks, FAX performs competitively with prior Agentic XAI baselines, but our analysis shows that these settings can conflate task accuracy with model-specific faithfulness. These findings show that explicit verification is essential for faithful Agentic XAI and that that faithfulness benchmarks must be designed to test explanations against the behavior of the target model itself.
Abstract（参考訳）: 説明可能なAI(XAI)は、モデルの振る舞いを解釈し、潜在的な欠陥を特定するのに役立つ。エージェントXAIシステムは、Large Language Models (LLMs) を使用して、自然言語の相互作用を通じて説明をよりアクセスしやすいものにするが、その一方で、妥当で不信な説明を生成することもできる。このリスクは、複雑なモデルに対する信頼性の低いXAI出力がLLMや誤解を招くユーザによって増幅されるためである。本稿では,明示的な検証を通じて説明の忠実性を改善するフレームワークであるFAXを提案する。 FAXは、ドラフト説明をクレームに分解し、それらが本質的に忠実なツール、ファイナルジェネレーションの前にサポートされないまたは矛盾するクレームに対して相互にチェックする。 CRAFTER-XAI-Benchは、複雑なポリシー、多様な目標、モデル固有の忠実度を評価するための挑戦的なシナリオを備えた、オープンソースの強化学習ベンチマークである。 CRAFTER-XAI-Benchでは、FAXはシミュレーション忠実度を最強のベースラインで0.20から0.46に改善し、高い情報性、関連性、流布性を維持している。 3つの表型ベンチマークにおいて,FAXは従来のエージェントXAIベースラインと競合する性能を示した。これらの結果から, 忠実なエージェントXAIには明確な検証が不可欠であることが示唆され, その忠実度ベンチマークは, 対象モデル自体の動作に対する説明を検証するために設計されなければならないことが示唆された。

関連論文リスト

A Two-Stage LLM Framework for Accessible and Verified XAI Explanations [0.0]
大規模言語モデル (LLMs) は、eXplainable Artificial Intelligence (XAI) メソッドの技術的出力を、アクセス可能な自然言語の説明に変換するために、ますます使われている。本稿では, (i) 生のXAI出力を自然言語の物語に変換するExplainer LLM, (ii) 信頼度, 一貫性, 完全性, リスクの観点から評価するVerifier LLM, (iii) 検証者のフィードバックを用いてそれらを洗練・改善する反復的再送機構からなる2段階LLMメタ検証フレームワークを提案する。
論文参考訳（メタデータ） (2026-04-14T10:15:57Z)
ThinkFake: Reasoning in Multimodal Large Language Models for AI-Generated Image Detection [51.93101033997245]
AI生成画像のリアリズムの増大は、誤情報やプライバシー侵害に対する深刻な懸念を引き起こしている。我々は、AI生成画像検出のための新しい推論に基づく一般化可能なフレームワークThinkFakeを提案する。我々は、ThinkFakeがGenImageベンチマークで最先端の手法より優れており、挑戦的なLOKIベンチマークで強力なゼロショットの一般化を示すことを示す。
論文参考訳（メタデータ） (2025-09-24T07:34:09Z)
D-REX: A Benchmark for Detecting Deceptive Reasoning in Large Language Models [62.83226685925107]
Deceptive Reasoning Exposure Suite (D-REX)は、モデルの内部推論プロセスと最終的な出力との相違を評価するために設計された、新しいデータセットである。 D-REXの各サンプルには、敵システムプロンプト、エンドユーザーのテストクエリ、モデルの一見無害な応答、そして重要なことに、モデルの内部チェーンが含まれている。我々は、D-REXが既存のモデルと安全メカニズムに重大な課題をもたらすことを実証した。
論文参考訳（メタデータ） (2025-09-22T15:59:40Z)
ForenX: Towards Explainable AI-Generated Image Detection with Multimodal Large Language Models [82.04858317800097]
ForenXは画像の真正性を識別するだけでなく、人間の思考に共鳴する説明を提供する新しい手法である。 ForenXは、強力なマルチモーダル大言語モデル(MLLM)を使用して、法医学的な手がかりを分析し、解釈する。本稿では,AI生成画像における偽証拠の記述専用のデータセットであるForgReasonを紹介する。
論文参考訳（メタデータ） (2025-08-02T15:21:26Z)
Explainable AI-Based Interface System for Weather Forecasting Model [21.801445160287532]
本研究では,気象学におけるブラックボックスモデルの説明の要件を3つ定義する。適切なXAI法を各要件にマッピングし、生成した説明を定量的に定性的に検証する。以上の結果から, 意思決定性やユーザ信頼度の向上が示唆された。
論文参考訳（メタデータ） (2025-04-01T13:52:34Z)
Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
論文参考訳（メタデータ） (2024-06-05T16:35:30Z)
X Hacking: The Threat of Misguided AutoML [16.80633036922072]
本稿では,SHAP値などのXAI指標に適用されるp-hackingの形式であるX-hackingの概念を紹介する。モデル乗法を大規模に活用するために、自動機械学習パイプラインがいかに簡単に適応できるかを示す。我々は,Xハックに対するデータセットの脆弱性を特徴間の情報冗長性によって決定できることを示す。
論文参考訳（メタデータ） (2024-01-16T17:21:33Z)
DeforestVis: Behavior Analysis of Machine Learning Models with Surrogate Decision Stumps [46.58231605323107]
複雑なMLモデルの振る舞いを要約する視覚解析ツールであるDeforestVisを提案する。 DeforestVisは、より多くの切り株をインクリメンタルに生成することで、複雑さとフィデリティのトレードオフを探索するのに役立つ。 DeforestVisの適用性と有用性について,2つのユースケースと,データアナリストとモデル開発者とのエキスパートインタビューで紹介する。
論文参考訳（メタデータ） (2023-03-31T21:17:15Z)
Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
論文参考訳（メタデータ） (2021-06-14T20:48:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。