論文の概要: A Two-Stage LLM Framework for Accessible and Verified XAI Explanations

• arxiv url: http://arxiv.org/abs/2604.12543v1
• Date: Tue, 14 Apr 2026 10:15:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-15 19:11:32.390208
• Title: A Two-Stage LLM Framework for Accessible and Verified XAI Explanations
• Title（参考訳）: アクセシブルかつ検証可能なXAI記述のための2段階LLMフレームワーク
• Authors: Georgios Mermigkis, Dimitris Metaxakis, Marios Tyrovolas, Argiris Sofotasios, Nikolaos Avgeris, Panagiotis Hadjidoukas, Chrysostomos Stylios,
• Abstract要約: 大規模言語モデル (LLMs) は、eXplainable Artificial Intelligence (XAI) メソッドの技術的出力を、アクセス可能な自然言語の説明に変換するために、ますます使われている。 本稿では, (i) 生のXAI出力を自然言語の物語に変換するExplainer LLM, (ii) 信頼度, 一貫性, 完全性, リスクの観点から評価するVerifier LLM, (iii) 検証者のフィードバックを用いてそれらを洗練・改善する反復的再送機構からなる2段階LLMメタ検証フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) are increasingly used to translate the technical outputs of eXplainable Artificial Intelligence (XAI) methods into accessible natural-language explanations. However, existing approaches often lack guarantees of accuracy, faithfulness, and completeness. At the same time, current efforts to evaluate such narratives remain largely subjective or confined to post-hoc scoring, offering no safeguards to prevent flawed explanations from reaching end-users. To address these limitations, this paper proposes a Two-Stage LLM Meta-Verification Framework that consists of (i) an Explainer LLM that converts raw XAI outputs into natural-language narratives, (ii) a Verifier LLM that assesses them in terms of faithfulness, coherence, completeness, and hallucination risk, and (iii) an iterative refeed mechanism that uses the Verifier's feedback to refine and improve them. Experiments across five XAI techniques and datasets, using three families of open-weight LLMs, show that verification is crucial for filtering unreliable explanations while improving linguistic accessibility compared with raw XAI outputs. In addition, the analysis of the Entropy Production Rate (EPR) during the refinement process indicates that the Verifier's feedback progressively guides the Explainer toward more stable and coherent reasoning. Overall, the proposed framework provides an efficient pathway toward more trustworthy and democratized XAI systems.
• Abstract（参考訳）: 大規模言語モデル (LLMs) は、eXplainable Artificial Intelligence (XAI) メソッドの技術的出力を、アクセス可能な自然言語の説明に変換するために、ますます使われている。 しかし、既存のアプローチは、しばしば正確性、忠実性、完全性の保証を欠いている。 同時に、こうした物語を評価するための現在の努力は、主に主観的あるいはポストホックスコアに限られており、欠陥のある説明がエンドユーザに届くのを防ぐための保護策は提供されていない。 これらの制約に対処するため,本稿では2段階のLCMメタ検証フレームワークを提案する。 (i)生のXAI出力を自然言語の物語に変換する説明詞LLM。 二 信頼、一貫性、完全性及び幻覚リスクの観点で評価する検証書LLM (iii)検証者のフィードバックを洗練・改善するための反復的再送機構。 オープンウェイトLLMの3つのファミリを用いた5つのXAI技術およびデータセットを対象とした実験は、信頼できない説明をフィルタリングし、生のXAI出力と比較して言語的アクセシビリティを向上させる上で、検証が重要であることを示している。 さらに, 改良過程におけるエントロピー生産率 (EPR) の分析は, 検証者のフィードバックが徐々に, より安定かつ一貫性のある推論へと導いてくれることを示している。 全体として、提案するフレームワークは、より信頼性が高く民主化されたXAIシステムへの効率的な経路を提供する。

関連論文リスト

• Towards Comprehensive Stage-wise Benchmarking of Large Language Models in Fact-Checking [64.97768177044355]
  大規模言語モデル(LLM)は、現実のファクトチェックシステムにますます多くデプロイされている。 FactArenaは、完全に自動化されたアリーナスタイルの評価フレームワークである。 本研究では,静的クレーム検証精度とエンドツーエンドのファクトチェック能力の相違点を明らかにした。
  論文  参考訳（メタデータ） (2026-01-06T02:51:56Z)
• Agentic Explainable Artificial Intelligence (Agentic XAI) Approach To Explore Better Explanation [7.268064183717186]
  本研究では,SHAPをベースとした説明可能性とマルチモーダルLCMによる反復的改善を併用したエージェントXAIフレームワークを提案する。 わが国26田の米収量データを用いて,この枠組みを農業推薦システムとして検証した。
  論文  参考訳（メタデータ） (2025-12-24T09:19:15Z)
• RHINO: Guided Reasoning for Mapping Network Logs to Adversarial Tactics and Techniques with Large Language Models [9.065322387043546]
  人間の推論を反映した3つの解釈可能なフェーズに大言語モデルを分解するフレームワークであるRHINOを紹介する。 RHINOは、構造的推論による出力信頼性を改善しながら、低レベルの観測と反対方向のセマンティックギャップを橋渡しする。 以上の結果から,RHINOは脅威解析の解釈可能性やスケーラビリティを著しく向上させ,LLMを運用上のセキュリティ設定にデプロイするための青写真を提供することが示された。
  論文  参考訳（メタデータ） (2025-10-16T02:25:46Z)
• Towards Transparent AI: A Survey on Explainable Language Models [22.70051215800476]
  言語モデル(LM)は、自然言語処理を著しく進歩させ、様々な領域で顕著な進歩を可能にした。 透明性の欠如は、高い領域の採用において特に問題となる。 XAI法は非LMに対してよく研究されているが、LMに適用した場合、多くの制限に直面している。
  論文  参考訳（メタデータ） (2025-09-25T21:47:39Z)
• eX-NIDS: A Framework for Explainable Network Intrusion Detection Leveraging Large Language Models [3.8436076642278745]
  本稿では,フローベースネットワーク侵入検知システム(NIDS)における解釈可能性を高めるためのフレームワークであるeX-NIDSを紹介する。 提案フレームワークでは、NIDSによって悪意のあるものとしてラベル付けされたフローは、最初にPrompt Augmenterと呼ばれるモジュールによって処理される。 このモジュールは、これらのフローからコンテキスト情報とサイバー脅威インテリジェンス(CTI)関連の知識を抽出する。 このリッチでコンテキスト固有のデータは、LLMの入力プロンプトと統合され、NIDSによってフローが悪質であると認識された理由の詳細な説明と解釈を生成できる。
  論文  参考訳（メタデータ） (2025-07-22T05:26:21Z)
• Language Bottleneck Models: A Framework for Interpretable Knowledge Tracing and Beyond [55.984684518346924]
  我々は、知識追跡を逆問題として再考する: 過去の回答を説明できる最小限の自然言語要約を学習し、将来の回答を予測できる。 我々のLanguage Bottleneck Model(LBM)は、解釈可能な知識要約を書くエンコーダLLMと、その要約テキストのみを使用して生徒の反応を再構成し予測しなければならないフリーズデコーダLLMで構成されている。 合成算術ベンチマークと大規模Eediデータセットの実験により、LBMは最先端のKT法と直接LLM法の精度に匹敵する一方で、受講者軌道のオーダーを少なくすることを示した。
  論文  参考訳（メタデータ） (2025-06-20T13:21:14Z)
• Don't Just Translate, Agitate: Using Large Language Models as Devil's Advocates for AI Explanations [1.6855625805565164]
  大型言語モデル(LLM)は、特徴量などの説明可能性のテクニックから、自然言語の説明への変換に使用される。 最近の知見は、人間のような説明に翻訳することは、必ずしもユーザーの理解を高めるものではなく、代わりにAIシステムへの過度な信頼につながる可能性があることを示唆している。
  論文  参考訳（メタデータ） (2025-04-16T18:45:18Z)
• Usable XAI: 10 Strategies Towards Exploiting Explainability in the LLM Era [76.12435556140515]
  XAIは大規模言語モデル(LLM)の説明に向けて拡張されている 本稿では、XAIがLLMベースのAIシステムをどのように説明し、改善するかを分析する。 10の戦略を導入し、それぞれに重要なテクニックを導入し、関連する課題について議論します。
  論文  参考訳（メタデータ） (2024-03-13T20:25:27Z)
• It's Never Too Late: Fusing Acoustic Information into Large Language Models for Automatic Speech Recognition [70.77292069313154]
  大規模言語モデル(LLM)は、自動音声認識(ASR)出力の上の生成誤り訂正(GER)に成功することができる。 本研究では,不確実性認識ダイナミックフュージョン (UADF) と呼ばれる新しい遅延融合解によって予測された転写を生成する前に,音響情報を注入することにより,そのような制限を克服することを目的とする。
  論文  参考訳（メタデータ） (2024-02-08T07:21:45Z)
• FaithLM: Towards Faithful Explanations for Large Language Models [60.45183469474916]
  大規模言語モデルの忠実度を評価し改善するモデルに依存しないフレームワークであるFaithLMを紹介した。 FaithLMは一貫して忠実度を高め、強い自己説明ベースラインよりも人間の合理性に整合した説明を生成する。
  論文  参考訳（メタデータ） (2024-02-07T09:09:14Z)
• Improving Open Information Extraction with Large Language Models: A Study on Demonstration Uncertainty [52.72790059506241]
  オープン情報抽出(OIE)タスクは、構造化されていないテキストから構造化された事実を抽出することを目的としている。 一般的なタスク解決手段としてChatGPTのような大きな言語モデル(LLM)の可能性にもかかわらず、OIEタスクの最先端(教師付き)メソッドは遅れている。
  論文  参考訳（メタデータ） (2023-09-07T01:35:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。