論文の概要: XAI Evaluation Framework for Semantic Segmentation

• arxiv url: http://arxiv.org/abs/2510.24414v1
• Date: Tue, 28 Oct 2025 13:27:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-29 15:35:37.197477
• Title: XAI Evaluation Framework for Semantic Segmentation
• Title（参考訳）: セマンティックセグメンテーションのためのXAI評価フレームワーク
• Authors: Reem Hammoud, Abdul karim Gizzini, Ali J. Ghandour,
• Abstract要約: セマンティックセグメンテーションにおいて、説明可能なAI(XAI)を評価するために特別に設計された包括的で体系的な評価フレームワークを導入する。 このフレームワークは、ピクセルレベルの評価戦略と注意深く設計されたメトリクスを使用して、きめ細かい解釈可能性の洞察を提供する。 これらの知見は、透明性、信頼性、説明可能なセマンティックセグメンテーションモデルの発展に寄与する。
• 参考スコア（独自算出の注目度）: 0.20999222360659606
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Ensuring transparency and trust in artificial intelligence (AI) models is essential, particularly as they are increasingly applied in safety-critical and high-stakes domains. Explainable AI (XAI) has emerged as a promising approach to address this challenge, yet the rigorous evaluation of XAI methods remains crucial for optimizing the trade-offs between model complexity, predictive performance, and interpretability. While extensive progress has been achieved in evaluating XAI techniques for classification tasks, evaluation strategies tailored to semantic segmentation remain relatively underexplored. This work introduces a comprehensive and systematic evaluation framework specifically designed for assessing XAI in semantic segmentation, explicitly accounting for both spatial and contextual task complexities. The framework employs pixel-level evaluation strategies and carefully designed metrics to provide fine-grained interpretability insights. Simulation results using recently adapted class activation mapping (CAM)-based XAI schemes demonstrate the efficiency, robustness, and reliability of the proposed methodology. These findings contribute to advancing transparent, trustworthy, and accountable semantic segmentation models.
• Abstract（参考訳）: 人工知能(AI)モデルに対する透明性と信頼の確保は、特に安全クリティカルで高リスクな領域にますます適用されているため、不可欠である。 説明可能なAI(XAI)はこの課題に対処するための有望なアプローチとして登場したが、モデル複雑性、予測性能、解釈可能性の間のトレードオフを最適化するためには、厳密なXAI手法の評価が依然として不可欠である。 分類タスクにおけるXAI手法の評価において広範な進歩が達成されているが、セマンティックセグメンテーションに適した評価戦略はいまだに未熟である。 本研究は,意味的セグメンテーションにおけるXAIの評価に特化して設計された包括的かつ体系的な評価フレームワークを導入し,空間的・文脈的タスクの複雑さを明示的に考慮する。 このフレームワークは、ピクセルレベルの評価戦略と注意深く設計されたメトリクスを使用して、きめ細かい解釈可能性の洞察を提供する。 最近適応されたクラスアクティベーションマッピング(CAM)に基づくXAIスキームを用いたシミュレーションの結果,提案手法の効率性,堅牢性,信頼性が示された。 これらの知見は、透明性、信頼性、説明可能なセマンティックセグメンテーションモデルの発展に寄与する。

関連論文リスト

• Novel Category Discovery with X-Agent Attention for Open-Vocabulary Semantic Segmentation [48.806000388608005]
  提案するX-Agentは,「潜時意味認識エージェント」を用いてモーダル間注意機構を編成する,革新的なOVSSフレームワークである。 X-Agentは最先端のパフォーマンスを実現し、潜伏したセマンティックサリエンシを効果的に強化する。
  論文  参考訳（メタデータ） (2025-09-01T09:01:58Z)
• Tuning for Trustworthiness -- Balancing Performance and Explanation Consistency in Neural Network Optimization [49.567092222782435]
  我々は,異なる特徴帰属法間の合意として定義された,XAI整合性という新しい概念を紹介する。 予測性能と説明のバランスをとる多目的最適化フレームワークを構築した。 本研究は、トレードオフゾーンバランス性能損失とXAI整合性による強靭性向上のモデルについて、今後の研究基盤を提供する。
  論文  参考訳（メタデータ） (2025-05-12T13:19:14Z)
• VirtualXAI: A User-Centric Framework for Explainability Assessment Leveraging GPT-Generated Personas [0.07499722271664146]
  eXplainable AI(XAI)の需要が増加し、AIモデルの解釈可能性、透明性、信頼性が向上した。 仮想ペルソナによる定量的ベンチマークと質的ユーザアセスメントを統合したフレームワークを提案する。 これにより、推定されたXAIスコアが得られ、与えられたシナリオに対して最適なAIモデルとXAIメソッドの両方にカスタマイズされたレコメンデーションが提供される。
  論文  参考訳（メタデータ） (2025-03-06T09:44:18Z)
• SEOE: A Scalable and Reliable Semantic Evaluation Framework for Open Domain Event Detection [70.23196257213829]
  オープンドメインイベント検出のためのスケーラブルで信頼性の高いセマンティックレベルの評価フレームワークを提案する。 提案フレームワークはまず,現在7つの主要ドメインをカバーする564のイベントタイプを含む,スケーラブルな評価ベンチマークを構築した。 次に,大言語モデル(LLM)を自動評価エージェントとして活用し,意味的類似ラベルのきめ細かい定義を取り入れた意味的F1スコアを計算する。
  論文  参考訳（メタデータ） (2025-03-05T09:37:05Z)
• A Unified Framework for Evaluating the Effectiveness and Enhancing the Transparency of Explainable AI Methods in Real-World Applications [2.0681376988193843]
  本研究では,XAIの単一評価フレームワークについて紹介する。 数字とユーザフィードバックの両方を使って、説明が正しいか、理解しやすく、公平で、完全で、信頼できるかをチェックする。 我々は、医療、金融、農業、自動運転システムにおけるケーススタディを通じて、この枠組みの価値を示す。
  論文  参考訳（メタデータ） (2024-12-05T05:30:10Z)
• SCENE: Evaluating Explainable AI Techniques Using Soft Counterfactuals [0.0]
  本稿では,新たな評価手法であるSCENE(Soft Counterfactual Evaluation for Natural Language Explainability)を紹介する。 トークンベースの置換に焦点を当てることで、SCENEは文脈的に適切で意味論的に意味のあるソフトカウンタブルを作成する。 SCENEは様々なXAI技法の強みと限界についての貴重な洞察を提供する。
  論文  参考訳（メタデータ） (2024-08-08T16:36:24Z)
• Extending CAM-based XAI methods for Remote Sensing Imagery Segmentation [7.735470452949379]
  我々は,モデルの不確実性を測定するために,「エントロピー」に基づく新しいXAI評価手法とメトリクスを導入する。 本研究では,Entropyを用いて,対象クラス内の画素のセグメンテーションにおけるモデル不確実性を監視することがより適切であることを示す。
  論文  参考訳（メタデータ） (2023-10-03T07:01:23Z)
• REX: Rapid Exploration and eXploitation for AI Agents [103.68453326880456]
  本稿では、REXと呼ばれるAIエージェントのための高速探索およびeXploitationのための改良されたアプローチを提案する。 REXは追加の報酬層を導入し、アッパー信頼境界(UCB)スコアに似た概念を統合し、より堅牢で効率的なAIエージェントのパフォーマンスをもたらす。
  論文  参考訳（メタデータ） (2023-07-18T04:26:33Z)
• The Meta-Evaluation Problem in Explainable AI: Identifying Reliable Estimators with MetaQuantus [10.135749005469686]
  説明可能なAI(XAI)分野における未解決課題の1つは、説明方法の品質を最も確実に見積もる方法を決定することである。 我々は、XAIの異なる品質推定器のメタ評価を通じてこの問題に対処する。 我々の新しいフレームワークMetaQuantusは、品質推定器の2つの相補的な性能特性を解析する。
  論文  参考訳（メタデータ） (2023-02-14T18:59:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。