論文の概要: DocXEval: A Systematic Evaluation of Explainability in Multimodal Document Understanding

• arxiv url: http://arxiv.org/abs/2610.36929v1
• Date: Tue, 27 Oct 2026 09:53:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.559068
• Title: DocXEval: A Systematic Evaluation of Explainability in Multimodal Document Understanding
• Title（参考訳）: DocXEval:マルチモーダル文書理解における説明可能性の体系的評価
• Abstract要約: マルチモーダルトランスモデルは、現代の文書理解において前例のないパフォーマンスのブレークスルーを導いている。 これらのモデル固有のブラックボックスの性質は、ハイテイクセクターにおける安全な配置の大きな障害となっている。 我々は、既存のXAIメソッドと評価指標をマルチモーダル文書理解コンテキストに適応させる最初の包括的説明可能性フレームワークである、我々のフレームワークを提示する。
• 参考スコア（独自算出の注目度）: 5.105178044492524
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multimodal transformer models have driven unprecedented performance breakthroughs in modern document understanding. However, the inherent black-box nature of these models remains a major obstacle to their safe deployment in high-stakes sectors. Despite significant progress in explainability for vision and language tasks, explainable AI (XAI) research tailored to multimodal document understanding has received little attention. To address this gap, we present \ourframework{}, the first comprehensive explainability framework that adapts existing XAI methods and evaluation metrics to the multimodal (text, layout, and image) document understanding context, while introducing efficient multi-target adaptations of both methods and metrics for domain-specific tasks such as semantic entity recognition. Using \ourframework{}, we systematically evaluate 13 XAI methods across 3 document understanding tasks, 8 datasets, 4 models, and 17 evaluation metrics, and find that only a few methods perform consistently across all evaluation criteria, with Occlusion emerging as the most faithful and interpretable method overall. Through a dedicated meta-evaluation, we observe moderate to strong agreement among several faithfulness and complexity metrics while identifying certain ones that produce unreliable results. Finally, through multiple dataset-wide diagnostic analyses, we uncover key insights into model behavior, including the contribution of individual modalities across tasks and labels, spatial attribution patterns around target entities, and potential dataset biases. Overall, this work serves as both a benchmark and a practical guide for future XAI research in multimodal document understanding. To support reproducibility, we publicly release our code at https://github.com/saifullah3396/docxeval/.
• Abstract（参考訳）: マルチモーダルトランスモデルは、現代の文書理解において前例のないパフォーマンスのブレークスルーを導いている。 しかしながら、これらのモデルの本質的なブラックボックスの性質は、ハイテイクセクターにおける安全な配置において大きな障害となっている。 視覚と言語タスクの説明可能性の大幅な進歩にもかかわらず、マルチモーダル文書理解に適した説明可能なAI(XAI)の研究はほとんど注目されていない。 このギャップに対処するため,既存のXAIメソッドと評価指標をマルチモーダル(テキスト,レイアウト,イメージ)文書理解コンテキストに適用する最初の包括的説明可能性フレームワークである \ourframework{} を紹介し,セマンティックエンティティ認識などのドメイン固有のタスクに対して,メソッドとメトリクスの効率的なマルチターゲット適応を導入する。 本稿では,3つの文書理解タスク,8つのデータセット,4つのモデル,17の評価指標に対して,13のXAIメソッドを体系的に評価する。 専門的なメタ評価を通じて、信頼できない結果を生み出す特定の指標を特定しながら、いくつかの忠実度と複雑性のメトリクスの間で中程度から強い一致を観察する。 最後に、複数のデータセットワイドな診断分析を通じて、タスクやラベル間の個別のモダリティの寄与、ターゲットエンティティ周辺の空間的帰属パターン、潜在的なデータセットバイアスなど、モデル行動に関する重要な洞察を明らかにする。 全体として、この研究はマルチモーダル文書理解における将来のXAI研究のためのベンチマークと実践的なガイドとして機能する。 再現性をサポートするため、私たちはhttps://github.com/saifullah3396/docxeval/でコードを公開しています。

関連論文リスト

• Achieving Text-based Person Retrieval with Any Granularity [80.69427598925718]
  本稿では、任意の粒度を持つテキストベースの人物検索という新しいパラダイムを紹介する。 5段階の粒度スペクトルを定式化し,高品質な多粒度アノテートデータセットであるUFine6926-MGを構築した。 次に、クロスモーダルな多重粒度アライニングおよびマッチングフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-07-23T08:42:25Z)
• Beyond Accuracy: Benchmarking Cross-Task Consistency in Unified Multimodal Models [12.660879089125684]
  統一マルチモーダルモデル(uMM)は、共有表現内で視覚的理解と視覚的生成の両方をサポートすることを目的としている。 既存の評価プロトコルは、これらの2つの機能を独立して評価し、それらが意味的に整合しているかどうかを検査しない。 XTC-Benchは,タスク間の視覚的セマンティック一貫性を計測する,シーングラフによる評価フレームワークである。
  論文  参考訳（メタデータ） (2026-04-27T23:57:29Z)
• MMEB-V3: Measuring the Performance Gaps of Omni-Modality Embedding Models [70.34265674686516]
  マルチモーダル埋め込みモデルは、テキスト、画像、ビデオ、オーディオなどの異種入力を共有意味空間にマッピングすることを目的としている。 本稿では,テキスト,画像,ビデオ,オーディオ,エージェント中心のシナリオにまたがる埋め込みを評価するベンチマークであるMMEB-V3を紹介する。 本研究は, 完全モダリティ埋め込みの系統的解析を行い, 3つの重要な知見を同定する。
  論文  参考訳（メタデータ） (2026-04-25T14:15:05Z)
• Scaling Beyond Context: A Survey of Multimodal Retrieval-Augmented Generation for Document Understanding [61.36285696607487]
  文書理解は、財務分析から科学的発見への応用に不可欠である。 現在のアプローチでは、OCRベースのパイプラインがLarge Language Models(LLM)やネイティブのMultimodal LLMs(MLLM)に制限されている。 Retrieval-Augmented Generation (RAG)は、外部データの基底モデルを支援するが、文書のマルチモーダルな性質は、テキスト、テーブル、チャート、レイアウトを組み合わせることで、より高度なパラダイムを必要とする。
  論文  参考訳（メタデータ） (2025-10-17T02:33:16Z)
• MMESGBench: Pioneering Multimodal Understanding and Complex Reasoning Benchmark for ESG Tasks [56.350173737493215]
  環境・社会・ガバナンス(ESG)報告は、持続可能性の実践の評価、規制コンプライアンスの確保、財務透明性の促進に不可欠である。 MMESGBenchは、マルチモーダル理解と複雑な推論を、構造的に多種多様なマルチソースESG文書間で評価するための、最初のベンチマークデータセットである。 MMESGBenchは、45のESG文書から得られた933の検証済みQAペアで構成され、7つの異なるドキュメントタイプと3つの主要なESGソースカテゴリにまたがる。
  論文  参考訳（メタデータ） (2025-07-25T03:58:07Z)
• Unifying VXAI: A Systematic Review and Framework for the Evaluation of Explainable AI [4.715895520943978]
  説明可能なAI(XAI)は、モデル行動に関する人間の理解可能な説明を提供することで、この問題に対処する。 XAIメソッドの増加にもかかわらず、フィールドには標準化された評価プロトコルと適切なメトリクスに関するコンセンサスがない。 我々は、XAI(VXAI)のeValuationのための統一的なフレームワークを導入する。
  論文  参考訳（メタデータ） (2025-06-18T12:25:37Z)
• The Meta-Evaluation Problem in Explainable AI: Identifying Reliable Estimators with MetaQuantus [10.135749005469686]
  説明可能なAI(XAI)分野における未解決課題の1つは、説明方法の品質を最も確実に見積もる方法を決定することである。 我々は、XAIの異なる品質推定器のメタ評価を通じてこの問題に対処する。 我々の新しいフレームワークMetaQuantusは、品質推定器の2つの相補的な性能特性を解析する。
  論文  参考訳（メタデータ） (2023-02-14T18:59:02Z)
• Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
  本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。 提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。 分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
  論文  参考訳（メタデータ） (2020-11-13T10:53:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。