論文の概要: Evaluating Explainability in Safety-Critical ATR Systems: Limitations of Post-Hoc Methods and Paths Toward Robust XAI

• arxiv url: http://arxiv.org/abs/2605.05748v1
• Date: Thu, 07 May 2026 06:42:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.571063
• Title: Evaluating Explainability in Safety-Critical ATR Systems: Limitations of Post-Hoc Methods and Paths Toward Robust XAI
• Title（参考訳）: 安全臨界ATRシステムにおける説明可能性の評価--ポストホック法とロバストXAIへの道のり-
• Abstract要約: 本稿では,安全クリティカルなATRシステムにおける説明可能性手法の構造化評価について述べる。 我々は、サリエンシベース、注意ベース、サロゲート・アプ・パッチを含む主要なXAIパラダイムを特定した。 我々は、急激な説明、摂動下での不安定性、視覚的に干渉する出力によって引き起こされる過度な信頼など、致命的な障害モードを導出する。
• 参考スコア（独自算出の注目度）: 2.3099144596725574
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Explainable Artificial Intelligence (XAI) is increasingly rec ognized as essential for deploying machine learning systems in safety critical environments. In Automatic Target Recognition (ATR), where models operate on image, video, radar, and multisensor data, high pre dictive performance alone is insufficient. Model decisions must also be interpretable, reliable, and suitable for validation. This paper presents a structured evaluation of explainability methods in the context of safety-critical ATR systems: We identify major XAI paradigms, including saliency-based, attention-based, and surrogate ap proaches, as well as recent detection-aware extensions. Based on this, we formalize explainability as an assurance-oriented assessment problem, introduce a taxonomy, and assess these methods with respect to four key dimensions: interpretability, robustness, vulnerability to manipula tion, and suitability for validation and verification. The analysis identifies systematic limitations of current post-hoc explanation methods. In par ticular, we derive critical failure modes such as spurious explanations, instability under perturbations, and overtrust induced by visually con vincing outputs. These findings indicate that widely used XAI techniques may be insufficient for safety-critical deployment. Finally, we discuss implications for ATR systems and outline directions toward more robust, causally grounded, and physically informed explain ability methods. Our results emphasize the need to move beyond visually plausible explanations toward approaches that support reliable decision making and system-level assurance.
• Abstract（参考訳）: 説明可能な人工知能(XAI)は、安全クリティカルな環境で機械学習システムをデプロイするために欠かせないものとして、ますます再認識されている。 画像、ビデオ、レーダー、およびマルチセンサーデータでモデルが動作する自動目標認識(ATR)では、予測前の高い性能だけでは不十分である。 モデル決定は解釈可能で信頼性があり、検証に適している必要がある。 本稿では,安全クリティカルなATRシステムにおける説明可能性手法の構造化された評価について述べる。 そこで我々は,保証指向評価問題として説明責任を定式化し,分類を導入し,解釈可能性,堅牢性,マニピュラオプションに対する脆弱性,検証と検証の適性という4つの重要な側面について,これらの手法を評価する。 この分析は、現在のポストホックな説明手法の体系的な制限を特定する。 対角法では、急激な説明、摂動下での不安定性、視覚的に干渉する出力による過トラストなどの臨界障害モードを導出する。 これらの結果から,広く使用されているXAI技術は安全クリティカルな展開に不十分である可能性が示唆された。 最後に、ATRシステムへの影響について論じ、より堅牢で因果的基盤があり、物理的に説明できる能力手法について概説する。 本研究は,信頼性の高い意思決定とシステムレベルの保証を支援するアプローチに向けて,視覚的に妥当な説明を超えることの必要性を強調した。

関連論文リスト

• AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
  AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。 本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
  論文  参考訳（メタデータ） (2026-08-26T11:48:38Z)
• A Bayesian Framework for Uncertainty-Aware Explanations in Power Quality Disturbance Classification [3.68407754316989]
  本稿では,各インスタンスの関連属性分布を生成して不確かさをモデル化するベイズ説明フレームワークを提案する。 専門家は信頼パーセンタイルに基づいて説明を選択できるため、特定の障害タイプに応じて解釈性を調整することができる。 合成および実世界の電力品質データセットの実験は、提案フレームワークがPQD分類器の透明性と信頼性を向上させることを示した。
  論文  参考訳（メタデータ） (2026-04-15T09:22:47Z)
• From Passive Metric to Active Signal: The Evolving Role of Uncertainty Quantification in Large Language Models [77.04403907729738]
  このサーベイは、受動的診断基準からリアルタイムモデル動作を導くアクティブ制御信号への不確実性の進化をグラフ化する。 3つのフロンティアにまたがるアクティブ制御信号として不確実性がいかに活用されているかを示す。 この調査は、次世代のスケーラブルで信頼性があり、信頼できるAIを構築するためには、新しい不確実性のトレンドを習得することが不可欠である、と論じている。
  論文  参考訳（メタデータ） (2026-01-22T06:21:31Z)
• AI-Generated Image Detection: An Empirical Study and Future Research Directions [6.891145787446519]
  AIが生成するメディア、特にディープフェイクによって引き起こされる脅威は、鑑識にとって重大な課題を提起している。 いくつかの法医学的手法が提案され、それらは3つの重大なギャップに悩まされている。 これらの制限は、公正な比較、曖昧な真の堅牢性、およびセキュリティクリティカルなアプリケーションのデプロイメントを制限する。
  論文  参考訳（メタデータ） (2025-11-04T18:13:48Z)
• Towards Robust Artificial Intelligence: Self-Supervised Learning Approach for Out-of-Distribution Detection [0.19599274203282294]
  本稿では,ラベル付きデータを必要としないOOD検出手法を提案する。 提案手法は自己教師付き学習の原理を利用して,ラベルのないデータから有用な表現を学習する。
  論文  参考訳（メタデータ） (2025-10-14T16:55:25Z)
• Deep Learning Models for Robust Facial Liveness Detection [56.08694048252482]
  本研究では,現代のアンチスプーフィング手法の欠陥に対処する新しい深層学習モデルを用いて,ロバストな解を提案する。 テクスチャ解析と実際の人間の特性に関連する反射特性を革新的に統合することにより、我々のモデルは、顕著な精度でレプリカと真の存在を区別する。
  論文  参考訳（メタデータ） (2025-08-12T17:19:20Z)
• Safety by Measurement: A Systematic Literature Review of AI Safety Evaluation Methods [0.0]
  この文献レビューは、急速に進化するAI安全性評価の分野を集約する。 それは、どの特性を計測するか、どのように測定するか、そしてこれらの測定がフレームワークにどのように統合されるかという、3つの次元に関する体系的な分類法を提案する。
  論文  参考訳（メタデータ） (2025-05-08T16:55:07Z)
• Enhancing LLM Reliability via Explicit Knowledge Boundary Modeling [41.19330514054401]
  大規模言語モデル(LLM)は、不一致の自己認識に起因する幻覚の傾向にある。 本稿では,高速かつ低速な推論システムを統合し,信頼性とユーザビリティを調和させる明示的知識境界モデリングフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-03-04T03:16:02Z)
• Unsupervised Model Diagnosis [49.36194740479798]
  本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。 提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
  論文  参考訳（メタデータ） (2024-10-08T17:59:03Z)
• Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
  本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。 このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。 本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
  論文  参考訳（メタデータ） (2024-02-07T21:58:40Z)
• Investigating Robustness in Cyber-Physical Systems: Specification-Centric Analysis in the face of System Deviations [8.8690305802668]
  サイバー物理システム(CPS)の重要属性は堅牢性であり、安全に運用する能力を示している。 本稿では,特定のシステム要件を満たす上でのコントローラの有効性を特徴付ける,仕様に基づく新しいロバスト性を提案する。 本稿では, 微妙な堅牢性違反を識別するための2層シミュレーションに基づく解析フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-11-13T16:44:43Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• A new interpretable unsupervised anomaly detection method based on residual explanation [47.187609203210705]
  本稿では,大規模システムにおけるAEベースのADの制限に対処する新しい解釈可能性手法であるRXPを提案する。 実装の単純さ、計算コストの低さ、決定論的振る舞いが特徴である。 実鉄道路線のデータを用いた実験において,提案手法はSHAPよりも優れた性能を示した。
  論文  参考訳（メタデータ） (2021-03-14T15:35:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。