Fugu-MT 論文翻訳(概要): Challenges in Evaluating Explanation Methods for Static and Evolving Data

論文の概要: Challenges in Evaluating Explanation Methods for Static and Evolving Data

arxiv url: http://arxiv.org/abs/2608.06351v1
Date: Thu, 06 Aug 2026 17:53:10 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-07 15:25:20.991966
Title: Challenges in Evaluating Explanation Methods for Static and Evolving Data
Title（参考訳）: 静的・進化的データの説明方法の評価における課題
Abstract要約: 本稿では,説明可能な人工知能(XAI)の限界について,不十分な評価について論じる。それらは、バイアス検出と概念学習のためのDetoxAI画像認識システムを通じて説明される。さらに、概念ドリフトを伴うデータストリームの進化に説明を適用する方法についても検討する。
参考スコア（独自算出の注目度）: 3.2912116932233633
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This paper addresses the limitations of Explainable Artificial Intelligence (XAI) with respect to insufficient evaluation. They are illustrated through the DetoxAI image recognition system for bias detection and concept unlearning. Then, an example of a human-grounded evaluation of methods for explaining image classification is presented. The paper further explores methods for adapting explanations to evolving data streams with concept drift. Experiences with adapting counterfactuals for this problem are discussed. Finally it is related to the challenges of tracking the co-evolution of data, models, and explanations.\footnote{This paper has been accepted for a publication in J.Nalepa (ed) Explainable AI in Space. Proceedings of EASi 2026 Workshop at IJCAI-ECAI 2026 Bremen, Springer CCIS vol 3107 (2016).}
Abstract（参考訳）: 本稿では,説明可能な人工知能(XAI)の限界について,不十分な評価について論じる。それらは、バイアス検出と概念学習のためのDetoxAI画像認識システムを通じて説明される。そして、画像分類を説明する方法の人為的評価の例を示す。さらに、概念ドリフトを伴うデータストリームの進化に説明を適用する方法についても検討する。この問題に対抗策を適用した経験について論じる。最後に、データ、モデル、説明の共進化を追跡するという課題に関連している。この論文は、J.Nalepa (ed) Explainable AI in Spaceに掲載されている。 EASi 2026 Workshop at IJCAI-ECAI 2026 Bremen, Springer CCIS vol 3107 (2016) ※

関連論文リスト

Gradient based Feature Attribution in Explainable AI: A Technical Review [13.848675695545909]
ブラックボックスAIモデルの急増は、内部メカニズムを説明し、信頼性を正当化する必要性を喚起している。勾配に基づく説明は、ニューラルネットワークモデルに直接適用することができる。アルゴリズムの性能を測定するために,人的評価と定量的評価の両方を導入する。
論文参考訳（メタデータ） (2024-03-15T15:49:31Z)
Concept-based Explainable Artificial Intelligence: A Survey [16.580100294489508]
生の機能を説明に利用することは、近年、いくつかの作品で議論されている。統一された分類と正確なフィールド定義はいまだに欠けている。本稿では,C-XAIのアプローチを徹底的にレビューすることで,そのギャップを埋める。
論文参考訳（メタデータ） (2023-12-20T11:27:21Z)
Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
論文参考訳（メタデータ） (2023-12-10T23:13:23Z)
Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
論文参考訳（メタデータ） (2023-06-14T23:24:01Z)
Unveiling the Unseen: A Comprehensive Survey on Explainable Anomaly Detection in Images and Videos [49.07140708026425]
画像やビデオを含む視覚データの異常検出とローカライゼーションは、機械学習や現実世界のアプリケーションにおいて不可欠である。本稿では,説明可能な2次元視覚異常検出(X-VAD)に焦点を当てた初の包括的調査を行う。本稿では,その基礎技術によって分類された説明可能な手法の文献レビューを行う。我々は、将来的な方向性と、説明品質の定量化を含むオープンな問題について議論する。
論文参考訳（メタデータ） (2023-02-13T20:17:41Z)
Counterfactual Explanations for Misclassified Images: How Human and Machine Explanations Differ [11.508304497344637]
ブラックボックスのディープラーニングシステムの予測を解明する、eXplainable AI(XAI)問題に対する一般的なソリューションとして、カウンターファクトの説明が登場した。 100以上の対策方法が存在し、人々が好むものに似た、もっともらしい説明を生成すると主張しているが、実際にユーザでテストされているものはほとんどない。ここでは, 誤分類画像に対する人間生成の反実的説明を根底から収集する新たな手法を用いて, この問題に対処する。
論文参考訳（メタデータ） (2022-12-16T22:05:38Z)
Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
論文参考訳（メタデータ） (2022-10-31T19:20:22Z)
Diagnosing AI Explanation Methods with Folk Concepts of Behavior [70.10183435379162]
我々は「成功」は、その説明がどんな情報を含むかだけでなく、人間の説明者がどのような情報から理解するかにも依存すると考えている。我々は、人間の説明による社会的帰属の枠組みとして、行動の民意的概念を用いる。
論文参考訳（メタデータ） (2022-01-27T00:19:41Z)
Evaluation of Saliency-based Explainability Method [2.733700237741334]
説明可能なAI(XAI)メソッドのクラスは、CNNモデルがその動作を説明する方法としてイメージを分類するために、画像の一部を強調するために、唾液マップを提供する。これらの手法はユーザがCNNの予測を理解するための直感的な方法を提供する。定量的な計算テスト以外に、これらの手法が有用であることを示す証拠の大部分は逸話である。
論文参考訳（メタデータ） (2021-06-24T05:40:50Z)
This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
反実用説明システムは、入力画像を変更して反実用推論を可能にする。本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
論文参考訳（メタデータ） (2020-12-22T10:08:05Z)
On Generating Plausible Counterfactual and Semi-Factual Explanations for Deep Learning [15.965337956587373]
PlausIble Exceptionality-based Contrastive Explanations (PIECE) は、テストイメージにおけるすべての例外的特徴を、対実クラスの観点から正規化するように修正する。 2つの制御された実験は、PIECEを文献上の他のものと比較し、PIECEはいくつかの尺度において最も妥当な反事実を生成するだけでなく、最良の半事実も生成することを示した。
論文参考訳（メタデータ） (2020-09-10T14:48:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。