論文の概要: Human-Centered Evaluation of XAI Methods
- arxiv url: http://arxiv.org/abs/2310.07534v1
- Date: Wed, 11 Oct 2023 14:39:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-12 22:34:16.967690
- Title: Human-Centered Evaluation of XAI Methods
- Title(参考訳): XAI手法の人間中心評価
- Authors: Karam Dawoud, Wojciech Samek, Sebastian Lapuschkin, Sebastian Bosse
- Abstract要約: さまざまなタスクにまたがる決定を説明するために、多くの方法が登場した。
3つの主要な説明手法の解釈可能性を測定する。
以上の結果から,これらの手法が注目する領域は様々であるが,いずれも人間にほぼ同等の理解深度を与えていることが明らかとなった。
- 参考スコア(独自算出の注目度): 15.239523771934593
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the ever-evolving field of Artificial Intelligence, a critical challenge
has been to decipher the decision-making processes within the so-called "black
boxes" in deep learning. Over recent years, a plethora of methods have emerged,
dedicated to explaining decisions across diverse tasks. Particularly in tasks
like image classification, these methods typically identify and emphasize the
pivotal pixels that most influence a classifier's prediction. Interestingly,
this approach mirrors human behavior: when asked to explain our rationale for
classifying an image, we often point to the most salient features or aspects.
Capitalizing on this parallel, our research embarked on a user-centric study.
We sought to objectively measure the interpretability of three leading
explanation methods: (1) Prototypical Part Network, (2) Occlusion, and (3)
Layer-wise Relevance Propagation. Intriguingly, our results highlight that
while the regions spotlighted by these methods can vary widely, they all offer
humans a nearly equivalent depth of understanding. This enables users to
discern and categorize images efficiently, reinforcing the value of these
methods in enhancing AI transparency.
- Abstract(参考訳): 人工知能の分野では、ディープラーニングにおいていわゆる「ブラックボックス」の中の意思決定プロセスを解読することが重要な課題となっている。
近年、様々なタスクにわたる決定を説明するために多くの方法が登場している。
特に画像分類のようなタスクでは、これらの手法は分類器の予測に最も影響を及ぼす重要なピクセルを識別し強調する。
興味深いことに、このアプローチは人間の振る舞いを反映している。イメージを分類する合理性を説明するために、私たちはしばしば最も健全な特徴や側面を指し示します。
これと平行して、我々の研究はユーザー中心の研究を始めた。
本研究では,(1)原型部分ネットワーク,(2)排除,(3)レイヤワイド関連伝播の3つの主要な説明手法の解釈可能性の客観的評価を試みた。
興味深いことに、我々の研究結果は、これらの手法によって見出される領域は広範囲にまたがるが、それらはすべて人間にほぼ同等の理解深度を提供する。
これにより、ユーザーは画像の識別と分類を効率的に行い、aiの透明性を高めるためにこれらの方法の価値を強化することができる。
関連論文リスト
- Mismatched: Evaluating the Limits of Image Matching Approaches and Benchmarks [9.388897214344572]
2次元画像からの3次元3次元再構成はコンピュータビジョンにおける活発な研究分野である。
伝統的にこの作業にはパラメトリック技術が用いられてきた。
近年の進歩は、学習ベースの方法にシフトしている。
論文 参考訳(メタデータ) (2024-08-29T11:16:34Z) - Two Approaches to Supervised Image Segmentation [55.616364225463066]
本研究は、深層学習とマルチセットニューロンのアプローチの比較実験を開発する。
ディープラーニングアプローチは、画像セグメンテーションの実行の可能性を確認した。
代替のマルチセット手法では、計算資源をほとんど必要とせずに精度を向上することができた。
論文 参考訳(メタデータ) (2023-07-19T16:42:52Z) - CRAFT: Concept Recursive Activation FacTorization for Explainability [5.306341151551106]
CRAFTは概念に基づく説明を生成することによって、"What"と"where"の両方を識別する新しいアプローチである。
提案手法の利点を実証するために,人間とコンピュータの視覚実験を行った。
論文 参考訳(メタデータ) (2022-11-17T14:22:47Z) - Towards Better Understanding Attribution Methods [77.1487219861185]
モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。
本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。
また,いくつかの属性法の性能を著しく向上する処理後平滑化ステップを提案する。
論文 参考訳(メタデータ) (2022-05-20T20:50:17Z) - Discriminative Attribution from Counterfactuals [64.94009515033984]
本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。
本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
論文 参考訳(メタデータ) (2021-09-28T00:53:34Z) - Recent Progress in Appearance-based Action Recognition [73.6405863243707]
アクション認識は、ビデオ内の様々な人間の行動を特定するタスクである。
最近の外見に基づく手法は、正確な行動認識に向けて有望な進歩を遂げている。
論文 参考訳(メタデータ) (2020-11-25T10:18:12Z) - Contrastive Rendering for Ultrasound Image Segmentation [59.23915581079123]
米国の画像にシャープな境界がないことは、セグメンテーションに固有の課題である。
我々は,US画像における境界推定を改善するための,新しい,効果的なフレームワークを提案する。
提案手法は最先端の手法より優れており,臨床応用の可能性も高い。
論文 参考訳(メタデータ) (2020-10-10T07:14:03Z) - Rethinking of the Image Salient Object Detection: Object-level Semantic
Saliency Re-ranking First, Pixel-wise Saliency Refinement Latter [62.26677215668959]
本稿では,意味的に有意な領域を粗い位置で特定する,軽量で教師付きの深層ネットワークを提案する。
次に,これらセマンティック・サリエント領域の深層モデルを画素ワイド・サリエンシ改善として融合する。
提案手法は単純だが有効であり,本手法は主眼をオブジェクトレベルのセマンティック・リグレード問題とみなすための最初の試みである。
論文 参考訳(メタデータ) (2020-08-10T07:12:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。