論文の概要: Interpretability Benchmark for Evaluating Spatial Misalignment of Prototypical Parts Explanations

• arxiv url: http://arxiv.org/abs/2308.08162v1
• Date: Wed, 16 Aug 2023 06:09:51 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-17 14:42:48.020594
• Title: Interpretability Benchmark for Evaluating Spatial Misalignment of Prototypical Parts Explanations
• Title（参考訳）: 原型部品説明の空間的誤り評価のための解釈可能性ベンチマーク
• Authors: Miko{\l}aj Sacha, Bartosz Jura, Dawid Rymarczyk, {\L}ukasz Struski, Jacek Tabor, Bartosz Zieli\'nski
• Abstract要約: 我々はこの望ましくない振る舞いを空間的説明の誤りとみなす。 本稿では, 誤り補償手法を提案し, 既存の最先端モデルに適用する。
• 参考スコア（独自算出の注目度）: 13.111196926104485
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Prototypical parts-based networks are becoming increasingly popular due to their faithful self-explanations. However, their similarity maps are calculated in the penultimate network layer. Therefore, the receptive field of the prototype activation region often depends on parts of the image outside this region, which can lead to misleading interpretations. We name this undesired behavior a spatial explanation misalignment and introduce an interpretability benchmark with a set of dedicated metrics for quantifying this phenomenon. In addition, we propose a method for misalignment compensation and apply it to existing state-of-the-art models. We show the expressiveness of our benchmark and the effectiveness of the proposed compensation methodology through extensive empirical studies.
• Abstract（参考訳）: 原始的な部分ベースのネットワークは、忠実な自己説明によって人気が高まっている。 しかし、それらの類似度マップは、ペナルティファイトネットワーク層で計算される。 したがって、プロトタイプアクティベーション領域の受容野は、しばしばこの領域外の画像の一部に依存するため、誤解を招く解釈につながる可能性がある。 我々は,この非好ましくない行動を空間的説明の誤用とし,この現象を定量化する専用の指標を用いた解釈可能性ベンチマークを導入する。 さらに, 誤り補償手法を提案し, 既存の最先端モデルに適用する。 本ベンチマークの表現力と,提案手法の有効性を広範な実証実験により示す。

関連論文リスト

• SINDER: Repairing the Singular Defects of DINOv2 [61.98878352956125]
  大規模なデータセットでトレーニングされたビジョントランスフォーマーモデルは、抽出したパッチトークンにアーティファクトを表示することが多い。 本稿では,小さなデータセットのみを用いて構造欠陥を補正するスムーズなスムーズな正規化を提案する。
  論文  参考訳（メタデータ） (2024-07-23T20:34:23Z)
• Decom--CAM: Tell Me What You See, In Details! Feature-Level Interpretation via Decomposition Class Activation Map [23.71680014689873]
  クラスアクティベーションマップ(CAM)は、オブジェクトの位置をハイライトすることで深層モデルの予測を解釈するために広く使われている。 本稿では,分解クラス活性化マップ(Decom-CAM)と呼ばれる2段階の解釈可能性を提案する。 実験の結果,提案したDecom-CAMは最先端の手法よりも優れていた。
  論文  参考訳（メタデータ） (2023-05-27T14:33:01Z)
• Supervised Contrastive Learning with Heterogeneous Similarity for Distribution Shifts [3.7819322027528113]
  本稿では,教師付きコントラスト学習を用いた新たな正規化手法を提案する。 サブポピュレーションシフトや領域一般化などの分布シフトをエミュレートするベンチマークデータセットの実験は,提案手法の利点を実証している。
  論文  参考訳（メタデータ） (2023-04-07T01:45:09Z)
• Unsupervised Interpretable Basis Extraction for Concept-Based Visual Explanations [53.973055975918655]
  提案手法を用いて抽出したベースに変換すると,中間層表現がより解釈可能であることを示す。 提案手法は,提案手法を教師付きアプローチから抽出したベースと,教師付き手法から抽出したベースを比較した結果,教師なし手法は教師付き手法の限界を構成する強みを有し,今後の研究の方向性を示す。
  論文  参考訳（メタデータ） (2023-03-19T00:37:19Z)
• PNI : Industrial Anomaly Detection using Position and Neighborhood Information [6.316693022958221]
  本研究では,条件付き近傍特徴量を用いて正規分布を推定する新しいアルゴリズム textbfPNI を提案する。 我々はMVTec ADベンチマークデータセットの実験を行い、異常検出と局所化におけるtextbf99.56%と textbf98.98%のAUROCスコアを用いて最先端のパフォーマンスを達成した。
  論文  参考訳（メタデータ） (2022-11-22T23:45:27Z)
• Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
  我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。 我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。 製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
  論文  参考訳（メタデータ） (2022-06-23T14:16:30Z)
• Deconfounding Scores: Feature Representations for Causal Effect Estimation with Weak Overlap [140.98628848491146]
  推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。 分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。 特に,この手法が標準正規化の魅力的な代替となることを示す。
  論文  参考訳（メタデータ） (2021-04-12T18:50:11Z)
• Toward Scalable and Unified Example-based Explanation and Outlier Detection [128.23117182137418]
  我々は,試行錯誤の予測に例ベースの説明を与えることのできる,プロトタイプベースの学生ネットワークのより広範な採用を論じる。 類似カーネル以外のプロトタイプベースのネットワークは,分類精度を損なうことなく,有意義な説明と有望な外乱検出結果が得られることを示す。
  論文  参考訳（メタデータ） (2020-11-11T05:58:17Z)
• Explainable Deep Classification Models for Domain Generalization [94.43131722655617]
  説明は、深い分類網が決定を下す視覚的証拠の領域として定義される。 トレーニング戦略は周期的な正当性に基づくフィードバックを強制し、モデルが地中真実に直接対応する画像領域に焦点を合わせることを奨励する。
  論文  参考訳（メタデータ） (2020-03-13T22:22:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。