論文の概要: Decoupling Pixel Flipping and Occlusion Strategy for Consistent XAI Benchmarks

• arxiv url: http://arxiv.org/abs/2401.06654v1
• Date: Fri, 12 Jan 2024 16:01:17 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-15 18:56:07.037752
• Title: Decoupling Pixel Flipping and Occlusion Strategy for Consistent XAI Benchmarks
• Title（参考訳）: 一貫性XAIベンチマークのためのフラッピングとオクルージョン戦略の分離
• Authors: Stefan Bl\"ucher, Johanna Vielhaben, Nils Strodthoff
• Abstract要約: 閉塞戦略は、単純な平均置換から、最先端拡散モデルによる塗装まで、大きく異なる可能性がある。 PFベンチマークは、ランキングに矛盾する結果となった。 特徴は、最も影響力のある第1(MIF)から始まるか、最も影響力の低い第1(LIF)から削除される。
• 参考スコア（独自算出の注目度）: 1.068128849363198
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Feature removal is a central building block for eXplainable AI (XAI), both for occlusion-based explanations (Shapley values) as well as their evaluation (pixel flipping, PF). However, occlusion strategies can vary significantly from simple mean replacement up to inpainting with state-of-the-art diffusion models. This ambiguity limits the usefulness of occlusion-based approaches. For example, PF benchmarks lead to contradicting rankings. This is amplified by competing PF measures: Features are either removed starting with most influential first (MIF) or least influential first (LIF). This study proposes two complementary perspectives to resolve this disagreement problem. Firstly, we address the common criticism of occlusion-based XAI, that artificial samples lead to unreliable model evaluations. We propose to measure the reliability by the R(eference)-Out-of-Model-Scope (OMS) score. The R-OMS score enables a systematic comparison of occlusion strategies and resolves the disagreement problem by grouping consistent PF rankings. Secondly, we show that the insightfulness of MIF and LIF is conversely dependent on the R-OMS score. To leverage this, we combine the MIF and LIF measures into the symmetric relevance gain (SRG) measure. This breaks the inherent connection to the underlying occlusion strategy and leads to consistent rankings. This resolves the disagreement problem, which we verify for a set of 40 different occlusion strategies.
• Abstract（参考訳）: 特徴除去は、排他的説明(共有値)と評価(ピクセルフリップ、PF)の両方のための、eXplainable AI(XAI)のための中心的なビルディングブロックである。 しかし、咬合戦略は単純な平均置換から最先端の拡散モデルによる塗装まで大きく異なる可能性がある。 この曖昧さは、排他的アプローチの有用性を制限する。 例えば、PFベンチマークはランキングに矛盾する。 特徴は、最も影響力のある第1(MIF)から始まるか、最も影響力の低い第1(LIF)から削除される。 本研究は、この不一致問題を解決するための2つの相補的視点を提案する。 まず,人工試料が信頼性の低いモデル評価につながるという,オクルージョンに基づくXAIの一般的な批判に対処する。 本稿では,R(eference)-Out-of-Model-Scope(OMS)スコアによる信頼性の測定を提案する。 R-OMSスコアは、オクルージョン戦略の体系的な比較を可能にし、一貫性のあるPFランキングをグループ化することで、不一致を解消する。 第2に,MIFとLIFの洞察力はR-OMSスコアに反比例することを示した。 これを活用するために、MIF と LIF の測度を対称相対性ゲイン(SRG)測度に組み合わせる。 これは、根底にある閉塞戦略と固有のつながりを壊し、一貫性のあるランキングにつながる。 これにより、40の異なるオクルージョン戦略の集合を検証できる不一致問題を解消する。

関連論文リスト

• A Simple and Generalist Approach for Panoptic Segmentation [57.94892855772925]
  汎用的なビジョンモデルは、様々なビジョンタスクのための1つの同じアーキテクチャを目指している。 このような共有アーキテクチャは魅力的に思えるかもしれないが、ジェネラリストモデルは、その好奇心に満ちたモデルよりも優れている傾向にある。 一般モデルの望ましい性質を損なうことなく、2つの重要なコントリビューションを導入することでこの問題に対処する。
  論文  参考訳（メタデータ） (2024-08-29T13:02:12Z)
• Confronting Reward Model Overoptimization with Constrained RLHF [114.71591361764547]
  成分RM間の相関がこれらの点の位置に有意な影響を及ぼすことを示す。 ラグランジュ乗算器によって自然に表現される動的重みを学習することで、成分RMの重み付けの問題に対処する。
  論文  参考訳（メタデータ） (2023-10-06T16:59:17Z)
• AFPN: Asymptotic Feature Pyramid Network for Object Detection [16.86715579071991]
  本稿では,非隣接レベルでの直接対話を支援する機能ピラミッドネットワーク(AFPN)を提案する。 AFPNは隣接する2つの低レベル特徴を融合させ、融合プロセスに高レベル特徴を実現する。 提案したAFPNを2段階および1段階のオブジェクト検出フレームワークに組み込んで,MS-COCO 2017バリデーションとテストデータセットを用いて評価する。
  論文  参考訳（メタデータ） (2023-06-28T07:58:49Z)
• Deep Metric Learning with Soft Orthogonal Proxies [1.823505080809275]
  本稿では,プロキシにソフト直交性(SO)制約を導入する新しいアプローチを提案する。 提案手法では,DMLの目的と合わせて,画像からコンテキスト特徴を抽出するエンコーダとして,データ効率の良い画像変換器(DeiT)を利用する。 提案手法が最先端手法よりも有意なマージンで優れていることを示す。
  論文  参考訳（メタデータ） (2023-06-22T17:22:15Z)
• Boosting Few-shot Fine-grained Recognition with Background Suppression and Foreground Alignment [53.401889855278704]
  FS-FGR (Few-shot Fine-fine Recognition) は、限られたサンプルの助けを借りて、新しいきめ細かなカテゴリを認識することを目的としている。 本研究では,背景アクティベーション抑制 (BAS) モジュール,フォアグラウンドオブジェクトアライメント (FOA) モジュール,および局所的局所的(L2L) 類似度測定器からなる2段階の背景アライメントとフォアグラウンドアライメントフレームワークを提案する。 複数のベンチマークで行った実験により,提案手法は既存の最先端技術よりも大きなマージンで優れていることが示された。
  論文  参考訳（メタデータ） (2022-10-04T07:54:40Z)
• Quality-aware Part Models for Occluded Person Re-identification [77.24920810798505]
  咬合は人体再識別(ReID)にとって大きな課題となる 既存のアプローチは一般的に、計算効率とReIDの精度の両面で最適であるように、目に見える身体の部品を推測するための外部ツールに依存している。 閉塞型ReIDのためのQPM(Quality-Aware Part Models)という新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-01-01T03:51:09Z)
• Learning to Estimate Hidden Motions with Global Motion Aggregation [71.12650817490318]
  閉塞は、局所的な証拠に依存する光学フローアルゴリズムに重大な課題をもたらす。 最初の画像でピクセル間の長距離依存性を見つけるために,グローバルモーションアグリゲーションモジュールを導入する。 遮蔽領域における光流量推定が非遮蔽領域における性能を損なうことなく大幅に改善できることを実証した。
  論文  参考訳（メタデータ） (2021-04-06T10:32:03Z)
• Policy Evaluation and Seeking for Multi-Agent Reinforcement Learning via Best Response [15.149039407681945]
  多エージェント強化学習におけるメタレベルでの利己的な振る舞いをモデル化するために、厳密なベストレスポンスダイナミクスを採用する。 我々のアプローチは、弱い応答に依存するアルファランクよりもシングルエージェント強化学習と互換性がある。
  論文  参考訳（メタデータ） (2020-06-17T01:17:52Z)
• Enhancing Geometric Factors in Model Learning and Inference for Object Detection and Instance Segmentation [91.12575065731883]
  境界ボックス回帰および非最大抑圧(NMS)における幾何学的要素の強化を目的とした完全IoU損失とクラスタNMSを提案する。 CIoU損失を用いたディープラーニングモデルのトレーニングは、広く採用されている$ell_n$-norm損失とIoUベースの損失と比較して、一貫性のあるAPとARの改善をもたらす。 クラスタ-NMSは、純粋なGPU実装のため非常に効率的であり、APとARの両方を改善するために幾何学的要素を組み込むことができる。
  論文  参考訳（メタデータ） (2020-05-07T16:00:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。