論文の概要: Now you see me! A framework for obtaining class-relevant saliency maps

• arxiv url: http://arxiv.org/abs/2503.07346v1
• Date: Mon, 10 Mar 2025 13:59:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-11 15:50:57.214687
• Title: Now you see me! A framework for obtaining class-relevant saliency maps
• Title（参考訳）: さあ、私を見てください!クラス関連サリエンシマップを取得するためのフレームワーク
• Authors: Nils Philipp Walter, Jilles Vreeken, Jonas Fischer,
• Abstract要約: ニューラルネットワークが特定の予測に使用する入力特徴を理解するために、サリエンシマップが開発された。 広く使われているが、これらの手法は、分類のきっかけとなった特定の情報を特定するのに失敗した、過度に一般的な衛生マップをもたらすことが多い。 我々は、クラス間の属性を組み込んで、実際にクラス関連情報をキャプチャする有給マップに到達できるフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 38.663697418404546
• License:
• Abstract: Neural networks are part of daily-life decision-making, including in high-stakes settings where understanding and transparency are key. Saliency maps have been developed to gain understanding into which input features neural networks use for a specific prediction. Although widely employed, these methods often result in overly general saliency maps that fail to identify the specific information that triggered the classification. In this work, we suggest a framework that allows to incorporate attributions across classes to arrive at saliency maps that actually capture the class-relevant information. On established benchmarks for attribution methods, including the grid-pointing game and randomization-based sanity checks, we show that our framework heavily boosts the performance of standard saliency map approaches. It is, by design, agnostic to model architectures and attribution methods and now allows to identify the distinguishing and shared features used for a model prediction.
• Abstract（参考訳）: ニューラルネットワークは日々の意思決定の一部であり、理解と透明性が鍵となるハイテイクな設定を含む。 ニューラルネットワークが特定の予測に使用する入力特徴を理解するために、サリエンシマップが開発された。 広く使われているが、これらの手法は、分類のきっかけとなった特定の情報を特定するのに失敗した、過度に一般的な衛生マップをもたらすことが多い。 本研究では,クラス間の属性を組み込んで,実際にクラス関連情報をキャプチャする有能なマップに到達するためのフレームワークを提案する。 グリッドポインティングゲームやランダム化による正当性チェックなどの帰属性評価手法の確立したベンチマークから,本フレームワークが標準正当性マップ手法の性能を大幅に向上させることを示す。 設計上、モデルアーキテクチャや属性メソッドに非依存であり、モデル予測に使用される特徴の識別と共有を可能にする。

関連論文リスト

• Visual-TCAV: Concept-based Attribution and Saliency Maps for Post-hoc Explainability in Image Classification [3.9626211140865464]
  近年,畳み込みニューラルネットワーク(CNN)のパフォーマンスが大幅に向上している。 しかし、そのサイズと複雑さのため、ブラックボックスとして機能し、透明性の懸念につながります。 本稿では,これらの手法間のギャップを埋めることを目的とした,ポストホックな説明可能性フレームワークであるVisual-TCAVを紹介する。
  論文  参考訳（メタデータ） (2024-11-08T16:52:52Z)
• Attri-Net: A Globally and Locally Inherently Interpretable Model for Multi-Label Classification Using Class-Specific Counterfactuals [4.384272169863716]
  高度な医療応用において、解釈可能性は機械学習アルゴリズムにとって不可欠である。 Attri-Netは、ローカルおよびグローバルな説明を提供するマルチラベル分類の本質的に解釈可能なモデルである。
  論文  参考訳（メタデータ） (2024-06-08T13:52:02Z)
• Interpretable Network Visualizations: A Human-in-the-Loop Approach for Post-hoc Explainability of CNN-based Image Classification [5.087579454836169]
  State-of-the-art explainability Method は、特定のクラスが特定された場所を示すために、サリエンシマップを生成する。 本稿では,畳み込みニューラルネットワークの機能抽出プロセス全体を説明するポストホック手法を提案する。 また,複数の画像にラベルを集約することで,グローバルな説明を生成する手法を提案する。
  論文  参考訳（メタデータ） (2024-05-06T09:21:35Z)
• A Fixed-Point Approach to Unified Prompt-Based Counting [51.20608895374113]
  本研究の目的は,ボックス,ポイント,テキストなど,さまざまなプロンプト型で示されるオブジェクトの密度マップを生成することができる包括的プロンプトベースのカウントフレームワークを確立することである。 本モデルは,クラスに依存しない顕著なデータセットに優れ,データセット間の適応タスクにおいて優れた性能を示す。
  論文  参考訳（メタデータ） (2024-03-15T12:05:44Z)
• Mapping High-level Semantic Regions in Indoor Environments without Object Recognition [50.624970503498226]
  本研究では,屋内環境における埋め込みナビゲーションによる意味領域マッピング手法を提案する。 地域識別を実現するために,視覚言語モデルを用いて地図作成のためのシーン情報を提供する。 グローバルなフレームにエゴセントリックなシーン理解を投影することにより、提案手法は各場所の可能な領域ラベル上の分布としてのセマンティックマップを生成する。
  論文  参考訳（メタデータ） (2024-03-11T18:09:50Z)
• Neural Map Prior for Autonomous Driving [17.198729798817094]
  高精細(HD)セマンティックマップは、自動運転車が都市環境をナビゲートするために不可欠である。 オフラインのHDマップを作成する従来の方法には、労働集約的な手動アノテーションプロセスが含まれる。 近年,オンラインセンサを用いた局所地図作成手法が提案されている。 本研究では,グローバルマップのニューラル表現であるニューラルマッププライオリティ(NMP)を提案する。
  論文  参考訳（メタデータ） (2023-04-17T17:58:40Z)
• LEAD: Self-Supervised Landmark Estimation by Aligning Distributions of Feature Similarity [49.84167231111667]
  自己監督型ランドマーク検出における既存の研究は、画像から高密度(ピクセルレベルの)特徴表現を学習することに基づいている。 自己教師付き方式で高密度同変表現の学習を強化するアプローチを提案する。 機能抽出器にそのような先行性があることは,アノテーションの数が大幅に制限されている場合でも,ランドマーク検出に役立ちます。
  論文  参考訳（メタデータ） (2022-04-06T17:48:18Z)
• Visualization of Supervised and Self-Supervised Neural Networks via Attribution Guided Factorization [87.96102461221415]
  クラスごとの説明性を提供するアルゴリズムを開発した。 実験の広範なバッテリーでは、クラス固有の可視化のための手法の能力を実証する。
  論文  参考訳（メタデータ） (2020-12-03T18:48:39Z)
• Region Comparison Network for Interpretable Few-shot Image Classification [97.97902360117368]
  新しいクラスのモデルをトレーニングするために、ラベル付きサンプルの限られた数だけを効果的に活用するための画像分類が提案されている。 本研究では,領域比較ネットワーク (RCN) と呼ばれる距離学習に基づく手法を提案する。 また,タスクのレベルからカテゴリへの解釈可能性の一般化も提案する。
  論文  参考訳（メタデータ） (2020-09-08T07:29:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。