論文の概要: Spatial Attention Noise Masking for Causally Sufficient Interpretability

• arxiv url: http://arxiv.org/abs/2608.14725v1
• Date: Wed, 12 Aug 2026 13:47:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.052147
• Title: Spatial Attention Noise Masking for Causally Sufficient Interpretability
• Title（参考訳）: 因果的十分解釈性のための空間的アテンションノイズマスキング
• Abstract要約: 本稿では,分類前の入力画像を動的にマスキングするコンピュータビジョンモデルに対する解釈可能性に関する新しいアプローチを提案する。 ほとんどの解釈可能性法は、既に訓練されたモデルに受動的に適用され、通常は因果的説明よりも相関関係が生じる。 本研究は,予測に十分な特徴を因果的に説明する空間的アテンションノイズマスキングフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.21665689529884694
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present a novel causal approach to interpretability for computer vision models that dynamically masks the input image prior to classification. The interpretability of deep learning predictions is critical in high-stakes fields such as medical imaging, security, and autonomous driving. Most interpretability methods are applied passively to already trained models, which typically result in correlational rather than causal explanations. Existing causal interpretability methods are limited to post hoc analysis, weakening the causal claims. Additionally, existing active methods generally lack explanations that explicitly assign responsibility to input features. This work proposes a spatial attention noise masking framework that provides causal explanations about the features sufficient for the prediction. The proposed framework consists of: 1) a UNet-style mask generator, and 2) a Resnet18 encoder and linear classifier that classifies both masked and unmasked versions of an input image. The generated masks are regularized to be sparse and spatially smooth, while masked image embeddings are constrained to remain consistent with embeddings from the corresponding unmasked images. The resulting masks can be interpreted as feature attribution maps that are competitive with related interpretability methods while additionally providing strong causal explanations of model predictions. Quantitative evaluations demonstrate mask faithfulness, near-baseline classification performance across five classification tasks despite substantial masking of image information, and robustness to distribution shifts such as background swapping and natural adversarial examples. Qualitative comparisons further demonstrate mask behavior and competitive interpretability relative to state-of-the-art feature attribution methods.
• Abstract（参考訳）: 本稿では,分類前の入力画像を動的にマスキングするコンピュータビジョンモデルに対して,解釈可能性に対する新たな因果的アプローチを提案する。 深層学習予測の解釈可能性は、医療画像、セキュリティ、自律運転などの高度な分野において重要である。 ほとんどの解釈可能性法は、既に訓練されたモデルに受動的に適用され、通常は因果的説明よりも相関関係が生じる。 既存の因果的解釈可能性法は、因果的主張を弱めた後分析に限られている。 さらに、既存のアクティブメソッドは一般的に、入力機能に責任を明示的に割り当てる説明を欠いている。 本研究は,予測に十分な特徴を因果的に説明する空間的アテンションノイズマスキングフレームワークを提案する。 提案するフレームワークは以下の通りである。 1)UNet型マスクジェネレータ、及び 2)Resnet18エンコーダ及び線形分類器で、入力画像のマスク付き版と非マス付き版の両方を分類する。 生成されたマスクは、スパースで空間的に滑らかなように正規化され、マスクされた画像埋め込みは、対応する未マスク画像からの埋め込みと整合性を保つように拘束される。 得られたマスクは、関連する解釈可能性手法と競合する特徴属性マップとして解釈できると同時に、モデル予測の因果的説明も強く提供する。 定量的評価では、背景スワップや自然対向例などの分布変化に対するロバスト性、マスク忠実性、画像情報のマスキングに拘わらず5つの分類タスクにおけるほぼベースラインの分類性能を示す。 質的な比較は、最先端の特徴帰属法と比較して、マスクの挙動と競争的解釈可能性を示す。

関連論文リスト

• Activation Matching for Explanation Generation [10.850989126934317]
  我々は、任意の画像上の事前訓練された分類器の決定について、最小限の忠実な説明を生成する。 説明$e = m odot x$がモデルの予測と(x)の中間活性化の両方を保持するように、軽量なオートエンコーダを訓練してバイナリマスク$m$を出力する。 i) 画像と説明の両方においてトップ1ラベルを保持するために分布とクロスエントロピーを整列するKL発散と多層アクティベーションマッチングを組み合わせる。
  論文  参考訳（メタデータ） (2025-09-27T02:12:09Z)
• Evolved Hierarchical Masking for Self-Supervised Learning [49.77271430882176]
  既存のマスケ画像モデリング手法では、固定マスクパターンを適用して自己指導型トレーニングを指導する。 本稿では,自己教師型学習における一般的な視覚的手がかりモデリングを追求する階層型マスキング手法を提案する。
  論文  参考訳（メタデータ） (2025-04-12T09:40:14Z)
• Open-Vocabulary Segmentation with Unpaired Mask-Text Supervision [87.15580604023555]
  Unpair-Segは、弱制御されたオープン語彙セグメンテーションフレームワークである。 未ペア画像マスクと画像テキストペアから学習し、独立して効率的に収集することができる。 ADE-847とPASCAL Context-459データセットで14.6%と19.5%のmIoUを達成した。
  論文  参考訳（メタデータ） (2024-02-14T06:01:44Z)
• Counterfactual Image Generation for adversarially robust and interpretable Classifiers [1.3859669037499769]
  本稿では,GAN(Generative Adrial Networks)を基盤として,画像から画像への変換を利用した統合フレームワークを提案する。 これは、分類器と識別器を1つのモデルに組み合わせて、実際の画像をそれぞれのクラスに属性付け、生成されたイメージを「フェイク」として生成することで達成される。 モデルが敵攻撃に対するロバスト性の向上を示すことを示すとともに,判別器の「フェイクネス」値が予測の不確かさの指標となることを示す。
  論文  参考訳（メタデータ） (2023-10-01T18:50:29Z)
• MaskDiffusion: Boosting Text-to-Image Consistency with Conditional Mask [84.84034179136458]
  テキスト・イメージのミスマッチ問題に繋がる重要な要因は、モダリティ間の関係学習の不十分さである。 本稿では,注目マップと迅速な埋め込みを条件とした適応マスクを提案し,画像特徴に対する各テキストトークンの寄与度を動的に調整する。 この手法はMaskDiffusionと呼ばれ、トレーニング不要で、一般的な事前学習拡散モデルに対してホットプラグ可能である。
  論文  参考訳（メタデータ） (2023-09-08T15:53:37Z)
• Robust Infidelity: When Faithfulness Measures on Masked Language Models Are Misleading [5.124348720450654]
  繰り返しマスキングは、それと同等のトランスフォーマーエンコーダテキスト分類器間の忠実度スコアに大きな変化をもたらすことを示す。 本稿では,反復型マスキングを用いた解釈可能性比較の原則的比較を損なうタスク固有の考察を考察する。
  論文  参考訳（メタデータ） (2023-08-13T15:44:39Z)
• Learning to Mask and Permute Visual Tokens for Vision Transformer Pre-Training [55.12082817901671]
  我々はMasked and Permuted Vision Transformer(MaPeT)という自己教師型事前学習手法を提案する。 MaPeTは、自動回帰および置換予測を使用して、パッチ内依存関係をキャプチャする。 以上の結果から,MaPeTはベースラインやコンペティターと同一のモデル設定で比較して,ImageNet上での競合性能を実証した。
  論文  参考訳（メタデータ） (2023-06-12T18:12:19Z)
• Improving Masked Autoencoders by Learning Where to Mask [65.89510231743692]
  マスケ画像モデリングは視覚データに対する有望な自己教師型学習手法である。 本稿では,Gumbel-Softmax を用いて,対向学習マスク生成装置とマスク誘導画像モデリングプロセスとを相互接続するフレームワーク AutoMAE を提案する。 実験の結果,AutoMAEは,標準の自己監督型ベンチマークや下流タスクに対して,効果的な事前学習モデルを提供することがわかった。
  論文  参考訳（メタデータ） (2023-03-12T05:28:55Z)
• Towards Improved Input Masking for Convolutional Neural Networks [66.99060157800403]
  層マスキングと呼ぶCNNのための新しいマスキング手法を提案する。 本手法は,マスク形状や色がモデル出力に与える影響を排除あるいは最小化することができることを示す。 また,マスクの形状がクラスに関する情報を漏洩させる可能性を示し,クラス関連特徴に対するモデル依存度の推定に影響を及ぼすことを示した。
  論文  参考訳（メタデータ） (2022-11-26T19:31:49Z)
• Explaining Image Classifiers with Multiscale Directional Image Representation [4.29434097275489]
  本稿では,シャーレット変換に基づく画像分類器のマスク説明手法であるShearletXを提案する。 本手法を支援するために,説明人工物に関する数学的定義と,マスク説明の質を評価するための情報理論スコアを提案する。
  論文  参考訳（メタデータ） (2022-11-22T09:24:45Z)
• Explaining Image Classifiers Using Contrastive Counterfactuals in Generative Latent Spaces [12.514483749037998]
  本稿では,画像分類器の因果的かつ解釈可能な反事実的説明を生成する新しい手法を提案する。 我々は、ブラックボックス分類器のグローバルな説明として、コントラスト的かつ因果的満足度と必要性スコアを得るために、このフレームワークを使用します。
  論文  参考訳（メタデータ） (2022-06-10T17:54:46Z)
• What You See is What You Classify: Black Box Attributions [61.998683569022006]
  我々は、トレーニング済みのブラックボックス分類器であるExpplanandumの属性を予測するために、ディープネットワークであるExplainerを訓練する。 既存のほとんどのアプローチとは異なり、我々の手法はクラス固有のマスクを直接生成することができる。 我々の属性は、視覚的および定量的に確立された方法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-05-23T12:30:04Z)
• Investigating and Simplifying Masking-based Saliency Methods for Model Interpretability [5.387323728379395]
  画像の最も情報性の高い領域を識別する残差マップは、モデル解釈可能性に有用である。 唾液マップを作成するための一般的なアプローチは、画像の一部をマスクする入力マスクを生成することである。 マスキングモデルでは,クラス毎に10個のサンプルをトレーニングすることが可能であり,ローカライズエラーが0.7ポイントしか増加せず,いまだにサリエンシマップを生成可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-19T18:00:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。