論文の概要: Assessing the Noise Robustness of Class Activation Maps: A Framework for Reliable Model Interpretability

• arxiv url: http://arxiv.org/abs/2508.18154v1
• Date: Mon, 25 Aug 2025 15:59:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-26 18:43:45.850534
• Title: Assessing the Noise Robustness of Class Activation Maps: A Framework for Reliable Model Interpretability
• Title（参考訳）: クラスアクティベーションマップのノイズロバスト性の評価:信頼度モデル解釈のためのフレームワーク
• Authors: Syamantak Sarkar, Revoti P. Bora, Bhupender Kaushal, Sudhish N George, Kiran Raja,
• Abstract要約: クラスアクティベーションマップ(CAM)は、ディープラーニングモデルで使用される領域を視覚化する重要な手法の1つである。 我々は、複数のアーキテクチャやデータセットにまたがる様々なノイズ摂動に対する各種CAM手法のレジリエンスを評価し、報告する。 一貫性と応答性という2つの重要な特性を捉えるCAMのロバストネス指標を提案する。
• 参考スコア（独自算出の注目度）: 0.49723254992699345
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Class Activation Maps (CAMs) are one of the important methods for visualizing regions used by deep learning models. Yet their robustness to different noise remains underexplored. In this work, we evaluate and report the resilience of various CAM methods for different noise perturbations across multiple architectures and datasets. By analyzing the influence of different noise types on CAM explanations, we assess the susceptibility to noise and the extent to which dataset characteristics may impact explanation stability. The findings highlight considerable variability in noise sensitivity for various CAMs. We propose a robustness metric for CAMs that captures two key properties: consistency and responsiveness. Consistency reflects the ability of CAMs to remain stable under input perturbations that do not alter the predicted class, while responsiveness measures the sensitivity of CAMs to changes in the prediction caused by such perturbations. The metric is evaluated empirically across models, different perturbations, and datasets along with complementary statistical tests to exemplify the applicability of our proposed approach.
• Abstract（参考訳）: クラスアクティベーションマップ(CAM)は、ディープラーニングモデルで使用される領域を視覚化する重要な手法の1つである。 しかし、異なる雑音に対する頑健さは未解明のままである。 本研究では,複数のアーキテクチャやデータセットにまたがる様々なノイズ摂動に対する各種CAM手法のレジリエンスを評価し,報告する。 CAM説明に対する異なるノイズの種類の影響を解析することにより、雑音に対する感受性と、データセット特性が説明安定にどのような影響を及ぼすかを評価する。 その結果, 各種CAMの雑音感度に有意な変動が認められた。 一貫性と応答性という2つの重要な特性を捉えるCAMのロバストネス指標を提案する。 一貫性は、CAMが予測されたクラスを変えない入力摂動の下で安定な状態を保つことを反映し、応答性はそのような摂動によって引き起こされる予測の変化に対するCAMの感度を測定する。 提案手法の適用性を実証するために, モデル, 異なる摂動, データセット, および相補的な統計的試験を経験的に評価した。

関連論文リスト

• Evaluating ML Robustness in GNSS Interference Classification, Characterization & Localization [42.14439854721613]
  ジャミング装置はグローバルナビゲーション衛星システム(GNSS)からの信号を妨害する 本稿では、低周波アンテナから得られたスナップショットからなる広範囲なデータセットを提案する。 本研究の目的は,機械学習モデル(ML)の環境変化に対するレジリエンスを評価することである。
  論文  参考訳（メタデータ） (2024-09-23T15:20:33Z)
• Effective Causal Discovery under Identifiable Heteroscedastic Noise Model [45.98718860540588]
  因果DAG学習は、最近精度と効率の両面で有望な性能を達成した。 本稿では,変数間のノイズ分散の変動を考慮したDAG学習のための新しい定式化を提案する。 次に、最適化の難しさに対処する効果的な2相反復DAG学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-12-20T08:51:58Z)
• An Investigation of Noise in Morphological Inflection [21.411766936034]
  本研究は, パイプライン内で発生するノイズの種類を, 真の教師なし形態素パラダイムの完成のために検討する。 異なる種類のノイズが複数の最先端インフレクションモデルに与える影響を比較した。 本稿では,文字レベルのマスク付き言語モデリング(CMLM)の事前学習手法を提案する。
  論文  参考訳（メタデータ） (2023-05-26T02:14:34Z)
• Towards Inferential Reproducibility of Machine Learning Research [16.223631948455797]
  非決定性のいくつかの源は測定ノイズとみなすことができる。 研究結果の無視を強制するためにノイズを取り除く傾向は、実装レベルでは非決定論的である。 本稿では,データ特性との相互作用を含む分散の源泉を,機械学習評価の重要度と信頼性の分析に組み入れることを提案する。
  論文  参考訳（メタデータ） (2023-02-08T13:47:00Z)
• Improve Noise Tolerance of Robust Loss via Noise-Awareness [60.34670515595074]
  本稿では,NARL-Adjuster(NARL-Adjuster for brevity)と呼ばれる,ハイパーパラメータ予測関数を適応的に学習するメタラーニング手法を提案する。 4つのSOTAロバストな損失関数を我々のアルゴリズムに統合し,提案手法の一般性および性能をノイズ耐性と性能の両面で検証した。
  論文  参考訳（メタデータ） (2023-01-18T04:54:58Z)
• Treatment Learning Causal Transformer for Noisy Image Classification [62.639851972495094]
  本研究では,この2値情報「ノイズの存在」を画像分類タスクに組み込んで予測精度を向上させる。 因果的変動推定から動機付け,雑音画像分類のための頑健な特徴表現を潜在生成モデルを用いて推定するトランスフォーマーに基づくアーキテクチャを提案する。 また、パフォーマンスベンチマークのための幅広いノイズ要素を取り入れた、新しいノイズの多い画像データセットも作成する。
  論文  参考訳（メタデータ） (2022-03-29T13:07:53Z)
• Adaptive Multi-View ICA: Estimation of noise levels for optimal inference [65.94843987207445]
  Adaptive MultiView ICA (AVICA) はノイズの多いICAモデルであり、各ビューは共有された独立したソースと付加的なノイズの線形混合である。 AVICAは、その明示的なMMSE推定器により、他のICA法よりも優れたソース推定値が得られる。 実脳磁図(MEG)データでは,分解がサンプリングノイズに対する感度が低く,ノイズ分散推定が生物学的に妥当であることを示す。
  論文  参考訳（メタデータ） (2021-02-22T13:10:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。