論文の概要: CF-CAM: Cluster Filter Class Activation Mapping for Reliable Gradient-Based Interpretability

• arxiv url: http://arxiv.org/abs/2504.00060v2
• Date: Wed, 23 Apr 2025 13:49:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-24 20:25:50.815341
• Title: CF-CAM: Cluster Filter Class Activation Mapping for Reliable Gradient-Based Interpretability
• Title（参考訳）: CF-CAM: 信頼性グラディエントベースの解釈可能性のためのクラスタフィルタクラス活性化マッピング
• Authors: Hongjie He, Xu Pan, Yudong Yao,
• Abstract要約: CAM(Class Activation Mapping)技術は、モデル決定を視覚化するための重要なアプローチとして登場した。 勾配に基づくCAM変種は、勾配ノイズによる勾配摂動に対する感受性に悩まされ、不安定で信頼性の低い説明をもたらす。 本稿では,勾配雑音に対する頑健性を高めつつ,勾配に基づく重み付けを再導入するクラスタフィルタクラス活性化マップ(CF-CAM)手法を提案する。
• 参考スコア（独自算出の注目度）: 16.032048689169866
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As deep learning continues to advance, the transparency of neural network decision-making remains a critical challenge, limiting trust and applicability in high-stakes domains. Class Activation Mapping (CAM) techniques have emerged as a key approach toward visualizing model decisions, yet existing methods face inherent trade-offs. Gradient-based CAM variants suffer from sensitivity to gradient perturbations due to gradient noise, leading to unstable and unreliable explanations. Conversely, gradient-free approaches mitigate gradient instability but incur significant computational overhead and inference latency. To address these limitations, we propose a Cluster Filter Class Activation Map (CF-CAM) technique, a novel framework that reintroduces gradient-based weighting while enhancing robustness against gradient noise. CF-CAM utilizes hierarchical importance weighting strategy to balance discriminative feature preservation and noise elimination. A density-aware channel clustering method via Density-Based Spatial Clustering of Applications with Noise (DBSCAN) groups semantically relevant feature channels and discard noise-prone activations. Additionally, cluster-conditioned gradient filtering leverages Gaussian filters to refine gradient signals, preserving edge-aware localization while suppressing noise impact. Experiment results demonstrate that CF-CAM achieves superior interpretability performance while enhancing computational efficiency, outperforming state-of-the-art CAM methods in faithfulness and robustness. By effectively mitigating gradient instability without excessive computational cost, CF-CAM provides a competitive solution for enhancing the interpretability of deep neural networks in critical applications such as autonomous driving and medical diagnosis.
• Abstract（参考訳）: ディープラーニングが進歩を続けるにつれて、ニューラルネットワークの意思決定の透明性は依然として重要な課題であり、高い領域における信頼と適用性を制限する。 CAM(Class Activation Mapping)技術は、モデル決定を視覚化するための重要なアプローチとして登場したが、既存のメソッドは固有のトレードオフに直面している。 勾配に基づくCAM変種は、勾配ノイズによる勾配摂動に対する感受性に悩まされ、不安定で信頼性の低い説明をもたらす。 逆に、勾配のないアプローチは勾配の不安定性を緩和するが、計算オーバーヘッドと推論遅延を著しく引き起こす。 これらの制約に対処するために,勾配雑音に対する頑健性を高めつつ,勾配に基づく重み付けを再導入する新しいフレームワークであるCluster Filter Class Activation Map (CF-CAM) 手法を提案する。 CF-CAMは階層的重み付け戦略を用いて識別的特徴保存とノイズ除去のバランスをとる。 雑音を伴うアプリケーションの密度に基づく空間クラスタリング(DBSCAN)グループによる密度対応チャネルクラスタリング手法 さらに、クラスタ条件の勾配フィルタはガウスフィルタを利用して勾配信号を洗練し、ノイズの影響を抑えながらエッジ認識の局所化を保存する。 実験の結果,CF-CAMは計算効率を向上し,信頼性と堅牢性において最先端のCAM法よりも優れることがわかった。 CF-CAMは、過度な計算コストなしで勾配不安定を効果的に緩和することにより、自律運転や診断などの重要な応用において、ディープニューラルネットワークの解釈可能性を高めるための競合ソリューションを提供する。

関連論文リスト

• Preconditioning Natural and Second Order Gradient Descent in Quantum Optimization: A Performance Benchmark [0.0]
  勾配雑音に対するBFGS更新を安定化するための新しい手法を提案する。 ノイズ感度に対処するため,BFGS更新にアペナル化を取り入れた結果が改善した。
  論文  参考訳（メタデータ） (2025-04-23T08:44:18Z)
• Robust Federated Learning Over the Air: Combating Heavy-Tailed Noise with Median Anchored Clipping [57.40251549664762]
  重み付き雑音による有害な影響に対処するため,メディアアンコールド・クリッピング (MAC) と呼ばれる新しい勾配クリッピング法を提案する。 また、MAC下でのアナログオーバー・ザ・エア・フェデレーション学習によるモデルトレーニングの収束率の解析式も導出する。
  論文  参考訳（メタデータ） (2024-09-23T15:11:40Z)
• Mjolnir: Breaking the Shield of Perturbation-Protected Gradients via Adaptive Diffusion [13.764770382623812]
  フェデレートラーニングにおける勾配摂動保護のシールドを破ろうとする試みについて紹介する。 摂動抵抗性勾配漏洩攻撃であるMjolnirを導入する。 Mjolnirは、オリジナルのモデル構造や外部データへのアクセスを必要とせずに、勾配から摂動を取り除くことができる。
  論文  参考訳（メタデータ） (2024-07-07T07:06:49Z)
• Expected Grad-CAM: Towards gradient faithfulness [7.2203673761998495]
  勾配重み付きCAMアプローチは依然としてバニラ勾配に依存している。 本研究は飽和度と感度問題に対処する勾配重み付きCAM増強法を提案する。
  論文  参考訳（メタデータ） (2024-06-03T12:40:30Z)
• DGNet: Dynamic Gradient-Guided Network for Water-Related Optics Image Enhancement [77.0360085530701]
  水中画像強調(UIE)は、水中環境によって引き起こされる複雑な劣化のために難しい課題である。 従来の手法では、劣化過程を理想化し、中音や物体の動きが画像の特徴の分布に与える影響を無視することが多い。 提案手法では,予測画像を用いて疑似ラベルを動的に更新し,動的勾配を加えてネットワークの勾配空間を最適化する。
  論文  参考訳（メタデータ） (2023-12-12T06:07:21Z)
• Signal Processing Meets SGD: From Momentum to Filter [6.751292200515355]
  ディープラーニングでは、勾配降下(SGD)とその運動量に基づく変種が最適化に広く利用されている。 本稿では,信号処理レンズを用いて勾配挙動を解析し,更新に影響を与える重要な要因を分離する。 本稿では,ワイナーフィルタの原理に基づく新しいSGDF手法を提案する。
  論文  参考訳（メタデータ） (2023-11-06T01:41:46Z)
• Achieving Constraints in Neural Networks: A Stochastic Augmented Lagrangian Approach [49.1574468325115]
  DNN(Deep Neural Networks)の正規化は、一般化性の向上とオーバーフィッティングの防止に不可欠である。 制約付き最適化問題としてトレーニングプロセスのフレーミングによるDNN正規化に対する新しいアプローチを提案する。 我々はAugmented Lagrangian (SAL) 法を用いて、より柔軟で効率的な正規化機構を実現する。
  論文  参考訳（メタデータ） (2023-10-25T13:55:35Z)
• Exploiting Low-confidence Pseudo-labels for Source-free Object Detection [54.98300313452037]
  Source-free Object Detection (SFOD) は、ラベル付きソースデータにアクセスすることなく、未ラベルのターゲットドメインにソーストレーニングされた検出器を適応することを目的としている。 現在のSFOD法は適応相におけるしきい値に基づく擬似ラベル手法を用いる。 疑似ラベルを最大限に活用するために,高信頼度と低信頼度しきい値を導入する手法を提案する。
  論文  参考訳（メタデータ） (2023-10-19T12:59:55Z)
• You Only Train Once: A Unified Framework for Both Full-Reference and No-Reference Image Quality Assessment [45.62136459502005]
  本稿では,完全な参照 (FR) と非参照 (NR) IQA を行うネットワークを提案する。 まず、入力画像から多レベル特徴を抽出するためにエンコーダを用いる。 FRおよびNR入力のユニバーサルアダプタとして階層的注意(HA)モジュールを提案する。 エンコーダの浅い層と深い層との間の特徴相関を調べるために, セマンティック・ディストーション・アウェア (SDA) モジュールを提案する。
  論文  参考訳（メタデータ） (2023-10-14T11:03:04Z)
• Domain Generalization Guided by Gradient Signal to Noise Ratio of Parameters [69.24377241408851]
  ソースドメインへのオーバーフィッティングは、ディープニューラルネットワークの勾配に基づくトレーニングにおいて一般的な問題である。 本稿では,ネットワークパラメータの勾配-信号-雑音比(GSNR)を選択することを提案する。
  論文  参考訳（メタデータ） (2023-10-11T10:21:34Z)
• Securing Distributed SGD against Gradient Leakage Threats [13.979995939926154]
  本稿では, 勾配漏れ弾性分布勾配Descent (SGD) に対する総合的アプローチを提案する。 プライバシー強化型フェデレーション学習の2つの方法として, (i) ランダム選択や低ランクフィルタリングによるグラデーションプルーニング, (ii) 付加的ランダムノイズや差分プライバシーノイズによる勾配摂動について分析した。 本稿では,分散SGDをフェデレート学習において確保するための勾配リーク耐性手法を提案する。
  論文  参考訳（メタデータ） (2023-05-10T21:39:27Z)
• Improved Analysis of Clipping Algorithms for Non-convex Optimization [19.507750439784605]
  最近、citetzhang 2019gradient show that clipped (stochastic) Gradient Descent (GD) converges faster than vanilla GD/SGD。 実験は、深層学習におけるクリッピングに基づく手法の優位性を確認する。
  論文  参考訳（メタデータ） (2020-10-05T14:36:59Z)
• Rectified Meta-Learning from Noisy Labels for Robust Image-based Plant Disease Diagnosis [64.82680813427054]
  植物病は食料安全保障と作物生産に対する主要な脅威の1つである。 1つの一般的なアプローチは、葉画像分類タスクとしてこの問題を変換し、強力な畳み込みニューラルネットワーク(CNN)によって対処できる。 本稿では,正規化メタ学習モジュールを共通CNNパラダイムに組み込んだ新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-17T09:51:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。