論文の概要: CF-CAM: Gradient Perturbation Mitigation and Feature Stabilization for Reliable Interpretability

• arxiv url: http://arxiv.org/abs/2504.00060v1
• Date: Mon, 31 Mar 2025 12:20:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-03 13:25:43.250497
• Title: CF-CAM: Gradient Perturbation Mitigation and Feature Stabilization for Reliable Interpretability
• Title（参考訳）: CF-CAM: グラディエント摂動緩和と信頼性評価のための特徴安定化
• Authors: Hongjie He, Xu Pan, Yudong Yao,
• Abstract要約: モデル決定を視覚化するための重要なアプローチとして、クラス活性化マッピング(CAM)技術が登場した。 勾配に基づくCAM変種は、勾配の摂動に対する感受性に悩まされ、不安定で信頼性の低い説明をもたらす。 本稿では,勾配に基づく重み付けを再導入する新しいフレームワークであるCluster Filter Class Activation Map (CF-CAM)を提案する。
• 参考スコア（独自算出の注目度）: 16.032048689169866
• License:
• Abstract: As deep learning continues to advance, the opacity of neural network decision-making remains a critical challenge, limiting trust and applicability in high-stakes domains. Class Activation Mapping (CAM) techniques have emerged as a key approach to visualizing model decisions, yet existing methods face inherent trade-offs. Gradient-based CAM variants suffer from sensitivity to gradient perturbations, leading to unstable and unreliable explanations. Conversely, gradient-free approaches mitigate gradient instability but incur significant computational overhead and inference latency. To address these limitations, we propose Cluster Filter Class Activation Map (CF-CAM), a novel framework that reintroduces gradient-based weighting while enhancing robustness against gradient noise. CF-CAM employs a hierarchical importance weighting strategy to balance discriminative feature preservation and noise elimination. A density-aware channel clustering via Density-Based Spatial Clustering of Applications with Noise (DBSCAN) groups semantically relevant feature channels and discard noise-prone activations. Additionally, cluster-conditioned gradient filtering leverages bilateral filters to refine gradient signals, preserving edge-aware localization while suppressing noise impact. Experiment results demonstrate that CF-CAM achieves superior interpretability performance while maintaining resilience to gradient perturbations, outperforming state-of-the-art CAM methods in faithfulness and robustness. By effectively mitigating gradient instability without excessive computational cost, CF-CAM provides a reliable solution for enhancing the interpretability of deep neural networks in critical applications such as medical diagnosis and autonomous driving.
• Abstract（参考訳）: ディープラーニングが進歩を続けるにつれて、ニューラルネットワークの意思決定の不透明さは依然として重要な課題であり、高い領域における信頼と適用性を制限する。 モデル決定を視覚化するための重要なアプローチとして、クラス活性化マッピング(CAM)技術が登場したが、既存のメソッドは本質的にトレードオフに直面している。 勾配に基づくCAM変種は、勾配の摂動に対する感受性に悩まされ、不安定で信頼性の低い説明をもたらす。 逆に、勾配のないアプローチは勾配の不安定性を緩和するが、計算オーバーヘッドと推論遅延を著しく引き起こす。 これらの制約に対処するために,勾配雑音に対する頑健性を高めつつ勾配に基づく重み付けを再導入する新しいフレームワークであるCluster Filter Class Activation Map (CF-CAM)を提案する。 CF-CAMは、識別的特徴保存とノイズ除去のバランスをとるために階層的な重み付け戦略を採用している。 密度に基づくSpatial Clustering of Applications with Noise (DBSCAN)グループによる密度対応チャネルクラスタリングとノイズの発するアクティベーションの破棄。 さらに、クラスタ条件の勾配フィルタは、二元フィルタを利用して勾配信号を洗練し、ノイズの影響を抑えながらエッジ認識の局所化を保存する。 その結果、CF-CAMは、勾配摂動に対するレジリエンスを維持しつつ、信頼性とロバスト性において最先端のCAM法より優れた解釈性を実現することが実証された。 CF-CAMは、過度な計算コストなしで勾配不安定を効果的に緩和することにより、医療診断や自律運転といった重要な応用において、ディープニューラルネットワークの解釈可能性を高める信頼性の高いソリューションを提供する。

関連論文リスト

• Uncertainty-aware retinal layer segmentation in OCT through probabilistic signed distance functions [6.765624289092461]
  オプティカルコヒーレンス・トモグラフィー(OCT)スキャンにおける不確実性認識網膜層セグメンテーションの新しいアプローチを提案する。 本手法は、レベルセットを介して網膜層形状を効果的にパラメータ化する符号付き距離関数(SDF)を予測することにより、セグメンテーションを洗練する。 これにより、あいまいな入力、撮像ノイズ、信頼できないセグメンテーションが存在する場合でも、網膜層の堅牢な表現が保証される。
  論文  参考訳（メタデータ） (2024-12-06T10:44:11Z)
• Robust Federated Learning Over the Air: Combating Heavy-Tailed Noise with Median Anchored Clipping [57.40251549664762]
  重み付き雑音による有害な影響に対処するため,メディアアンコールド・クリッピング (MAC) と呼ばれる新しい勾配クリッピング法を提案する。 また、MAC下でのアナログオーバー・ザ・エア・フェデレーション学習によるモデルトレーニングの収束率の解析式も導出する。
  論文  参考訳（メタデータ） (2024-09-23T15:11:40Z)
• Stable Neighbor Denoising for Source-free Domain Adaptive Segmentation [91.83820250747935]
  擬似ラベルノイズは主に不安定なサンプルに含まれており、ほとんどのピクセルの予測は自己学習中に大きく変化する。 我々は, 安定・不安定な試料を効果的に発見する, SND(Stable Neighbor Denoising)アプローチを導入する。 SNDは、様々なSFUDAセマンティックセグメンテーション設定における最先端メソッドよりも一貫して優れている。
  論文  参考訳（メタデータ） (2024-06-10T21:44:52Z)
• Expected Grad-CAM: Towards gradient faithfulness [7.2203673761998495]
  勾配重み付きCAMアプローチは依然としてバニラ勾配に依存している。 本研究は飽和度と感度問題に対処する勾配重み付きCAM増強法を提案する。
  論文  参考訳（メタデータ） (2024-06-03T12:40:30Z)
• Boosting Visual Recognition in Real-world Degradations via Unsupervised Feature Enhancement Module with Deep Channel Prior [22.323789227447755]
  霧、低照度、動きのぼかしは画像の品質を低下させ、自動運転の安全性を脅かす。 本研究は、劣化した視覚認識のための新しいDeep Channel Prior (DCP)を提案する。 これに基づいて、教師なし特徴補正を実現するために、新しいプラグアンドプレイunsupervised Feature Enhancement Module (UFEM)を提案する。
  論文  参考訳（メタデータ） (2024-04-02T07:16:56Z)
• Neighbor-Aware Calibration of Segmentation Networks with Penalty-Based Constraints [19.897181782914437]
  本稿では,ロジット値の等式制約に基づく基本的かつ単純な解を提案し,強制制約と罰則の重みを明示的に制御する。 我々のアプローチは、広範囲のディープセグメンテーションネットワークのトレーニングに利用できる。
  論文  参考訳（メタデータ） (2024-01-25T19:46:57Z)
• DGNet: Dynamic Gradient-Guided Network for Water-Related Optics Image Enhancement [77.0360085530701]
  水中画像強調(UIE)は、水中環境によって引き起こされる複雑な劣化のために難しい課題である。 従来の手法では、劣化過程を理想化し、中音や物体の動きが画像の特徴の分布に与える影響を無視することが多い。 提案手法では,予測画像を用いて疑似ラベルを動的に更新し,動的勾配を加えてネットワークの勾配空間を最適化する。
  論文  参考訳（メタデータ） (2023-12-12T06:07:21Z)
• Achieving Constraints in Neural Networks: A Stochastic Augmented Lagrangian Approach [49.1574468325115]
  DNN(Deep Neural Networks)の正規化は、一般化性の向上とオーバーフィッティングの防止に不可欠である。 制約付き最適化問題としてトレーニングプロセスのフレーミングによるDNN正規化に対する新しいアプローチを提案する。 我々はAugmented Lagrangian (SAL) 法を用いて、より柔軟で効率的な正規化機構を実現する。
  論文  参考訳（メタデータ） (2023-10-25T13:55:35Z)
• Exploiting Low-confidence Pseudo-labels for Source-free Object Detection [54.98300313452037]
  Source-free Object Detection (SFOD) は、ラベル付きソースデータにアクセスすることなく、未ラベルのターゲットドメインにソーストレーニングされた検出器を適応することを目的としている。 現在のSFOD法は適応相におけるしきい値に基づく擬似ラベル手法を用いる。 疑似ラベルを最大限に活用するために,高信頼度と低信頼度しきい値を導入する手法を提案する。
  論文  参考訳（メタデータ） (2023-10-19T12:59:55Z)
• Securing Distributed SGD against Gradient Leakage Threats [13.979995939926154]
  本稿では, 勾配漏れ弾性分布勾配Descent (SGD) に対する総合的アプローチを提案する。 プライバシー強化型フェデレーション学習の2つの方法として, (i) ランダム選択や低ランクフィルタリングによるグラデーションプルーニング, (ii) 付加的ランダムノイズや差分プライバシーノイズによる勾配摂動について分析した。 本稿では,分散SGDをフェデレート学習において確保するための勾配リーク耐性手法を提案する。
  論文  参考訳（メタデータ） (2023-05-10T21:39:27Z)
• Rectified Meta-Learning from Noisy Labels for Robust Image-based Plant Disease Diagnosis [64.82680813427054]
  植物病は食料安全保障と作物生産に対する主要な脅威の1つである。 1つの一般的なアプローチは、葉画像分類タスクとしてこの問題を変換し、強力な畳み込みニューラルネットワーク(CNN)によって対処できる。 本稿では,正規化メタ学習モジュールを共通CNNパラダイムに組み込んだ新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-17T09:51:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。