論文の概要: Shortcut-Resistant CAM Distillation for Long-Tailed Recognition
- arxiv url: http://arxiv.org/abs/2610.29508v1
- Date: Wed, 21 Oct 2026 09:58:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.30801
- Title: Shortcut-Resistant CAM Distillation for Long-Tailed Recognition
- Title(参考訳): 長手音声認識のための短距離CAM蒸留法
- Abstract要約: Shortcut-Resistant CAM Distillation (SRCD)は、オブジェクト指向の説明をヘッドクラスからテールクラスに転送するプラグイン・アンド・プレイフレームワークである。
我々は,CAM空間におけるショートカット信頼度をショートカット領域証拠質量として定量化し,SRCDがテールショートカットを抑制することを示す理論的解析を行った。
- 参考スコア(独自算出の注目度): 40.10828439746688
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Real-world datasets often follow a long-tailed distribution, making generalization to tail classes difficult. We revisit this problem through the lens of shortcut learning, where models prefer the easiest predictive cues (e.g., background or textures) over object-centric semantics, especially under scarce and biased supervision. We find that this tendency is amplified for tail classes: limited examples often share similar contexts, making non-semantic signals highly correlated and thus tempting shortcuts, whereas head classes with diverse appearances and environments encourage more stable object-focused representations. Motivated by this observation, we propose Shortcut-Resistant CAM Distillation (SRCD), a plug-and-play framework that transfers object-focused explanations from head to tail classes. SRCD operates in the Class Activation Map (CAM) space, where a CAM provides a class-specific spatial evidence map for a prediction. SRCD aggregates CAMs from a small set of head-class candidates into a shortcut-resistant teacher using an energy-model weighting based on coherence and concentration, and distills it to the tail-class CAM. We provide a theoretical analysis that quantifies shortcut reliance as shortcut-region evidence mass in CAM space and shows that SRCD suppresses tail shortcuts. Extensive experiments on long-tailed benchmarks consistently improve strong baselines. The code is available at https://github.com/Haifeng3/SRCD.
- Abstract(参考訳): 実世界のデータセットは長い尾の分布に従うことが多く、尾のクラスへの一般化は困難である。
モデルは、特に希少で偏りのある監督の下で、オブジェクト中心のセマンティクスよりも、最も簡単な予測的手がかり(例えば、背景やテクスチャ)を好む。
限られた例は、しばしば類似した文脈を共有し、非意味的なシグナルを強く相関させ、その結果、ショートカットを誘惑させる一方、様々な外観と環境を持つヘッドクラスは、より安定したオブジェクト中心の表現を促進する。
本研究の目的は,頭部から尾部までオブジェクト中心の説明を伝達するプラグイン・アンド・プレイ・フレームワークであるショートカット・抵抗性CAM蒸留(SRCD)を提案することである。
SRCDはクラス活性化マップ(CAM)空間で動作し、CAMはクラス固有の空間的エビデンスマップを提供する。
SRCDは、コヒーレンスと集中度に基づくエネルギーモデル重み付けを用いて、少数のヘッドクラスの候補者からショートカット耐性の教師にCAMを集約し、テールクラスのCAMに蒸留する。
我々は,CAM空間におけるショートカット信頼度をショートカット領域証拠質量として定量化し,SRCDがテールショートカットを抑制することを示す理論的解析を行った。
長い尾のベンチマークに関する大規模な実験は、一貫して強いベースラインを改善している。
コードはhttps://github.com/Haifeng3/SRCDで公開されている。
関連論文リスト
- Localising Shortcut Learning in Pixel Space via Ordinal Scoring Correlations for Attribution Representations (OSCAR) [43.49819565015961]
我々は、ショートカット学習の定量化とショートカット機能のローカライズのためのモデルに依存しないフレームワークであるOSCARを紹介する。
OSCARは、画像レベルのタスク属性マップを、画像領域のデータセットレベルのランクプロファイルに変換する。
以上の結果から, 種子, 分枝間の相関関係は, (i) 種子, 分枝間で安定であり, (ii) 訓練データ中のショートカット特徴とアウトプットラベルの関連度に敏感であり, (iii) 局所化と拡散ショートカット特徴を区別できることが示唆された。
論文 参考訳(メタデータ) (2025-12-21T21:06:19Z) - Data-Efficient American Sign Language Recognition via Few-Shot Prototypical Networks [0.0]
孤立手話認識は、難聴者と難聴者(DHH)コミュニティと聴覚世界との間のコミュニケーションギャップを埋めるために重要である。
骨格型エンコーダに適応したFew-Shot Prototypeal Networkフレームワークを提案する。
提案手法は,記号が動的クラスプロトタイプに近接して分類される意味的距離空間の学習に,韻律的学習を利用する。
論文 参考訳(メタデータ) (2025-12-11T11:50:03Z) - Navigating the Shortcut Maze: A Comprehensive Analysis of Shortcut
Learning in Text Classification by Language Models [20.70050968223901]
この研究は、過度に単純化されたショートカットを超えてモデルの信頼性を損なう微妙で複雑なショートカットの影響を克服する。
ショートカットを発生、スタイル、概念に分類する包括的なベンチマークを導入する。
本研究は,洗練されたショートカットに対するモデルの弾力性と感受性を系統的に検討する。
論文 参考訳(メタデータ) (2024-09-26T01:17:42Z) - DecomCAM: Advancing Beyond Saliency Maps through Decomposition and Integration [25.299607743268993]
クラスアクティベーションマップ(CAM)手法は、モデルの意思決定基準を明らかにする領域を強調するが、明確なサリエンシマップと詳細な解釈性は欠如している。
チャネル活性化マップから共有パターンを抽出する新しい分解分解分解法であるDecomCAMを提案する。
実験の結果,DecomCAMは精度を向上するだけでなく,解釈可能性と計算効率のバランスを最適化できることがわかった。
論文 参考訳(メタデータ) (2024-05-29T08:40:11Z) - Beyond Prototypes: Semantic Anchor Regularization for Better
Representation Learning [82.29761875805369]
表現学習の最終的な目標の1つは、クラス内のコンパクトさとクラス間の十分な分離性を達成することである。
本稿では,機能セントロイドとして機能する事前定義されたクラスアンカーを用いて,特徴学習を一方向ガイドする新しい視点を提案する。
提案したSemantic Anchor Regularization (SAR) は,既存モデルのプラグアンドプレイ方式で使用することができる。
論文 参考訳(メタデータ) (2023-12-19T05:52:38Z) - BroadCAM: Outcome-agnostic Class Activation Mapping for Small-scale
Weakly Supervised Applications [69.22739434619531]
そこで我々はBroadCAMと呼ばれる結果に依存しないCAMアプローチを提案する。
VOC2012でBroadCAM、WSSSでBCSS-WSSS、WSOLでOpenImages30kを評価することで、BroadCAMは優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2023-09-07T06:45:43Z) - Towards Learning Spatially Discriminative Feature Representations [26.554140976236052]
組込み特徴写像をクラスアクティベーションマップ(CAM)に制約する新しい損失関数(CAM-loss)を提案する。
CAM-lossはバックボーンを駆動し、ターゲットカテゴリの特徴を表現し、ターゲット以外のカテゴリやバックグラウンドの特徴を抑圧する。
実験の結果, CAM-lossは様々なネットワーク構造に適用可能であり, 画像分類の性能向上のために, 主流の正規化手法と組み合わせることができることがわかった。
論文 参考訳(メタデータ) (2021-09-03T08:04:17Z) - Calibrating Class Activation Maps for Long-Tailed Visual Recognition [60.77124328049557]
本稿では,CNNの長期分布からネットワーク学習を改善するための2つの効果的な修正を提案する。
まず,ネットワーク分類器の学習と予測を改善するために,CAMC (Class Activation Map) モジュールを提案する。
第2に,長期化問題における表現学習における正規化分類器の利用について検討する。
論文 参考訳(メタデータ) (2021-08-29T05:45:03Z) - Use HiResCAM instead of Grad-CAM for faithful explanations of
convolutional neural networks [89.56292219019163]
説明法は意味のある概念を学習し、素早い相関を悪用しないモデルの開発を容易にする。
一般的なニューラルネットワーク説明法であるGrad-CAMの、未認識の制限について説明する。
本稿では,モデルが各予測に使用する場所のみをハイライトするクラス固有の説明手法であるHiResCAMを提案する。
論文 参考訳(メタデータ) (2020-11-17T19:26:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。