論文の概要: Deep Attention Reweighting: Post-Hoc Attention-Based Feature Aggregation in CNNs for Disentangling Core and Spurious Features under Spurious Correlations

• arxiv url: http://arxiv.org/abs/2605.20732v1
• Date: Wed, 20 May 2026 05:35:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-21 19:19:56.497321
• Title: Deep Attention Reweighting: Post-Hoc Attention-Based Feature Aggregation in CNNs for Disentangling Core and Spurious Features under Spurious Correlations
• Title（参考訳）: ディープアテンションリヘアリング:スプリアス相関下でのコアとスパーラスの特徴を識別するためのCNNにおけるポストホックアテンションに基づく特徴集約
• Authors: Kin Whye Chew, Jingxian Wang,
• Abstract要約: Deep Feature Reweighting (DFR) は、トレーニングされたモデルがターゲットデータセットの分類ヘッドを再トレーニングすることで、素早い相関に依存することを減らすテクニックである。 DFRは, 絡み合った特徴の操作によって基本的制約を受けており, コア機能を増幅すると同時に, 刺激的な特徴を同時に抑制する能力に制限があることが示される。 我々は,GAPを置換し,分類ヘッドと共同で再訓練する,ポストホットアテンションベースのアグリゲーションモジュールであるDeep Attention Reweighting (DAR)を提案する。
• 参考スコア（独自算出の注目度）: 2.3234871809423585
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Convolutional Neural Networks (CNNs) often exploit spurious correlations in datasets, learning superficially predictive yet causally irrelevant features, leading to poor generalization and fairness issues. Deep Feature Reweighting (DFR) is a post-hoc technique that reduces a trained model's reliance on spurious correlations by retraining its classification head on a target dataset. However, we show that DFR is fundamentally constrained by operating on entangled features, limiting its ability to amplify the core features while simultaneously suppressing the spurious ones. We trace this entanglement to the ubiquitous Global Average Pooling (GAP) layer, which indiscriminately collapses spatially distinct core and spurious features into a single representation. To address this, we propose Deep Attention Reweighting (DAR), a post-hoc attention-based aggregation module that replaces GAP and is retrained jointly with the classification head. DAR computes an adaptive weighting of spatial locations across feature maps, enabling selective suppression of spurious features before the collapse into entangled features. Across various datasets, metrics, and ablations, DAR consistently outperforms DFR, demonstrating that our attention-based aggregation mitigates GAP-induced entanglement and reduces spurious reliance.
• Abstract（参考訳）: 畳み込みニューラルネットワーク(CNN)は、しばしばデータセットの急激な相関を利用して、表面的に予測されるが因果関係のない特徴を学習する。 Deep Feature Reweighting (DFR)は、トレーニング後のモデルがターゲットデータセット上でその分類ヘッドをトレーニングすることで、スパイラルな相関性に依存することを減らす、ポストホックなテクニックである。 しかし, DFRは, 絡み合った特徴の操作によって基本的制約を受けており, コア機能を増幅し, 同時にスプリアス機能を抑制できることが示されている。 我々はこの絡み合いをユビキタスなグローバル平均プール層(GAP)に遡り、空間的に異なるコアと急激な特徴を区別せずに単一の表現に分解する。 そこで本研究では,GAPを置換し,分類ヘッドと協調的に再訓練した,注目後のアグリゲーションモジュールであるDeep Attention Reweighting(DAR)を提案する。 DARは特徴マップ間の空間的位置の適応重み付けを計算し、絡み合った特徴に崩壊する前に、刺激的な特徴を選択的に抑制することができる。 DARは、さまざまなデータセット、メトリクス、アブレーションにわたって、DFRを一貫して上回り、注意に基づく集約がGAPによる絡み合いを緩和し、急激な依存を減らすことを示す。

関連論文リスト

• Channel-Level Relation to Attentive Aggregation with Neighborhood-Homogeneity Constraint for Point Cloud Analysis [14.63838637349137]
  3Dポイントのクラウド理解では、複雑な地区内の差別的特徴を正確に捉えることが課題である。 既存の手法では特徴相関の識別を探索するが、点レベルの空間分布やチャネル応答に制限される。 本稿では,チャネルレベルのメートル法に基づく拡張機構を備えた新しいネットワークであるPointCRAを提案する。
  論文  参考訳（メタデータ） (2026-05-04T08:59:36Z)
• HSFM: Hard-Set-Guided Feature-Space Meta-Learning for Robust Classification under Spurious Correlations [25.503211313768062]
  本稿では,特徴空間で直接拡張を行う二段階メタラーニング手法を提案する。 ピクセル空間ではなくバックボーン出力で操作することで、この手法は非常に効率的で安定であり、1つのGPUで数分のトレーニングしか必要としない。
  論文  参考訳（メタデータ） (2026-03-31T06:32:56Z)
• i-IF-Learn: Iterative Feature Selection and Unsupervised Learning for High-Dimensional Complex Data [5.761834753104483]
  i-IF-Learnは、機能選択とクラスタリングを共同で実行する教師なしのフレームワークである。 我々の中心となる革新は、擬似ラベル監視と教師なし信号とを効果的に組み合わせた適応的特徴選択統計である。 遺伝子マイクロアレイと単細胞RNA-seqデータセットの実験により、i-IF-Learnは古典的および深層クラスタリングベースラインを著しく超えることが示された。
  論文  参考訳（メタデータ） (2026-03-25T07:35:38Z)
• ResAD++: Towards Class Agnostic Anomaly Detection via Residual Feature Learning [52.11294707895649]
  本稿では,クラス非依存型異常検出(AD)の問題点について検討する。 目的は、ターゲットデータの再トレーニングや微調整をせずに、異なるドメインから様々な新しいクラスの異常を一般化して検出できる、クラスに依存しないADモデルをトレーニングすることである。 8つの実世界のADデータセットに関する総合的な実験は、ResAD++が新しいクラスで直接使用されると、素晴らしいAD結果が得られることを示した。
  論文  参考訳（メタデータ） (2025-09-28T08:41:05Z)
• Minimizing Chebyshev Prototype Risk Magically Mitigates the Perils of Overfitting [1.6574413179773757]
  クラス内特徴相関を低減し,クラス間特徴距離を最大化する多成分損失関数を開発した。 我々は,Chebyshev Prototype Risk (CPR) という用語を明示的なCPR損失関数に限定して実装する。 トレーニングアルゴリズムは、多くの設定において、以前のアプローチの過度な適合を減らし、改善する。
  論文  参考訳（メタデータ） (2024-04-10T15:16:04Z)
• CPR++: Object Localization via Single Coarse Point Supervision [55.8671776333499]
  粗い点修正(CPR)は、アルゴリズムの観点からの意味的分散を緩和する最初の試みである。 CPRは、アノテートされた最初のポイントを置き換えるために、近隣地域のセマンティックセンターポイントを選択することで意味のばらつきを減らす。 CPR++は、スケール情報を取得し、グローバル領域における意味的分散をさらに低減することができる。
  論文  参考訳（メタデータ） (2024-01-30T17:38:48Z)
• Self-supervised debiasing using low rank regularization [59.84695042540525]
  純粋な相関は、ディープニューラルネットワークの強いバイアスを引き起こし、一般化能力を損なう可能性がある。 ラベルのないサンプルと互換性のある自己監督型脱バイアスフレームワークを提案する。 注目すべきは,提案フレームワークが自己教師付き学習ベースラインの一般化性能を著しく向上させることである。
  論文  参考訳（メタデータ） (2022-10-11T08:26:19Z)
• Fuzzy Attention Neural Network to Tackle Discontinuity in Airway Segmentation [67.19443246236048]
  気道セグメンテーションは肺疾患の検査、診断、予後に重要である。 いくつかの小型の気道支線(気管支や終端など)は自動セグメンテーションの難しさを著しく増す。 本稿では,新しいファジィアテンションニューラルネットワークと包括的損失関数を備える,気道セグメンテーションの効率的な手法を提案する。
  論文  参考訳（メタデータ） (2022-09-05T16:38:13Z)
• Adversarial Feature Augmentation and Normalization for Visual Recognition [109.6834687220478]
  最近のコンピュータビジョンの進歩は、分類モデルの一般化能力を改善するために、逆データ拡張を利用する。 本稿では,中間的特徴埋め込みにおける敵対的拡張を提唱する効率的かつ効率的な代替手法を提案する。 代表的なバックボーンネットワークを用いて,多様な視覚認識タスクにまたがる提案手法を検証する。
  論文  参考訳（メタデータ） (2021-03-22T20:36:34Z)
• High-Order Information Matters: Learning Relation and Topology for Occluded Person Re-Identification [84.43394420267794]
  本稿では,高次関係とトポロジ情報を識別的特徴とロバストなアライメントのために学習し,新しい枠組みを提案する。 我々のフレームワークはOccluded-Dukeデータセットで最先端の6.5%mAPスコアを大幅に上回っている。
  論文  参考訳（メタデータ） (2020-03-18T12:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。