論文の概要: Class-Specific Branch Attention for Mitigating Gradient Interference under Class Imbalance

• arxiv url: http://arxiv.org/abs/2606.05740v1
• Date: Thu, 04 Jun 2026 06:07:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.585394
• Title: Class-Specific Branch Attention for Mitigating Gradient Interference under Class Imbalance
• Title（参考訳）: クラス不均衡下でのグラディエント干渉の緩和のためのクラス別分岐注意
• Authors: Arush Singhal, Umang Soni,
• Abstract要約: 我々は,共有表現におけるクラス間勾配干渉という,相補的な最適化レベルの病理を同定する。 本稿では,分枝特異的チャネル再重み付けによる勾配結合の低減を可能にする軽量な修正型クラス特化分岐注意(CSBA)を提案する。 経験的にCSBAはマイノリティクラスのパフォーマンスを改善し、フィジカル・ダマージュクラスのF1スコアを0.261から0.522に引き上げる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep neural networks trained under severe class imbalance often exhibit degraded performance, typically attributed to statistical bias. In this work, we identify a complementary optimization-level pathology: inter-class gradient interference within shared representations, where gradients from majority classes suppress minority-class learning. To analyze this phenomenon, we introduce a diagnostic framework based on layer-wise gradient flow analysis and a Gradient Conflict Matrix, which quantifies interference using cosine similarity between class-specific gradients. Using this framework, we study multi-branch convolutional architectures and propose a lightweight modification, Class-Specific Branch Attention (CSBA), that enables branch-specific channel reweighting to reduce gradient coupling. This mechanism promotes implicit feature decoupling across branches while preserving architectural simplicity. Empirically, CSBA improves minority-class performance, increasing the F1 score for the Physical-Damage class from 0.261 to 0.522 under severe imbalance, while maintaining comparable overall accuracy. Validation on CIFAR-10-LT confirms that this behavior generalizes across imbalanced visual recognition settings, with Macro-F1 improving from 0.595 to 0.655. More broadly, our findings highlight the importance of considering optimization dynamics alongside statistical methods when designing architectures for imbalanced learning.
• Abstract（参考訳）: 重度の階級不均衡の下で訓練されたディープニューラルネットワークは、しばしば統計的バイアスに起因する劣化した性能を示す。 本研究では,共有表現におけるクラス間勾配干渉,マイノリティクラスからの勾配がマイノリティクラス学習を抑制する,相補的な最適化レベルパスを同定する。 この現象を解析するために,階層的勾配流解析に基づく診断フレームワークと,クラス固有の勾配間のコサイン類似性を用いて干渉を定量化するグラディエント・コンフリクト・マトリックスを導入する。 このフレームワークを用いて,マルチブランチ・畳み込みアーキテクチャについて検討し,分岐特異的チャネル再重み付けによる勾配結合の低減を可能にする軽量な修正クラス・特化分岐注意(CSBA)を提案する。 このメカニズムは、アーキテクチャの単純さを維持しながら、ブランチ間で暗黙的な機能の分離を促進する。 経験的に、CSBAはマイノリティクラスのパフォーマンスを改善し、フィジカル・ダマージュクラスのF1スコアを0.261から0.522に引き上げ、全体的な精度は同等に維持した。 CIFAR-10-LTの検証では、この動作は不均衡な視覚認識設定で一般化され、マクロF1は0.595から0.655に改善されている。 より広範に、不均衡学習のためのアーキテクチャを設計する際に、統計的手法と並行して最適化力学を考えることの重要性を強調した。

関連論文リスト

• SimReg: Achieving Higher Performance in the Pretraining via Embedding Similarity Regularization [55.63565289584336]
  SimRegは埋め込み類似性正規化損失であり、各シーケンス内で同じ基幹ラベルを持つトークン表現をより類似させる。 分析の結果, この機構は多分類マージンを増大させ, より効率的な分類を可能にした。
  論文  参考訳（メタデータ） (2026-05-09T08:59:13Z)
• Beyond the Markovian Assumption: Robust Optimization via Fractional Weyl Integrals in Imbalanced Data [0.0]
  本稿では, フラクタル計算に基づく新しい最適化アルゴリズムを提案する。 一般化された分数微分のコアメモリエンジンを分離することにより、瞬時勾配を動的に重み付けされた履歴列に置き換える。 実験により,本手法は医学診断の過度な適合を防ぎ,古典学よりもPRAUCが約40%向上することが確認された。
  論文  参考訳（メタデータ） (2026-03-09T13:38:45Z)
• Advancing Analytic Class-Incremental Learning through Vision-Language Calibration [6.871141687303144]
  事前学習モデル(PTM)を用いたクラスインクリメンタルラーニング(CIL)は、効率的な適応と長期的安定性の間に重要なトレードオフに直面している。 我々は,2段階の視覚言語キャリブレーション戦略によって解析的CILを向上する新しいデュアルブランチフレームワークである textbfVILA を提案する。 我々のフレームワークは解析学習の単純さと高忠実度予測を調和させる。
  論文  参考訳（メタデータ） (2026-02-14T08:32:51Z)
• Reducing Class-Wise Performance Disparity via Margin Regularization [82.81746960548382]
  ディープニューラルネットワークは、クラスバランスのデータでトレーニングされた場合でも、クラスレベルでの精度において大きな違いを示すことが多い。 本稿では,性能格差低減のためのMargin Regularization for Performance Disparity Reduction (MR$2$)を提案する。 分析の結果,クラスごとの機能変動がエラーにどのように寄与するかが明らかとなり,ハードクラスに対するより大きなマージンの利用が動機となった。
  論文  参考訳（メタデータ） (2026-01-30T12:56:08Z)
• Unlocking the Essence of Beauty: Advanced Aesthetic Reasoning with Relative-Absolute Policy Optimization [63.169050703903515]
  強化学習(RL)を用いた包括的審美的推論フレームワークAes-R1を提案する。 Aes-R1はパイプライン、AesCoTを統合し、高品質なチェーン・オブ・プリーティングデータの構築とフィルタリングを行う。 実験により、Aes-R1は背骨の平均PLCC/SRCCを47.9%/34.8%改善することが示された。
  論文  参考訳（メタデータ） (2025-09-26T04:55:00Z)
• Adaptive Federated Learning Over the Air [108.62635460744109]
  オーバー・ザ・エア・モデル・トレーニングの枠組みの中で,適応勾配法,特にAdaGradとAdamの連合バージョンを提案する。 解析の結果,AdaGrad に基づくトレーニングアルゴリズムは $mathcalO(ln(T) / T 1 - frac1alpha の速度で定常点に収束することがわかった。
  論文  参考訳（メタデータ） (2024-03-11T09:10:37Z)
• Balanced Classification: A Unified Framework for Long-Tailed Object Detection [74.94216414011326]
  従来の検出器は、分類バイアスによる長期データを扱う際の性能劣化に悩まされる。 本稿では,カテゴリ分布の格差に起因する不平等の適応的是正を可能にする,BAlanced CLassification (BACL) と呼ばれる統一フレームワークを提案する。 BACLは、さまざまなバックボーンとアーキテクチャを持つさまざまなデータセット間で、一貫してパフォーマンス改善を実現している。
  論文  参考訳（メタデータ） (2023-08-04T09:11:07Z)
• Learning Prompt-Enhanced Context Features for Weakly-Supervised Video Anomaly Detection [37.99031842449251]
  弱い監督下での映像異常検出は重大な課題を呈する。 本稿では,効率的なコンテキストモデリングとセマンティック識別性の向上に焦点をあてた,弱教師付き異常検出フレームワークを提案する。 提案手法は,特定の異常なサブクラスの検出精度を大幅に向上させ,その実用的価値と有効性を裏付けるものである。
  論文  参考訳（メタデータ） (2023-06-26T06:45:16Z)
• A Theoretical Analysis of the Learning Dynamics under Class Imbalance [0.10231119246773925]
  本研究では,少数クラスと多数クラスの学習曲線が,勾配に基づく学習において,準最適軌跡に従うことを示す。 この減速は不均衡比に関連しており、異なるクラスの最適化の競合に遡ることができる。 GDはクラスごとの損失を減らすことは保証されていないが、勾配のクラスごとの正規化を行うことでこの問題に対処できる。
  論文  参考訳（メタデータ） (2022-07-01T12:54:38Z)
• Learning with Multiclass AUC: Theory and Algorithms [141.63211412386283]
  ROC曲線 (AUC) の下の領域は、不均衡学習やレコメンダシステムといった問題に対するよく知られたランキング基準である。 本稿では,マルチクラスAUCメトリクスを最適化することで,多クラススコアリング関数を学習する問題について検討する。
  論文  参考訳（メタデータ） (2021-07-28T05:18:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。