論文の概要: Full Collapse Is Suboptimal: Controlled Partial Neural Collapse for Long-Tailed Recognition
- arxiv url: http://arxiv.org/abs/2610.36460v2
- Date: Tue, 03 Nov 2026 01:03:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.36167
- Title: Full Collapse Is Suboptimal: Controlled Partial Neural Collapse for Long-Tailed Recognition
- Title(参考訳): Full Collapse is Suboptimal: Controled partial Neural Collapse for Long-Tailed Recognition
- Abstract要約: バックボーン上の2つの協調制御によって実現された制御された部分的神経崩壊を提案する。
均一な完全な崩壊を強制するのではなく、この体制によりヘッドクラスは等角的タイトフレーム(ETF)に沿って崩壊し、テールクラスはクラス内での多様性を維持することができる。
提案手法は,従来の手法よりも総合的精度が高い。
- 参考スコア(独自算出の注目度): 2.83595986479415
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent long-tailed recognition (LTR) methods incorporate neural collapse (NC) and align features to a fixed Equiangular Tight Frame (ETF) as a uniform target for all classes. However, forcing tail classes to fully collapse over-contracts their samples and weakens generalization. To address this, we propose a controlled partial neural collapse, realized through two coordinated controls on a backbone: the Class-Adaptive Sparse Activation (CASA) classifier and the ETF-constrained adaptive margin (ETF-AM) loss. Rather than forcing a uniform full collapse, this regime allows head classes to collapse along the ETF while tail classes retain within-class diversity. This prevents the tail from being forced into full collapse, which is suboptimal under imbalance. To set the dimensionality of collapse, CASA induces class-related node specialization through feature-conditioned gating so that tail classes occupy their own feature directions. For the clearance axis, ETF-AM applies a frequency-adaptive margin, with smaller margins for head classes and larger for tail classes. On CIFAR100-LT, ImageNet-LT, Places-LT, and iNaturalist-2018, our method achieves the best overall accuracy over prior methods. In the empirical analysis, within-class spread increases monotonically from head to tail classes, consistent with tail classes retaining variability rather than fully collapsing.
- Abstract(参考訳): 近年のLTR(Long-tailed Recognition)法では, 神経崩壊 (NC) と, 固定された等角的タイトフレーム (ETF) に整列した特徴を, 全クラスの均一なターゲットとして取り入れている。
しかし、テールクラスはサンプルを過剰に収縮させ、一般化を弱める。
そこで本研究では, 制御された部分的神経崩壊を, CASA(Class-Adaptive Sparse Activation)分類器とETF-Constrained Adaptive margin (ETF-AM)損失の2つの協調制御によって実現した。
均一な完全な崩壊を強制するのではなく、この体制によりヘッドクラスはETFに沿って崩壊し、テールクラスはクラス内での多様性を保持することができる。
これにより、尾が完全な崩壊に陥るのを防ぎ、これは不均衡の下で最適以下である。
崩壊の次元を定めるため、CASAは特徴条件付きゲーティングを通じてクラス関連ノードの特殊化を誘導し、テールクラスが独自の特徴方向を占めるようにした。
クリアランス軸については、ETF-AMは周波数適応マージンを適用し、ヘッドクラスのマージンは小さく、テールクラスのマージンは大きい。
CIFAR100-LT, ImageNet-LT, Places-LT, iNaturalist-2018では, 従来手法よりも総合的精度が高い。
経験的分析では、クラス内のスプレッドは、完全な崩壊ではなく変動性を保持する尾クラスと整合して、頭から尾まで単調に増大する。
関連論文リスト
- An Impossibility Result for ETF Target Geometry, and an Equinorm Remedy for Imbalanced Analytic Continual Learning [0.0]
ACILやGACLのような解析的連続学習(ACL)法は、シャーマン・モリソン・ウードベリーのアイデンティティを通じて凍結した特徴に対してリッジ-回帰ヘッドに適合する。
正確な解析的更新とETFターゲットという2つのアイデアを融合させることで、よりクローズドな形式の連続学習者が得られるかどうかを問うのは当然である。
核融合は通常の1ホットのACILと同一であることが判明したので、これはそうではない。
論文 参考訳(メタデータ) (2026-10-17T19:48:05Z) - Recurrent Contrastive Learning for Imbalanced Medical Image Classification [36.625692787657535]
不均衡な医用画像分類のためのRecurrent Contrastive Learning (RCL)を提案する。
RCLは、歴史的特徴状態を反復的に再利用することによって、テールクラスのサポート領域を徐々に拡大する。
TMQをベースとしたテンポラルアンカー(TAR)を構築し,テールクラスを囲むアンカーフィールドを形成する。
論文 参考訳(メタデータ) (2026-08-04T08:14:33Z) - Cluster-Aware Neural Collapse Prompt Tuning for Long-Tailed Generalization of Vision-Language Models [20.68004586002534]
クラスタ認識型ニューラル崩壊プロンプトチューニング(CPT)を提案する。
CPTは、一般化を犠牲にすることなく、プロンプト調整された視覚言語モデルにおけるテールクラスの識別性を向上する。
11の多様なデータセットの実験では、CPTがSOTA法より優れていることが示されている。
論文 参考訳(メタデータ) (2026-05-12T10:50:43Z) - Neural Collapse for Cross-entropy Class-Imbalanced Learning with Unconstrained ReLU Feature Model [25.61363481391964]
トレーニングデータセットがクラス不均衡である場合、いくつかのNeural Collapse(NC)プロパティはもはや真実ではない。
本稿では,制約のないReLU特徴量モデルの下で,NCを不均衡状態に一般化し,クロスエントロピー損失の低減を図る。
重みは,各クラスのトレーニングサンプル数によって異なるが,重みはスケールおよび集中型クラス平均値に一致していることがわかった。
論文 参考訳(メタデータ) (2024-01-04T04:53:31Z) - Dual Compensation Residual Networks for Class Imbalanced Learning [98.35401757647749]
そこで本研究では,尾と頭の両方に適合する2次元補償残差ネットワークを提案する。
オーバーフィッティングを引き起こす重要な要因は、トレーニングとテールクラスのテストデータの間に深刻な特徴ドリフトがあることである。
また,不適合問題を軽減するためにResidual Balanced Multi-Proxies分類器を提案する。
論文 参考訳(メタデータ) (2023-08-25T04:06:30Z) - Inducing Neural Collapse to a Fixed Hierarchy-Aware Frame for Reducing
Mistake Severity [0.0]
深層ニューラルネットワークの線形分類器を階層認識フレーム(HAFrame)に固定することを提案する。
提案手法は,複数のデータセット上でトップ1の精度を維持しながら,モデルの予測ミスの深刻度を低減する。
論文 参考訳(メタデータ) (2023-03-10T03:44:01Z) - Neural Collapse Inspired Feature-Classifier Alignment for Few-Shot Class
Incremental Learning [120.53458753007851]
FSCIL(Few-shot class-incremental Learning)は、新しいセッションにおいて、新しいクラスごとにいくつかのトレーニングサンプルしかアクセスできないため、難しい問題である。
我々は最近発見された神経崩壊現象にインスパイアされたFSCILのこの不整合ジレンマに対処する。
我々は、FSCILのための神経崩壊誘発フレームワークを提案する。MiniImageNet、CUB-200、CIFAR-100データセットの実験により、提案したフレームワークが最先端のパフォーマンスより優れていることを示す。
論文 参考訳(メタデータ) (2023-02-06T18:39:40Z) - Invariant Feature Learning for Generalized Long-Tailed Classification [63.97988111638796]
我々は,両種類の不均衡を共同で検討するために,一般化長大分類(GLT)を導入する。
提案した2つのベンチマーク(ImageNet-GLTとMSCOCO-GLT)では,ほとんどのクラスワイドLTメソッドが退化している。
GLTの最初の強力なベースラインとして不変特徴学習(IFL)法を提案する。
論文 参考訳(メタデータ) (2022-07-19T18:27:42Z) - Do We Really Need a Learnable Classifier at the End of Deep Neural
Network? [118.18554882199676]
本研究では、ニューラルネットワークを学習して分類器をランダムにETFとして分類し、訓練中に固定する可能性について検討する。
実験結果から,バランスの取れたデータセットの画像分類において,同様の性能が得られることがわかった。
論文 参考訳(メタデータ) (2022-03-17T04:34:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。