論文の概要: How Label Imbalance Shapes Geometry: A General Spectral Analysis of Multi-Label Neural Collapse

• arxiv url: http://arxiv.org/abs/2605.01897v1
• Date: Sun, 03 May 2026 14:27:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-05 20:33:49.984028
• Title: How Label Imbalance Shapes Geometry: A General Spectral Analysis of Multi-Label Neural Collapse
• Title（参考訳）: ラベルの不均衡が幾何を形作るか:マルチラベル神経崩壊のスペクトル解析
• Authors: Xiaoxuan Ma, Yixuan Yang, Song Li, Xiangyun Hui,
• Abstract要約: 本研究では,マルチラベル分類におけるニューラル・コラプス(NC)現象について検討する。 概念的なフレームワークをマルチクラス学習から一般的な相関性と不均衡なマルチラベル設定まで拡張する。
• 参考スコア（独自算出の注目度）: 8.294105732989783
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This work investigates the phenomenon of Neural Collapse (NC) in multi-label classification, extending its conceptual framework from multi-class learning to general correlated and imbalanced multi-label settings. Although recent studies have identified a ''tag-wise averaging'' structure for multi-label features, this view relies on implicit assumptions of label balance and combinatorial symmetry. Consequently, it fails to account for the geometrical distortions caused by intrinsic label correlations and data imbalance, which are common in practice. We resolve the multiplicity-one imbalance conjecture raised by Li et al. (2024), showing that higher-multiplicity prototypes obey a class-frequency-weighted synthesis rule rather than uniform averaging. To address this, we propose a rigorous spectral-control framework to analyze the terminal phase of multi-label learning under general imbalanced conditions. We introduce the label covariance spectrum $κ_m$, a scalar controlling the distribution-dependent lower-bound geometry, derived from the second-order moment matrix of the label distribution. Contrary to the averaging perspective, our analysis reveals that the centered label covariance spectrum controls the stability of terminal geometry by quantifying the weakest centered inter-class contrast directions. We prove that the classical Tag-wise Averaging emerges only as a special case under perfect orthogonality. Numerical experiments on synthetic distributions validate our theoretical bounds. This work resolves the scaled-average aspect of the imbalance conjecture and establishes a unifying theoretical framework that extends Neural Collapse to complex, imbalanced multi-label settings.
• Abstract（参考訳）: 本研究では,マルチラベル分類におけるニューラル・コラプス(NC)現象を考察し,その概念的枠組みを多クラス学習から一般相関・不均衡なマルチラベル設定へと拡張する。 近年の研究では、マルチラベル特徴に対する「タグワイド平均化」構造が特定されているが、この見解はラベルバランスと組合せ対称性の暗黙の仮定に依存している。 その結果、本質的なラベル相関やデータ不均衡に起因する幾何学的歪みを考慮できない。 Wesolv the multiplicity-one imbalance conjecture raised by Li et al (2024), showed that high-multiplicity prototypes is follow a class- frequency-weighted synthesis rule than the uniform averaging。 そこで本研究では,多言語学習の終端位相を一般の不均衡条件下で解析する厳密なスペクトル制御フレームワークを提案する。 ラベル分布の2階モーメント行列から導かれる分布依存下界幾何を制御するスカラーである,ラベル共分散スペクトル$κ_m$を導入する。 平均的視点とは対照的に,本分析により,最弱中心のクラス間コントラスト方向を定量化することにより,中心ラベル共分散スペクトルが終端幾何学の安定性を制御することが明らかとなった。 古典的な Tag-wise Averaging は完全直交の特別なケースとしてのみ現れることを証明している。 合成分布に関する数値実験は、我々の理論的境界を検証する。 この研究は、不均衡予想のスケール・アベレージの側面を解決し、ニューラル・コラプスを複雑で不均衡なマルチラベル設定に拡張する統一的な理論的枠組みを確立する。

関連論文リスト

• Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
  プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。 我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。 重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
  論文  参考訳（メタデータ） (2026-02-24T05:32:03Z)
• Spectral Decimation of Quantum Many-Body Hamiltonians [1.1327508153380308]
  我々は、量子多体ハミルトニアンに対するスペクトル決定の理論を開発する。 統計的に混合したスペクトルにおける創発対称性の定量的プローブを提供する。
  論文  参考訳（メタデータ） (2026-02-23T19:00:05Z)
• Representation Geometry as a Diagnostic for Out-of-Distribution Robustness [0.5978543974412219]
  In-distribution Embeddingsからクラス条件の相互k-nearest-neighborグラフを構成する幾何学的診断フレームワークを提案する。 スペクトルの複雑さが低く、平均曲率が高くなると、チェックポイント全体にわたって強い分布外(OOD)の精度が常に予測される。 この結果から,表現幾何学はラベル無しで解釈可能な診断を可能にし,教師なしチェックポイント選択の信頼性をサポートできることが示唆された。
  論文  参考訳（メタデータ） (2026-02-03T19:13:36Z)
• Random-Matrix-Induced Simplicity Bias in Over-parameterized Variational Quantum Circuits [72.0643009153473]
  本稿では,観測可能な期待値とパラメータ勾配の両方がシステムサイズに指数関数的に集中するHaar型普遍性クラスに,表現的変分アンサーゼが入ることを示す。 その結果、そのような回路によって誘導される仮説クラスは、近点関数の狭い族に高い確率で崩壊する。 テンソル-ネットワークベースおよびテンソル-ハイパーネットワークパラメータ化を含むテンソル構造VQCは、ハール型普遍性クラスの外にある。
  論文  参考訳（メタデータ） (2026-01-05T08:04:33Z)
• Balanced Data, Imbalanced Spectra: Unveiling Class Disparities with Spectral Imbalance [11.924440950433658]
  クラス格差の潜在的な源として,特徴量におけるスペクトル不均衡の概念を導入する。 高次元混合モデル設定におけるクラスごとの誤差の正確な式を導出する。 我々はこの現象を11種類の最先端事前訓練エンコーダで研究した。
  論文  参考訳（メタデータ） (2024-02-18T23:59:54Z)
• Imbalance Trouble: Revisiting Neural-Collapse Geometry [27.21274327569783]
  本稿では, 神経崩壊現象の不変性として, Simplex-Encoded-Labels Interpolation (SELI) を導入する。 我々は,UFMのクロスエントロピー損失と正規化の消失を証明した。 我々はSELI幾何への収束を確かめる合成データセットと実データセットについて実験を行った。
  論文  参考訳（メタデータ） (2022-08-10T18:10:59Z)
• Distribution-Aware Semantics-Oriented Pseudo-label for Imbalanced Semi-Supervised Learning [80.05441565830726]
  本稿では,疑似ラベルの重み付けがモデル性能に悪影響を及ぼすような,不均衡な半教師付き学習に対処する。 本稿では,この観測の動機となるバイアスに対処する,一般的な擬似ラベルフレームワークを提案する。 不均衡SSLのための新しい擬似ラベルフレームワークを、DASO(Distributed-Aware Semantics-Oriented Pseudo-label)と呼ぶ。
  論文  参考訳（メタデータ） (2021-06-10T11:58:25Z)
• Spectral clustering under degree heterogeneity: a case for the random walk Laplacian [83.79286663107845]
  本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。 次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
  論文  参考訳（メタデータ） (2021-05-03T16:36:27Z)
• GRACE: Gradient Harmonized and Cascaded Labeling for Aspect-based Sentiment Analysis [90.43089622630258]
  本稿では、これらの問題を解決するために、GRACE(GRadient hArmonized and CascadEd labeling model)を提案する。 提案モデルでは,複数のベンチマークデータセットの整合性向上を実現し,最先端の結果を生成する。
  論文  参考訳（メタデータ） (2020-09-22T13:55:34Z)
• Distribution Aligning Refinery of Pseudo-label for Imbalanced Semi-supervised Learning [126.31716228319902]
  Pseudo-label (DARP) アルゴリズムの分散アライメント・リファナリーを開発する。 DARPは最先端のSSLスキームと有効かつ効率的に互換性があることを示す。
  論文  参考訳（メタデータ） (2020-07-17T09:16:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。