論文の概要: Beyond Point-wise Neural Collapse: A Topology-Aware Hierarchical Classifier for Class-Incremental Learning

• arxiv url: http://arxiv.org/abs/2605.11904v1
• Date: Tue, 12 May 2026 10:18:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.790783
• Title: Beyond Point-wise Neural Collapse: A Topology-Aware Hierarchical Classifier for Class-Incremental Learning
• Title（参考訳）: ポイントワイド・ニューラル・崩壊を超えて--クラスインクリメンタル・ラーニングのためのトポロジを意識した階層型分類器
• Authors: Huiyu Yi, Zhiming Xu, Dunwei Tu, Zhicheng Wang, Baile Xu, Furao Shen,
• Abstract要約: NCM(Nearest Class Mean)は、破滅的な忘れ込みに対する優れた抵抗性から、CIL(Class-Incremental Learning)において広く支持されている。 局所-グローバル'表現を通じてこれらのクラスの位相構造をキャプチャする新しい分類器である階層クラスタSOINN(HC-SOINN)を提案する。 本稿では, 細粒度軌跡追跡機構を用いたStructure-Topology Alignment via Residuals (STAR)法を提案する。
• 参考スコア（独自算出の注目度）: 11.791841292540377
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The Nearest Class Mean (NCM) classifier is widely favored in Class-Incremental Learning (CIL) for its superior resistance to catastrophic forgetting compared to Fully Connected layers. While Neural Collapse (NC) theory supports NCM's optimality by assuming features collapse into single points, non-linear feature drift and insufficient training in CIL often prevent this ideal state. Consequently, classes manifest as complex manifolds rather than collapsed points, rendering the single-point NCM suboptimal. To address this, we propose Hierarchical-Cluster SOINN (HC-SOINN), a novel classifier that captures the topological structure of these manifolds via a ``local-to-global'' representation. Furthermore, we introduce Structure-Topology Alignment via Residuals (STAR) method, which employs a fine-grained pointwise trajectory tracking mechanism to actively deform the learned topology, allowing it to adapt precisely to complex non-linear feature drift. Theoretical analysis and Procrustes distance experiments validate our framework's resilience to manifold deformations. We integrated HC-SOINN into seven state-of-the-art methods by replacing their original classifiers, achieving consistent improvements that highlight the effectiveness and robustness of our approach. Code is available at https://github.com/yhyet/HC_SOINN.
• Abstract（参考訳）: The Nearest Class Mean (NCM) Class Mean Classifier is widely favored incemental Learning (CIL) for its superior resistance to catastrophic forgetting than Fully Connected Layers。 ニューラル・コラプス(NC)理論は、特徴が単一点に崩壊すると仮定することで、NCMの最適性を支持するが、非線形特徴ドリフトとCILでの不十分な訓練は、しばしばこの理想的な状態を防ぐ。 その結果、クラスは崩壊点ではなく複素多様体として表され、単点 NCM が最適である。 そこで我々は,これらの多様体の位相構造を'ローカル-グローバル'表現で捉える新しい分類器であるHierarchical-Cluster SOINN (HC-SOINN)を提案する。 さらに,Structure-Topology Alignment via Residuals (STAR) 法を導入し,学習したトポロジを積極的に変形させるために細粒度な軌道追跡機構を用いて,複雑な非線形特徴ドリフトに正確に適応できるようにする。 理論的解析とプロクリストス距離実験は、我々のフレームワークの多様体変形に対する弾力性を検証する。 我々はHC-SOINNを7つの最先端の手法に統合し、元の分類器を置き換え、アプローチの有効性と堅牢性を強調した一貫した改善を実現した。 コードはhttps://github.com/yhyet/HC_SOINN.comで入手できる。

関連論文リスト

• Online Continual Learning with Dynamic Label Hierarchies [72.33335166136045]
  粒度をまたいで重大度が進化する新しい問題設定であるDHOCLを導入し,各サンプルは単一階層レベルでの監視を行う。 i) 混合粒度の部分的監視は、塑性を制約し、階層間のセマンティック一貫性を損なう、進化するパスワイド階層上のポイントワイド信号のみを提供する。 本稿では,相補的分類を適応的に組み合わせ,学習可能な階層型プロトタイプによって正規化し,素早い適応,階層的整合性,構造的知識の統合を可能にするHALOを提案する。
  論文  参考訳（メタデータ） (2026-05-12T08:20:23Z)
• Hyperbolic Enhanced Representation Learning for Incomplete Multi-view Clustering [57.38215918201251]
  本稿では,不完全なマルチビュークラスタリングのためのハイパーボリック拡張表現学習フレームワークであるHERLを提案する。 ポアンカレボール内で操作すると、HERLは表現学習を強化するために構造を意識した潜在空間を構築する。 HERLは最先端のアプローチよりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2026-04-18T10:50:46Z)
• Towards The Implicit Bias on Multiclass Separable Data Under Norm Constraints [3.421126849736858]
  核ノルム制約を通した低階構造を強制するために設計された幾何認識幾何学であるNucGDを紹介する。 スケーラブルなトレーニングを実現するため、非同期電力繰り返しによる効率的なSVDフリー更新ルールを導出する。 我々は、最小バッチサンプリングと運動量によって誘導される勾配ノイズの変動レベルが、期待される最大マージン解に対する収束をどう変調するかを特徴付ける、勾配最適化のダイナミクスの影響を実験的に分析する。
  論文  参考訳（メタデータ） (2026-03-24T05:51:50Z)
• This Looks Distinctly Like That: Grounding Interpretable Recognition in Stiefel Geometry against Neural Collapse [28.864167134877885]
  プロトタイプネットワークは、本質的なケースベースの説明メカニズムを提供するが、その解釈可能性はしばしばプロトタイプの崩壊によって損なわれる。 適応多様体プロトタイプ (AMP) は, クラスプロトタイプを正規直交基底として表現し, ランク1のプロトタイプの崩壊を建設によって実現不可能にする。 AMPは最先端の分類精度を達成し、従来の解釈可能なモデルよりも因果的忠実性を大幅に改善する。
  論文  参考訳（メタデータ） (2026-03-09T13:36:54Z)
• Feedback Alignment Meets Low-Rank Manifolds: A Structured Recipe for Local Learning [7.034739490820967]
  バックプロパゲーション(BP)を用いたディープニューラルネットワーク(DNN)のトレーニングは、最先端の精度を実現するが、大域的なエラー伝搬と完全なパラメータ化が必要である。 ダイレクトフィードバックアライメント(DFA)は、メモリ要件の低いローカルで並列化可能な更新を可能にする。 低ランク多様体上で直接動作する構造化局所学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-10-29T15:03:46Z)
• Deep Hierarchical Learning with Nested Subspace Networks [53.71337604556311]
  大規模ニューラルネットワークのためのNested Subspace Networks (NSN)を提案する。 NSNは、単一のモデルを連続した計算予算の範囲で動的かつきめ細かな調整を可能にする。 我々は,NSNを訓練済みのLLMに外科的に適用し,スムーズで予測可能な計算性能フロンティアを解き放つことができることを示した。
  論文  参考訳（メタデータ） (2025-09-22T15:13:14Z)
• Neural Collapse in Cumulative Link Models for Ordinal Regression: An Analysis with Unconstrained Feature Model [5.339955242953934]
  我々は、通常神経崩壊(ONC)と呼ばれる現象が実際に出現し、以下の3つの特性によって特徴付けられることを示した。 特に、ゼロ正則化極限では、潜伏変数としきい値の間に非常に局所的で単純な幾何学的関係が現れる。
  論文  参考訳（メタデータ） (2025-06-06T06:57:02Z)
• A Neural Collapse Perspective on Feature Evolution in Graph Neural Networks [44.31777384413466]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データの分類タスクでますます人気が高まっている。 本稿では,ノードワイズ分類に着目し,ニューラル崩壊現象のレンズによる特徴進化を考察する。 我々は、「最適」な数学的モデルでさえ、グラフが正確な崩壊を伴う最小値を持つためには厳密な構造条件に従う必要があることを示した。
  論文  参考訳（メタデータ） (2023-07-04T23:03:21Z)
• Neural Collapse Inspired Feature-Classifier Alignment for Few-Shot Class Incremental Learning [120.53458753007851]
  FSCIL(Few-shot class-incremental Learning)は、新しいセッションにおいて、新しいクラスごとにいくつかのトレーニングサンプルしかアクセスできないため、難しい問題である。 我々は最近発見された神経崩壊現象にインスパイアされたFSCILのこの不整合ジレンマに対処する。 我々は、FSCILのための神経崩壊誘発フレームワークを提案する。MiniImageNet、CUB-200、CIFAR-100データセットの実験により、提案したフレームワークが最先端のパフォーマンスより優れていることを示す。
  論文  参考訳（メタデータ） (2023-02-06T18:39:40Z)
• On Feature Learning in Neural Networks with Global Convergence Guarantees [49.870593940818715]
  勾配流(GF)を用いた広帯域ニューラルネットワーク(NN)の最適化について検討する。 入力次元がトレーニングセットのサイズ以下である場合、トレーニング損失はGFの下での線形速度で0に収束することを示す。 また、ニューラル・タンジェント・カーネル(NTK)システムとは異なり、我々の多層モデルは特徴学習を示し、NTKモデルよりも優れた一般化性能が得られることを実証的に示す。
  論文  参考訳（メタデータ） (2022-04-22T15:56:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。