論文の概要: The role of class encoding in neural collapse

• arxiv url: http://arxiv.org/abs/2606.00344v1
• Date: Fri, 29 May 2026 20:34:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-02 21:34:28.303485
• Title: The role of class encoding in neural collapse
• Title（参考訳）: 神経崩壊におけるクラスエンコーディングの役割
• Abstract要約: 平均二乗誤差トレーニング損失を持つ非制限特徴モデルに頼って, 神経崩壊におけるラベル符号化の役割を考察する。 本研究では, 1ホット符号化ラベルと平衡データに対して, 各クラス係数に付随する非中心的平均的特徴が, 単純な正方形から等方形正方形正方形への遷移を示す。 任意のエンコーディングに対して、最終分類器のバイアスはラベルの中央に集中することを目的としており、ラベルのグローバル平均と原点との相違を補うことも示している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural collapse is a structural property of the last-hidden-layer activations in neural network classification models, when trained beyond a zero classification error. In this work, we explore the role of label encoding in neural collapse by relying on the unrestricted feature model with mean squared error training loss. We demonstrate that, for one-hot encoded labels and balanced data, the uncentered mean features associated with each class transition from a simplex equiangular tight frame to an orthogonal frame when increasing the bias regularization coefficient associated with the final classifier. These structures are reminiscent of the orthogonal frame structure of one-hot encoded labels. For any arbitrary encoding, we also show that the final classifier's bias aims at centering the labels, compensating for the discrepancy between the global mean of the labels and the origin. We further discuss the role of the encoding in other neural collapse properties.
• Abstract（参考訳）: 神経崩壊は、ニューラルネットワーク分類モデルにおける最後の隠れた層活性化の構造的特性であり、ゼロ分類誤差を超えて訓練される。 本研究では、平均二乗誤差トレーニング損失を持つ非制限特徴モデルに依存することにより、ニューラルネットワークの破壊におけるラベル符号化の役割について検討する。 本研究では, 1ホット符号化ラベルと平衡データに対して, 最終分類器に付随するバイアス正規化係数を増大させると, クラス遷移に伴う非中心的平均特徴が, 単純な等角的タイトフレームから直交的フレームへ遷移することを示した。 これらの構造は、1ホット符号化ラベルの直交フレーム構造を連想させる。 任意のエンコーディングに対して、最終分類器のバイアスはラベルの中央に集中することを目的としており、ラベルのグローバル平均と原点との相違を補うことも示している。 さらに、他の神経崩壊特性におけるエンコーディングの役割について論じる。

関連論文リスト

• Benign Overfitting and the Geometry of the Ridge Regression Solution in Binary Classification [75.01389991485098]
  リッジ回帰はクラスタ平均ベクトルのスケールによって定性的に異なる挙動を示す。 スケールが非常に大きいレジームでは、良心過剰を許容する条件は回帰タスクと同一であることが判明した。
  論文  参考訳（メタデータ） (2025-03-11T01:45:42Z)
• Open-World Semi-Supervised Learning for Node Classification [53.07866559269709]
  ノード分類のためのオープンワールド半教師付き学習(Open World SSL)は、グラフコミュニティにおいて実用的だが未探索の課題である。 オープンワールド半教師付きノード分類のためのIM Balance-AwareメソッドOpenIMAを提案する。
  論文  参考訳（メタデータ） (2024-03-18T05:12:54Z)
• Neural Collapse in Multi-label Learning with Pick-all-label Loss [28.46350033490066]
  ニューラル崩壊レンズ(NC)を用いたマルチラベル分類(MLab)タスクのためのディープニューラルネットワークの研究 一般化された NC 現象が MLab と呼ばれる「ピック・オール・ラベル」の定式化を持つことを初めて証明する。
  論文  参考訳（メタデータ） (2023-10-24T15:07:16Z)
• Semi-Supervised Laplace Learning on Stiefel Manifolds [48.3427853588646]
  グラフベースで教師付きサンプルを低ラベルレートで作成するためのフレームワークSequential Subspaceを開発した。 我々の手法は極めて低いレートで、高いラベルレートで達成できる。
  論文  参考訳（メタデータ） (2023-07-31T20:19:36Z)
• Inducing Neural Collapse to a Fixed Hierarchy-Aware Frame for Reducing Mistake Severity [0.0]
  深層ニューラルネットワークの線形分類器を階層認識フレーム(HAFrame)に固定することを提案する。 提案手法は,複数のデータセット上でトップ1の精度を維持しながら,モデルの予測ミスの深刻度を低減する。
  論文  参考訳（メタデータ） (2023-03-10T03:44:01Z)
• Neural Collapse Inspired Feature-Classifier Alignment for Few-Shot Class Incremental Learning [120.53458753007851]
  FSCIL(Few-shot class-incremental Learning)は、新しいセッションにおいて、新しいクラスごとにいくつかのトレーニングサンプルしかアクセスできないため、難しい問題である。 我々は最近発見された神経崩壊現象にインスパイアされたFSCILのこの不整合ジレンマに対処する。 我々は、FSCILのための神経崩壊誘発フレームワークを提案する。MiniImageNet、CUB-200、CIFAR-100データセットの実験により、提案したフレームワークが最先端のパフォーマンスより優れていることを示す。
  論文  参考訳（メタデータ） (2023-02-06T18:39:40Z)
• Understanding Imbalanced Semantic Segmentation Through Neural Collapse [81.89121711426951]
  セマンティックセグメンテーションは自然に文脈的相関とクラス間の不均衡分布をもたらすことを示す。 機能中心にレギュレータを導入し、ネットワークが魅力ある構造に近い機能を学ぶことを奨励する。 我々の手法は、ScanNet200テストリーダーボードで1位にランクインし、新しい記録を樹立する。
  論文  参考訳（メタデータ） (2023-01-03T13:51:51Z)
• Imbalance Trouble: Revisiting Neural-Collapse Geometry [27.21274327569783]
  本稿では, 神経崩壊現象の不変性として, Simplex-Encoded-Labels Interpolation (SELI) を導入する。 我々は,UFMのクロスエントロピー損失と正規化の消失を証明した。 我々はSELI幾何への収束を確かめる合成データセットと実データセットについて実験を行った。
  論文  参考訳（メタデータ） (2022-08-10T18:10:59Z)
• Do We Really Need a Learnable Classifier at the End of Deep Neural Network? [118.18554882199676]
  本研究では、ニューラルネットワークを学習して分類器をランダムにETFとして分類し、訓練中に固定する可能性について検討する。 実験結果から,バランスの取れたデータセットの画像分類において,同様の性能が得られることがわかった。
  論文  参考訳（メタデータ） (2022-03-17T04:34:28Z)
• Latent Embedding Feedback and Discriminative Features for Zero-Shot Classification [139.44681304276]
  ゼロショット学習は、トレーニング中にデータが利用できない、見えないカテゴリを分類することを目的としている。 Generative Adrial Networksは、クラス固有のセマンティック埋め込みを利用して、目に見えないクラス機能を合成する。 我々は,ゼロショット学習のすべての段階において,意味的一貫性を強制することを提案する。
  論文  参考訳（メタデータ） (2020-03-17T17:34:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。