論文の概要: The Devil Is in Gradient Entanglement: Energy-Aware Gradient Coordinator for Robust Generalized Category Discovery
- arxiv url: http://arxiv.org/abs/2604.14176v1
- Date: Wed, 25 Mar 2026 14:58:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-19 19:09:11.700806
- Title: The Devil Is in Gradient Entanglement: Energy-Aware Gradient Coordinator for Robust Generalized Category Discovery
- Title(参考訳): 悪はゆがんだ絡みにある:ロバストな一般化カテゴリー発見のためのエネルギーを意識したグラディエントコーディネータ
- Authors: Haiyang Zheng, Nan Pu, Yaqi Cai, Teng Long, Wenjing Li, Nicu Sebe, Zhun Zhong,
- Abstract要約: Energy-Aware Gradient Coordinator (EAGC) は、最適化プロセスを明示的に制御するプラグイン・アンド・プレイの勾配モジュールである。
EAGCはAnchor-based Gradient Alignment (AGA)とEnergy-Aware Elastic Projection (EEP)の2つのコンポーネントから構成される。
- 参考スコア(独自算出の注目度): 76.35318747478522
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generalized Category Discovery (GCD) leverages labeled data to categorize unlabeled samples from known or unknown classes. Most previous methods jointly optimize supervised and unsupervised objectives and achieve promising results. However, inherent optimization interference still limits their ability to improve further. Through quantitative analysis, we identify a key issue, i.e., gradient entanglement, which 1) distorts supervised gradients and weakens discrimination among known classes, and 2) induces representation-subspace overlap between known and novel classes, reducing the separability of novel categories. To address this issue, we propose the Energy-Aware Gradient Coordinator (EAGC), a plug-and-play gradient-level module that explicitly regulates the optimization process. EAGC comprises two components: Anchor-based Gradient Alignment (AGA) and Energy-aware Elastic Projection (EEP). AGA introduces a reference model to anchor the gradient directions of labeled samples, preserving the discriminative structure of known classes against the interference of unlabeled gradients. EEP softly projects unlabeled gradients onto the complement of the known-class subspace and derives an energy-based coefficient to adaptively scale the projection for each unlabeled sample according to its degree of alignment with the known subspace, thereby reducing subspace overlap without suppressing unlabeled samples that likely belong to known classes. Experiments show that EAGC consistently boosts existing methods and establishes new state-of-the-art results. Code is available at https://haiyangzheng.github.io/EAGC.
- Abstract(参考訳): Generalized Category Discovery (GCD) はラベル付きデータを活用し、未知のクラスからラベルなしのサンプルを分類する。
従来のほとんどの手法は、教師なしと教師なしの目的を共同で最適化し、有望な結果を得る。
しかし、固有の最適化の干渉は、さらなる改善の能力を制限する。
定量的解析により、我々は重要な問題、すなわち勾配の絡み合いを同定する。
1)ゆらぎは、既知のクラス間の勾配を監督し、差別を弱め、そして
2) 既知クラスと新規クラス間の表現-部分空間の重なりを誘導し, 新規カテゴリの分離性を低下させる。
この問題に対処するため,我々は,最適化プロセスを明示的に規定するプラグアンドプレイ勾配レベルモジュールであるEnergy-Aware Gradient Coordinator (EAGC)を提案する。
EAGCは、Anchor-based Gradient Alignment (AGA)とEnergy-aware Elastic Projection (EEP)の2つのコンポーネントから構成されている。
AGAは、ラベル付けされたサンプルの勾配方向を固定する参照モデルを導入し、ラベル付けされていない勾配の干渉に対して既知のクラスの識別構造を保存する。
EEP は未ラベルの勾配を既知のクラス部分空間の補集合に射影し、既知の部分空間との整合度に応じて各未ラベルの標本の射影を適応的に拡張するエネルギーベースの係数を導出し、既知のクラスに属する可能性のある未ラベルの標本を抑えることなく部分空間の重なりを減少させる。
実験によると、EAGCは既存の手法を一貫して強化し、新しい最先端の結果を確立する。
コードはhttps://haiyangzheng.github.io/EAGCで公開されている。
関連論文リスト
- A New Formulation of Lipschitz Constrained With Functional Gradient Learning for GANs [52.55025869932486]
本稿では,大規模データセット上でGAN(Generative Adversarial Networks)のトレーニングを行うための有望な代替手法を提案する。
本稿では,GANの学習を安定させるために,Lipschitz-Constrained Functional Gradient GANs Learning (Li-CFG)法を提案する。
判別器勾配のノルムを増大させることにより、潜在ベクトルの近傍サイズを小さくすることができることを示す。
論文 参考訳(メタデータ) (2025-01-20T02:48:07Z) - Towards Layer-Wise Personalized Federated Learning: Adaptive Layer Disentanglement via Conflicting Gradients [11.269920973751244]
パーソナライズされたフェデレートラーニング(pFL)では、高データの異質性はデバイス間で大きな勾配のばらつきを引き起こす可能性がある。
グラディエント・アナリティクス(FedLAG)によるレイヤワイド・アグリゲーションを用いたフェデレート・ラーニング(Federated Learning)という,pFL設計への新たなアプローチを導入する。
FedLAGはレイヤーワイド勾配競合の程度に基づいて、パーソナライズのためのレイヤを割り当てる。
論文 参考訳(メタデータ) (2024-10-03T14:46:19Z) - LayerMatch: Do Pseudo-labels Benefit All Layers? [77.59625180366115]
半教師付き学習はラベル付きデータの依存性を軽減するための有望なソリューションを提供する。
我々はGrad-ReLUとAvg-Clusteringという2つの層固有の擬似ラベル戦略を開発した。
提案手法は,標準的な半教師付き学習ベンチマークにおいて,例外的な性能を示す。
論文 参考訳(メタデータ) (2024-06-20T11:25:50Z) - Class Gradient Projection For Continual Learning [99.105266615448]
破滅的な忘れは継続的学習(CL)における最も重要な課題の1つです。
タスクではなく個々のクラスから勾配部分空間を計算するクラスグラディエント・プロジェクション(CGP)を提案する。
論文 参考訳(メタデータ) (2023-11-25T02:45:56Z) - Mind the Gap: Polishing Pseudo labels for Accurate Semi-supervised
Object Detection [18.274860417877093]
半教師対象検出(SSOD)のための二重擬似ラベル研磨フレームワークを提案する。
教師検出器が生成する擬似ラベルを直接利用するのではなく, 地平からの逸脱を減らすための最初の試みを行う。
これにより、どちらの研磨ネットワークも、アノテーションのないオブジェクトに対してより正確な擬似ラベルを推測することができる。
論文 参考訳(メタデータ) (2022-07-17T14:07:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。