論文の概要: CloSeR: Unified Relational Distillation from Closed-Set Teachers for Category Discovery
- arxiv url: http://arxiv.org/abs/2608.25692v1
- Date: Wed, 26 Aug 2026 12:10:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.814126
- Title: CloSeR: Unified Relational Distillation from Closed-Set Teachers for Category Discovery
- Title(参考訳): CloSeR: カテゴリー発見のための閉会教師による一貫した関係性蒸留
- Abstract要約: CloSeRは、一般カテゴリー発見トレーニングにクローズドセットの知識を注入する。
6つのベンチマークでのDINOとDINOv2のバックボーンの実験は、GCDベースラインよりも一貫した利得を示している。
- 参考スコア(独自算出の注目度): 16.721682363090043
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Generalized Category Discovery (GCD) is an intriguing open-world problem that has garnered increasing attention: given partially labelled data, the goal is to correctly recognize known classes while discovering coherent novel categories from unlabelled samples. Recent GCD methods typically adapt foundation models by jointly optimizing supervised classification and unsupervised discovery objectives on mixed labelled and unlabelled data. While effective, this coupled training can entangle closed-set recognition and open-set discovery, leading to objective conflict and biased predictions, and may disturb the semantic geometry of pretrained representations under limited labels and noisy pseudo-labels. We propose CloSeR, a simple plug-and-play framework that injects Closed-Set Relational knowledge into GCD training. CloSeR first builds a domain-adapted closed-set teacher by tuning lightweight block-wise adapters on labelled known-class data while keeping the foundation model backbone frozen, thereby preserving pretrained priors at low training cost. It then transfers the teacher's knowledge to downstream GCD via Unified Relational Distillation (URD), which distills complementary global sample-to-prototype relations to anchor known-class semantics and local sample-to-sample relations to preserve neighborhood structure, using separate feature pathways to reduce optimization interference. CloSeR is head-agnostic and readily integrates with both parametric and non-parametric GCD methods. Extensive experiments with DINO and DINOv2 backbones on six benchmarks (CIFAR-10/100, ImageNet-100, CUB, Stanford-Cars, and FGVC-Aircraft) show consistent gains over GCD baselines, achieving state-of-the-art performance. Project page: https://visual-ai.github.io/closer/
- Abstract(参考訳): Generalized Category Discovery (GCD)は、興味深いオープンワールドの問題であり、注目が集まっている: 部分的にラベル付けされたデータから、未ラベルのサンプルから一貫性のある新しいカテゴリを発見しながら、既知のクラスを正しく認識することである。
近年のGCD法は, 混合ラベル付きおよび非ラベル付きデータに基づいて, 教師付き分類と教師なし発見目的を共同最適化することによって基礎モデルに適応する。
効果的ではあるが、この複合トレーニングはクローズドセット認識とオープンセット発見を絡み合わせることができ、客観的な矛盾や偏りのある予測をもたらし、限定されたラベルとノイズの多い擬似ラベルの下で事前訓練された表現の意味的幾何学を乱す可能性がある。
本稿では,GCDトレーニングに閉鎖セット関係知識を注入するシンプルなプラグイン・アンド・プレイフレームワークであるCloseRを提案する。
CloSeRはまず、ラベル付き既知のクラスデータに軽量なブロックワイドアダプタをチューニングし、基礎モデルのバックボーンを凍結させ、トレーニングコストの低い事前トレーニングを保存することで、ドメイン適応型クローズドセットの教師を構築する。
教師の知識は、Unified Relational Distillation (URD) を通じて下流のGCDに転送され、これは、最適化の干渉を減らすために別々の特徴経路を用いて、既知のクラスセマンティクスと局所的なサンプルとサンプルの関係を固定するために、補完的なグローバルなサンプルとプロトタイプの関係を蒸留する。
CloSeRは頭部非依存であり、パラメトリックGCD法と非パラメトリックGCD法の両方と容易に統合される。
6つのベンチマーク(CIFAR-10/100、ImageNet-100、CUB、Stanford-Cars、FGVC-Aircraft)におけるDINOとDINOv2のバックボーンによる大規模な実験は、GCDベースラインよりも一貫した向上を示し、最先端のパフォーマンスを実現している。
プロジェクトページ: https://visual-ai.github.io/closer/
関連論文リスト
- Sharpness-aware Dynamic Anchor Selection for Generalized Category Discovery [61.694524826522205]
既知のクラスのラベル付きデータを考えると、GCDは既知のクラスと未知のクラスの両方を含むラベルなしデータをクラスタ化することを目的としている。
大規模な事前学習モデルでは、特定の視覚的パターンが好まれ、ラベルのないデータに対して刺激的な相関を符号化する。
LSP(Los Sharpness Penalty)とDAS(Dynamic Anchor Selection)の2つのモジュールを含む新しい手法を提案する。
論文 参考訳(メタデータ) (2025-12-15T02:24:06Z) - Generalized Category Discovery via Reciprocal Learning and Class-Wise Distribution Regularization [6.696520328216944]
Generalized Category Discovery (GCD) は、ラベル付きサンプルからベース知識を活用することでラベルなしサンプルを識別することを目的としている。
最近のパラメトリックベースの手法は、信頼できない自己超越による下限のベース差別に悩まされている。
本稿では,ベース分類を専門とする補助的分岐を導入した相互学習フレームワーク(RLF)を提案する。
論文 参考訳(メタデータ) (2025-06-03T00:12:39Z) - DebGCD: Debiased Learning with Distribution Guidance for Generalized Category Discovery [14.222473509173357]
一般化カテゴリー発見(GCD)の課題に取り組む
GCDでは、未知のクラスと未知のクラスの間に固有のラベルバイアスが存在する。
本稿では,アンダーラインGCDのための分布指導フレームワークであるDebGCDを紹介する。
論文 参考訳(メタデータ) (2025-04-07T07:56:01Z) - ProtoGCD: Unified and Unbiased Prototype Learning for Generalized Category Discovery [42.965641047139904]
一般化圏発見(GCD)は実用的だが未発見の問題である。
ラベルなしデータは、古いクラスと新しいクラスの両方を含んでいる。
ProtoGCDは、ジェネリックデータセットときめ細かいデータセットの両方で最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-04-02T06:13:14Z) - Generalized Class Discovery in Instance Segmentation [7.400926717561454]
擬似ラベルに対するコントラスト学習とクラス信頼性基準のためのインスタンス単位温度割当(ITA)手法を提案する。
提案手法は,COCO$_half$ + LVIS と LVIS + Visual Genome の2つの設定で実験を行うことにより評価した。
論文 参考訳(メタデータ) (2025-02-12T06:26:05Z) - Happy: A Debiased Learning Framework for Continual Generalized Category Discovery [54.54153155039062]
本稿では,C-GCD(Continuous Generalized Category Discovery)の未探索課題について考察する。
C-GCDは、学習済みのクラスを認識する能力を維持しながら、ラベルのないデータから新しいクラスを漸進的に発見することを目的としている。
本稿では,ハードネスを意識したプロトタイプサンプリングとソフトエントロピー正規化を特徴とする,偏りのある学習フレームワークであるHappyを紹介する。
論文 参考訳(メタデータ) (2024-10-09T04:18:51Z) - Generalized Category Discovery with Clustering Assignment Consistency [56.92546133591019]
一般化圏発見(GCD)は、最近提案されたオープンワールドタスクである。
クラスタリングの一貫性を促進するための協調学習ベースのフレームワークを提案する。
提案手法は,3つの総合的なベンチマークと3つのきめ細かい視覚認識データセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2023-10-30T00:32:47Z) - OpenGCD: Assisting Open World Recognition with Generalized Category
Discovery [4.600906853436266]
望ましいオープンワールド認識(OWR)システムは、3つのタスクを実行する必要がある。
上記の問題を逐次解決するために,3つの鍵となるアイデアを組み合わせたOpenGCDを提案する。
2つの標準分類ベンチマークと挑戦的なデータセットの実験は、OpenGCDが優れた互換性を提供するだけでなく、他のベースラインを大幅に上回っていることを示している。
論文 参考訳(メタデータ) (2023-08-14T04:10:45Z) - Dynamic Conceptional Contrastive Learning for Generalized Category
Discovery [76.82327473338734]
Generalized category discovery (GCD) は、部分的にラベル付けされたデータを自動でクラスタリングすることを目的としている。
ラベル付きデータには、ラベル付きデータの既知のカテゴリだけでなく、新しいカテゴリのインスタンスも含まれている。
GCDの効果的な方法の1つは、ラベルなしデータの識別表現を学習するために自己教師付き学習を適用することである。
本稿では,クラスタリングの精度を効果的に向上する動的概念コントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-30T14:04:39Z) - ProtoCon: Pseudo-label Refinement via Online Clustering and Prototypical
Consistency for Efficient Semi-supervised Learning [60.57998388590556]
ProtoConは信頼性に基づく疑似ラベル作成の新しい手法である。
ProtoConのオンライン版では、データセット全体のラベル履歴を1回のトレーニングサイクルで活用することができる。
最先端のデータセットよりも大幅に向上し、より高速に収束する。
論文 参考訳(メタデータ) (2023-03-22T23:51:54Z) - Parametric Classification for Generalized Category Discovery: A Baseline
Study [70.73212959385387]
Generalized Category Discovery (GCD)は、ラベル付きサンプルから学習した知識を用いて、ラベルなしデータセットで新しいカテゴリを発見することを目的としている。
パラメトリック分類器の故障を調査し,高品質な監視が可能であった場合の過去の設計選択の有効性を検証し,信頼性の低い疑似ラベルを重要課題として同定する。
エントロピー正規化の利点を生かし、複数のGCDベンチマークにおける最先端性能を実現し、未知のクラス数に対して強いロバスト性を示す、単純で効果的なパラメトリック分類法を提案する。
論文 参考訳(メタデータ) (2022-11-21T18:47:11Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。