論文の概要: Federated Generalized Category Discovery
- arxiv url: http://arxiv.org/abs/2305.14107v1
- Date: Tue, 23 May 2023 14:27:41 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-24 15:44:22.704385
- Title: Federated Generalized Category Discovery
- Title(参考訳): 連合型一般化圏発見
- Authors: Nan Pu and Zhun Zhong and Xinyuan Ji and Nicu Sebe
- Abstract要約: 一般カテゴリー発見(GCD)は、未知のクラスからラベルのないサンプルをグループ化することを目的としている。
地域社会における近年の分権化の傾向に対応するため,フェデレーションGCD(Fed-GCD)という,実践的かつ困難な課題を導入する。
Fed-GCDの目標は、プライバシ保護された制約の下で、クライアントのコラボレーションによって汎用的なGCDモデルをトレーニングすることである。
- 参考スコア(独自算出の注目度): 68.35420359523329
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generalized category discovery (GCD) aims at grouping unlabeled samples from
known and unknown classes, given labeled data of known classes. To meet the
recent decentralization trend in the community, we introduce a practical yet
challenging task, namely Federated GCD (Fed-GCD), where the training data are
distributively stored in local clients and cannot be shared among clients. The
goal of Fed-GCD is to train a generic GCD model by client collaboration under
the privacy-protected constraint. The Fed-GCD leads to two challenges: 1)
representation degradation caused by training each client model with fewer data
than centralized GCD learning, and 2) highly heterogeneous label spaces across
different clients. To this end, we propose a novel Associated Gaussian
Contrastive Learning (AGCL) framework based on learnable GMMs, which consists
of a Client Semantics Association (CSA) and a global-local GMM Contrastive
Learning (GCL). On the server, CSA aggregates the heterogeneous categories of
local-client GMMs to generate a global GMM containing more comprehensive
category knowledge. On each client, GCL builds class-level contrastive learning
with both local and global GMMs. The local GCL learns robust representation
with limited local data. The global GCL encourages the model to produce more
discriminative representation with the comprehensive category relationships
that may not exist in local data. We build a benchmark based on six visual
datasets to facilitate the study of Fed-GCD. Extensive experiments show that
our AGCL outperforms the FedAvg-based baseline on all datasets.
- Abstract(参考訳): Generalized category discovery (GCD) は、既知のクラスと未知のクラスからラベル付けされていないサンプルをグループ化することを目的としている。
近年のコミュニティにおける分散化傾向に対応するため,我々は,訓練データを分散的にローカルクライアントに格納し,クライアント間で共有できないような,実践的で困難なタスクであるフェデレートgcd(fed-gcd)を導入する。
Fed-GCDの目標は、プライバシー保護の制約の下で、クライアントのコラボレーションによって一般的なGCDモデルをトレーニングすることだ。
Fed-GCDは2つの課題をもたらす。
1)集中型gcd学習よりも少ないデータで各クライアントモデルをトレーニングすることによる表現劣化
2) 異なるクライアントにまたがる高度ヘテロジニアスなラベル空間。
そこで本研究では,クライアントセマンティックス・アソシエーション (CSA) とグローバルローカルGMMコントラスト・ラーニング (GCL) から構成される,学習可能なGMMをベースとした新しいAssociated Gaussian Contrastive Learning (AGCL) フレームワークを提案する。
サーバ上では、CSAはローカルクライアントGMMの不均一なカテゴリを集約し、より包括的なカテゴリ知識を含むグローバルGMMを生成する。
各クライアント上でGCLは、ローカルとグローバルの両方のGMMでクラスレベルのコントラスト学習を構築する。
ローカルGCLは、限られたローカルデータで堅牢な表現を学ぶ。
グローバルGCLは、局所データに存在しない可能性のある包括的カテゴリ関係により、より差別的な表現を生み出すようモデルに奨励する。
我々はFed-GCDの研究を容易にするために、6つのビジュアルデータセットに基づくベンチマークを構築した。
大規模な実験により、AGCLはすべてのデータセットでFedAvgベースのベースラインよりも優れています。
関連論文リスト
- Federated Domain Generalization via Prompt Learning and Aggregation [20.933631678895765]
フェデレーションドメイン一般化(FedDG)は、目に見えない領域におけるグローバルモデル一般化を改善することを目的としている。
既存のFedDG研究における一般的な戦略は、クライアント間でドメイン固有の知識を共有することである。
我々は、FedDGシナリオにおいて、事前学習された視覚言語モデル(VLM)を適応するための即時学習を導入する。
論文 参考訳(メタデータ) (2024-11-15T09:26:00Z) - FedCCL: Federated Dual-Clustered Feature Contrast Under Domain Heterogeneity [43.71967577443732]
フェデレートラーニング(FL)は、エッジクライアントと中央サーバとのコラボレーションを通じて、プライバシ保護のニューラルネットワークトレーニングパラダイムを促進する。
最近の研究は、単に正規化の形式として平均的な信号を使い、これらの非IID課題の1つの側面にのみ焦点をあてることに限られている。
マルチクラスタ機能を持つコントラストベースのFLフレームワークを提案する。
論文 参考訳(メタデータ) (2024-04-14T13:56:30Z) - GLC++: Source-Free Universal Domain Adaptation through Global-Local Clustering and Contrastive Affinity Learning [84.54244771470012]
Source-Free Universal Domain Adaptation (SF-UniDA) は、共通カテゴリに属する「既知の」データを正確に分類することを目的としている。
本稿では,適応的な一対一のグローバルクラスタリングアルゴリズムを備えた新しいグローバル・ローカルクラスタリング(GLC)手法を提案する。
我々はGLCをGLC++に進化させ、対照的な親和性学習戦略を統合する。
論文 参考訳(メタデータ) (2024-03-21T13:57:45Z) - Generalized Category Discovery with Clustering Assignment Consistency [56.92546133591019]
一般化圏発見(GCD)は、最近提案されたオープンワールドタスクである。
クラスタリングの一貫性を促進するための協調学習ベースのフレームワークを提案する。
提案手法は,3つの総合的なベンチマークと3つのきめ細かい視覚認識データセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2023-10-30T00:32:47Z) - CLUSTSEG: Clustering for Universal Segmentation [56.58677563046506]
CLUSTSEGは画像セグメンテーションのための一般的なトランスフォーマーベースのフレームワークである。
これは、統合されたニューラルクラスタリングスキームを通じて、異なるイメージセグメンテーションタスク(スーパーピクセル、セマンティック、インスタンス、パノプティクス)に取り組む。
論文 参考訳(メタデータ) (2023-05-03T15:31:16Z) - FedPNN: One-shot Federated Classification via Evolving Clustering Method
and Probabilistic Neural Network hybrid [4.241208172557663]
本稿では,プライバシ保護を指向した2段階のフェデレーション学習手法を提案する。
第1段階では、2つの異なる分布をノイズとして利用して合成データセットを生成する。
第2段階では,FedPNN(Federated Probabilistic Neural Network)が開発され,グローバルに共有する分類モデルの構築に利用されている。
論文 参考訳(メタデータ) (2023-04-09T03:23:37Z) - Dynamic Conceptional Contrastive Learning for Generalized Category
Discovery [76.82327473338734]
Generalized category discovery (GCD) は、部分的にラベル付けされたデータを自動でクラスタリングすることを目的としている。
ラベル付きデータには、ラベル付きデータの既知のカテゴリだけでなく、新しいカテゴリのインスタンスも含まれている。
GCDの効果的な方法の1つは、ラベルなしデータの識別表現を学習するために自己教師付き学習を適用することである。
本稿では,クラスタリングの精度を効果的に向上する動的概念コントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-30T14:04:39Z) - You Never Cluster Alone [150.94921340034688]
我々は、主流のコントラスト学習パラダイムをクラスタレベルのスキームに拡張し、同じクラスタに属するすべてのデータが統一された表現に寄与する。
分類変数の集合をクラスタ化代入信頼度として定義し、インスタンスレベルの学習トラックとクラスタレベルの学習トラックを関連付ける。
代入変数を再パラメータ化することで、TCCはエンドツーエンドでトレーニングされる。
論文 参考訳(メタデータ) (2021-06-03T14:59:59Z) - Cluster-driven Graph Federated Learning over Multiple Domains [25.51716405561116]
グラフフェデレーション学習(FL)は、中央モデル(すなわち、学習)を扱う。
サーバ) プライバシに制約されたシナリオ。
本稿では,クラスタ型グラフフェデレーション学習(FedCG)を提案する。
論文 参考訳(メタデータ) (2021-04-29T19:31:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。