論文の概要: FedHPro: Federated Hyper-Prototype Learning via Gradient Matching
- arxiv url: http://arxiv.org/abs/2605.13475v2
- Date: Wed, 20 May 2026 10:31:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 14:55:44.108351
- Title: FedHPro: Federated Hyper-Prototype Learning via Gradient Matching
- Title(参考訳): FedHPro: グラディエントマッチングによるフェデレーション型ハイパープロトタイプ学習
- Authors: Huan Wang, Jun Shen, Haoran Li, Zhenyu Yang, Jun Yan, Ousman Manjang, Yanlong Zhai, Di Wu, Guansong Pang,
- Abstract要約: フェデレートラーニング(FL)は、プライバシを保護しながら、分散クライアントの協調的なトレーニングを可能にする。
学習可能なグローバルなクラスワイドプロトタイプセットによって定義されたハイパープロトタイプを導入し、クライアント間のセマンティックな知識を保存する。
本稿では,フェデレートされたハイパープロトタイプ学習フレームワークであるFedHProを提案する。
- 参考スコア(独自算出の注目度): 34.44446063708919
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated Learning (FL) enables collaborative training of distributed clients while protecting privacy. To enhance generalization capability in FL, prototype-based FL is in the spotlight, since shared global prototypes offer semantic anchors for aligning client-specific local prototypes. However, existing methods update global prototypes at the prototype-level via averaging local prototypes or refining global anchors, which often leads to semantic drift across clients and subsequently yields a misaligned global signal. To alleviate this issue, we introduce hyper-prototypes, defined by a set of learnable global class-wise prototypes to preserve underlying semantic knowledge across clients. The hyper-prototypes are optimized via gradient matching to align with class-relevant characteristics distilled directly from clients' real samples, rather than prototype-level descriptors. We further propose FedHPro, a Federated Hyper-Prototype Learning framework, to leverage hyper-prototypes to promote inter-class separability via mutual-contrastive learning with client-specific margin, while encouraging intra-class uniformity through a consistency penalty. Comprehensive experiments under diverse heterogeneous scenarios confirm that 1) hyper-prototypes produce a more semantically consistent global signal, and 2) FedHPro achieves state-of-the-art performance on several benchmark datasets. Code is available at \href{https://github.com/mala-lab/FedHPro}{https://github.com/mala-lab/FedHPro}.
- Abstract(参考訳): フェデレートラーニング(FL)は、プライバシを保護しながら、分散クライアントの協調的なトレーニングを可能にする。
共通グローバルプロトタイプはクライアント固有のローカルプロトタイプをコーディネートするためのセマンティックアンカーを提供するため、FLの一般化能力を高めるためにプロトタイプベースのFLが注目されている。
しかし、既存の手法では、ローカルプロトタイプの平均化やグローバルアンカーの精製によって、プロトタイプレベルのグローバルプロトタイプを更新している。
この問題を軽減するため,学習可能なグローバルなクラスワイドプロトタイプセットによって定義されたハイパープロトタイプを導入し,クライアント間のセマンティックな知識を維持する。
ハイパープロトタイプは勾配マッチングによって最適化され、プロトタイプレベルの記述子ではなく、クライアントの実際のサンプルから直接蒸留されたクラス関連特性に適合する。
さらに,Federated Hyper-Prototype LearningフレームワークであるFederated Hyper-Prototype(フェデレート・ハイパープロトタイプラーニング・フレームワーク)を提案する。
多様な異種シナリオにおける包括的実験は、それを裏付ける
1) ハイパープロトタイプは、より意味的に一貫したグローバル信号を生成し、
2) FedHProは、いくつかのベンチマークデータセットで最先端のパフォーマンスを達成する。
コードは \href{https://github.com/mala-lab/FedHPro}{https://github.com/mala-lab/FedHPro} で入手できる。
関連論文リスト
- From Coordinate Matching to Structural Alignment: Rethinking Prototype Alignment in Heterogeneous Federated Learning [23.704003173950905]
不均一連合学習(HtFL)は、データ分散とモデルアーキテクチャの両方で異なるクライアント間の協調を可能にすることを目的としている。
既存のプロトタイプベースのHtFLメソッドは、通常、MSEベースのもしくはコサインベースのアライメント機構を再利用する。
我々は,アライメントの目的を絶対座標からクラス間関係構造へシフトさせるFedSAFを提案する。
論文 参考訳(メタデータ) (2026-05-07T10:06:26Z) - Divide, Conquer and Unite: Hierarchical Style-Recalibrated Prototype Alignment for Federated Medical Image Segmentation [66.82598255715696]
フェデレートラーニング(Federated Learning)は、複数の医療機関がデータを共有することなく、グローバルなモデルをトレーニングすることを可能にする。
現在のアプローチは主に、重要なマルチレベルキューを見下ろす最終層機能に重点を置いている。
我々は,ドメイン不変のコンテキスト型プロトタイプアライメントを介して特徴表現ギャップをブリッジするFedBCSを提案する。
論文 参考訳(メタデータ) (2025-11-14T04:15:34Z) - FedAPT: Federated Adversarial Prompt Tuning for Vision-Language Models [97.35577473867296]
Federated Adversarial Prompt Tuning (textbfFedAPT)は、FPTの対向性を高めるために設計された新しい手法である。
この問題に対処するために,テキストプロンプトから視覚的なプロンプトを生成するtextbfclass-awareプロンプトジェネレータを提案する。
複数の画像分類データセットの実験は、対向ロバスト性を改善する上でFedAPTの優位性を示している。
論文 参考訳(メタデータ) (2025-09-03T03:46:35Z) - FedTGP: Trainable Global Prototypes with Adaptive-Margin-Enhanced
Contrastive Learning for Data and Model Heterogeneity in Federated Learning [18.916282151435727]
不均一フェデレートラーニング(HtFL)は異種モデルやデータをサポートする能力から注目されている。
我々は,ACL(Adaptive-margin-enhanced Contrastive Learning)を活用して,サーバ上でトレーニング可能なグローバルプロトタイプ(TGP)を学習する,FedTGPという新しいHtFLアプローチを導入する。
論文 参考訳(メタデータ) (2024-01-06T14:43:47Z) - Dynamic Heterogeneous Federated Learning with Multi-Level Prototypes [45.13348636579529]
本研究では,新しいタスクである動的不均一フェデレート学習(Dynamic Heterogeneous Federated Learning, DHFL)について検討する。
コンセプトドリフトを緩和するために,実りある一般化知識を提供し,プロトタイプ空間の連続性を確保するために,プロトタイプとセマンティックプロトタイプを構築した。
実験結果から,提案手法は様々な環境下での最先端性能を実現することが示唆された。
論文 参考訳(メタデータ) (2023-12-15T15:28:25Z) - Rethinking Client Drift in Federated Learning: A Logit Perspective [125.35844582366441]
フェデレートラーニング(FL)は、複数のクライアントが分散した方法で協調的に学習し、プライバシ保護を可能にする。
その結果,局所モデルとグローバルモデルとのロジット差は,モデルが継続的に更新されるにつれて増大することがわかった。
我々はFedCSDと呼ばれる新しいアルゴリズムを提案する。FedCSDは、ローカルモデルとグローバルモデルを調整するためのフェデレーションフレームワークにおけるクラスプロトタイプの類似度蒸留である。
論文 参考訳(メタデータ) (2023-08-20T04:41:01Z) - MP-FedCL: Multiprototype Federated Contrastive Learning for Edge
Intelligence [41.75096257083503]
本稿では,MP-FedCL(Multi-prototype Federated contrastive learning approach)を提案する。
非IID条件下での単一プロトタイプ上でのマルチプロトタイプ戦略の有効性を示す。
MNIST,Digit-5,Office-10,DomainNetの実験結果から,本手法が複数のベースラインより優れていることが示された。
論文 参考訳(メタデータ) (2023-04-01T09:16:40Z) - Dual Prototypical Contrastive Learning for Few-shot Semantic
Segmentation [55.339405417090084]
本稿では,FSSタスクに適合する2つの特徴的コントラスト学習手法を提案する。
第一の考え方は、プロトタイプの特徴空間におけるクラス内距離を減少させながら、クラス間距離を増やすことで、プロトタイプをより差別的にすることである。
提案手法は,PASCAL-5iおよびCOCO-20iデータセット上で,最先端のFSS手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-11-09T08:14:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。