論文の概要: From Classifier Heads to Encoder Prototypes: Personalized Federated Learning with Head-Derived Clustering
- arxiv url: http://arxiv.org/abs/2610.30075v1
- Date: Wed, 21 Oct 2026 17:27:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.458802
- Title: From Classifier Heads to Encoder Prototypes: Personalized Federated Learning with Head-Derived Clustering
- Title（参考訳）: クラシファイアヘッドからエンコーダプロトタイプへ:頭部クラスタリングによる個人化フェデレーション学習
- Abstract要約: HDC-FL(個人化フェデレーション学習のための重み付きクラスタリング)
クライアント固有のヘッドは、決して平均化されず、oth-erクライアントに分散しません。
HDC-FLは, 評価手法の中で, 数値的に最も高いマクロ平均値, ボトム20%の精度が得られる。
- 参考スコア（独自算出の注目度）: 5.4572449700698895
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Personalized federated learning must decide which clients should share representations. We introduce HDC-FL (Head-Derived Clustering for Personalized Federated Learning), which reads that decision off a signal shared-encoder training already produces: the client-specific classifi- er heads. At periodic refresh rounds the server projects the cached heads into a normalized low-rank descriptor space, groups the descriptors, builds one encoder prototype per group from the cached client encoders, and returns to each client a soft mixture of those prototypes paired with its own unchanged head. Client-specific heads are never averaged or distributed to oth- er clients; the shared-encoder trajectory is left intact; and no second optimization trajectory, additional local objective, or post-training fine-tuning stage is required. Across 11 CIFAR-10 and CIFAR-100 configurations covering label-subset, Dirichlet and rotation heterogeneity with ResNet-18 and MobileNetV2 encoders, HDC-FL is competitive with the strongest personalized and clustered baselines in macro-averaged mean accuracy and attains the numerically highest macro-averaged worst-client and bottom-20% accuracy among the evaluated methods. The tail results distinguish methods that look similar when only their means are compared. A controlled donor-swap diagnostic further finds positive donor-ranking associations between head similarity and encoder compatibility in all three settings tested, most clearly under covariate shift.
- Abstract（参考訳）: パーソナライズされたフェデレーション学習は、どのクライアントが表現を共有するべきかを決定する必要があります。
我々はHDC-FL(Head-Derived Clustering for Personalized Federated Learning)を紹介した。
定期的にリフレッシュラウンドで、サーバはキャッシュされたヘッドを正規化された低ランクディスクリプタ空間に投影し、ディスクリプタをグループ化し、キャッシュされたクライアントエンコーダからグループごとに1つのエンコーダプロトタイプを構築し、それらのプロトタイプのソフトな混合物を自身の変更されたヘッドと組み合わせて各クライアントに返す。
クライアント固有のヘッドは平均したり、oth-erクライアントに分散したりせず、共有エンコーダのトラジェクトリはそのまま残され、第2の最適化トラジェクトリ、追加のローカル目的、トレーニング後の微調整ステージは不要である。
ラベルサブセット,ディリクレ,回転不均一性をResNet-18およびMobileNetV2エンコーダでカバーする11個のCIFAR-10およびCIFAR-100構成において,HDC-FLは,マクロ平均平均精度において最強のパーソナライズされたクラスタベースラインと競合し,評価方法の中で,最も高いマクロ平均およびボトム20%の精度が得られる。
テールの結果は、その手段を比較した場合に類似した手法を区別する。
制御されたドナースワップ診断では、テストされた3つの設定すべてにおいて、頭部の類似性とエンコーダの互換性の間の正のドナーレベルの関連がさらに見出される。
関連論文リスト
- RIPPLE in Still Water: Zero-Shot Clustering in Federated Learning with Wavelet Scattering Transform [51.56484100374058]
クラスタ化されたフェデレートラーニング(FL)は、クライアントを同じローカル分布のグループに分割し、クラスタ毎に1つの特別なモデルを訓練する。
本稿では、各クライアントのローカルデータのスペクトル特性からクラスタ割り当てを完全にオフラインで計算するクラスタリングFLフレームワークであるRIPPLEを提案する。
論文 参考訳（メタデータ） (2026-10-02T09:35:39Z) - FedQHD: Closed-Form Function-Space Federated Reinforcement Learning [18.086374545576792]
統合強化学習は、分散エージェントが生の軌跡を交換することなく、政策や価値見積を協調的に改善することを可能にする。
線形読み出しを用いた超次元(ランダム機能)状態エンコーダを用いたQ-ラーニング手法であるFedQHDを提案する。
このギャップは、サブスペースのミスアライメント、アンカーセット条件付け、正規化バイアスに分解される。
論文 参考訳（メタデータ） (2026-05-27T18:59:40Z) - Personalized Federated Learning via Gaussian Generative Modeling [18.268671025343696]
フェデレートラーニングは、本質的に分散されたクライアントデータに基づいて、モデルを協調的にトレーニングすることを目的としている。
ガウス生成モデルに基づくpFedGMを提案する。
pFedGMは最先端の手法に比べて優れた性能と競争性能を示す。
論文 参考訳（メタデータ） (2026-03-12T07:26:03Z) - CLoVE: Personalized Federated Learning through Clustering of Loss Vector Embeddings [1.966764032092535]
クラスタ化フェデレーション学習(CFL)のための新しいアルゴリズムであるCLoVEを提案する。
CLoVEは、クライアントデータに対するモデル損失に由来するクライアントの埋め込みを利用し、同じクラスタ内のクライアントが同様の損失値を共有するという洞察を活用する。
CLoVEは、異なるクラスタからクライアントを反復的に識別し、分離し、クラスタ固有のモデルを最適化することができる。
論文 参考訳（メタデータ） (2025-06-27T17:52:16Z) - Personalized Federated Collaborative Filtering: A Variational AutoEncoder Approach [49.63614966954833]
Federated Collaborative Filtering (FedCF)は、プライバシを保護する新しいレコメンデーションフレームワークの開発に焦点を当てた新興分野である。
既存のFedCFメソッドは通常、分散協調フィルタリング(CF)アルゴリズムとプライバシ保護メカニズムを組み合わせて、パーソナライズされた情報をユーザ埋め込みベクタに保存する。
本稿では,ユーザのパーソナライズされた情報を潜在変数とニューラルモデルに同時に保存することで,新たなパーソナライズされたFedCF手法を提案する。
論文 参考訳（メタデータ） (2024-08-16T05:49:14Z) - Federated Contrastive Learning for Personalized Semantic Communication [55.46383524190467]
我々は,パーソナライズされたセマンティックコミュニケーションを支援することを目的とした,協調型コントラスト学習フレームワークを設計する。
FedCLは、複数のクライアントにわたるローカルセマンティックエンコーダと、基地局が所有するグローバルセマンティックデコーダの協調トレーニングを可能にする。
分散クライアント間の異種データセットから生じるセマンティック不均衡問題に対処するために,コントラスト学習を用いてセマンティックセントロイドジェネレータを訓練する。
論文 参考訳（メタデータ） (2024-06-13T14:45:35Z) - Provably Personalized and Robust Federated Learning [47.50663360022456]
類似したクライアントのクラスタを識別し、パーソナライズされたモデルパークラスタを訓練する簡単なアルゴリズムを提案する。
アルゴリズムの収束率は、クライアントの真の基盤となるクラスタリングを知っていれば得られるものと一致します。
論文 参考訳（メタデータ） (2023-06-14T09:37:39Z) - Efficient Distribution Similarity Identification in Clustered Federated
Learning via Principal Angles Between Client Data Subspaces [59.33965805898736]
クラスタ学習は、クライアントをクラスタにグループ化することで、有望な結果をもたらすことが示されている。
既存のFLアルゴリズムは基本的に、クライアントを同様のディストリビューションでグループ化しようとしている。
以前のFLアルゴリズムは、訓練中に間接的に類似性を試みていた。
論文 参考訳（メタデータ） (2022-09-21T17:37:54Z) - Clustering of Bank Customers using LSTM-based encoder-decoder and
Dynamic Time Warping [0.0]
クラスタリングは教師なしのデータマイニング技術であり、セグメンテーション顧客に使用することができる。
本研究では,実世界の金融データセットを用いて,エンコーダデコーダネットワークと動的時間ワープ(DTW)手法を用いて銀行顧客をクラスタリングする。
論文 参考訳（メタデータ） (2021-10-22T13:16:49Z) - No Fear of Heterogeneity: Classifier Calibration for Federated Learning
with Non-IID Data [78.69828864672978]
実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。
このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。
実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
論文 参考訳（メタデータ） (2021-06-09T12:02:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。