論文の概要: Personalized Federated Learning through Global Knowledge Distillation and Local Head Adaptation

• arxiv url: http://arxiv.org/abs/2609.17284v1
• Date: Tue, 15 Sep 2026 14:58:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.589109
• Title: Personalized Federated Learning through Global Knowledge Distillation and Local Head Adaptation
• Title（参考訳）: グローバル知識蒸留と局所的頭部適応による個人化フェデレーション学習
• Abstract要約: 頭部適応型個人化フェデレーション知識蒸留法(pFedKDH)を提案する。 pFedKDHは共有バックボーンのみを集約し、永続的なクライアント固有のヘッドを保持し、ローカルトレーニング中に教師として再校正されたグローバルヘッドを使用する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Statistical heterogeneity limits federated learning when a single global classifier cannot represent client-specific label distributions. In this work, we propose Personalized Federated Knowledge Distillation with Head Adaptation (pFedKDH), which aggregates only the shared backbone, keeps persistent client-specific heads, and uses a recalibrated global head as a teacher during local training. Across MNIST, Fashion-MNIST, CIFAR10, and CIFAR100 under class-wise Dirichlet partitions, pFedKDH obtains the best accuracy in most settings, with accuracy gaps up to 37.67\% over the weakest baseline and consistently low standard deviation across repetitions. Component-wise diagnostics and convergence results support the role of persistent heads and distillation-guided local optimization under label-skewed data.
• Abstract（参考訳）: 統計的不均一性は、単一のグローバル分類器がクライアント固有のラベル分布を表現できない場合に、フェデレート学習を制限する。 本研究では、共有バックボーンのみを集約し、クライアント固有のヘッドを持続的に保持し、ローカルトレーニング中に教師として再校正されたグローバルヘッドを使用するPersonalized Federated Knowledge Distillation with Head Adaptation (pFedKDH)を提案する。 MNIST、Fashion-MNIST、CIFAR10、CIFAR100をクラスワイドディリクレのパーティションで比較すると、pFedKDHは最も弱いベースラインに対して最大37.67倍の精度で、繰り返しの標準偏差を一貫して低くする。 成分的診断と収束結果は, ラベルスキュードデータの下での持続的頭部の役割と蒸留誘導局所最適化を支援する。

関連論文リスト

• CALM: Class-wise Agreement and Label-gated Disagreement Modulation for Decentralized Federated Learning [1.1617094867403568]
  CALMは、あらゆる難しい決定をスムーズな信頼ゲートに置き換える。 均一で硬ろ過された蒸留よりも一貫して優れており、競合する異種FL法に適合するか超えている。
  論文  参考訳（メタデータ） (2026-09-05T05:13:07Z)
• Breaking the Structural Identity: Personalized Federated LoRA Fine-tuning under Rank Heterogeneity [12.733972494875713]
  FedRoRAは、ランク・ヘテロジニアス・フェデレーション内できめ細かいパーソナライズを可能にする新しいフレームワークである。 適応を共通のグローバルな方向と、学習可能な対角スケールによって管理される個人レベルの等級に分離する。 NLUおよびNLGベンチマークの実験は、FedRoRAが常に最先端の手法より優れていることを示した。
  論文  参考訳（メタデータ） (2026-09-01T03:09:20Z)
• FedReLa: Imbalanced Federated Learning via Re-Labeling [47.73320550761897]
  フェデレーテッド・ラーニングは、プライバシ保護を伴う分散モデルトレーニングにおける最優先のアプローチとして登場した。 グローバルクラス分布の非依存性は、データレベルの手法に重大な課題をもたらす。 我々は、フェデレート学習におけるデータ不均一性とクラス不均衡の共存に対処する新しいデータレベルアプローチであるFedReLaを提案する。
  論文  参考訳（メタデータ） (2026-06-24T17:13:41Z)
• Local Performance vs. Out-of-Distribution Generalization: An Empirical Analysis of Personalized Federated Learning in Heterogeneous Data Environments [3.186130813218338]
  本研究は,その局所的性能と一般化能力の両方を包含して,フェデレートラーニングアプローチを徹底的に評価することを含む。 本稿では、FLIU (Federated Learning with individualized Updates) に指定されたFedAvgの修正手法を提案し、適応的パーソナライゼーション係数でアルゴリズムをパーソナライゼーションステップで拡張する。
  論文  参考訳（メタデータ） (2025-10-28T15:15:14Z)
• FedCoSR: Personalized Federated Learning with Contrastive Shareable Representations for Label Heterogeneity in Non-IID Data [11.389706928654965]
  本稿では,FedCoSR(Federated Contrastive Shareable Representations)という新しい個人学習アルゴリズムを提案する。 ローカルモデルの浅い層と典型的なローカル表現のパラメータは、どちらもサーバの共有可能な情報であると考えられている。 クライアント間でのラベル分布スキューによる性能劣化に対処するため、局所表現とグローバル表現の対比学習を採用する。
  論文  参考訳（メタデータ） (2024-04-27T14:05:18Z)
• FedLoGe: Joint Local and Generic Federated Learning under Long-tailed Data [46.29190753993415]
  Federated Long-Tailed Learning (Fed-LT)は、分散化されたローカルクライアントから収集されたデータが、グローバルに普及しているロングテール分布を示すパラダイムである。 本稿では、Fed-LT(FedLoGe)におけるFederated Local and Generic Model Training(FedLoGe)というアプローチを紹介し、ローカルモデルとジェネリックモデルの両方のパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2024-01-17T05:04:33Z)
• Exploring Vacant Classes in Label-Skewed Federated Learning [113.65301899666645]
  本稿では,ラベルスキュード・フェデレーション学習の新しいアプローチであるFedVLSを紹介する。 空のクラス蒸留とロジット抑制を同時に統合する。 FedVLSの有効性を検証する実験は、従来のSOTA(State-of-the-art)法と比較して優れた性能を示す。
  論文  参考訳（メタデータ） (2024-01-04T16:06:31Z)
• Integrating Local Real Data with Global Gradient Prototypes for Classifier Re-Balancing in Federated Long-Tailed Learning [60.41501515192088]
  フェデレートラーニング(FL)は、グローバルモデルを協調的にトレーニングする複数のクライアントを含む、人気のある分散ラーニングパラダイムになっています。 データサンプルは通常、現実世界の長い尾の分布に従っており、分散化された長い尾のデータのFLは、貧弱なグローバルモデルをもたらす。 本研究では、局所的な実データとグローバルな勾配のプロトタイプを統合し、局所的なバランスの取れたデータセットを形成する。
  論文  参考訳（メタデータ） (2023-01-25T03:18:10Z)
• Divide and Contrast: Source-free Domain Adaptation via Adaptive Contrastive Learning [122.62311703151215]
  Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。 DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。 さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
  論文  参考訳（メタデータ） (2022-11-12T09:21:49Z)
• FedDC: Federated Learning with Non-IID Data via Local Drift Decoupling and Correction [48.85303253333453]
  フェデレートラーニング(FL)は、複数のクライアントがプライベートデータを共有せずに、高性能なグローバルモデルを集合的にトレーニングすることを可能にする。 局所的ドリフトデカップリングと補正(FedDC)を用いた新しいフェデレーション学習アルゴリズムを提案する。 私たちのFedDCでは、ローカルモデルパラメータとグローバルモデルパラメータのギャップを追跡するために、各クライアントが補助的なローカルドリフト変数を使用するような、ローカルトレーニングフェーズにおける軽量な修正のみを導入しています。 実験結果と解析結果から,FedDCは様々な画像分類タスクにおいて,収差の迅速化と性能の向上を図っている。
  論文  参考訳（メタデータ） (2022-03-22T14:06:26Z)
• Class-Aware Contrastive Semi-Supervised Learning [51.205844705156046]
  本研究では,擬似ラベル品質を向上し,実環境におけるモデルの堅牢性を高めるため,CCSSL(Class-Aware Contrastive Semi-Supervised Learning)と呼ばれる一般的な手法を提案する。 提案するCCSSLは,標準データセットCIFAR100とSTL10の最先端SSLメソッドに対して,大幅な性能向上を実現している。
  論文  参考訳（メタデータ） (2022-03-04T12:18:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。