論文の概要: Global Federated Learning Strategies for Building Efficient Personalized Models
- arxiv url: http://arxiv.org/abs/2608.15107v1
- Date: Sat, 15 Aug 2026 08:12:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.199757
- Title: Global Federated Learning Strategies for Building Efficient Personalized Models
- Title(参考訳): 効率的なパーソナライズドモデル構築のためのグローバルフェデレーション学習戦略
- Abstract要約: フェデレートラーニング(FL)は、データプライバシを保証しながら、分散ユーザデータ上でモデルをトレーニングできる実践的なフレームワークである。
この論文は、効率的なパーソナライズされたモデルを構築するための方法論を提示する。
本研究では,地域適応時のユーザ固有のパフォーマンスを確保しつつ,グローバルな知識の保存方法を示す。
- 参考スコア(独自算出の注目度): 1.3537117504260623
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning (FL) is a practical framework that can train models on distributed user data while guaranteeing data privacy; however, due to heterogeneity in which each user has a different data distribution, problems frequently arise where both global and personalization performance deteriorate simultaneously. This dissertation presents methodologies for building efficient personalized models by identifying which strategies are effective in the global training stage and by showing how to preserve global knowledge while securing user-specific performance during local adaptation. First, we show that as data heterogeneity increases, the collapse of feature vectors is a more fundamental bottleneck than classifier weights, and propose a method that directly mitigates the discrepancy in representation magnitude between local and global models. Second, we analyze that a training approach that strengthens local alignment can induce forgetting of global knowledge (e.g., categories not observed locally), and propose a method that achieves both local alignment and global knowledge preservation by combining feature distillation based on the global model's feature vectors. Third, in federated personalized reward model learning with preference heterogeneity, we empirically verify the conventional belief that "increasing the number of global models yields better initialization," and we show that when sufficient local fine-tuning is allowed, a single global initialization can instead provide stronger personalization performance. This study redefines the role of global initialization under data and preference heterogeneity and provides practical training strategies that simultaneously satisfy global knowledge preservation and personalization.
- Abstract(参考訳): フェデレートラーニング(FL)は、データプライバシを保証しながら、分散ユーザデータのモデルをトレーニングできる実践的なフレームワークであるが、各ユーザが異なるデータ分散を持つ不均一性のため、グローバルとパーソナライズの両方のパフォーマンスが同時に低下する問題が発生することが多い。
本論文は,グローバルトレーニング段階において,どの戦略が有効かを特定し,地域適応時のユーザ固有のパフォーマンスを確保しつつ,グローバル知識の保存方法を示すことによって,効率的なパーソナライズドモデルを構築する手法を提案する。
まず,データの不均一性が増大するにつれて特徴ベクトルの崩壊は分類器の重みよりも根本的なボトルネックとなり,局所モデルと大域モデルとの差を緩和する手法を提案する。
第2に、局所的なアライメントを強化するトレーニング手法は、グローバルな知識(例えば、局所的に観察されていないカテゴリ)の忘れを招き、グローバルなモデルの特徴ベクトルに基づく特徴蒸留を組み合わせることで、局所的なアライメントとグローバルな知識保存の両方を実現する方法を提案する。
第3に,選好不均一性を考慮したパーソナライズド・パーソナライズド・パーソナライズド・モデル学習において,「グローバル・モデル数の増加はより優れた初期化をもたらす」という従来の信念を実証的に検証し,十分な局所的な微調整を許せば,より強力なパーソナライズ性能が得られることを示す。
本研究では、データと嗜好の不均一性の下でのグローバルな初期化の役割を再定義し、グローバルな知識保存とパーソナライゼーションを同時に満たす実践的なトレーニング戦略を提供する。
関連論文リスト
- Hierarchical Knowledge Structuring for Effective Federated Learning in Heterogeneous Environments [0.6144680854063939]
フェデレーション学習は、個々のデータのプライバシを維持しながら、分散エンティティ間の協調的なモデルトレーニングを可能にする。
近年の取り組みは、これらの問題を克服するために、ロジットに基づく知識集約と蒸留を活用している。
サンプルログを多粒度コードブックに定式化する階層的知識構造化(HKS)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-04-04T15:06:02Z) - Personalized Federated Learning via Feature Distribution Adaptation [3.410799378893257]
Federated Learning(FL)は、分散クライアントデータセット間の共通性を利用してグローバルモデルをトレーニングする分散学習フレームワークである。
パーソナライズド・フェデレーション・ラーニング(PFL)は、各クライアントに適した個々のモデルを学習することで、この問題に対処しようとしている。
我々は,グローバルな生成型分類器を局所的な特徴分布に適応させることで,パーソナライズされたモデルを効率的に生成するアルゴリズム,pFedFDAを提案する。
論文 参考訳(メタデータ) (2024-11-01T03:03:52Z) - Federated Cross-Training Learners for Robust Generalization under Data Heterogeneity [28.506414879932635]
これにより、モデルは異なるソースからのデータをトレーニングし、一般化能力を改善することができる。
パーソナライズされた視点からの知識の蒸留は、クライアント固有の特性を保持し、局所的な知識基盤を広げる。
我々は,FedCTが局所的,グローバル的両視点からの知識を緩和し,最先端の手法より優れていることを示す。
論文 参考訳(メタデータ) (2024-05-30T13:27:30Z) - Adaptive Global-Local Representation Learning and Selection for
Cross-Domain Facial Expression Recognition [54.334773598942775]
ドメインシフトは、クロスドメイン顔表情認識(CD-FER)において重要な課題となる
適応的グローバルローカル表現学習・選択フレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-20T02:21:41Z) - FedLoGe: Joint Local and Generic Federated Learning under Long-tailed
Data [46.29190753993415]
Federated Long-Tailed Learning (Fed-LT)は、分散化されたローカルクライアントから収集されたデータが、グローバルに普及しているロングテール分布を示すパラダイムである。
本稿では、Fed-LT(FedLoGe)におけるFederated Local and Generic Model Training(FedLoGe)というアプローチを紹介し、ローカルモデルとジェネリックモデルの両方のパフォーマンスを向上させる。
論文 参考訳(メタデータ) (2024-01-17T05:04:33Z) - Rethinking Client Drift in Federated Learning: A Logit Perspective [125.35844582366441]
フェデレートラーニング(FL)は、複数のクライアントが分散した方法で協調的に学習し、プライバシ保護を可能にする。
その結果,局所モデルとグローバルモデルとのロジット差は,モデルが継続的に更新されるにつれて増大することがわかった。
我々はFedCSDと呼ばれる新しいアルゴリズムを提案する。FedCSDは、ローカルモデルとグローバルモデルを調整するためのフェデレーションフレームワークにおけるクラスプロトタイプの類似度蒸留である。
論文 参考訳(メタデータ) (2023-08-20T04:41:01Z) - Integrating Local Real Data with Global Gradient Prototypes for
Classifier Re-Balancing in Federated Long-Tailed Learning [60.41501515192088]
フェデレートラーニング(FL)は、グローバルモデルを協調的にトレーニングする複数のクライアントを含む、人気のある分散ラーニングパラダイムになっています。
データサンプルは通常、現実世界の長い尾の分布に従っており、分散化された長い尾のデータのFLは、貧弱なグローバルモデルをもたらす。
本研究では、局所的な実データとグローバルな勾配のプロトタイプを統合し、局所的なバランスの取れたデータセットを形成する。
論文 参考訳(メタデータ) (2023-01-25T03:18:10Z) - Fine-tuning Global Model via Data-Free Knowledge Distillation for
Non-IID Federated Learning [86.59588262014456]
フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。
サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。
私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
論文 参考訳(メタデータ) (2022-03-17T11:18:17Z) - Preservation of the Global Knowledge by Not-True Self Knowledge
Distillation in Federated Learning [8.474470736998136]
フェデレートラーニング(FL)では、強力なグローバルモデルが、クライアントのローカルにトレーニングされたモデルを集約することによって、協調的に学習される。
偏りのある地域分布への適応は、その特徴をグローバルな分布にシフトさせ、グローバルな知識を忘れる結果をもたらすことを観察する。
本稿では, ローカルデータに対するグローバルな知識を活用した, 簡便かつ効果的なフェデレートローカル自己蒸留(FedLSD)フレームワークを提案する。
論文 参考訳(メタデータ) (2021-06-06T11:51:47Z) - Think Locally, Act Globally: Federated Learning with Local and Global
Representations [92.68484710504666]
フェデレートラーニング(Federated Learning)とは、複数のデバイスに分散したプライベートデータ上でモデルをトレーニングする手法である。
本稿では,各デバイス上でコンパクトな局所表現を共同で学習する新しいフェデレーション学習アルゴリズムを提案する。
また、プライバシが鍵となる実世界のモバイルデータから、パーソナライズされた気分予測のタスクを評価する。
論文 参考訳(メタデータ) (2020-01-06T12:40:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。