論文の概要: Personalized Federated Learning via Backbone Self-Distillation

• arxiv url: http://arxiv.org/abs/2409.15636v1
• Date: Tue, 24 Sep 2024 00:43:16 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-26 11:32:56.015104
• Title: Personalized Federated Learning via Backbone Self-Distillation
• Title（参考訳）: バックボーン自己蒸留による個人化フェデレーション学習
• Authors: Pengju Wang, Bochao Liu, Dan Zeng, Chenggang Yan, Shiming Ge,
• Abstract要約: 本稿では,個人化学習を容易にするバックボーン自己蒸留手法を提案する。 このアプローチでは、各クライアントはローカルモデルをトレーニングし、バックボーンの重みだけをサーバに送る。 これらの重みは集約されてグローバルなバックボーンを生成し、更新のために各クライアントに返される。
• 参考スコア（独自算出の注目度）: 39.56761924121072
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In practical scenarios, federated learning frequently necessitates training personalized models for each client using heterogeneous data. This paper proposes a backbone self-distillation approach to facilitate personalized federated learning. In this approach, each client trains its local model and only sends the backbone weights to the server. These weights are then aggregated to create a global backbone, which is returned to each client for updating. However, the client's local backbone lacks personalization because of the common representation. To solve this problem, each client further performs backbone self-distillation by using the global backbone as a teacher and transferring knowledge to update the local backbone. This process involves learning two components: the shared backbone for common representation and the private head for local personalization, which enables effective global knowledge transfer. Extensive experiments and comparisons with 12 state-of-the-art approaches demonstrate the effectiveness of our approach.
• Abstract（参考訳）: 実践的なシナリオでは、フェデレーション学習は、異種データを使用して各クライアントに対してパーソナライズされたモデルのトレーニングを必要とすることが多い。 本稿では,個人化されたフェデレーション学習を容易にするバックボーン自己蒸留手法を提案する。 このアプローチでは、各クライアントはローカルモデルをトレーニングし、バックボーンの重みだけをサーバに送る。 これらの重みは集約されてグローバルなバックボーンを生成し、更新のために各クライアントに返される。 しかし、クライアントのローカルバックボーンは、共通の表現のためにパーソナライズが欠けている。 この問題を解決するために、各クライアントは、グローバルバックボーンを教師として使用し、知識を伝達してローカルバックボーンを更新することにより、バックボーンの自己蒸留を行う。 このプロセスは、共通の表現のための共有バックボーンと、効果的なグローバルな知識伝達を可能にするローカルパーソナライゼーションのためのプライベートヘッドの2つのコンポーネントを学習する。 12種類の最先端アプローチとの比較実験により,本手法の有効性が示された。

関連論文リスト

• Personalized Federated Learning via Sequential Layer Expansion in Representation Learning [0.0]
  フェデレーション学習は、個々のクライアントデバイス上で分散トレーニングを行い、中央サーバでモデルウェイトのみを共有することによって、クライアントのプライバシを保証する。 本稿では,ディープラーニングモデル全体をより密に分割した部分に分割し,適切なスケジューリング手法を適用した表現学習に基づく新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-04-27T06:37:19Z)
• Learn What You Need in Personalized Federated Learning [53.83081622573734]
  $textitLearn2pFed$は、アルゴリズムに基づくパーソナライズされたフェデレーション学習フレームワークである。 我々は、textitLearn2pFed$が、従来のパーソナライズされたフェデレーション学習方法よりも大幅に優れていることを示す。
  論文  参考訳（メタデータ） (2024-01-16T12:45:15Z)
• Federated Unlearning: How to Efficiently Erase a Client in FL? [9.346673106489742]
  訓練されたグローバルモデルからローカルデータ全体の影響を除去し,クライアントを消去する手法を提案する。 当社のアンラーニング手法は,スクラッチからフェデレート・リトレーニングを行うためのゴールド・スタンダード・アンラーニング手法と同等の性能を達成している。 以前の作業とは異なり、我々のアンラーニングメソッドは、トレーニングに使用されるデータへのグローバルアクセスも、サーバまたはクライアントによって格納されるパラメータ更新履歴も必要としません。
  論文  参考訳（メタデータ） (2022-07-12T13:24:23Z)
• Cross-domain Federated Object Detection [43.66352018668227]
  フェデレーション学習は、クライアントデータをリークすることなく、多人数の共同学習を可能にする。 我々はFedODというドメイン間フェデレーションオブジェクト検出フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-06-30T03:09:59Z)
• Personalized Federated Learning through Local Memorization [10.925242558525683]
  フェデレーション学習により、クライアントはデータをローカルに保ちながら、統計的モデルを協調的に学習することができる。 最近のパーソナライズされた学習方法は、他のクライアントで利用可能な知識を活用しながら、各クライアントに対して別々のモデルを訓練する。 本稿では,この手法が最先端手法よりも精度と公平性を著しく向上することを示す。
  論文  参考訳（メタデータ） (2021-11-17T19:40:07Z)
• Decentralised Person Re-Identification with Selective Knowledge Aggregation [56.40855978874077]
  既存の人物再識別(Re-ID)手法は、主に、モデル学習のためのコレクションにすべてのトレーニングデータを共有する集中型学習パラダイムに従っている。 グローバルに一般化されたモデル(サーバ)を構築するための分散(フェデレーション)Re-ID学習を導入した最近の2つの作品がある。 しかし、これらの手法は、個々のクライアントドメインのRe-IDタスクのパフォーマンスを最大化するために一般化されたモデルを適用する方法に乏しい。 我々は、モデルパーソナライゼーションと一般化のトレードオフを最適化するために、分散化されたRe-IDに対して、新しい選択的知識集約アプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-21T18:09:53Z)
• Subspace Learning for Personalized Federated Optimization [7.475183117508927]
  本稿では,AIシステムにおけるパーソナライズされた学習の問題に対処する手法を提案する。 提案手法は、パーソナライズされたクライアント評価設定と見当たらないクライアント評価設定の両方において、一貫した利得が得られることを示す。
  論文  参考訳（メタデータ） (2021-09-16T00:03:23Z)
• Exploiting Shared Representations for Personalized Federated Learning [54.65133770989836]
  本稿では,クライアント間の共有データ表現と,クライアント毎のユニークなローカルヘッダを学習するための,新しいフェデレーション学習フレームワークとアルゴリズムを提案する。 提案アルゴリズムは, クライアント間の分散計算能力を利用して, 表現の更新毎に低次元の局所パラメータに対して, 多数の局所更新を行う。 この結果は、データ分布間の共有低次元表現を学習することを目的とした、幅広い種類の問題に対するフェデレーション学習以上の関心を持っている。
  論文  参考訳（メタデータ） (2021-02-14T05:36:25Z)
• Decentralised Learning from Independent Multi-Domain Labels for Person Re-Identification [69.29602103582782]
  ディープラーニングは多くのコンピュータビジョンタスクで成功している。 しかし、プライバシー問題に対する意識の高まりは、特に人物の再識別(Re-ID)において、ディープラーニングに新たな課題をもたらす。 我々は,複数のプライバシ保護されたローカルモデル(ローカルクライアント)を同時に学習することにより,汎用的なグローバルモデル(中央サーバ)を構築するための,フェデレート・パーソナライゼーション(FedReID)と呼ばれる新しいパラダイムを提案する。 このクライアントサーバ共同学習プロセスは、プライバシコントロールの下で反復的に実行されるため、分散データを共有したり、収集したりすることなく、分散学習を実現することができる。
  論文  参考訳（メタデータ） (2020-06-07T13:32:33Z)
• Federated Residual Learning [53.77128418049985]
  クライアントはローカルモデルを個別に訓練し、サーバ側で共有するモデルと共同で予測を行う。 この新しいフェデレートされた学習フレームワークを使用することで、統合トレーニングが提供するパフォーマンス上のメリットをすべて享受しながら、中央共有モデルの複雑さを最小限にすることができる。
  論文  参考訳（メタデータ） (2020-03-28T19:55:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。