論文の概要: FedSub: Introducing class-aware Subnetworks Fusion to Enhance Personalized Federated Learning in Ubiquitous Systems
- arxiv url: http://arxiv.org/abs/2411.08699v1
- Date: Wed, 13 Nov 2024 15:42:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-14 16:10:45.844136
- Title: FedSub: Introducing class-aware Subnetworks Fusion to Enhance Personalized Federated Learning in Ubiquitous Systems
- Title(参考訳): FedSub: ユビキタスシステムにおける個人化フェデレーション学習を促進するクラス対応サブネットワークフュージョンの導入
- Authors: Mattia Giovanni Campana, Franca Delmastro,
- Abstract要約: FedSubは、クラス対応のプロトタイプとモデルワークを使用してパーソナライズを強化するために設計された、新しいアプローチである。
プロトタイプは、特定のラベルパターンに基づいて類似点を特定するためにサーバ上にクラスタ化された、ユーザデータのコンパクトな表現として機能する。
FedSubは、高データの均一性を特徴とする3つの現実シナリオで検証されている。
- 参考スコア(独自算出の注目度): 6.21540494241516
- License:
- Abstract: Personalized Federated Learning is essential in AI-driven ubiquitous systems, supporting the distributed development of models able to adapt to diverse and evolving user behaviors while safeguarding privacy. Despite addressing heterogeneous user data distributions in collaborative model training, existing methods often face limitations balancing personalization and generalization, oversimplifying user similarities, or relying heavily on global models. In this paper, we propose FedSub, a novel federated approach designed to enhance personalization through the use of class-aware prototypes and model subnetworks. Prototypes serve as compact representations of user data, clustered on the server to identify similarities based on specific label patterns. Concurrently, subnetworks -- model components necessary to process each class -- are extracted locally and fused by the server according to these clusters, producing highly tailored model updates for each user. This fine-grained, class-specific aggregation of clients' models allows FedSub to capture the unique characteristics of individual user data patterns. The effectiveness of FedSub is validated in three real-world scenarios characterized by high data heterogeneity, derived from human activity recognition and mobile health applications. Experimental evaluations demonstrate FedSub's performance improvements with respect to the state-of-the-art and significant advancements in personalization for ubiquitous systems based on personal mobile and wearable devices.
- Abstract(参考訳): パーソナライズされたフェデレーション学習は、AI駆動のユビキタスシステムにおいて不可欠であり、プライバシを保護しながら、多様で進化するユーザの行動に適応可能なモデルの分散開発をサポートする。
協調モデルトレーニングにおける異種ユーザデータの分散に対処する一方で、既存の手法では、パーソナライゼーションと一般化のバランスのとれた制限に直面したり、ユーザの類似性を単純化したり、グローバルモデルに大きく依存することが多い。
本稿では,クラス認識型プロトタイプとモデルサブネットによるパーソナライズ向上を目的とした,新しいフェデレーションアプローチであるFedSubを提案する。
プロトタイプは、特定のラベルパターンに基づいて類似点を特定するためにサーバ上にクラスタ化された、ユーザデータのコンパクトな表現として機能する。
同時に、サブネットワーク -- 各クラスを処理するために必要なモデルコンポーネント -- は、ローカルに抽出され、これらのクラスタに従ってサーバによって融合される。
このきめ細かいクラス固有のクライアントモデルアグリゲーションにより、FedSubは個々のユーザデータパターンのユニークな特徴をキャプチャできる。
FedSubの有効性は、人間の活動認識とモバイルヘルスアプリケーションから派生した、高データの異質性によって特徴づけられる3つの実世界のシナリオで検証される。
個人用モバイルおよびウェアラブルデバイスに基づくユビキタスシステムのパーソナライゼーションにおいて,FedSubの最先端および大幅な向上に関する性能向上を示す実験的評価を行った。
関連論文リスト
- Federated Face Forgery Detection Learning with Personalized Representation [63.90408023506508]
ディープジェネレータ技術は、区別がつかない高品質のフェイクビデオを制作し、深刻な社会的脅威をもたらす可能性がある。
従来の偽造検出手法は、データを直接集中的に訓練する。
本稿では,個人化表現を用いた新しいフェデレーション顔偽造検出学習を提案する。
論文 参考訳(メタデータ) (2024-06-17T02:20:30Z) - FedP3: Federated Personalized and Privacy-friendly Network Pruning under Model Heterogeneity [82.5448598805968]
我々は、フェデレートされたパーソナライズされたプライバシフレンドリーなネットワークプルーニングを表現する、効果的で適応可能なフェデレーションフレームワークであるFedP3を提案する。
我々は、FedP3とその局所微分プライベート変種DP-FedP3の理論解釈を提供し、それらの効率を理論的に検証する。
論文 参考訳(メタデータ) (2024-04-15T14:14:05Z) - Towards Personalized Federated Learning via Heterogeneous Model
Reassembly [84.44268421053043]
pFedHRは、異種モデルの再組み立てを利用して、パーソナライズされたフェデレーション学習を実現するフレームワークである。
pFedHRは、動的に多様なパーソナライズされたモデルを自動生成する。
論文 参考訳(メタデータ) (2023-08-16T19:36:01Z) - Visual Prompt Based Personalized Federated Learning [83.04104655903846]
pFedPTと呼ばれる画像分類タスクのための新しいPFLフレームワークを提案し、クライアントのローカルデータ配信情報を暗黙的に表現するためにパーソナライズされた視覚的プロンプトを利用する。
CIFAR10とCIFAR100データセットの実験では、pFedPTは様々な設定でいくつかの最先端(SOTA)PFLアルゴリズムより優れていた。
論文 参考訳(メタデータ) (2023-03-15T15:02:15Z) - PaDPaF: Partial Disentanglement with Partially-Federated GANs [5.195669033269619]
フェデレーテッド・ラーニングは、多くの潜在的な現実のアプリケーションで人気のある機械学習パラダイムとなっている。
本研究では,グローバルクライアント非依存とローカルクライアント固有の生成モデルを組み合わせた新しいアーキテクチャを提案する。
提案モデルでは,グローバルな一貫した表現を暗黙的に切り離すことで,プライバシーとパーソナライゼーションを実現する。
論文 参考訳(メタデータ) (2022-12-07T18:28:54Z) - Tackling Data Heterogeneity in Federated Learning with Class Prototypes [44.746340839025194]
パーソナライズと一般化の両面において,ローカルモデルの性能を改善する新しい手法であるFedNHを提案する。
クラスセマンティクスを注入することで局所モデルを改善する一方で,一様性を付与することでプロトタイプの崩壊に対処できることを示す。
論文 参考訳(メタデータ) (2022-12-06T05:15:38Z) - Decentralised Person Re-Identification with Selective Knowledge
Aggregation [56.40855978874077]
既存の人物再識別(Re-ID)手法は、主に、モデル学習のためのコレクションにすべてのトレーニングデータを共有する集中型学習パラダイムに従っている。
グローバルに一般化されたモデル(サーバ)を構築するための分散(フェデレーション)Re-ID学習を導入した最近の2つの作品がある。
しかし、これらの手法は、個々のクライアントドメインのRe-IDタスクのパフォーマンスを最大化するために一般化されたモデルを適用する方法に乏しい。
我々は、モデルパーソナライゼーションと一般化のトレードオフを最適化するために、分散化されたRe-IDに対して、新しい選択的知識集約アプローチを提案する。
論文 参考訳(メタデータ) (2021-10-21T18:09:53Z) - Meta-HAR: Federated Representation Learning for Human Activity
Recognition [21.749861229805727]
ユビキタスコンピューティングにおいて,モバイルセンサに基づくヒューマンアクティビティ認識(HAR)が重要な役割を担っている。
本稿では,信号埋め込みネットワークをメタ学習した表現学習フレームワークMeta-HARを提案する。
埋め込みネットワークの表現能力を向上するため,ユーザ毎のHAR問題を別のタスクとして扱い,モデルに依存しないメタラーニングフレームワークを通じて共有埋め込みネットワークを訓練する。
論文 参考訳(メタデータ) (2021-05-31T11:04:39Z) - Exploiting Behavioral Consistence for Universal User Representation [11.290137806288191]
我々は普遍的ユーザ表現モデルの開発に注力する。
得られた普遍表現には豊富な情報が含まれることが予想される。
行動データを普遍表現にエンコードする自己監視型ユーザモデリングネットワーク(SUMN)を提案する。
論文 参考訳(メタデータ) (2020-12-11T06:10:14Z) - Multi-Center Federated Learning [62.57229809407692]
本稿では,フェデレート学習のための新しい多中心集約機構を提案する。
非IIDユーザデータから複数のグローバルモデルを学び、同時にユーザとセンタ間の最適なマッチングを導出する。
ベンチマークデータセットによる実験結果から,本手法はいくつかの一般的なフェデレーション学習法より優れていることが示された。
論文 参考訳(メタデータ) (2020-05-03T09:14:31Z) - Personalized Federated Learning: A Meta-Learning Approach [28.281166755509886]
フェデレートラーニング(Federated Learning)では、複数のコンピューティングユニット(ユーザ)にまたがるモデルをトレーニングすることを目的としています。
本稿では,現在あるいは新規利用者が自身のデータに対して1段階ないし数段階の勾配降下を実行することで,ローカルデータセットに容易に適応できるような,初歩的な共有モデルを見つけることを目標とする,フェデレーション学習のパーソナライズされたバリエーションについて検討する。
論文 参考訳(メタデータ) (2020-02-19T01:08:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。