論文の概要: Bayesian Neural Network For Personalized Federated Learning Parameter
Selection
- arxiv url: http://arxiv.org/abs/2402.16091v1
- Date: Sun, 25 Feb 2024 13:37:53 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-27 15:24:04.444064
- Title: Bayesian Neural Network For Personalized Federated Learning Parameter
Selection
- Title(参考訳): 個人化フェデレーション学習パラメータ選択のためのベイズニューラルネットワーク
- Authors: Mengen Luo, Ercan Engin Kuruoglu
- Abstract要約: 異種データの存在下でのフェデレーション学習の性能の低下は、この分野でもっとも差し迫った問題の一つである。
本研究では,従来の階層レベルのパーソナライズではなく,要素レベルのパーソナライズを提案する。
我々は,提案手法が既存のベースラインより優れていることを示すために,実世界の複数のデータセットに対してアルゴリズムの有効性を検証する。
- 参考スコア(独自算出の注目度): 2.130283000112442
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning's poor performance in the presence of heterogeneous data
remains one of the most pressing issues in the field. Personalized federated
learning departs from the conventional paradigm in which all clients employ the
same model, instead striving to discover an individualized model for each
client to address the heterogeneity in the data. One of such approach involves
personalizing specific layers of neural networks. However, prior endeavors have
not provided a dependable rationale, and some have selected personalized layers
that are entirely distinct and conflicting. In this work, we take a step
further by proposing personalization at the elemental level, rather than the
traditional layer-level personalization. To select personalized parameters, we
introduce Bayesian neural networks and rely on the uncertainty they offer to
guide our selection of personalized parameters. Finally, we validate our
algorithm's efficacy on several real-world datasets, demonstrating that our
proposed approach outperforms existing baselines.
- Abstract(参考訳): 異種データの存在下でのフェデレーション学習の業績は、この分野で最も急進的な問題の一つである。
パーソナライズド・フェデレーション(Personalized Federated Learning)は、すべてのクライアントが同じモデルを採用する従来のパラダイムから脱却する。
そのようなアプローチの1つは、ニューラルネットワークの特定の層をパーソナライズすることである。
しかし、事前の努力は信頼できる根拠を提供しておらず、完全に異なる、矛盾するパーソナライズされた層を選択する者もいる。
本研究では,従来のレイヤレベルのパーソナライズよりも,要素レベルでパーソナライズを提案することにより,さらに一歩前進する。
パーソナライズされたパラメータを選択するために、ベイズ型ニューラルネットワークを導入し、パーソナライズされたパラメータを選択するための不確実性に依存します。
最後に,提案手法が既存のベースラインより優れていることを示すとともに,実世界のデータセット上でのアルゴリズムの有効性を検証する。
関連論文リスト
- Federated Face Forgery Detection Learning with Personalized Representation [63.90408023506508]
ディープジェネレータ技術は、区別がつかない高品質のフェイクビデオを制作し、深刻な社会的脅威をもたらす可能性がある。
従来の偽造検出手法は、データを直接集中的に訓練する。
本稿では,個人化表現を用いた新しいフェデレーション顔偽造検出学習を提案する。
論文 参考訳(メタデータ) (2024-06-17T02:20:30Z) - Personalized Federated Learning via Sequential Layer Expansion in Representation Learning [0.0]
フェデレーション学習は、個々のクライアントデバイス上で分散トレーニングを行い、中央サーバでモデルウェイトのみを共有することによって、クライアントのプライバシを保証する。
本稿では,ディープラーニングモデル全体をより密に分割した部分に分割し,適切なスケジューリング手法を適用した表現学習に基づく新しいアプローチを提案する。
論文 参考訳(メタデータ) (2024-04-27T06:37:19Z) - Trustworthy Personalized Bayesian Federated Learning via Posterior
Fine-Tune [3.1001287855313966]
ベイズ的手法を取り入れた,個人化されたフェデレーション学習のための新しいフレームワークを提案する。
我々は,新しいアルゴリズムが精度を向上するだけでなく,OOD検出においてベースラインを大幅に上回ることを示す。
論文 参考訳(メタデータ) (2024-02-25T13:28:08Z) - Learn What You Need in Personalized Federated Learning [53.83081622573734]
$textitLearn2pFed$は、アルゴリズムに基づくパーソナライズされたフェデレーション学習フレームワークである。
我々は、textitLearn2pFed$が、従来のパーソナライズされたフェデレーション学習方法よりも大幅に優れていることを示す。
論文 参考訳(メタデータ) (2024-01-16T12:45:15Z) - Dirichlet-based Uncertainty Quantification for Personalized Federated
Learning with Improved Posterior Networks [9.54563359677778]
本稿では,グローバルおよびパーソナライズされたモデルの中からモデルを選択可能なフェデレーション学習への新たなアプローチを提案する。
これは、局所的およびグローバルな分布内および分布外データを検出するのに役立つ予測不確実性の慎重なモデリングによって達成される。
一般的な実世界の画像データセットに対する総合的な実験的評価は、アウト・オブ・ディストリビューション・データの存在下でのモデルの優れた性能を示している。
論文 参考訳(メタデータ) (2023-12-18T14:30:05Z) - Towards Personalized Federated Learning via Heterogeneous Model
Reassembly [84.44268421053043]
pFedHRは、異種モデルの再組み立てを利用して、パーソナライズされたフェデレーション学習を実現するフレームワークである。
pFedHRは、動的に多様なパーソナライズされたモデルを自動生成する。
論文 参考訳(メタデータ) (2023-08-16T19:36:01Z) - Personalized Federated Learning via Amortized Bayesian Meta-Learning [21.126405589760367]
我々は,Amortized Bayesian Meta-Learningを通じて,パーソナライズド・フェデレーション・ラーニングの新しい視点を紹介する。
具体的には,クライアント間の階層的変動推論を用いたemphFedABMLという新しいアルゴリズムを提案する。
我々の理論解析は平均一般化誤差の上限を提供し、未知のデータに対する一般化性能を保証する。
論文 参考訳(メタデータ) (2023-07-05T11:58:58Z) - Personalizing Federated Learning with Over-the-Air Computations [84.8089761800994]
フェデレートされたエッジ学習は、プライバシー保護の方法で無線ネットワークのエッジにインテリジェンスをデプロイする、有望な技術である。
このような設定の下で、複数のクライアントは、エッジサーバの調整の下でグローバルジェネリックモデルを協調的にトレーニングする。
本稿では,アナログオーバー・ザ・エア計算を用いて通信ボトルネックに対処する分散トレーニングパラダイムを提案する。
論文 参考訳(メタデータ) (2023-02-24T08:41:19Z) - Straggler-Resilient Personalized Federated Learning [55.54344312542944]
フェデレーション学習は、プライバシと通信の制限を尊重しながら、クライアントの大規模なネットワークに分散されたサンプルからのトレーニングモデルを可能にする。
これら2つのハードルを同時に処理する理論的なスピードアップを保証する新しいアルゴリズム手法を開発した。
提案手法は,すべてのクライアントのデータを用いてグローバルな共通表現を見つけ,各クライアントに対してパーソナライズされたソリューションにつながるパラメータの集合を学習するために,表現学習理論からのアイデアに依存している。
論文 参考訳(メタデータ) (2022-06-05T01:14:46Z) - Personalized Federated Learning by Structured and Unstructured Pruning
under Data Heterogeneity [3.291862617649511]
クライアントレベルの目的からパーソナライズされたモデルを得るための新しいアプローチを提案する。
このパーソナライズを実現するために、各クライアントの小さなサブネットワークを見つける。
論文 参考訳(メタデータ) (2021-05-02T22:10:46Z) - Toward Understanding the Influence of Individual Clients in Federated
Learning [52.07734799278535]
フェデレーションラーニングにより、クライアントはプライベートデータを中央サーバーに送信することなく、グローバルモデルを共同でトレーニングできます。
em-Influenceという新しい概念を定義し、パラメータに対するこの影響を定量化し、このメトリクスを推定する効果的な効率的なモデルを提案しました。
論文 参考訳(メタデータ) (2020-12-20T14:34:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。