論文の概要: FL Games: A federated learning framework for distribution shifts

• arxiv url: http://arxiv.org/abs/2205.11101v1
• Date: Mon, 23 May 2022 07:51:45 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-24 14:59:29.708355
• Title: FL Games: A federated learning framework for distribution shifts
• Title（参考訳）: FL Games:分散シフトのための連合学習フレームワーク
• Authors: Sharut Gupta and Kartik Ahuja and Mohammad Havaei and Niladri Chatterjee and Yoshua Bengio
• Abstract要約: フェデレートラーニングは、サーバのオーケストレーションの下で、クライアント間で分散されたデータの予測モデルをトレーニングすることを目的としている。 本稿では,クライアント間で不変な因果的特徴を学習するためのゲーム理論のフレームワークであるFL Gamesを提案する。
• 参考スコア（独自算出の注目度）: 71.98708418753786
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated learning aims to train predictive models for data that is distributed across clients, under the orchestration of a server. However, participating clients typically each hold data from a different distribution, whereby predictive models with strong in-distribution generalization can fail catastrophically on unseen domains. In this work, we argue that in order to generalize better across non-i.i.d. clients, it is imperative to only learn correlations that are stable and invariant across domains. We propose FL Games, a game-theoretic framework for federated learning for learning causal features that are invariant across clients. While training to achieve the Nash equilibrium, the traditional best response strategy suffers from high-frequency oscillations. We demonstrate that FL Games effectively resolves this challenge and exhibits smooth performance curves. Further, FL Games scales well in the number of clients, requires significantly fewer communication rounds, and is agnostic to device heterogeneity. Through empirical evaluation, we demonstrate that FL Games achieves high out-of-distribution performance on various benchmarks.
• Abstract（参考訳）: Federated Learningは、サーバのオーケストレーションの下で、クライアント間で分散されたデータの予測モデルをトレーニングすることを目的としている。 しかし、参加するクライアントは、通常、異なる分布からのデータを保持するため、強い分布内一般化を持つ予測モデルは、目に見えない領域で破滅的に失敗する可能性がある。 この研究において、非i.d.クライアント間でより良く一般化するためには、ドメイン間で安定で不変な相関を学習することが必須である。 本稿では,クライアント間で不変な因果的特徴を学習するためのゲーム理論フレームワークであるFL Gamesを提案する。 ナッシュ均衡を達成するための訓練中、伝統的なベストレスポンス戦略は高周波振動に悩まされる。 flゲームはこの課題を効果的に解決し、スムーズなパフォーマンス曲線を示す。 さらに、FL Gamesはクライアント数でよくスケールし、通信ラウンドを著しく少なくし、デバイスの不均一性に非依存である。 実験的な評価を通じて,flゲームは様々なベンチマークにおいて高い分散性能を達成できることを実証する。

関連論文リスト

• Can We Theoretically Quantify the Impacts of Local Updates on the Generalization Performance of Federated Learning? [50.03434441234569]
  フェデレートラーニング(FL)は、直接データ共有を必要とせず、さまざまなサイトで機械学習モデルをトレーニングする効果により、大きな人気を集めている。 局所的な更新を伴うFLは通信効率のよい分散学習フレームワークであることが様々なアルゴリズムによって示されているが、局所的な更新によるFLの一般化性能は比較的低い。
  論文  参考訳（メタデータ） (2024-09-05T19:00:18Z)
• An Aggregation-Free Federated Learning for Tackling Data Heterogeneity [50.44021981013037]
  フェデレートラーニング(FL)は、分散データセットからの知識を活用する効果に頼っている。 従来のFLメソッドでは、クライアントが前回のトレーニングラウンドからサーバが集約したグローバルモデルに基づいてローカルモデルを更新するアグリゲート-then-adaptフレームワークを採用している。 我々は,新しいアグリゲーションフリーFLアルゴリズムであるFedAFを紹介する。
  論文  参考訳（メタデータ） (2024-04-29T05:55:23Z)
• Achieving Linear Speedup in Asynchronous Federated Learning with Heterogeneous Clients [30.135431295658343]
  フェデレートラーニング(FL)は、異なるクライアントにローカルに保存されているデータを交換したり転送したりすることなく、共通のグローバルモデルを学ぶことを目的としている。 本稿では,DeFedAvgという,効率的な連邦学習(AFL)フレームワークを提案する。 DeFedAvgは、望まれる線形スピードアップ特性を達成する最初のAFLアルゴリズムであり、高いスケーラビリティを示している。
  論文  参考訳（メタデータ） (2024-02-17T05:22:46Z)
• FLASH: Federated Learning Across Simultaneous Heterogeneities [54.80435317208111]
  FLASH (Federated Learning Across Simultaneous Heterogeneities) は軽量かつ柔軟なクライアント選択アルゴリズムである。 ヘテロジニティの幅広い情報源の下で、最先端のFLフレームワークよりも優れています。 最先端のベースラインよりも大幅に、一貫性のある改善を実現している。
  論文  参考訳（メタデータ） (2024-02-13T20:04:39Z)
• PAGE: Equilibrate Personalization and Generalization in Federated Learning [13.187836371243385]
  フェデレーテッド・ラーニング(FL)は、マシンラーニング・アズ・ア・サービスの主要な推進力になりつつある。 PAGEと呼ばれるゲーム理論上でパーソナライズと一般化のバランスをとるための最初のアルゴリズムを提案する。 実験により、PAGEは、グローバルとローカルの予測精度において、最先端のFLベースラインを同時に上回ることを示した。
  論文  参考訳（メタデータ） (2023-10-13T09:11:35Z)
• Beyond ADMM: A Unified Client-variance-reduced Adaptive Federated Learning Framework [82.36466358313025]
  我々はFedVRAと呼ばれる原始二重FLアルゴリズムを提案し、このアルゴリズムはグローバルモデルの分散還元レベルとバイアスを適応的に制御することができる。 半教師付き画像分類タスクに基づく実験は,既存の手法よりもFedVRAの方が優れていることを示す。
  論文  参考訳（メタデータ） (2022-12-03T03:27:51Z)
• FL Games: A Federated Learning Framework for Distribution Shifts [71.98708418753786]
  フェデレートラーニングは、サーバのオーケストレーションの下で、クライアント間で分散されたデータの予測モデルをトレーニングすることを目的としている。 本稿では,クライアント間で不変な因果的特徴を学習するフェデレーション学習のためのゲーム理論フレームワークFL GAMESを提案する。
  論文  参考訳（メタデータ） (2022-10-31T22:59:03Z)
• A Fair Federated Learning Framework With Reinforcement Learning [23.675056844328]
  フェデレートラーニング(Federated Learning, FL)は、多くのクライアントが中央サーバの協調の下でモデルを協調的にトレーニングするパラダイムである。 本稿では,クライアントにアグリゲーション重み付けを割り当てるポリシを自動的に学習するPG-FFLという強化学習フレームワークを提案する。 フレームワークの有効性を検証するため、多様なデータセットに対して広範な実験を行う。
  論文  参考訳（メタデータ） (2022-05-26T15:10:16Z)
• Test-Time Robust Personalization for Federated Learning [5.553167334488855]
  Federated Learning(FL)は、多くのクライアントが分散トレーニングデータで共有グローバルモデルを共同で学習する機械学習パラダイムである。 パーソナライズされたFLは、グローバルモデルを異なるクライアントに適応させ、一貫したローカルトレーニングとテスト分布に関する有望な結果を達成する。 テスト時間分布シフトに頑健なFLモデルをパーソナライズするフェデレーションテスト時ヘッドアンサンブルとチューニング(FedTHE+)を提案する。
  論文  参考訳（メタデータ） (2022-05-22T20:08:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。