Fugu-MT 論文翻訳(概要): Pursuing Overall Welfare in Federated Learning through Sequential Decision Making

論文の概要: Pursuing Overall Welfare in Federated Learning through Sequential Decision Making

arxiv url: http://arxiv.org/abs/2405.20821v2
Date: Mon, 18 Nov 2024 11:06:59 GMT
ステータス: 翻訳完了
システム内更新日: 2024-11-19 14:30:24.313472
Title: Pursuing Overall Welfare in Federated Learning through Sequential Decision Making
Title（参考訳）: 逐次意思決定によるフェデレーション学習における総合福祉の推進
Authors: Seok-Ju Hahn, Gi-Soo Kim, Junghye Lee,
Abstract要約: 従来のフェデレートラーニングでは、単一のグローバルモデルはすべてのクライアントに対して等しく機能することができない。我々の研究は、既存の公正を意識したアグリゲーション戦略をオンライン凸最適化フレームワークに統合できることを明らかにした。 AAggFFは、両方の実践的な設定において、既存のメソッドよりもクライアントレベルの公平性が高い。
参考スコア（独自算出の注目度）: 10.377683220196873
License:
Abstract: In traditional federated learning, a single global model cannot perform equally well for all clients. Therefore, the need to achieve the client-level fairness in federated system has been emphasized, which can be realized by modifying the static aggregation scheme for updating the global model to an adaptive one, in response to the local signals of the participating clients. Our work reveals that existing fairness-aware aggregation strategies can be unified into an online convex optimization framework, in other words, a central server's sequential decision making process. To enhance the decision making capability, we propose simple and intuitive improvements for suboptimal designs within existing methods, presenting AAggFF. Considering practical requirements, we further subdivide our method tailored for the cross-device and the cross-silo settings, respectively. Theoretical analyses guarantee sublinear regret upper bounds for both settings: $\mathcal{O}(\sqrt{T \log{K}})$ for the cross-device setting, and $\mathcal{O}(K \log{T})$ for the cross-silo setting, with $K$ clients and $T$ federation rounds. Extensive experiments demonstrate that the federated system equipped with AAggFF achieves better degree of client-level fairness than existing methods in both practical settings. Code is available at https://github.com/vaseline555/AAggFF
Abstract（参考訳）: 従来のフェデレートラーニングでは、単一のグローバルモデルはすべてのクライアントに対して等しく機能することができない。そこで,フェデレートシステムにおけるクライアントレベルの公平性の実現の必要性が強調され,グローバルモデルを適応的なモデルに更新する静的アグリゲーションスキームを,参加するクライアントのローカル信号に応じて変更することで実現可能となった。我々の研究は、既存の公正を意識したアグリゲーション戦略がオンライン凸最適化フレームワークに統合できることを明らかにし、言い換えれば、中央サーバのシーケンシャルな意思決定プロセスである。意思決定能力を向上させるため,AAggFFを提示する既存手法における最適部分設計の簡易かつ直感的な改善を提案する。実際の要件を考慮し,クロスデバイスとクロスサイロの設定に適したメソッドをさらに分割する。理論解析により、両方の設定でサブ線形後悔の上界を保証する:$\mathcal{O}(\sqrt{T \log{K}})$ クロスデバイス設定では$\mathcal{O}(K \log{T})$ クロスサイロ設定では$K$クライアントと$T$フェデレーションラウンドで$ である。大規模な実験により,AAggFFを組み込んだ連合システムは,既存手法よりもクライアントレベルの公平性を両立させることができた。コードはhttps://github.com/vaseline555/AAggFFで入手できる。

関連論文リスト

Federated $\mathcal{X}$-armed Bandit with Flexible Personalisation [3.74142789780782]
本稿では,$mathcalX$-armed banditフレームワーク内での個人化フェデレーション学習への新たなアプローチを提案する。本手法では,個別のクライアント選好と集約されたグローバル知識を組み合わせた代理目的関数を用いて,個人化と集団学習の柔軟なトレードオフを実現する。
論文参考訳（メタデータ） (2024-09-11T13:19:41Z)
Towards Hyper-parameter-free Federated Learning [1.3682156035049038]
グローバルモデル更新の自動スケーリングのためのアルゴリズムを導入する。第1のアルゴリズムでは、クライアントにおける降下検知ステップサイズ体制が、サーバの目的に対して降下を保証することが保証される。第2のアルゴリズムは、サンプリングされたクライアントの目的値の平均値が、スケーリング係数を計算するのに必要な値サーバの実用的で効果的な代用であることを示している。
論文参考訳（メタデータ） (2024-08-30T09:35:36Z)
Learn What You Need in Personalized Federated Learning [53.83081622573734]
$textitLearn2pFed$は、アルゴリズムに基づくパーソナライズされたフェデレーション学習フレームワークである。我々は、textitLearn2pFed$が、従来のパーソナライズされたフェデレーション学習方法よりも大幅に優れていることを示す。
論文参考訳（メタデータ） (2024-01-16T12:45:15Z)
Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。本稿では,FedInsという新しいFLアルゴリズムを提案する。我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
論文参考訳（メタデータ） (2023-08-11T09:58:47Z)
Locally Adaptive Federated Learning [30.19411641685853]
フェデレートラーニング(Federated Learning)とは、複数のクライアントが中央サーバと協調してモデルを学習する分散機械学習のパラダイムである。 Federated Averaging (FedAvg)のような標準的なフェデレーション最適化手法は、クライアント間の一般化を保証する。本稿では,各クライアント関数の局所的幾何情報を利用する局所的フェデレーション学習アルゴリズムを提案する。
論文参考訳（メタデータ） (2023-07-12T17:02:32Z)
When Computing Power Network Meets Distributed Machine Learning: An Efficient Federated Split Learning Framework [6.871107511111629]
CPN-FedSLはComputer Power Network (CPN)上のFederated Split Learning (FedSL)フレームワークである。私たちは、基本的な設定と学習特性(例えば、レイテンシ、フロー、収束)をキャプチャする専用のモデルを構築します。
論文参考訳（メタデータ） (2023-05-22T12:36:52Z)
FedDA: Faster Framework of Local Adaptive Gradient Methods via Restarted Dual Averaging [104.41634756395545]
フェデレートラーニング(Federated Learning, FL)は、大規模な分散データに取り組むための新たな学習パラダイムである。局所適応勾配法のための新しいフレームワークである textbfFedDA を提案する。 textbfFedDA-MVR は適応FLアルゴリズムとしては初めてこの速度を実現することを示す。
論文参考訳（メタデータ） (2023-02-13T05:10:30Z)
$\texttt{FedBC}$: Calibrating Global and Local Models via Federated Learning Beyond Consensus [66.62731854746856]
フェデレートラーニング(FL)では、デバイス全体にわたるモデル更新の集約を通じて、グローバルモデルを協調的に学習する目的は、ローカル情報を通じたパーソナライズという目標に反対する傾向にある。本研究では,このトレードオフを多基準最適化により定量的にキャリブレーションする。私たちは、$texttFedBC$が、スイートデータセット間でグローバルおよびローカルモデルのテスト精度のメトリクスのバランスをとることを実証しています。
論文参考訳（メタデータ） (2022-06-22T02:42:04Z)
Local Adaptivity in Federated Learning: Convergence and Consistency [25.293584783673413]
フェデレートラーニング(FL)フレームワークは、局所的に訓練されたモデルを定期的に集約することで、エッジクライアントデバイスに格納された分散データを使用して機械学習モデルをトレーニングする。局所適応法は収束を加速できるが, 解バイアスを生じさせる可能性があることを示す。本稿では,この不整合を克服し,FLの局所適応手法を補完する補正手法を提案する。
論文参考訳（メタデータ） (2021-06-04T07:36:59Z)
A Bayesian Federated Learning Framework with Online Laplace Approximation [144.7345013348257]
フェデレートラーニングは、複数のクライアントが協力してグローバルに共有されたモデルを学ぶことを可能にする。クライアント側とサーバ側の両方の後方部を近似するために,オンラインラプラス近似を用いた新しいFLフレームワークを提案する。提案手法の利点を実証し,いくつかのベンチマークで最新の結果を得た。
論文参考訳（メタデータ） (2021-02-03T08:36:58Z)
Edge-assisted Democratized Learning Towards Federated Analytics [67.44078999945722]
本稿では,エッジ支援型民主化学習機構であるEdge-DemLearnの階層的学習構造を示す。また、Edge-DemLearnを柔軟なモデルトレーニングメカニズムとして検証し、リージョンに分散制御と集約の方法論を構築する。
論文参考訳（メタデータ） (2020-12-01T11:46:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。