論文の概要: FedCM: A Real-time Contribution Measurement Method for Participants in
Federated Learning
- arxiv url: http://arxiv.org/abs/2009.03510v2
- Date: Thu, 11 Feb 2021 14:03:54 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-20 20:53:54.860374
- Title: FedCM: A Real-time Contribution Measurement Method for Participants in
Federated Learning
- Title(参考訳): FedCM:フェデレーション学習における参加者のリアルタイム貢献度測定手法
- Authors: Boyi Liu, Bingjie Yan, Yize Zhou, Zhixuan Liang, Cheng-Zhong Xu
- Abstract要約: Federated Learning (FL)は、複数のエージェントがデータプライバシを考慮したモデル構築に協力するためのエコシステムを作成する。
我々は,シンプルながら強力なFedCMのリアルタイムコントリビューション測定手法を開発した。
- 参考スコア(独自算出の注目度): 19.215913399829066
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Federated Learning (FL) creates an ecosystem for multiple agents to
collaborate on building models with data privacy consideration. The method for
contribution measurement of each agent in the FL system is critical for fair
credits allocation but few are proposed. In this paper, we develop a real-time
contribution measurement method FedCM that is simple but powerful. The method
defines the impact of each agent, comprehensively considers the current round
and the previous round to obtain the contribution rate of each agent with
attention aggregation. Moreover, FedCM updates contribution every round, which
enable it to perform in real-time. Real-time is not considered by the existing
approaches, but it is critical for FL systems to allocate computing power,
communication resources, etc. Compared to the state-of-the-art method, the
experimental results show that FedCM is more sensitive to data quantity and
data quality under the premise of real-time. Furthermore, we developed
federated learning open-source software based on FedCM. The software has been
applied to identify COVID-19 based on medical images.
- Abstract(参考訳): Federated Learning (FL)は、複数のエージェントがデータプライバシを考慮したモデル構築に協力するためのエコシステムを作成する。
flシステムにおける各エージェントの貢献度測定手法は、公正なクレジット割り当てに重要であるが、提案は少ない。
本稿では,単純かつ強力なリアルタイム貢献度測定手法であるfeedcmを開発した。
この方法は各エージェントの影響を定義し、現在ラウンドと前ラウンドを包括的に考慮し、注目集約された各エージェントの貢献率を得る。
さらに、FedCMは各ラウンドのコントリビューションを更新し、リアルタイムで実行できるようにする。
リアルタイムは既存のアプローチでは考慮されていないが、FLシステムが計算能力や通信資源などを割り当てることは重要である。
実験結果から,FedCMはリアルタイムの前提条件下でのデータ量やデータ品質に敏感であることがわかった。
さらに,FedCMに基づくフェデレーション学習オープンソースソフトウェアを開発した。
このソフトウェアは、医療画像に基づいて新型コロナウイルスを識別するために応用されている。
関連論文リスト
- Prioritizing Modalities: Flexible Importance Scheduling in Federated Multimodal Learning [5.421492821020181]
Federated Learning(FL)は、デバイスがローカルデータを共有せずにモデルを協調的にトレーニングできる分散機械学習アプローチである。
FLを実世界のデータに適用することは、特に既存のFL研究が不正なデータに焦点を当てているため、課題を提示している。
我々は,各モードエンコーダのトレーニングリソースを適応的に割り当てることで,MFLにおける計算効率を向上させる新しい手法FlexModを提案する。
論文 参考訳(メタデータ) (2024-08-13T01:14:27Z) - Age-Based Scheduling for Mobile Edge Computing: A Deep Reinforcement
Learning Approach [58.911515417156174]
我々は情報時代(AoI)の新たな定義を提案し、再定義されたAoIに基づいて、MECシステムにおけるオンラインAoI問題を定式化する。
本稿では,システム力学の部分的知識を活用するために,PDS(Post-Decision State)を導入する。
また、PSDと深いRLを組み合わせることで、アルゴリズムの適用性、スケーラビリティ、堅牢性をさらに向上します。
論文 参考訳(メタデータ) (2023-12-01T01:30:49Z) - Contribution Evaluation in Federated Learning: Examining Current
Approaches [1.3688201404977818]
フェデレートラーニング(Federated Learning)では、プライベートで、潜在的に異種なデータや計算資源を持つクライアントが集まって、ローカライズしたデータを残さずに、共通のモデルをトレーニングします。
これらの貢献の価値を定量的に評価する評価貢献(CE)問題は、評価貢献(CE)問題と呼ばれる。
我々は、MNISTとCIFAR-10で紹介した新しいアプローチとともに、最も有望な最先端のアプローチのいくつかをベンチマークして、それらの相違点を示す。
論文 参考訳(メタデータ) (2023-11-16T12:32:44Z) - DPP-based Client Selection for Federated Learning with Non-IID Data [97.1195165400568]
本稿では,統合学習(FL)のコミュニケーションボトルネックに対処するクライアント選択(CS)手法を提案する。
まず、FLにおけるCSの効果を分析し、各学習ラウンドにおけるトレーニングデータセットの多様化に参加者を適切に選択することで、FLトレーニングを加速させることができることを示す。
我々は、データプロファイリングと決定点プロセス(DPP)サンプリング技術を活用し、DPPに基づく参加者選択(FL-DP$3$S)によるフェデレートラーニング(Federated Learning)と呼ばれるアルゴリズムを開発する。
論文 参考訳(メタデータ) (2023-03-30T13:14:54Z) - FedDM: Iterative Distribution Matching for Communication-Efficient
Federated Learning [87.08902493524556]
フェデレートラーニング(FL)は近年、学術や産業から注目を集めている。
我々は,複数の局所的代理関数からグローバルなトレーニング目標を構築するためのFedDMを提案する。
そこで本研究では,各クライアントにデータ集合を構築し,元のデータから得られた損失景観を局所的にマッチングする。
論文 参考訳(メタデータ) (2022-07-20T04:55:18Z) - Local Learning Matters: Rethinking Data Heterogeneity in Federated
Learning [61.488646649045215]
フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
論文 参考訳(メタデータ) (2021-11-28T19:03:39Z) - Locality Matters: A Scalable Value Decomposition Approach for
Cooperative Multi-Agent Reinforcement Learning [52.7873574425376]
協調型マルチエージェント強化学習(MARL)は,エージェント数で指数関数的に大きい状態空間と動作空間により,スケーラビリティの問題に直面する。
本稿では,学習分散実行パラダイムに局所報酬を組み込んだ,新しい価値に基づくマルチエージェントアルゴリズム LOMAQ を提案する。
論文 参考訳(メタデータ) (2021-09-22T10:08:15Z) - FedCM: Federated Learning with Client-level Momentum [18.722626360599065]
FedCM(Federated Averaging with Client-level Momentum)は、実世界のフェデレーション学習アプリケーションにおける部分的参加とクライアントの不均一性の問題に対処するために提案される。
FedCMは、以前の通信ラウンドにおけるグローバルな勾配情報を集約し、モーメントのような用語でクライアントの勾配降下を修正し、バイアスを効果的に補正し、局所的なSGDの安定性を向上させる。
論文 参考訳(メタデータ) (2021-06-21T06:16:19Z) - FedScale: Benchmarking Model and System Performance of Federated
Learning [4.1617240682257925]
FedScaleは、連邦学習(FL)研究のための、挑戦的で現実的なベンチマークデータセットのセットである。
FedScaleはオープンソースで、寛容なライセンスを持ち、積極的にメンテナンスされている。
論文 参考訳(メタデータ) (2021-05-24T15:55:27Z) - FedEval: A Benchmark System with a Comprehensive Evaluation Model for
Federated Learning [17.680627081257246]
本稿では,フェデレートラーニング(FL)システムに対する総合的な評価フレームワークを提案する。
まず、精度、コミュニケーション、時間効率、プライバシ、ロバストネスなど、FL評価において除外できない5つの指標を定義するACTPRモデルを紹介します。
次に、最も広く使われている2つのFLメカニズムであるFedSGDとFedAvgの詳細なベンチマーク調査を行う。
論文 参考訳(メタデータ) (2020-11-19T04:59:51Z) - Dif-MAML: Decentralized Multi-Agent Meta-Learning [54.39661018886268]
我々は,MAML や Dif-MAML と呼ばれる協調型マルチエージェントメタ学習アルゴリズムを提案する。
提案手法により, エージェントの集合が線形速度で合意に達し, 集約MAMLの定常点に収束できることを示す。
シミュレーションの結果は従来の非協調的な環境と比較して理論的な結果と優れた性能を示している。
論文 参考訳(メタデータ) (2020-10-06T16:51:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。