論文の概要: Joint Probability Selection and Power Allocation for Federated Learning
- arxiv url: http://arxiv.org/abs/2401.07756v1
- Date: Mon, 15 Jan 2024 15:09:47 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-17 16:48:09.753455
- Title: Joint Probability Selection and Power Allocation for Federated Learning
- Title(参考訳): フェデレーション学習のための共同確率選択とパワーアロケーション
- Authors: Ouiame Marnissi, Hajar EL Hammouti, El Houcine Bergou
- Abstract要約: 我々は,限られたエネルギー予算を持つデバイスが機械学習モデルを訓練する無線ネットワーク上でのフェデレーション学習の性能について検討した。
我々は、クライアントを共同で選択し、電力を最適に割り当てるための新しい確率的アプローチを定式化する。
その結果,提案手法はエネルギー消費, 完了時間, 精度の点で, 評価されたベンチマークと比較すると有意な性能を示した。
- 参考スコア(独自算出の注目度): 2.9364773826704993
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we study the performance of federated learning over wireless
networks, where devices with a limited energy budget train a machine learning
model. The federated learning performance depends on the selection of the
clients participating in the learning at each round. Most existing studies
suggest deterministic approaches for the client selection, resulting in
challenging optimization problems that are usually solved using heuristics, and
therefore without guarantees on the quality of the final solution. We formulate
a new probabilistic approach to jointly select clients and allocate power
optimally so that the expected number of participating clients is maximized. To
solve the problem, a new alternating algorithm is proposed, where at each step,
the closed-form solutions for user selection probabilities and power
allocations are obtained. Our numerical results show that the proposed approach
achieves a significant performance in terms of energy consumption, completion
time and accuracy as compared to the studied benchmarks.
- Abstract(参考訳): 本稿では,限られたエネルギー予算を持つデバイスが機械学習モデルを訓練する無線ネットワーク上でのフェデレーション学習の性能について検討する。
連合学習のパフォーマンスは、各ラウンドで学習に参加するクライアントの選択に依存する。
既存の研究の多くは、クライアント選択に対する決定論的アプローチを示唆しており、その結果、通常ヒューリスティックスを使って解決される最適化問題に挑戦し、その結果、最終的なソリューションの品質を保証することなく解決する。
我々は,協調的にクライアントを選定し,参加するクライアント数を最大化するために電力を最適に割り当てる新しい確率的アプローチを定式化する。
この問題を解決するため,各ステップ毎にユーザ選択確率と電力配分に対する閉形式解を求める新たな交互化アルゴリズムを提案する。
その結果,提案手法はエネルギー消費, 完了時間, 精度の点で, 評価されたベンチマークと比較すると有意な性能を示した。
関連論文リスト
- Submodular Maximization Approaches for Equitable Client Selection in Federated Learning [4.167345675621377]
従来の学習フレームワークでは、トレーニングのためのクライアント選択は、通常、各イテレーションでクライアントのサブセットをランダムにサンプリングする。
本稿では,ランダムクライアント選択の限界に対処するために,SUBTRUNCとUNIONFLという2つの新しい手法を提案する。
論文 参考訳(メタデータ) (2024-08-24T22:40:31Z) - Emulating Full Client Participation: A Long-Term Client Selection Strategy for Federated Learning [48.94952630292219]
本稿では,クライアントの完全参加によって達成されるパフォーマンスをエミュレートする新しいクライアント選択戦略を提案する。
1ラウンドで、クライアントサブセットとフルクライアントセット間の勾配空間推定誤差を最小化し、クライアントを選択する。
複数ラウンド選択において、類似したデータ分布を持つクライアントが選択される頻度に類似することを保証する、新しい個性制約を導入する。
論文 参考訳(メタデータ) (2024-05-22T12:27:24Z) - Switchable Decision: Dynamic Neural Generation Networks [98.61113699324429]
本稿では,各データインスタンスのリソースを動的に割り当てることで,推論を高速化するスイッチブルな決定を提案する。
提案手法は, 同一の精度を維持しながら, 推論時のコスト低減に有効である。
論文 参考訳(メタデータ) (2024-05-07T17:44:54Z) - Predict-Then-Optimize by Proxy: Learning Joint Models of Prediction and
Optimization [59.386153202037086]
Predict-Then-フレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。
このアプローチは非効率であり、最適化ステップを通じてバックプロパゲーションのための手作りの、問題固有のルールを必要とする。
本稿では,予測モデルを用いて観測可能な特徴から最適解を直接学習する手法を提案する。
論文 参考訳(メタデータ) (2023-11-22T01:32:06Z) - A Comprehensive Survey On Client Selections in Federated Learning [3.438094543455187]
トレーニングプロセスに参加するクライアントの選択は、システム全体のパフォーマンスにとって重要な要素である。
フェデレートラーニングにおける最先端クライアント選択技術の概要について概説する。
論文 参考訳(メタデータ) (2023-11-12T10:40:43Z) - Fed-CBS: A Heterogeneity-Aware Client Sampling Mechanism for Federated
Learning via Class-Imbalance Reduction [76.26710990597498]
本研究では,ランダムに選択したクライアントからのグループデータのクラス不均衡が,性能の大幅な低下につながることを示す。
我々のキーとなる観測に基づいて、我々は効率的なクライアントサンプリング機構、すなわちフェデレートクラスバランスサンプリング(Fed-CBS)を設計する。
特に、クラス不均衡の尺度を提案し、その後、同型暗号化を用いてプライバシー保護方式でこの尺度を導出する。
論文 参考訳(メタデータ) (2022-09-30T05:42:56Z) - Straggler-Resilient Personalized Federated Learning [55.54344312542944]
フェデレーション学習は、プライバシと通信の制限を尊重しながら、クライアントの大規模なネットワークに分散されたサンプルからのトレーニングモデルを可能にする。
これら2つのハードルを同時に処理する理論的なスピードアップを保証する新しいアルゴリズム手法を開発した。
提案手法は,すべてのクライアントのデータを用いてグローバルな共通表現を見つけ,各クライアントに対してパーソナライズされたソリューションにつながるパラメータの集合を学習するために,表現学習理論からのアイデアに依存している。
論文 参考訳(メタデータ) (2022-06-05T01:14:46Z) - Stochastic Client Selection for Federated Learning with Volatile Clients [41.591655430723186]
Federated Learning(FL)は、プライバシ保護機械学習パラダイムである。
同期FLトレーニングの各ラウンドでは、参加できるクライアントはごくわずかである。
本稿では,この問題を解決するためのクライアント選択方式であるE3CSを提案する。
論文 参考訳(メタデータ) (2020-11-17T16:35:24Z) - Client Selection in Federated Learning: Convergence Analysis and
Power-of-Choice Selection Strategies [29.127689561987964]
フェデレートラーニングにより、多数のリソース制限されたクライアントノードが、データ共有なしで協調的にモデルをトレーニングできる。
局所的損失の高いクライアントに対するクライアント選択の偏りは、より高速なエラー収束を実現することを示す。
通信および計算効率の高いクライアント選択フレームワークであるPower-of-Choiceを提案する。
論文 参考訳(メタデータ) (2020-10-03T01:04:17Z) - Combining Deep Learning and Optimization for Security-Constrained
Optimal Power Flow [94.24763814458686]
セキュリティに制約のある最適電力フロー(SCOPF)は、電力システムの基本である。
SCOPF問題におけるAPRのモデル化は、複雑な大規模混合整数プログラムをもたらす。
本稿では,ディープラーニングとロバスト最適化を組み合わせた新しい手法を提案する。
論文 参考訳(メタデータ) (2020-07-14T12:38:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。