論文の概要: Uplink Scheduling in Federated Learning: an Importance-Aware Approach
via Graph Representation Learning
- arxiv url: http://arxiv.org/abs/2301.11903v1
- Date: Fri, 27 Jan 2023 18:30:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-30 14:32:18.701580
- Title: Uplink Scheduling in Federated Learning: an Importance-Aware Approach
via Graph Representation Learning
- Title(参考訳): フェデレーション学習におけるアップリンクスケジューリング:グラフ表現学習による重要認識アプローチ
- Authors: Marco Skocaj, Pedro Enrique Iturria Rivera, Roberto Verdone and Melike
Erol-Kantarci
- Abstract要約: フェデレートラーニング(FL)は、AIベースのサービス、アプリケーション、ネットワークプロシージャを6Gで分散トレーニングするための有望なフレームワークとして登場した。
6G無線FLシステムの性能と効率に影響を及ぼす大きな課題の1つは、リソース制約されたチャネル上でのユーザデバイスの大規模なスケジューリングである。
非教師付きグラフ表現学習(Unsupervised Graph Representation Learning, UGRL)を活用し, FLアプリケーションにおけるクライアントスケジューリングのための新しい, エネルギー効率, 重要度を考慮したメトリクスを提案する。
- 参考スコア(独自算出の注目度): 5.903263170730936
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Federated Learning (FL) has emerged as a promising framework for distributed
training of AI-based services, applications, and network procedures in 6G. One
of the major challenges affecting the performance and efficiency of 6G wireless
FL systems is the massive scheduling of user devices over resource-constrained
channels. In this work, we argue that the uplink scheduling of FL client
devices is a problem with a rich relational structure. To address this
challenge, we propose a novel, energy-efficient, and importance-aware metric
for client scheduling in FL applications by leveraging Unsupervised Graph
Representation Learning (UGRL). Our proposed approach introduces a relational
inductive bias in the scheduling process and does not require the collection of
training feedback information from client devices, unlike state-of-the-art
importance-aware mechanisms. We evaluate our proposed solution against baseline
scheduling algorithms based on recently proposed metrics in the literature.
Results show that, when considering scenarios of nodes exhibiting spatial
relations, our approach can achieve an average gain of up to 10% in model
accuracy and up to 17 times in energy efficiency compared to state-of-the-art
importance-aware policies.
- Abstract(参考訳): フェデレーション学習(fl)は、aiベースのサービス、アプリケーション、ネットワーク手順を6gで分散トレーニングするための有望なフレームワークとして登場した。
6g無線flシステムの性能と効率に影響を与える大きな課題の1つは、リソースに制約されたチャネル上のユーザデバイスの大規模スケジューリングである。
本稿では,flクライアントデバイスのアップリンクスケジューリングは,リレーショナル構造が豊富な問題であると主張する。
この課題に対処するために,Unsupervised Graph Representation Learning (UGRL) を利用して,FLアプリケーションにおけるクライアントスケジューリングのための新しい,エネルギー効率,重要度を考慮したメトリクスを提案する。
提案手法はスケジューリングプロセスにリレーショナル・インダクティブ・バイアスを導入し、最先端の重要度認識機構とは異なり、クライアントデバイスからのトレーニングフィードバック情報の収集を必要としない。
本研究では,最近提案する指標に基づくベースラインスケジューリングアルゴリズムに対する提案手法を評価する。
その結果, 空間的関係を示すノードのシナリオを考えると, モデル精度が最大10%, エネルギー効率が最大17倍に向上することが示唆された。
関連論文リスト
- Load Balancing in Federated Learning [3.2999744336237384]
Federated Learning(FL)は、複数のリモートデバイスに分散したデータからの学習を可能にする、分散機械学習フレームワークである。
本稿では,情報時代に基づくスケジューリングポリシーの負荷指標を提案する。
マルコフ連鎖モデルの最適パラメータを確立し、シミュレーションによりアプローチを検証する。
論文 参考訳(メタデータ) (2024-08-01T00:56:36Z) - Energy-Efficient Federated Edge Learning with Streaming Data: A Lyapunov Optimization Approach [34.00679567444125]
本研究では,長期エネルギー制約下でのデータ到着や資源の可利用性に固有のランダム性に対処する動的スケジューリングと資源割当アルゴリズムを開発した。
提案アルゴリズムは, デバイススケジューリング, 計算容量調整, 帯域幅の割り当ておよび各ラウンドの送信電力を適応的に決定する。
本手法の有効性をシミュレーションにより検証し,ベースライン方式と比較して学習性能とエネルギー効率が向上したことを示す。
論文 参考訳(メタデータ) (2024-05-20T14:13:22Z) - Analysis and Optimization of Wireless Federated Learning with Data
Heterogeneity [72.85248553787538]
本稿では、データの不均一性を考慮した無線FLの性能解析と最適化と、無線リソース割り当てについて述べる。
ロス関数の最小化問題を、長期エネルギー消費と遅延の制約の下で定式化し、クライアントスケジューリング、リソース割り当て、ローカルトレーニングエポック数(CRE)を共同で最適化する。
実世界のデータセットの実験により、提案アルゴリズムは学習精度とエネルギー消費の点で他のベンチマークよりも優れていることが示された。
論文 参考訳(メタデータ) (2023-08-04T04:18:01Z) - Vertical Federated Learning over Cloud-RAN: Convergence Analysis and
System Optimization [82.12796238714589]
高速かつ正確なモデルアグリゲーションを実現するために,クラウド無線アクセスネットワーク(Cloud-RAN)ベースの垂直FLシステムを提案する。
アップリンクとダウンリンクの両方の伝送を考慮した垂直FLアルゴリズムの収束挙動を特徴付ける。
我々は,連続凸近似と代替凸探索に基づくシステム最適化アルゴリズムを開発した,連系トランシーバとフロントホール量子化設計によるシステム最適化フレームワークを構築した。
論文 参考訳(メタデータ) (2023-05-04T09:26:03Z) - Dynamic Scheduling for Federated Edge Learning with Streaming Data [56.91063444859008]
我々は,長期的エネルギー制約のある分散エッジデバイスにおいて,トレーニングデータを時間とともにランダムに生成するフェデレーションエッジ学習(FEEL)システムを検討する。
限られた通信リソースとレイテンシ要件のため、各イテレーションでローカルトレーニングプロセスに参加するのはデバイスのサブセットのみである。
論文 参考訳(メタデータ) (2023-05-02T07:41:16Z) - Scheduling and Aggregation Design for Asynchronous Federated Learning
over Wireless Networks [56.91063444859008]
Federated Learning(FL)は、デバイス上でのトレーニングとサーバベースのアグリゲーションを組み合わせた、協調的な機械学習フレームワークである。
FLシステムにおけるストラグラー問題に対処するために,周期的アグリゲーションを用いた非同期FL設計を提案する。
年齢認識の集約重み付け設計は,非同期FL設定における学習性能を著しく向上させることができることを示す。
論文 参考訳(メタデータ) (2022-12-14T17:33:01Z) - Performance Optimization for Variable Bitwidth Federated Learning in
Wireless Networks [103.22651843174471]
本稿では,モデル量子化による統合学習(FL)における無線通信と計算効率の向上について考察する。
提案したビット幅FL方式では,エッジデバイスは局所FLモデルパラメータの量子化バージョンを調整し,コーディネートサーバに送信し,それらを量子化されたグローバルモデルに集約し,デバイスを同期させる。
FLトレーニングプロセスはマルコフ決定プロセスとして記述でき、反復よりも行動選択を最適化するためのモデルベース強化学習(RL)手法を提案する。
論文 参考訳(メタデータ) (2022-09-21T08:52:51Z) - Federated Learning over Wireless IoT Networks with Optimized
Communication and Resources [98.18365881575805]
協調学習技術のパラダイムとしてのフェデレートラーニング(FL)は研究の注目を集めている。
無線システム上での高速応答および高精度FLスキームの検証が重要である。
提案する通信効率のよいフェデレーション学習フレームワークは,強い線形速度で収束することを示す。
論文 参考訳(メタデータ) (2021-10-22T13:25:57Z) - Communication-Efficient Hierarchical Federated Learning for IoT
Heterogeneous Systems with Imbalanced Data [42.26599494940002]
フェデレートラーニング(Federated Learning, FL)は、複数のノードが協調してディープラーニングモデルをトレーニングできる分散ラーニング方法論である。
本稿では,IoTヘテロジニアスシステムにおける階層FLの可能性について検討する。
複数のエッジノード上でのユーザ割り当てとリソース割り当てに最適化されたソリューションを提案する。
論文 参考訳(メタデータ) (2021-07-14T08:32:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。