論文の概要: Adaptive Transmission Scheduling in Wireless Networks for Asynchronous Federated Learning

• arxiv url: http://arxiv.org/abs/2103.01422v1
• Date: Tue, 2 Mar 2021 02:28:20 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-03 15:42:50.910271
• Title: Adaptive Transmission Scheduling in Wireless Networks for Asynchronous Federated Learning
• Title（参考訳）: 非同期フェデレーション学習のための無線ネットワークにおける適応伝送スケジューリング
• Authors: Hyun-Suk Lee, Jang-Won Lee
• Abstract要約: 無線学習ネットワーク(WDLN)における非同期フェデレーションラーニング(FL)の研究 Asynchronous Learning-Aware transmission Scheduling (ALS) 問題を定式化し、効果スコアを最大化します。 ALSアルゴリズムによって訓練されたモデルが理想的なベンチマークによってそれに近い性能を達成することをシミュレーションによって示します。
• 参考スコア（独自算出の注目度）: 13.490583662839725
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we study asynchronous federated learning (FL) in a wireless distributed learning network (WDLN). To allow each edge device to use its local data more efficiently via asynchronous FL, transmission scheduling in the WDLN for asynchronous FL should be carefully determined considering system uncertainties, such as time-varying channel and stochastic data arrivals, and the scarce radio resources in the WDLN. To address this, we propose a metric, called an effectivity score, which represents the amount of learning from asynchronous FL. We then formulate an Asynchronous Learning-aware transmission Scheduling (ALS) problem to maximize the effectivity score and develop three ALS algorithms, called ALSA-PI, BALSA, and BALSA-PO, to solve it. If the statistical information about the uncertainties is known, the problem can be optimally and efficiently solved by ALSA-PI. Even if not, it can be still optimally solved by BALSA that learns the uncertainties based on a Bayesian approach using the state information reported from devices. BALSA-PO suboptimally solves the problem, but it addresses a more restrictive WDLN in practice, where the AP can observe a limited state information compared with the information used in BALSA. We show via simulations that the models trained by our ALS algorithms achieve performances close to that by an ideal benchmark and outperform those by other state-of-the-art baseline scheduling algorithms in terms of model accuracy, training loss, learning speed, and robustness of learning. These results demonstrate that the adaptive scheduling strategy in our ALS algorithms is effective to asynchronous FL.
• Abstract（参考訳）: 本稿では,無線分散学習ネットワーク(WDLN)における非同期フェデレーション学習(FL)について検討する。 各エッジ装置が非同期FLを介してローカルデータをより効率的に利用できるようにするため、WDLNにおける非同期FLの送信スケジューリングは、時間変化チャネルや確率データ到着などのシステム不確実性や、WDLN内の無線リソースの不足を考慮して慎重に決定する必要がある。 そこで本研究では,非同期FLからの学習量を表す効果スコアという指標を提案する。 そこで, Asynchronous Learning-aware transmission Scheduling (ALS) 問題を定式化し, 効果スコアを最大化し, ALSA-PI, BALSA, BALSA-PO という3つのALSアルゴリズムを開発し, それを解いた。 不確実性に関する統計的情報が分かっていれば、ALSA-PIによって最適かつ効率的に解ける。 たとえそうでなくても、デバイスから報告された状態情報を用いてベイズ的アプローチに基づいて不確実性を学ぶBALSAによって、最適に解ける。 BALSA-POはこの問題を解決するが、実際にはより制限されたWDLNに対処し、APはBALSAで使用される情報と比較して限られた状態情報を観察することができる。 ALSアルゴリズムによって訓練されたモデルが、理想的なベンチマークによりそれに近い性能を達成し、モデル精度、トレーニング損失、学習速度、学習の堅牢性の観点から、他の最先端のベースラインスケジューリングアルゴリズムよりも優れていることを示す。 これらの結果は,alsアルゴリズムの適応スケジューリング戦略が非同期flに有効であることを示す。

関連論文リスト

• Digital Twin-Assisted Federated Learning with Blockchain in Multi-tier Computing Systems [67.14406100332671]
  産業用 4.0 システムでは、リソース制約のあるエッジデバイスが頻繁にデータ通信を行う。 本稿では,デジタルツイン (DT) とフェデレーション付きデジタルツイン (FL) 方式を提案する。 提案手法の有効性を数値解析により検証した。
  論文  参考訳（メタデータ） (2024-11-04T17:48:02Z)
• Analysis and Optimization of Wireless Federated Learning with Data Heterogeneity [72.85248553787538]
  本稿では、データの不均一性を考慮した無線FLの性能解析と最適化と、無線リソース割り当てについて述べる。 ロス関数の最小化問題を、長期エネルギー消費と遅延の制約の下で定式化し、クライアントスケジューリング、リソース割り当て、ローカルトレーニングエポック数(CRE)を共同で最適化する。 実世界のデータセットの実験により、提案アルゴリズムは学習精度とエネルギー消費の点で他のベンチマークよりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-08-04T04:18:01Z)
• Spatio-Temporal Deep Learning-Assisted Reduced Security-Constrained Unit Commitment [0.5076419064097734]
  SCUC(Security-Constrained Unit commitment)は、電力系統の日頭スケジューリングと市場浄化に使用される計算上の複雑なプロセスである。 本稿では,制約の空間的相関と時間的相関を本質的に考慮した,電力系統履歴データのパターンの学習に先進機械学習(ML)モデルを用いる。 ST関連MLモデルはグラフニューラルネットワーク(GNN)を考慮して空間相関を理解するために訓練される一方、時間列は長期記憶(LSTM)ネットワークを用いて研究される。
  論文  参考訳（メタデータ） (2023-06-02T14:31:24Z)
• FLCC: Efficient Distributed Federated Learning on IoMT over CSMA/CA [0.0]
  フェデレートラーニング(FL)は、プライバシー保護のための有望なアプローチとして登場した。 本稿では,アドホックネットワーク上で遠隔医療システムを改善するアプリケーションにおけるFLの性能について検討する。 ネットワーク性能を評価するための指標として,1) 干渉を最小限に抑えながら伝送を成功させる確率,2) 精度と損失の点で分散FLモデルの性能を示す。
  論文  参考訳（メタデータ） (2023-03-29T16:36:42Z)
• Scheduling and Aggregation Design for Asynchronous Federated Learning over Wireless Networks [56.91063444859008]
  Federated Learning(FL)は、デバイス上でのトレーニングとサーバベースのアグリゲーションを組み合わせた、協調的な機械学習フレームワークである。 FLシステムにおけるストラグラー問題に対処するために,周期的アグリゲーションを用いた非同期FL設計を提案する。 年齢認識の集約重み付け設計は,非同期FL設定における学習性能を著しく向上させることができることを示す。
  論文  参考訳（メタデータ） (2022-12-14T17:33:01Z)
• Faster Adaptive Federated Learning [84.38913517122619]
  フェデレートラーニングは分散データの出現に伴って注目を集めている。 本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
  論文  参考訳（メタデータ） (2022-12-02T05:07:50Z)
• Performance Optimization for Variable Bitwidth Federated Learning in Wireless Networks [103.22651843174471]
  本稿では,モデル量子化による統合学習(FL)における無線通信と計算効率の向上について考察する。 提案したビット幅FL方式では,エッジデバイスは局所FLモデルパラメータの量子化バージョンを調整し,コーディネートサーバに送信し,それらを量子化されたグローバルモデルに集約し,デバイスを同期させる。 FLトレーニングプロセスはマルコフ決定プロセスとして記述でき、反復よりも行動選択を最適化するためのモデルベース強化学習(RL)手法を提案する。
  論文  参考訳（メタデータ） (2022-09-21T08:52:51Z)
• Over-the-Air Federated Learning via Second-Order Optimization [37.594140209854906]
  フェデレートラーニング(FL)は、無線ネットワーク上でのタスク指向のデータトラフィックを、限られた無線リソースによって引き起こす可能性がある。 本稿では,通信ラウンドを同時に削減し,低レイテンシなグローバルモデルアグリゲーションを実現するために,空対2次フェデレーション最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-03-29T12:39:23Z)
• Communication-Efficient Stochastic Zeroth-Order Optimization for Federated Learning [28.65635956111857]
  フェデレートラーニング(FL)は、エッジデバイスがプライベートデータを共有せずに、グローバルモデルを協調的にトレーニングすることを可能にする。 FLの訓練効率を向上させるため,一階計算から一階法まで,様々なアルゴリズムが提案されている。
  論文  参考訳（メタデータ） (2022-01-24T08:56:06Z)
• Communication-Efficient Device Scheduling for Federated Learning Using Stochastic Optimization [26.559267845906746]
  Time Learning(FL)は、ユーザのローカルデータセットをプライバシ保存形式で利用する分散機械学習において有用なツールである。 本稿では,非効率収束境界アルゴリズムを提案する。 また、電力制約下での収束境界と平均通信の関数を最小化する新しい選択および電力割当アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2022-01-19T23:25:24Z)
• Delay Minimization for Federated Learning Over Wireless Communication Networks [172.42768672943365]
  無線通信ネットワーク上でのフェデレーション学習(FL)における遅延計算の問題について検討した。 最適解を得るために,二項探索アルゴリズムを提案する。 シミュレーションの結果,提案アルゴリズムは従来のFL法と比較して最大27.3%遅延を低減できることがわかった。
  論文  参考訳（メタデータ） (2020-07-05T19:00:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。