論文の概要: Particle Swarm Optimized Federated Learning For Industrial IoT and Smart
City Services
- arxiv url: http://arxiv.org/abs/2009.02560v1
- Date: Sat, 5 Sep 2020 16:20:47 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-21 20:35:52.803162
- Title: Particle Swarm Optimized Federated Learning For Industrial IoT and Smart
City Services
- Title(参考訳): Particle SwarmがIoTとスマートシティサービスのためのフェデレーション学習を最適化
- Authors: Basheer Qolomany, Kashif Ahmad, Ala Al-Fuqaha, Junaid Qadir
- Abstract要約: 本研究では,局所機械学習モデルに対するハイパーパラメータ設定を最適化するために,PSOに基づく手法を提案する。
2つのケーススタディを用いて提案手法の性能評価を行った。
- 参考スコア(独自算出の注目度): 9.693848515371268
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Most of the research on Federated Learning (FL) has focused on analyzing
global optimization, privacy, and communication, with limited attention
focusing on analyzing the critical matter of performing efficient local
training and inference at the edge devices. One of the main challenges for
successful and efficient training and inference on edge devices is the careful
selection of parameters to build local Machine Learning (ML) models. To this
aim, we propose a Particle Swarm Optimization (PSO)-based technique to optimize
the hyperparameter settings for the local ML models in an FL environment. We
evaluate the performance of our proposed technique using two case studies.
First, we consider smart city services and use an experimental transportation
dataset for traffic prediction as a proxy for this setting. Second, we consider
Industrial IoT (IIoT) services and use the real-time telemetry dataset to
predict the probability that a machine will fail shortly due to component
failures. Our experiments indicate that PSO provides an efficient approach for
tuning the hyperparameters of deep Long short-term memory (LSTM) models when
compared to the grid search method. Our experiments illustrate that the number
of clients-server communication rounds to explore the landscape of
configurations to find the near-optimal parameters are greatly reduced (roughly
by two orders of magnitude needing only 2%--4% of the rounds compared to state
of the art non-PSO-based approaches). We also demonstrate that utilizing the
proposed PSO-based technique to find the near-optimal configurations for FL and
centralized learning models does not adversely affect the accuracy of the
models.
- Abstract(参考訳): フェデレーション学習(fl)に関するほとんどの研究は、グローバル最適化、プライバシ、およびコミュニケーションの分析に重点を置いており、エッジデバイスでの効率的なローカルトレーニングと推論の重要事項の分析に限定されている。
エッジデバイス上で成功し、効率的なトレーニングと推論を行う上で大きな課題のひとつは、ローカル機械学習(ML)モデルを構築するためのパラメータの選択を慎重に行うことだ。
そこで本研究では,FL環境でのローカルMLモデルのハイパーパラメータ設定を最適化するために,PSO(Particle Swarm Optimization)に基づく手法を提案する。
2つのケーススタディを用いて提案手法の性能評価を行った。
まず,スマートシティサービスについて考察し,交通予測のための実験的な交通データセットを,この設定のプロキシとして利用する。
第二に、産業用IoT(IIoT)サービスを検討し、リアルタイムテレメトリデータセットを使用して、コンポーネントの障害によりマシンがすぐに失敗する確率を予測する。
実験の結果,PSOはグリッド探索法と比較した場合のLSTMモデルのハイパーパラメータの調整に効率的であることがわかった。
実験の結果, ほぼ最適パラメータを求めるため, 構成の風景を探索するクライアントサーバ間通信ラウンドの数は大幅に削減された(大まかに言えば, ラウンドの2%--4%しか必要としない)。
また,提案手法を用いてFLと集中学習モデルの近最適構成を求めることは,モデルの精度に悪影響を及ぼさないことを示した。
関連論文リスト
- Hyper-parameter Optimization for Federated Learning with Step-wise Adaptive Mechanism [0.48342038441006796]
Federated Learning(FL)は、クライアントの生のデータセットを共有するのではなく、ローカルモデルパラメータを利用して機密情報を保護する分散学習アプローチである。
本稿では、FL設定における2つの軽量ハイパー最適化(HPO)ツールであるRaytuneとOptunaの展開と統合について検討する。
この目的のために、ローカルとグローバルの両方のフィードバック機構が統合され、検索空間が制限され、HPOプロセスが高速化される。
論文 参考訳(メタデータ) (2024-11-19T05:49:00Z) - Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。
既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。
ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T19:02:54Z) - Heterogeneity-Aware Resource Allocation and Topology Design for Hierarchical Federated Edge Learning [9.900317349372383]
Federated Learning (FL)は、モバイルデバイス上で機械学習モデルをトレーニングするためのプライバシー保護フレームワークを提供する。
従来のFLアルゴリズム、例えばFedAvgはこれらのデバイスに重い通信負荷を課す。
エッジデバイスをエッジサーバに接続し,エッジサーバをピアツーピア(P2P)エッジバックホールを介して相互接続する2層HFELシステムを提案する。
我々の目標は、戦略的資源配分とトポロジ設計により、HFELシステムの訓練効率を向上させることである。
論文 参考訳(メタデータ) (2024-09-29T01:48:04Z) - SpaFL: Communication-Efficient Federated Learning with Sparse Models and Low computational Overhead [75.87007729801304]
SpaFL: 計算オーバーヘッドの少ないスパースモデル構造を最適化する通信効率のよいFLフレームワークを提案する。
実験により、スパースベースラインに比べて通信やコンピューティングリソースをはるかに少なくし、精度を向上することが示された。
論文 参考訳(メタデータ) (2024-06-01T13:10:35Z) - Federated Learning of Large Language Models with Parameter-Efficient
Prompt Tuning and Adaptive Optimization [71.87335804334616]
フェデレートラーニング(FL)は、分散データとの協調モデルトレーニングを可能にする、有望なパラダイムである。
LLM(Large Language Models)のトレーニングプロセスは一般的に重要なパラメータの更新を引き起こす。
本稿では,性能と効率を同時に向上する効率的な部分的プロンプトチューニング手法を提案する。
論文 参考訳(メタデータ) (2023-10-23T16:37:59Z) - Sample-Driven Federated Learning for Energy-Efficient and Real-Time IoT
Sensing [22.968661040226756]
我々は,ソフトアクター・クリティカル(A2C)フレームワーク上に構築されたSCFL(Sample-driven Control for Federated Learning)というオンライン強化学習アルゴリズムを導入する。
SCFLにより、エージェントは動的に適応し、変化する環境においてもグローバルな最適条件を見つけることができる。
論文 参考訳(メタデータ) (2023-10-11T13:50:28Z) - Semi-Federated Learning: Convergence Analysis and Optimization of A
Hybrid Learning Framework [70.83511997272457]
本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。
我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
論文 参考訳(メタデータ) (2023-10-04T03:32:39Z) - Learning Regions of Interest for Bayesian Optimization with Adaptive
Level-Set Estimation [84.0621253654014]
本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。
理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
論文 参考訳(メタデータ) (2023-07-25T09:45:47Z) - Online Data Selection for Federated Learning with Limited Storage [53.46789303416799]
ネットワークデバイス間での分散機械学習を実現するために、フェデレートラーニング(FL)が提案されている。
デバイス上のストレージがFLの性能に与える影響はまだ調査されていない。
本研究では,デバイス上のストレージを限定したFLのオンラインデータ選択について検討する。
論文 参考訳(メタデータ) (2022-09-01T03:27:33Z) - Evaluation of Hyperparameter-Optimization Approaches in an Industrial
Federated Learning System [0.2609784101826761]
フェデレートラーニング(FL)は、データに直接アクセスする必要性からモデルのトレーニングを分離する。
本研究では,FLシステムにおける様々なパラメータ最適化手法の影響について検討した。
グリッド探索とベイズ最適化に基づいてこれらの手法を実装し,MNISTデータセットとIoT(Internet of Things)センサを用いた産業用データセットに基づくアルゴリズムの評価を行った。
論文 参考訳(メタデータ) (2021-10-15T17:01:40Z) - Budgeted Online Selection of Candidate IoT Clients to Participate in
Federated Learning [33.742677763076]
フェデレートラーニング(FL)は、モデルパラメータがクライアントデータの代わりに交換されるアーキテクチャである。
FLは、コミュニケーションラウンドを通じてクライアントと通信することで、グローバルモデルをトレーニングする。
最適な候補クライアントとIoTクライアントアラームアプリケーションを見つけるために,オンラインステートフルFLを提案する。
論文 参考訳(メタデータ) (2020-11-16T06:32:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。