論文の概要: Data Heterogeneity-Robust Federated Learning via Group Client Selection
in Industrial IoT
- arxiv url: http://arxiv.org/abs/2202.01512v1
- Date: Thu, 3 Feb 2022 10:48:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-04 13:50:10.670235
- Title: Data Heterogeneity-Robust Federated Learning via Group Client Selection
in Industrial IoT
- Title(参考訳): 産業用iotにおけるグループクライアント選択によるデータ不均質性ロバストフェデレーション学習
- Authors: Zonghang Li, Yihong He, Hongfang Yu, Jiawen Kang, Xiaoping Li, Zenglin
Xu, Dusit Niyato
- Abstract要約: FedGSは5Gのエンパワーメント産業のための階層的なクラウド・エッジ・エンドのFLフレームワークである。
自然にクラスタ化されたファクトリデバイスを利用することで、FedGSは勾配ベースのバイナリ置換アルゴリズムを使用する。
実験によると、FedGSは精度を3.5%改善し、トレーニングラウンドを平均59%削減している。
- 参考スコア(独自算出の注目度): 57.67687126339891
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Nowadays, the industrial Internet of Things (IIoT) has played an integral
role in Industry 4.0 and produced massive amounts of data for industrial
intelligence. These data locate on decentralized devices in modern factories.
To protect the confidentiality of industrial data, federated learning (FL) was
introduced to collaboratively train shared machine learning models. However,
the local data collected by different devices skew in class distribution and
degrade industrial FL performance. This challenge has been widely studied at
the mobile edge, but they ignored the rapidly changing streaming data and
clustering nature of factory devices, and more seriously, they may threaten
data security. In this paper, we propose FedGS, which is a hierarchical
cloud-edge-end FL framework for 5G empowered industries, to improve industrial
FL performance on non-i.i.d. data. Taking advantage of naturally clustered
factory devices, FedGS uses a gradient-based binary permutation algorithm
(GBP-CS) to select a subset of devices within each factory and build
homogeneous super nodes participating in FL training. Then, we propose a
compound-step synchronization protocol to coordinate the training process
within and among these super nodes, which shows great robustness against data
heterogeneity. The proposed methods are time-efficient and can adapt to dynamic
environments, without exposing confidential industrial data in risky
manipulation. We prove that FedGS has better convergence performance than
FedAvg and give a relaxed condition under which FedGS is more
communication-efficient. Extensive experiments show that FedGS improves
accuracy by 3.5% and reduces training rounds by 59% on average, confirming its
superior effectiveness and efficiency on non-i.i.d. data.
- Abstract(参考訳): 今日では、産業用モノのインターネット(IIoT)は、産業用4.0において重要な役割を担い、産業用インテリジェンスのための大量のデータを生み出している。
これらのデータは、現代の工場の分散デバイス上に存在する。
産業データの機密性を保護するため、共用機械学習モデルを協調訓練するために連邦学習(FL)を導入した。
しかし, 異なる機器で収集したローカルデータは, クラス分布に偏り, 産業用fl性能を低下させる。
この課題はモバイルエッジで広く研究されているが、彼らは急速に変化するストリーミングデータと、ファクトリデバイスのクラスタ化の性質を無視しており、より真剣には、データセキュリティを脅かす可能性がある。
本稿では,非i.i.d.データにおける産業用fl性能を向上させるために,5gエンパワードインダストリアルのための階層型クラウドエッジ・エンドflフレームワークであるfedersを提案する。
自然にクラスタ化されたファクトリデバイスを活用して、FedGSは勾配ベースのバイナリ置換アルゴリズム(GBP-CS)を使用して、各ファクトリ内のデバイスのサブセットを選択し、FLトレーニングに参加する均一なスーパーノードを構築する。
そこで本研究では,これらのスーパーノード内のトレーニングプロセスを調整するための複合ステップ同期プロトコルを提案し,データの不均一性に対するロバスト性を示す。
提案手法は時間効率が高く,危険操作において機密産業データを公開せずに動的環境に適応することができる。
我々はFedGSがFedAvgよりもコンバージェンス性能が優れており、FedGSの方が通信効率が良いという緩和条件を与える。
大規模な実験により、FedGSは精度を3.5%改善し、トレーニングラウンドを平均で59%削減し、非i.d.データに対する優れた有効性と効率を確認した。
関連論文リスト
- Efficient Federated Intrusion Detection in 5G ecosystem using optimized BERT-based model [0.7100520098029439]
5Gは高度なサービスを提供し、IoT(Internet of Things)内のインテリジェントトランスポート、コネクテッドヘルスケア、スマートシティなどのアプリケーションをサポートする。
これらの進歩は、ますます高度なサイバー攻撃を伴う、重大なセキュリティ上の課題をもたらす。
本稿では,連合学習と大規模言語モデル(LLM)を用いた頑健な侵入検知システム(IDS)を提案する。
論文 参考訳(メタデータ) (2024-09-28T15:56:28Z) - A Quality-of-Service Compliance System using Federated Learning and
Optimistic Rollups [0.0]
平行するトレンドは、多くの人々にとって主要なコンピューティングデバイスとして携帯電話やタブレットが台頭していることだ。
これらのデバイスに存在する強力なセンサーは、それらがモバイルであるという事実と相まって、前例のないほど多様なプライベートな性質を持つデータにアクセスすることができる。
このようなデータで学んだモデルは、よりインテリジェントなアプリケーションを動かすことによって、ユーザビリティを劇的に向上させるという約束を持っているが、データに敏感な性質は、それを集中した場所に保存するリスクと責任を意味する。
我々は、クライアントが実行するサービスに関する特定のデータがソースマシンを離れないように、フェデレートラーニング(FL)の使用を提案する。
論文 参考訳(メタデータ) (2023-11-14T20:02:37Z) - HFedMS: Heterogeneous Federated Learning with Memorable Data Semantics
in Industrial Metaverse [49.1501082763252]
本稿では,新しい産業メタバースに実用FLを取り入れたHFEDMSを提案する。
動的グルーピングとトレーニングモード変換によってデータの均一性を低下させる。
そして、圧縮された履歴データセマンティクスを融合することで、忘れられた知識を補う。
ストリームされた非I.d.FEMNISTデータセットに対して,368個のシミュレーションデバイスを用いて実験を行った。
論文 参考訳(メタデータ) (2022-11-07T04:33:24Z) - Online Data Selection for Federated Learning with Limited Storage [53.46789303416799]
ネットワークデバイス間での分散機械学習を実現するために、フェデレートラーニング(FL)が提案されている。
デバイス上のストレージがFLの性能に与える影響はまだ調査されていない。
本研究では,デバイス上のストレージを限定したFLのオンラインデータ選択について検討する。
論文 参考訳(メタデータ) (2022-09-01T03:27:33Z) - FedHiSyn: A Hierarchical Synchronous Federated Learning Framework for
Resource and Data Heterogeneity [56.82825745165945]
フェデレートラーニング(FL)は、データプライバシを保護するために複数のデバイスに格納された分散生データを共有することなく、グローバルモデルのトレーニングを可能にする。
本稿では,階層型同期FLフレームワークであるFedHiSynを提案し,トラグラー効果や時代遅れモデルの問題に対処する。
提案手法は,MNIST,EMNIST,CIFAR10,CIFAR100のデータセットと多種多様なデバイス設定に基づいて評価する。
論文 参考訳(メタデータ) (2022-06-21T17:23:06Z) - Federated Dynamic Sparse Training: Computing Less, Communicating Less,
Yet Learning Better [88.28293442298015]
Federated Learning (FL)は、クラウドからリソース制限されたエッジデバイスへの機械学習ワークロードの分散を可能にする。
我々は、FedDST(Federated Dynamic Sparse Training)と呼ばれる新しいFLフレームワークを開発し、実装し、実験的に検証する。
FedDSTは、ターゲットのフルネットワークからスパースサブネットワークを抽出し、訓練する動的プロセスである。
論文 参考訳(メタデータ) (2021-12-18T02:26:38Z) - Efficient Ring-topology Decentralized Federated Learning with Deep
Generative Models for Industrial Artificial Intelligent [13.982904025739606]
深層生成モデル(dgms)のためのリングトポジ型分散連体学習方式を提案する。
我々のRDFLスキームは通信効率を向上し、目標IIoTタスクにおけるDGMを向上するための訓練性能を維持する。
さらに、通信効率とFLセキュリティをさらに向上するため、IPFS(InterPlanetary File System)を導入している。
論文 参考訳(メタデータ) (2021-04-15T08:09:54Z) - A Framework for Energy and Carbon Footprint Analysis of Distributed and
Federated Edge Learning [48.63610479916003]
本稿では,分散学習政策の環境フットプリントに影響を与える要因を概説し,分析する。
バニラとコンセンサスによって駆動される分散FLポリシーの両方をモデル化する。
その結果、flは低ビット/ジュール効率を特徴とするワイヤレスシステムにおいて、顕著なエンドツーエンドの省エネ(30%-40%)が可能となった。
論文 参考訳(メタデータ) (2021-03-18T16:04:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。