論文の概要: Hierarchical and Decentralised Federated Learning

• arxiv url: http://arxiv.org/abs/2304.14982v1
• Date: Fri, 28 Apr 2023 17:06:50 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-01 13:24:22.248315
• Title: Hierarchical and Decentralised Federated Learning
• Title（参考訳）: 階層型・分散型連合学習
• Authors: Omer Rana, Theodoros Spyridopoulos, Nathaniel Hudson, Matt Baughman, Kyle Chard, Ian Foster, Aftab Khan
• Abstract要約: 階層的フェデレーション学習は、より効率的なモデルアグリゲーションを可能にするために、従来のFLプロセスを拡張します。 パフォーマンスの向上とコスト削減に加えて,従来のFLに適さない環境にFLをデプロイすることも可能だ。 H-FLは、局所性依存とグローバルな異常なロバスト性の間のトレードオフを最適に果たすために、複数のレベルでモデルを集約し、配布することができるので、将来のFLソリューションにとって不可欠である。
• 参考スコア（独自算出の注目度）: 3.055801139718484
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning has shown enormous promise as a way of training ML models in distributed environments while reducing communication costs and protecting data privacy. However, the rise of complex cyber-physical systems, such as the Internet-of-Things, presents new challenges that are not met with traditional FL methods. Hierarchical Federated Learning extends the traditional FL process to enable more efficient model aggregation based on application needs or characteristics of the deployment environment (e.g., resource capabilities and/or network connectivity). It illustrates the benefits of balancing processing across the cloud-edge continuum. Hierarchical Federated Learning is likely to be a key enabler for a wide range of applications, such as smart farming and smart energy management, as it can improve performance and reduce costs, whilst also enabling FL workflows to be deployed in environments that are not well-suited to traditional FL. Model aggregation algorithms, software frameworks, and infrastructures will need to be designed and implemented to make such solutions accessible to researchers and engineers across a growing set of domains. H-FL also introduces a number of new challenges. For instance, there are implicit infrastructural challenges. There is also a trade-off between having generalised models and personalised models. If there exist geographical patterns for data (e.g., soil conditions in a smart farm likely are related to the geography of the region itself), then it is crucial that models used locally can consider their own locality in addition to a globally-learned model. H-FL will be crucial to future FL solutions as it can aggregate and distribute models at multiple levels to optimally serve the trade-off between locality dependence and global anomaly robustness.
• Abstract（参考訳）: フェデレーション学習は、分散環境でMLモデルをトレーニングし、通信コストを削減し、データのプライバシを保護する方法として、大きな可能性を秘めている。 しかし、インターネット・オブ・Thingsのような複雑なサイバー物理システムの台頭は、従来のFL手法に適合しない新しい課題を提示している。 階層型連合学習は従来のflプロセスを拡張し、アプリケーションのニーズやデプロイメント環境の特性(リソース機能やネットワーク接続など)に基づいて、より効率的なモデル集約を可能にする。 これは、クラウドエッジ連続体間での処理のバランスの利点を示しています。 階層型連合学習は、パフォーマンスの向上とコスト削減を可能にすると同時に、従来のflに適合しない環境にflワークフローをデプロイ可能にするため、スマートファームやスマートエネルギ管理など、幅広いアプリケーションにとって重要な実現手段となる。 モデルアグリゲーションアルゴリズム、ソフトウェアフレームワーク、インフラストラクチャは、成長中のドメイン全体にわたって、研究者やエンジニアがそのようなソリューションにアクセスできるように設計され、実装される必要がある。 H-FLはいくつかの新しい課題も導入している。 例えば、暗黙のインフラ内課題があります。 一般化されたモデルとパーソナライズされたモデルとのトレードオフもある。 データのための地理的パターン(例えば、スマートファームの土壌条件は、地域自体の地理に関係している可能性が高い)が存在する場合、ローカルで使用されるモデルは、グローバルに学習されたモデルに加えて、独自の地域性を考慮することが重要である。 h-flは将来のflソリューションにとって不可欠であり、複数のレベルでモデルを集約し、分散することで、局所性依存とグローバル異常ロバスト性の間のトレードオフを最適に果たすことができる。

関連論文リスト

• Federated Learning in Practice: Reflections and Projections [17.445826363802997]
  Federated Learning(FL)は、複数のエンティティがローカルデータを交換することなく、共同で共有モデルを学ぶことができる機械学習技術である。 Google、Apple、Metaといった組織によるプロダクションシステムは、FLの現実的な適用性を実証しています。 我々は、厳密な定義よりもプライバシー原則を優先する再定義されたFLフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-11T15:10:38Z)
• Advances in APPFL: A Comprehensive and Extensible Federated Learning Framework [1.4206132527980742]
  Federated Learning(FL)は、データプライバシを保持しながら協調的なモデルトレーニングを可能にする分散機械学習パラダイムである。 本稿では,統合学習のためのフレームワークおよびベンチマークスイートであるAPPFLの開発における最近の進歩について述べる。 本稿では, 通信効率, プライバシー保護, 計算性能, 資源利用など, FLの様々な側面を評価する広範な実験を通じて, APPFLの能力を実証する。
  論文  参考訳（メタデータ） (2024-09-17T22:20:26Z)
• A Survey on Efficient Federated Learning Methods for Foundation Model Training [62.473245910234304]
  フェデレーテッド・ラーニング(FL)は、多数のクライアントにわたるプライバシー保護協調トレーニングを促進するための確立した技術となっている。 Foundation Models (FM)の後、多くのディープラーニングアプリケーションでは現実が異なる。 FLアプリケーションに対するパラメータ効率細調整(PEFT)の利点と欠点について論じる。
  論文  参考訳（メタデータ） (2024-01-09T10:22:23Z)
• Deep Equilibrium Models Meet Federated Learning [71.57324258813675]
  本研究では,従来の深層学習ネットワークの代わりにDeep Equilibrium(DEQ)モデルを用いて,フェデレートラーニング(FL)問題について検討する。 我々は、DECモデルをフェデレート学習フレームワークに組み込むことで、FLのいくつかのオープンな問題に自然に対処できると主張している。 我々の知る限りでは、この研究は、DECモデルとフェデレーションラーニングの関連性を確立する最初のものである。
  論文  参考訳（メタデータ） (2023-05-29T22:51:40Z)
• Vertical Federated Learning over Cloud-RAN: Convergence Analysis and System Optimization [82.12796238714589]
  高速かつ正確なモデルアグリゲーションを実現するために,クラウド無線アクセスネットワーク(Cloud-RAN)ベースの垂直FLシステムを提案する。 アップリンクとダウンリンクの両方の伝送を考慮した垂直FLアルゴリズムの収束挙動を特徴付ける。 我々は,連続凸近似と代替凸探索に基づくシステム最適化アルゴリズムを開発した,連系トランシーバとフロントホール量子化設計によるシステム最適化フレームワークを構築した。
  論文  参考訳（メタデータ） (2023-05-04T09:26:03Z)
• Fed-FSNet: Mitigating Non-I.I.D. Federated Learning via Fuzzy Synthesizing Network [19.23943687834319]
  フェデレートラーニング(FL)は、将来性のあるプライバシ保護分散機械学習フレームワークとして登場した。 我々は、Fed-FSNetと呼ばれる新しいFLトレーニングフレームワークを提案し、Fed-FSNet(Fed-FSNet)を適切に設計し、非I.I.D.のオープンソース問題を軽減する。
  論文  参考訳（メタデータ） (2022-08-21T18:40:51Z)
• Introducing Federated Learning into Internet of Things ecosystems -- preliminary considerations [0.31402652384742363]
  分散環境におけるモデルのトレーニングを容易にするために,フェデレートラーニング(FL)を提案する。 これは(ローカル)データのプライバシ保護をサポートし、モデルのトレーニングにローカルリソースを使用する。
  論文  参考訳（メタデータ） (2022-07-15T18:48:57Z)
• Efficient Split-Mix Federated Learning for On-Demand and In-Situ Customization [107.72786199113183]
  フェデレートラーニング(FL)は、複数の参加者が生データを共有せずに学習をコラボレーションするための分散ラーニングフレームワークを提供する。 本稿では, モデルサイズとロバスト性をその場でカスタマイズできる, 不均一な参加者のための新しいスプリット・ミクス・FL戦略を提案する。
  論文  参考訳（メタデータ） (2022-03-18T04:58:34Z)
• Fine-tuning Global Model via Data-Free Knowledge Distillation for Non-IID Federated Learning [86.59588262014456]
  フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。 サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。 私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
  論文  参考訳（メタデータ） (2022-03-17T11:18:17Z)
• Edge-assisted Democratized Learning Towards Federated Analytics [67.44078999945722]
  本稿では,エッジ支援型民主化学習機構であるEdge-DemLearnの階層的学習構造を示す。 また、Edge-DemLearnを柔軟なモデルトレーニングメカニズムとして検証し、リージョンに分散制御と集約の方法論を構築する。
  論文  参考訳（メタデータ） (2020-12-01T11:46:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。