論文の概要: Hybrid Federated Learning: Algorithms and Implementation
- arxiv url: http://arxiv.org/abs/2012.12420v3
- Date: Thu, 18 Feb 2021 03:53:03 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-26 07:17:28.408785
- Title: Hybrid Federated Learning: Algorithms and Implementation
- Title（参考訳）: ハイブリッド連合学習:アルゴリズムと実装
- Authors: Xinwei Zhang, Wotao Yin, Mingyi Hong, Tianyi Chen
- Abstract要約: Federated Learning(FL)は、分散データセットとプライベートデータセットを扱う分散機械学習パラダイムである。
ハイブリッドFLのためのモデルマッチングに基づく新しい問題定式化を提案する。
次に,グローバルモデルとローカルモデルを協調して学習し,完全かつ部分的な特徴量を扱う効率的なアルゴリズムを提案する。
- 参考スコア（独自算出の注目度）: 61.0640216394349
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning (FL) is a recently proposed distributed machine learning
paradigm dealing with distributed and private data sets. Based on the data
partition pattern, FL is often categorized into horizontal, vertical, and
hybrid settings. Despite the fact that many works have been developed for the
first two approaches, the hybrid FL setting (which deals with partially
overlapped feature space and sample space) remains less explored, though this
setting is extremely important in practice. In this paper, we first set up a
new model-matching-based problem formulation for hybrid FL, then propose an
efficient algorithm that can collaboratively train the global and local models
to deal with full and partial featured data. We conduct numerical experiments
on the multi-view ModelNet40 data set to validate the performance of the
proposed algorithm. To the best of our knowledge, this is the first formulation
and algorithm developed for the hybrid FL.
- Abstract（参考訳）: Federated Learning(FL)は、分散データセットとプライベートデータセットを扱う分散機械学習パラダイムである。
データパーティションパターンに基づいて、FLはしばしば水平、垂直、ハイブリッドのセッティングに分類される。
最初の2つのアプローチで多くの作品が開発されているにもかかわらず、(部分的に重なり合う特徴空間とサンプル空間を扱う)ハイブリッドfl設定は、実際には非常に重要であるものの、まだ調査が進んでいない。
本稿では,まずハイブリッドFLのためのモデルマッチングに基づく問題定式化を行い,グローバルモデルとローカルモデルを協調的に学習し,完全かつ部分的な特徴データを扱うアルゴリズムを提案する。
提案アルゴリズムの性能を検証するため,マルチビューモデルNet40データセットの数値実験を行った。
我々の知る限り、これはハイブリッドFLのために開発された最初の定式化とアルゴリズムである。
関連論文リスト
- FedLPS: Heterogeneous Federated Learning for Multiple Tasks with Local
Parameter Sharing [14.938531944702193]
局所異種共有を用いたフェデレーション学習(FedLPS)を提案する。
FedLPSは転送学習を使用して、ローカルモデルを共有エンコーダとタスク固有のエンコーダに分割することで、複数のタスクをひとつのデバイスにデプロイする。
FedLPSは最先端(SOTA)のFLフレームワークを最大4.88%上回り、計算資源消費量を21.3%減らす。
論文 参考訳（メタデータ） (2024-02-13T16:30:30Z) - Vertical Federated Learning over Cloud-RAN: Convergence Analysis and
System Optimization [82.12796238714589]
高速かつ正確なモデルアグリゲーションを実現するために,クラウド無線アクセスネットワーク(Cloud-RAN)ベースの垂直FLシステムを提案する。
アップリンクとダウンリンクの両方の伝送を考慮した垂直FLアルゴリズムの収束挙動を特徴付ける。
我々は,連続凸近似と代替凸探索に基づくシステム最適化アルゴリズムを開発した,連系トランシーバとフロントホール量子化設計によるシステム最適化フレームワークを構築した。
論文 参考訳（メタデータ） (2023-05-04T09:26:03Z) - Faster Adaptive Federated Learning [84.38913517122619]
フェデレートラーニングは分散データの出現に伴って注目を集めている。
本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
論文 参考訳（メタデータ） (2022-12-02T05:07:50Z) - A Primal-Dual Algorithm for Hybrid Federated Learning [11.955062839855334]
Fenchel Dualityをベースとした,ハイブリット・フェデレーション・ラーニングのための高速で堅牢なアルゴリズムを提案する。
また、クライアントデータを保護するためのプライバシーの考慮と必要な手順も提供します。
論文 参考訳（メタデータ） (2022-10-14T21:02:04Z) - Efficient Split-Mix Federated Learning for On-Demand and In-Situ
Customization [107.72786199113183]
フェデレートラーニング(FL)は、複数の参加者が生データを共有せずに学習をコラボレーションするための分散ラーニングフレームワークを提供する。
本稿では, モデルサイズとロバスト性をその場でカスタマイズできる, 不均一な参加者のための新しいスプリット・ミクス・FL戦略を提案する。
論文 参考訳（メタデータ） (2022-03-18T04:58:34Z) - Local Learning Matters: Rethinking Data Heterogeneity in Federated
Learning [61.488646649045215]
フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
論文 参考訳（メタデータ） (2021-11-28T19:03:39Z) - Federated Ensemble Model-based Reinforcement Learning in Edge Computing [21.840086997141498]
フェデレートラーニング(Federated Learning、FL)は、プライバシ保護のための分散機械学習パラダイムである。
モデルベースRLとアンサンブル知識蒸留をFLに効果的に組み込む新しいFRLアルゴリズムを提案する。
具体的には、FLと知識蒸留を利用して、クライアント向けの動的モデルのアンサンブルを作成し、環境と相互作用することなく、単にアンサンブルモデルを使用することでポリシーを訓練する。
論文 参考訳（メタデータ） (2021-09-12T16:19:10Z) - FedPD: A Federated Learning Framework with Optimal Rates and Adaptivity
to Non-IID Data [59.50904660420082]
フェデレートラーニング(FL)は、分散データから学ぶための一般的なパラダイムになっています。
クラウドに移行することなく、さまざまなデバイスのデータを効果的に活用するために、Federated Averaging(FedAvg)などのアルゴリズムでは、"Computation then aggregate"(CTA)モデルを採用している。
論文 参考訳（メタデータ） (2020-05-22T23:07:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。