論文の概要: Towards Flexible Device Participation in Federated Learning
- arxiv url: http://arxiv.org/abs/2006.06954v2
- Date: Thu, 25 Feb 2021 21:28:24 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-22 02:30:48.525315
- Title: Towards Flexible Device Participation in Federated Learning
- Title(参考訳): 連合学習におけるフレキシブルデバイス参加に向けて
- Authors: Yichen Ruan, Xiaoxi Zhang, Shu-Che Liang, Carlee Joe-Wong
- Abstract要約: 現在の学習パラダイムを拡張して、非アクティブになり、不完全な更新を計算し、トレーニングの途中で出発または到着するデバイスを含めます。
デバイスが不活性である場合や不完全な更新を返却する場合においても収束する新しいフェデレーションアグリゲーション方式を提案する。
- 参考スコア(独自算出の注目度): 21.790676890071808
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Traditional federated learning algorithms impose strict requirements on the
participation rates of devices, which limit the potential reach of federated
learning. This paper extends the current learning paradigm to include devices
that may become inactive, compute incomplete updates, and depart or arrive in
the middle of training. We derive analytical results to illustrate how allowing
more flexible device participation can affect the learning convergence when
data is not independently and identically distributed (non-IID). We then
propose a new federated aggregation scheme that converges even when devices may
be inactive or return incomplete updates. We also study how the learning
process can adapt to early departures or late arrivals, and analyze their
impacts on the convergence.
- Abstract(参考訳): 従来のフェデレーション学習アルゴリズムは、デバイスの参加率に厳格な要件を課し、フェデレーション学習の可能性を制限する。
本稿では、現在の学習パラダイムを拡張し、非アクティブになり、不完全な更新を計算し、トレーニング中に出発または到着するデバイスを含む。
分析結果から、データの独立性や非IID(non-IID)がなければ、より柔軟なデバイス参加が学習収束に影響を与えることを示す。
次に,デバイスが不活性である場合や不完全更新を返却する場合においても収束する新しい連合集約方式を提案する。
また、学習プロセスが早期出発や後期到着にどのように適応するかを調査し、収束に与える影響を分析する。
関連論文リスト
- A Unified Framework for Neural Computation and Learning Over Time [56.44910327178975]
Hamiltonian Learningはニューラルネットワークを"時間とともに"学習するための新しい統合フレームワーク
i)外部ソフトウェアソルバを必要とせずに統合できる、(ii)フィードフォワードおよびリカレントネットワークにおける勾配に基づく学習の概念を一般化する、(iii)新しい視点で開放する、という微分方程式に基づいている。
論文 参考訳(メタデータ) (2024-09-18T14:57:13Z) - Federated Unlearning via Active Forgetting [24.060724751342047]
インクリメンタルラーニングに基づく新しいフェデレーション・アンラーニング・フレームワークを提案する。
我々のフレームワークは、近似的再学習やデータ影響推定に依存する既存の非学習手法とは異なる。
論文 参考訳(メタデータ) (2023-07-07T03:07:26Z) - Federated Learning and Meta Learning: Approaches, Applications, and
Directions [94.68423258028285]
本稿では,FL,メタラーニング,フェデレーションメタラーニング(FedMeta)について概観する。
他のチュートリアルと異なり、私たちの目標はFL、メタラーニング、FedMetaの方法論をどのように設計、最適化、進化させ、無線ネットワーク上で応用するかを探ることです。
論文 参考訳(メタデータ) (2022-10-24T10:59:29Z) - Non-IID data and Continual Learning processes in Federated Learning: A
long road ahead [58.720142291102135]
フェデレートラーニング(Federated Learning)は、複数のデバイスや機関が、データをプライベートに保存しながら、機械学習モデルを協調的にトレーニングすることを可能にする、新しいフレームワークである。
本研究では,データの統計的不均一性を正式に分類し,それに直面することのできる最も顕著な学習戦略をレビューする。
同時に、継続学習のような他の機械学習フレームワークからのアプローチを導入し、データの不均一性にも対処し、フェデレートラーニング設定に容易に適応できるようにします。
論文 参考訳(メタデータ) (2021-11-26T09:57:11Z) - Federated Learning Based on Dynamic Regularization [43.137064459520886]
本稿では,ニューラルネットワークモデルを分散学習するための新しいフェデレーション学習手法を提案する。
サーバは、各ラウンドでランダムに選択されたデバイスのサブセット間の協力を編成する。
論文 参考訳(メタデータ) (2021-11-08T03:58:28Z) - Boosting Federated Learning in Resource-Constrained Networks [1.7010199949406575]
フェデレートラーニング(FL)は、一連のクライアントデバイスが、生データを共有せずに協調的にモデルをトレーニングすることを可能にする。
推測学習アルゴリズムであるGeLを提案する。
資源制約ネットワークにおいて,GeLは経験的収束を最大40%向上させることができることを示す。
論文 参考訳(メタデータ) (2021-10-21T21:23:04Z) - Emerging Trends in Federated Learning: From Model Fusion to Federated X Learning [65.06445195580622]
フェデレートラーニング(Federated Learning)は、データ収集とモデルトレーニングを、マルチパーティの計算とモデルアグリゲーションを通じて分離する新しいパラダイムである。
我々は、他の学習アルゴリズムとともに、フェデレーション学習の焦点を絞った調査を行う。
論文 参考訳(メタデータ) (2021-02-25T15:18:13Z) - Fast-Convergent Federated Learning [82.32029953209542]
フェデレーション学習は、モバイルデバイスの現代的なネットワークを介して機械学習タスクを分散するための、有望なソリューションである。
本稿では,FOLBと呼ばれる高速収束型フェデレーション学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-07-26T14:37:51Z) - Federated and continual learning for classification tasks in a society
of devices [59.45414406974091]
Light Federated and Continual Consensus (LFedCon2)は、軽量で伝統的な学習者を用いた新しいフェデレーションおよび継続アーキテクチャである。
我々の方法では、スマートフォンやロボットのような無力デバイスが、リアルタイムで、ローカルで、継続的に、自律的に、そしてユーザーから学習することができる。
提案手法をスマートフォン利用者の異種コミュニティに適用し,歩行認識の課題を解決した。
論文 参考訳(メタデータ) (2020-06-12T12:37:03Z) - Faster On-Device Training Using New Federated Momentum Algorithm [47.187934818456604]
近年,モバイルクラウドセンシングが注目され,モノのインターネット(Internet of Things)アプリケーションにとって重要なパラダイムとなっている。
これらのデータを機械学習モデルのトレーニングに利用するために、ユーザの機会を損なうことなく、フェデレーションは有望なソリューションとなった。
論文 参考訳(メタデータ) (2020-02-06T04:12:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。