論文の概要: OL4EL: Online Learning for Edge-cloud Collaborative Learning on
Heterogeneous Edges with Resource Constraints
- arxiv url: http://arxiv.org/abs/2004.10387v2
- Date: Thu, 23 Apr 2020 08:13:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-10 17:49:27.734382
- Title: OL4EL: Online Learning for Edge-cloud Collaborative Learning on
Heterogeneous Edges with Resource Constraints
- Title（参考訳）: OL4EL: リソース制約のある異種エッジ上でのエッジクラウド協調学習のためのオンライン学習
- Authors: Qing Han, Shusen Yang, Xuebin Ren, Cong Zhao, Jingqi Zhang, Xinyu Yang
- Abstract要約: 資源制約のある異種エッジ上でのエッジ学習(EL)を効果的に行う「学習学習」の枠組みを提案する。
予算制限付きマルチアームバンディットモデルに基づくオンライン学習用EL(OL4EL)フレームワークを提案する。
OL4ELは同期と非同期の両方の学習パターンをサポートし、教師なしと教師なしの両方の学習タスクに使用できる。
- 参考スコア（独自算出の注目度）: 18.051084376447655
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Distributed machine learning (ML) at network edge is a promising paradigm
that can preserve both network bandwidth and privacy of data providers.
However, heterogeneous and limited computation and communication resources on
edge servers (or edges) pose great challenges on distributed ML and formulate a
new paradigm of Edge Learning (i.e. edge-cloud collaborative machine learning).
In this article, we propose a novel framework of 'learning to learn' for
effective Edge Learning (EL) on heterogeneous edges with resource constraints.
We first model the dynamic determination of collaboration strategy (i.e. the
allocation of local iterations at edge servers and global aggregations on the
Cloud during collaborative learning process) as an online optimization problem
to achieve the tradeoff between the performance of EL and the resource
consumption of edge servers. Then, we propose an Online Learning for EL (OL4EL)
framework based on the budget-limited multi-armed bandit model. OL4EL supports
both synchronous and asynchronous learning patterns, and can be used for both
supervised and unsupervised learning tasks. To evaluate the performance of
OL4EL, we conducted both real-world testbed experiments and extensive
simulations based on docker containers, where both Support Vector Machine and
K-means were considered as use cases. Experimental results demonstrate that
OL4EL significantly outperforms state-of-the-art EL and other collaborative ML
approaches in terms of the trade-off between learning performance and resource
consumption.
- Abstract（参考訳）: ネットワークエッジにおける分散機械学習(ML)は、データプロバイダのネットワーク帯域幅とプライバシの両方を保護できる有望なパラダイムである。
しかし、エッジサーバ(またはエッジ)上の不均一で限られた計算と通信リソースは、分散MLに大きな課題をもたらし、エッジラーニング(エッジクラウド協調機械学習)の新しいパラダイムを定式化する。
本稿では,資源制約のあるヘテロジニアスエッジ上でのエッジ学習(EL)を効果的に行うための'学習する'フレームワークを提案する。
elの性能とエッジサーバのリソース消費のトレードオフを達成するためのオンライン最適化問題として,まず,協調戦略の動的決定(エッジサーバにおける局所イテレーションの割り当てと,協調学習プロセス中のクラウド上のグローバル集約)をモデル化した。
そこで我々は,予算限定のマルチアームバンディットモデルに基づく,EL(Online Learning for EL)フレームワークを提案する。
OL4ELは同期と非同期の両方の学習パターンをサポートし、教師なしと教師なしの両方の学習タスクに使用できる。
OL4ELの性能を評価するため,実世界のテストベッド実験とドッカーコンテナに基づく広範囲なシミュレーションを行い,Support Vector MachineとK-meansを併用例として検討した。
実験の結果,OL4ELは,学習性能と資源消費のトレードオフの観点から,最先端のELと他の協調MLアプローチを著しく上回ることがわかった。
関連論文リスト
- Leveraging Federated Learning and Edge Computing for Recommendation
Systems within Cloud Computing Networks [3.36271475827981]
エッジインテリジェンスの鍵となる技術は、フェデレートラーニング(FL)として知られる、プライバシ保護機械学習パラダイムである。
ノード障害とデバイス終了を減らすため、階層的フェデレートラーニング(HFL)フレームワークが提案され、指定されたクラスタリーダが中間モデルアグリゲーションを通じてデータオーナをサポートする。
ユーザエクスペリエンスの品質(QoE)に対するソフトクリックの影響を軽減するため、著者らは、ユーザQoEを包括的なシステムコストとしてモデル化した。
論文 参考訳（メタデータ） (2024-03-05T17:58:26Z) - Optimal Resource Allocation for U-Shaped Parallel Split Learning [15.069132131105063]
Split Learning(SL)は、データ所有者の生データサンプルを明らかにすることなく、モデルトレーニングのための有望なアプローチとして登場した。
従来のSLは必然的に、(最後のレイヤを持つ)テールモデルがサーバに置かれるべきとして、ラベルのプライバシをリークする。
有望な解決策の1つは、U字型アーキテクチャを使用して、初期のレイヤと最後のレイヤの両方をユーザ側に置いておくことである。
論文 参考訳（メタデータ） (2023-08-17T10:07:45Z) - EdgeConvEns: Convolutional Ensemble Learning for Edge Intelligence [0.0]
Deep Edge Intelligenceは、計算能力に制限のあるエッジネットワークに、計算に高価なトレーニングを必要とするディープラーニングモデルをデプロイすることを目的としている。
本研究では、エッジ上の不均一な弱モデルを訓練し、エッジ上のデータが不均一に分散されている場所でアンサンブルを学習する、EdgeConvEnsという畳み込み型アンサンブル学習手法を提案する。
論文 参考訳（メタデータ） (2023-07-25T20:07:32Z) - Towards Cooperative Federated Learning over Heterogeneous Edge/Fog
Networks [49.19502459827366]
フェデレートラーニング(FL)は、エッジ/フォグネットワーク上で機械学習(ML)モデルをトレーニングするための一般的なテクニックとして推奨されている。
FLの従来の実装は、ネットワーク間協力の可能性を大きく無視してきた。
我々は,デバイス・ツー・デバイス(D2D)とデバイス・ツー・サーバ(D2S)インタラクションに基づいて構築された協調的エッジ/フォグMLパラダイムである協調的連合学習(CFL)を提唱する。
論文 参考訳（メタデータ） (2023-03-15T04:41:36Z) - Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。
FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。
SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。
本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
論文 参考訳（メタデータ） (2022-11-20T10:49:22Z) - Multi-Edge Server-Assisted Dynamic Federated Learning with an Optimized
Floating Aggregation Point [51.47520726446029]
協調エッジ学習(CE-FL)は、分散機械学習アーキテクチャである。
CE-FLの過程をモデル化し,分析訓練を行った。
実世界のテストベッドから収集したデータを用いて,本フレームワークの有効性を示す。
論文 参考訳（メタデータ） (2022-03-26T00:41:57Z) - Asynchronous Semi-Decentralized Federated Edge Learning for
Heterogeneous Clients [3.983055670167878]
フェデレーションエッジ学習(FEEL)は、モバイルエッジネットワークのプライバシ保護のための分散学習フレームワークとして注目されている。
本研究では,複数のエッジサーバが協調して,エッジデバイスからのより多くのデータをトレーニング中に組み込む,新たな半分散FEEL(SD-FEEL)アーキテクチャについて検討する。
論文 参考訳（メタデータ） (2021-12-09T07:39:31Z) - Edge-assisted Democratized Learning Towards Federated Analytics [67.44078999945722]
本稿では,エッジ支援型民主化学習機構であるEdge-DemLearnの階層的学習構造を示す。
また、Edge-DemLearnを柔軟なモデルトレーニングメカニズムとして検証し、リージョンに分散制御と集約の方法論を構築する。
論文 参考訳（メタデータ） (2020-12-01T11:46:03Z) - Incentive Mechanism Design for Resource Sharing in Collaborative Edge
Learning [106.51930957941433]
5GとBeyondネットワークでは、人工知能のアプリケーションがますます普及すると予想されている。
これは、現在のクラウド中心のモデルトレーニングアプローチから、エッジラーニングとして知られるエッジコンピューティングベースの協調学習スキームへのパラダイムシフトを必要とする。
論文 参考訳（メタデータ） (2020-05-31T12:45:06Z) - Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G
Networks [84.2155885234293]
まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。
このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
論文 参考訳（メタデータ） (2020-02-22T14:38:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。