論文の概要: A Serverless Cloud-Fog Platform for DNN-Based Video Analytics with
Incremental Learning
- arxiv url: http://arxiv.org/abs/2102.03012v1
- Date: Fri, 5 Feb 2021 05:59:36 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-08 12:59:47.781964
- Title: A Serverless Cloud-Fog Platform for DNN-Based Video Analytics with
Incremental Learning
- Title(参考訳): インクリメンタル学習によるDNNベースのビデオ分析のためのサーバレスクラウドフォグプラットフォーム
- Authors: Huaizheng Zhang, Meng Shen, Yizheng Huang, Yonggang Wen, Yong Luo,
Guanyu Gao, Kyle Guan
- Abstract要約: 本稿では、クライアント-フォグクラウドのシナジーをフル活用して、DNNベースのビデオ分析に役立てる最初のサーバーレスシステムを提案する。
この目的のために、V(Video-Platform-as-a-Service)と呼ばれる総合的なクラウドフォッグシステムを実装した。
評価の結果、Vは複数のSOTAシステムよりも優れており、高い精度を維持しながら帯域幅を最大21%削減し、RTTを最大62.5%削減し、クラウドの金融コストを最大50%削減している。
- 参考スコア(独自算出の注目度): 31.712746462418693
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: DNN-based video analytics have empowered many new applications (e.g.,
automated retail). Meanwhile, the proliferation of fog devices provides
developers with more design options to improve performance and save cost. To
the best of our knowledge, this paper presents the first serverless system that
takes full advantage of the client-fog-cloud synergy to better serve the
DNN-based video analytics. Specifically, the system aims to achieve two goals:
1) Provide the optimal analytics results under the constraints of lower
bandwidth usage and shorter round-trip time (RTT) by judiciously managing the
computational and bandwidth resources deployed in the client, fog, and cloud
environment. 2) Free developers from tedious administration and operation
tasks, including DNN deployment, cloud and fog's resource management. To this
end, we implement a holistic cloud-fog system referred to as VPaaS
(Video-Platform-as-a-Service). VPaaS adopts serverless computing to enable
developers to build a video analytics pipeline by simply programming a set of
functions (e.g., model inference), which are then orchestrated to process
videos through carefully designed modules. To save bandwidth and reduce RTT,
VPaaS provides a new video streaming protocol that only sends low-quality video
to the cloud. The state-of-the-art (SOTA) DNNs deployed at the cloud can
identify regions of video frames that need further processing at the fog ends.
At the fog ends, misidentified labels in these regions can be corrected using a
light-weight DNN model. To address the data drift issues, we incorporate
limited human feedback into the system to verify the results and adopt
incremental learning to improve our system continuously. The evaluation
demonstrates that VPaaS is superior to several SOTA systems: it maintains high
accuracy while reducing bandwidth usage by up to 21%, RTT by up to 62.5%, and
cloud monetary cost by up to 50%.
- Abstract(参考訳): DNNベースのビデオ分析は、多くの新しいアプリケーション(例えば自動小売)に力を与えた。
一方、fogデバイスの普及により、開発者はパフォーマンスを改善し、コストを削減できる設計オプションが増えた。
我々の知る限りでは、クライアント-フォグクラウドのシナジーを最大限に活用し、DNNベースのビデオ分析に役立てる最初のサーバーレスシステムを示す。
具体的には, 1) クライアント, フォグ, クラウド環境に展開する計算資源と帯域幅を定量的に管理することにより, 帯域幅の制限下での最適分析結果と, ラウンドトリップ時間(RTT)の短縮という2つの目標を達成することを目的とする。
2) DNNデプロイメント,クラウド,フォグのリソース管理など,面倒な管理タスクや運用タスクを無償で実施する。
この目的のために,VPaaS(Video-Platform-as-a-Service)と呼ばれる総合的なクラウドファグシステムを実装した。
VPaaSはサーバレスコンピューティングを採用しており、開発者が一連の関数(例えばモデル推論)をプログラムするだけでビデオ分析パイプラインを構築することができる。
帯域幅を節約し、RTTを削減するため、VPaaSは低品質のビデオのみをクラウドに送信する新しいビデオストリーミングプロトコルを提供する。
クラウドにデプロイされる最新技術(SOTA)DNNは、霧の端でさらなる処理を必要とするビデオフレームの領域を特定することができる。
霧の終わりには、これらの領域の誤識別ラベルを軽量DNNモデルを用いて修正することができる。
データドリフト問題に対処するため、システムに限られたフィードバックを組み込んで結果を検証し、漸進的な学習を採用し、システムの改善を継続的に進める。
この評価は、VPaaSが複数のSOTAシステムよりも優れていることを示している: 帯域幅を最大21%削減し、RTTを最大62.5%削減し、クラウドの金融コストを最大50%削減する。
関連論文リスト
- CloudEye: A New Paradigm of Video Analysis System for Mobile Visual Scenarios [22.871591373774802]
CloudEyeはリアルタイムで効率的なモバイル視覚認識システムである。
エッジサーバを備え、クラウドサーバと調整されたモバイルビジョンシステム環境において、エッジサーバ上のコンテンツ情報マイニングを使用する。
ネットワーク帯域幅を69.50%削減し、推論速度を24.55%向上させ、検出精度を67.30%向上させる。
論文 参考訳(メタデータ) (2024-10-24T03:27:05Z) - Data Overfitting for On-Device Super-Resolution with Dynamic Algorithm and Compiler Co-Design [18.57172631588624]
本稿では,Content-Awareデータ処理パイプラインが支援する動的ディープニューラルネットワークを提案する。
本手法は,市販携帯電話上でのPSNRとリアルタイム性能(33FPS)の向上を実現する。
論文 参考訳(メタデータ) (2024-07-03T05:17:26Z) - IDF-CR: Iterative Diffusion Process for Divide-and-Conquer Cloud Removal in Remote-sensing Images [55.40601468843028]
雲除去のための反復拡散過程(IDF-CR)を提案する。
IDF-CRは、ピクセル空間と潜在空間に対処する2段階のモデルに分けられる。
潜時空間の段階では、拡散モデルは低品質の雲の除去を高品質のクリーンな出力に変換する。
論文 参考訳(メタデータ) (2024-03-18T15:23:48Z) - MatchNAS: Optimizing Edge AI in Sparse-Label Data Contexts via
Automating Deep Neural Network Porting for Mobile Deployment [54.77943671991863]
MatchNASはDeep Neural Networksをモバイルデバイスに移植するための新しいスキームである。
ラベル付きデータと非ラベル付きデータの両方を用いて、大規模なネットワークファミリを最適化する。
そして、さまざまなハードウェアプラットフォーム用に調整されたネットワークを自動的に検索する。
論文 参考訳(メタデータ) (2024-02-21T04:43:12Z) - DVFO: Learning-Based DVFS for Energy-Efficient Edge-Cloud Collaborative
Inference [12.095934624748686]
本稿では,新しいDVFS対応エッジクラウド協調推論フレームワークであるDVFOを提案する。
エッジデバイスのCPU、GPU、メモリの周波数を自動的に最適化し、機能マップをクラウドサーバにオフロードする。
最先端の計画に比べて、エネルギー消費を平均で33%削減する。
論文 参考訳(メタデータ) (2023-06-02T07:00:42Z) - Attention-based Feature Compression for CNN Inference Offloading in Edge
Computing [93.67044879636093]
本稿では,デバイスエッジ共振器におけるCNN推論の計算負荷について検討する。
エンドデバイスにおける効率的な特徴抽出のための新しいオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
実験の結果、AECNNは中間データを約4%の精度で256倍圧縮できることがわかった。
論文 参考訳(メタデータ) (2022-11-24T18:10:01Z) - Streaming Video Analytics On The Edge With Asynchronous Cloud Support [2.7456483236562437]
本稿では,エッジとクラウドの予測を融合させ,低レイテンシで高精度なエッジクラウド融合アルゴリズムを提案する。
ビデオのオブジェクト検出(多くのビデオ分析シナリオに適用可能)に注目し、融合したエッジクラウド予測が、エッジのみのシナリオとクラウドのみのシナリオの精度を最大50%上回ることを示す。
論文 参考訳(メタデータ) (2022-10-04T06:22:13Z) - Fluid Batching: Exit-Aware Preemptive Serving of Early-Exit Neural
Networks on Edge NPUs [74.83613252825754]
スマートエコシステム(smart ecosystems)"は、スタンドアロンではなく、センセーションが同時に行われるように形成されています。
これはデバイス上の推論パラダイムを、エッジにニューラル処理ユニット(NPU)をデプロイする方向にシフトしている。
そこで本研究では,実行時のプリエンプションが到着・終了プロセスによってもたらされる動的性を考慮に入れた,新しい早期終了スケジューリングを提案する。
論文 参考訳(メタデータ) (2022-09-27T15:04:01Z) - An Adaptive Device-Edge Co-Inference Framework Based on Soft
Actor-Critic [72.35307086274912]
高次元パラメータモデルと大規模数学的計算は、特にIoT(Internet of Things)デバイスにおける実行効率を制限する。
本稿では,ソフトポリシーの繰り返しによるエフェキシット点,エフェキシット点,エンフェキシット点を生成する離散的(SAC-d)のための新しい深層強化学習(DRL)-ソフトアクタ批判法を提案する。
レイテンシと精度を意識した報酬設計に基づいて、そのような計算は動的無線チャンネルや任意の処理のような複雑な環境によく適応でき、5G URLをサポートすることができる。
論文 参考訳(メタデータ) (2022-01-09T09:31:50Z) - VID-WIN: Fast Video Event Matching with Query-Aware Windowing at the
Edge for the Internet of Multimedia Things [3.222802562733787]
VID-WINは、エッジクラウドパラダイムでビデオイベント分析を加速するための適応型2段階アライメントウィンドウリングアプローチです。
VID-WINは、ビデオコンテンツと入力ノブを利用して、ノード間のビデオ推論プロセスを加速する。
論文 参考訳(メタデータ) (2021-04-27T10:08:40Z) - A Joint Energy and Latency Framework for Transfer Learning over 5G
Industrial Edge Networks [53.26338041079138]
5G産業エッジネットワークのための転送学習対応エッジCNNフレームワークを提案する。
特に、エッジサーバは、既存の画像データセットを使用してcnnを事前トレーニングすることができる。
TLの助けを借りて、トレーニングに参加していないデバイスは、訓練されたエッジCNNモデルをスクラッチからトレーニングせずに微調整するだけです。
論文 参考訳(メタデータ) (2021-04-19T15:13:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。