論文の概要: Shoggoth: Towards Efficient Edge-Cloud Collaborative Real-Time Video Inference via Adaptive Online Learning

• arxiv url: http://arxiv.org/abs/2306.15333v1
• Date: Tue, 27 Jun 2023 09:39:42 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-28 14:00:38.952710
• Title: Shoggoth: Towards Efficient Edge-Cloud Collaborative Real-Time Video Inference via Adaptive Online Learning
• Title（参考訳）: Shoggoth: 適応型オンライン学習による効率的なエッジクラウドコラボレーションリアルタイムビデオ推論を目指して
• Authors: Liang Wang and Kai Lu and Nan Zhang and Xiaoyang Qu and Jianzong Wang and Jiguang Wan and Guokuan Li and Jing Xiao
• Abstract要約: Shoggothは、シーン変更のリアルタイムビデオにおける推論パフォーマンスを高めるための、効率的なエッジクラウドコラボレーションアーキテクチャである。 オンライン知識蒸留は、データドリフトに苦しむモデルの精度を改善し、ラベリングプロセスをクラウドにオフロードする。 エッジでは、限られた計算能力でモデルを適応させるために、小さなバッチを用いて適応的なトレーニングを設計する。
• 参考スコア（独自算出の注目度）: 33.16911236522438
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper proposes Shoggoth, an efficient edge-cloud collaborative architecture, for boosting inference performance on real-time video of changing scenes. Shoggoth uses online knowledge distillation to improve the accuracy of models suffering from data drift and offloads the labeling process to the cloud, alleviating constrained resources of edge devices. At the edge, we design adaptive training using small batches to adapt models under limited computing power, and adaptive sampling of training frames for robustness and reducing bandwidth. The evaluations on the realistic dataset show 15%-20% model accuracy improvement compared to the edge-only strategy and fewer network costs than the cloud-only strategy.
• Abstract（参考訳）: 本稿では,シーン変化のリアルタイムビデオにおける推論性能を向上させるために,効率的なエッジクラウド協調アーキテクチャであるShoggothを提案する。 Shoggoth氏は、オンライン知識蒸留を使用して、データドリフトに苦しむモデルの精度を改善し、ラベル付けプロセスをクラウドにオフロードし、エッジデバイスの制約されたリソースを軽減する。 そこで本研究では,限られた計算能力でモデルを適応させるために小バッチを用いた適応トレーニングと,ロバスト性と帯域幅の削減を目的としたトレーニングフレームの適応サンプリングをデザインする。 現実的なデータセットにおける評価は、エッジのみの戦略と比較して15%から20%の精度向上を示し、クラウドのみの戦略よりもネットワークコストの低減を示した。

関連論文リスト

• Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
  タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。 既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。 ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T19:02:54Z)
• EdgeSync: Faster Edge-model Updating via Adaptive Continuous Learning for Video Data Drift [7.165359653719119]
  リアルタイムビデオ分析システムは一般的に、レイテンシを低減するためにエッジデバイスに重みを減らしたモデルを配置する。 映像コンテンツの特徴の分布は時間とともに変化し、既存のモデルの精度が低下する。 最近の研究は、リモートサーバを使用して、複雑なモデルの助けを借りて、エッジで軽量モデルを継続的にトレーニングし、適応するフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T07:06:26Z)
• Towards Robust and Efficient Cloud-Edge Elastic Model Adaptation via Selective Entropy Distillation [56.79064699832383]
  Cloud-Edge Elastic Model Adaptation (CEMA)パラダイムを確立し、エッジモデルが前方伝播のみを実行するようにします。 CEMAでは,通信負担を軽減するため,不要なサンプルをクラウドにアップロードすることを避けるための2つの基準を考案した。
  論文  参考訳（メタデータ） (2024-02-27T08:47:19Z)
• Small Dataset, Big Gains: Enhancing Reinforcement Learning by Offline Pre-Training with Model Based Augmentation [59.899714450049494]
  オフラインの事前トレーニングは、準最適ポリシーを生成し、オンライン強化学習のパフォーマンスを低下させる可能性がある。 本稿では,オフライン強化学習による事前学習のメリットを最大化し,有効となるために必要なデータの規模を削減するためのモデルベースデータ拡張戦略を提案する。
  論文  参考訳（メタデータ） (2023-12-15T14:49:41Z)
• Adaptive-Labeling for Enhancing Remote Sensing Cloud Understanding [40.572147431473034]
  我々は、トレーニングデータアノテーションの品質を高めるために反復的に運用される、革新的なモデルに依存しないCloud Adaptive-Labeling(CAL)アプローチを導入する。 本手法は,クラウドセグメンテーションモデルをオリジナルのアノテーションを用いてトレーニングすることで開始する。 トレーニング可能なピクセル強度閾値を導入し、雲のトレーニング画像をリアルタイムでアダプティブにラベル付けする。 新たに生成されたラベルはモデルを微調整するために使用される。
  論文  参考訳（メタデータ） (2023-11-09T08:23:45Z)
• Towards Compute-Optimal Transfer Learning [82.88829463290041]
  我々は、事前訓練されたモデルのゼロショット構造化プルーニングにより、性能を最小限に抑えて計算効率を向上させることができると主張している。 その結果,事前訓練されたモデルの畳み込み畳み込みフィルタは,低計算条件下で20%以上の性能向上をもたらす可能性が示唆された。
  論文  参考訳（メタデータ） (2023-04-25T21:49:09Z)
• An Efficient Split Fine-tuning Framework for Edge and Cloud Collaborative Learning [20.118073642453034]
  エッジおよびクラウド協調学習のための効率的な分割微調整フレームワークを設計する。 ニューラルネットワークの中間出力を圧縮し、エッジデバイスとクラウドサーバ間の通信量を削減する。 我々のフレームワークは、モデルの精度にほとんど影響を与えずに、96倍の通信トラフィックを削減できる。
  論文  参考訳（メタデータ） (2022-11-30T02:55:21Z)
• LegoNet: A Fast and Exact Unlearning Architecture [59.49058450583149]
  機械学習は、トレーニングされたモデルから削除された要求に対する特定のトレーニングサンプルの影響を削除することを目的としている。 固定エンコーダ+複数アダプタのフレームワークを採用した新しいネットワークである textitLegoNet を提案する。 我々は、LegoNetが許容できる性能を維持しつつ、高速かつ正確な未学習を実現し、未学習のベースラインを総合的に上回っていることを示す。
  論文  参考訳（メタデータ） (2022-10-28T09:53:05Z)
• Streaming Video Analytics On The Edge With Asynchronous Cloud Support [2.7456483236562437]
  本稿では,エッジとクラウドの予測を融合させ,低レイテンシで高精度なエッジクラウド融合アルゴリズムを提案する。 ビデオのオブジェクト検出(多くのビデオ分析シナリオに適用可能)に注目し、融合したエッジクラウド予測が、エッジのみのシナリオとクラウドのみのシナリオの精度を最大50%上回ることを示す。
  論文  参考訳（メタデータ） (2022-10-04T06:22:13Z)
• Online Convolutional Re-parameterization [51.97831675242173]
  2段階のパイプラインであるオンライン畳み込み再パラメータ化(OREPA)は、複雑なトレーニング時間ブロックを単一の畳み込みに絞ることで、巨大なトレーニングオーバーヘッドを低減することを目的としている。 最先端のre-paramモデルと比較して、OREPAはトレーニング時間のメモリコストを約70%削減し、トレーニング速度を約2倍向上させることができる。 また、オブジェクト検出とセマンティックセグメンテーションの実験を行い、下流タスクに一貫した改善を示す。
  論文  参考訳（メタデータ） (2022-04-02T09:50:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。