論文の概要: A Multi-task Supervised Compression Model for Split Computing

• arxiv url: http://arxiv.org/abs/2501.01420v1
• Date: Thu, 02 Jan 2025 18:59:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-05 17:15:11.608716
• Title: A Multi-task Supervised Compression Model for Split Computing
• Title（参考訳）: スプリットコンピューティングのためのマルチタスクスーパービジョン圧縮モデル
• Authors: Yoshitomo Matsubara, Matteo Mendula, Marco Levorato,
• Abstract要約: 分散コンピューティングは、リソース制約のあるエッジコンピューティングシステムのためのディープラーニングモデルに対する有望なアプローチである。 マルチタスクスプリットコンピューティングのための最初のマルチタスク型教師付き圧縮モデルであるLadonを提案する。 我々のモデルはマルチタスクスプリットコンピューティングシナリオにおいて、エンドツーエンドのレイテンシ(最大95.4%)とモバイルデバイスのエネルギー消費(最大88.2%)を削減した。
• 参考スコア（独自算出の注目度）: 4.234757989234096
• License:
• Abstract: Split computing ($\neq$ split learning) is a promising approach to deep learning models for resource-constrained edge computing systems, where weak sensor (mobile) devices are wirelessly connected to stronger edge servers through channels with limited communication capacity. State-of-theart work on split computing presents methods for single tasks such as image classification, object detection, or semantic segmentation. The application of existing methods to multitask problems degrades model accuracy and/or significantly increase runtime latency. In this study, we propose Ladon, the first multi-task-head supervised compression model for multi-task split computing. Experimental results show that the multi-task supervised compression model either outperformed or rivaled strong lightweight baseline models in terms of predictive performance for ILSVRC 2012, COCO 2017, and PASCAL VOC 2012 datasets while learning compressed representations at its early layers. Furthermore, our models reduced end-to-end latency (by up to 95.4%) and energy consumption of mobile devices (by up to 88.2%) in multi-task split computing scenarios.
• Abstract（参考訳）: Split Computing ($\neq$ split learning)は、リソース制約のあるエッジコンピューティングシステムのためのディープラーニングモデルに対する有望なアプローチである。 分割コンピューティングに関する最先端の研究は、イメージ分類、オブジェクト検出、セマンティックセグメンテーションのような単一のタスクのための方法を提示している。 マルチタスク問題に対する既存手法の適用により、モデルの精度が低下したり、実行時の遅延が大幅に増加する。 本研究では,マルチタスクスプリットコンピューティングのための最初のマルチタスクヘッド型圧縮モデルであるLadonを提案する。 実験結果から,マルチタスク制御圧縮モデルはILSVRC,COCO 2017,PASCAL VOC 2012データセットの予測性能において,圧縮された表現を初期層で学習しながら,強力な軽量ベースラインモデルよりも優れていたか,あるいは競合していたことが示唆された。 さらに、マルチタスクスプリットコンピューティングシナリオでは、エンドツーエンドのレイテンシ(最大95.4%)とモバイルデバイスのエネルギー消費(最大88.2%)を削減しました。

関連論文リスト

• Post-Training Network Compression for 3D Medical Image Segmentation: Reducing Computational Efforts via Tucker Decomposition [2.6820435361998918]
  本稿では,既存のモデルの分解により,セグメント化精度を損なうことなく,計算要求を低減できるタッカー因数分解法を提案する。 提案手法では,推定時に必要となる浮動小数点演算(FLOP)とメモリを削減し,計算効率とセグメンテーション品質のトレードオフを調整可能とした。
  論文  参考訳（メタデータ） (2024-04-15T11:36:31Z)
• Towards a Better Theoretical Understanding of Independent Subnetwork Training [56.24689348875711]
  独立サブネットワークトレーニング(IST)の理論的考察 ISTは、上記の問題を解決するための、最近提案され、非常に効果的である。 圧縮通信を用いた分散手法など,ISTと代替手法の基本的な違いを同定する。
  論文  参考訳（メタデータ） (2023-06-28T18:14:22Z)
• Partitioning Distributed Compute Jobs with Reinforcement Learning and Graph Neural Networks [58.720142291102135]
  大規模な機械学習モデルは、幅広い分野に進歩をもたらしている。 これらのモデルの多くは、単一のマシンでトレーニングするには大きすぎるため、複数のデバイスに分散する必要がある。 スループットやブロッキングレートといったユーザクリティカルな指標に対して,並列化の最大化が準最適であることを示す。
  論文  参考訳（メタデータ） (2023-01-31T17:41:07Z)
• DiSparse: Disentangled Sparsification for Multitask Model Compression [92.84435347164435]
  DiSparseは、シンプルで効果的で、第一級のマルチタスクプルーニングとスパーストレーニングスキームである。 実験の結果,様々な設定や設定において優れた性能を示した。
  論文  参考訳（メタデータ） (2022-06-09T17:57:46Z)
• Feature Compression for Rate Constrained Object Detection on the Edge [20.18227104333772]
  この問題を解決するための新たなアプローチは、ニューラルネットワークの計算をエッジサーバのコンピューティングリソースにオフロードすることだ。 本研究では、YOLOオブジェクト検出モデルの計算の一部をオフロードする「分割計算」システムについて検討する。 我々は、速度制約下でのオブジェクト検出精度を最適化するために、YOLOモデルとともに特徴圧縮および非圧縮モジュールを訓練する。
  論文  参考訳（メタデータ） (2022-04-15T03:39:30Z)
• SC2 Benchmark: Supervised Compression for Split Computing [21.7175821221294]
  本研究では,スプリットコンピューティング(SC2)の教師付き圧縮について紹介し,新しい評価基準を提案する。 10のベースライン手法,3つのコンピュータビジョンタスク,180以上のトレーニングモデルを用いた総合的なベンチマーク研究を行う。 提案したメトリクスとパッケージは、スプリットコンピューティングにおける教師あり圧縮のトレードオフをよりよく理解するのに役立ちます。
  論文  参考訳（メタデータ） (2022-03-16T18:43:18Z)
• Federated Action Recognition on Heterogeneous Embedded Devices [16.88104153104136]
  本研究では,限られた計算能力を持つクライアントが行動認識を行うことを可能にする。 我々はまず,大規模なデータセットの知識蒸留を通じて,中央サーバでモデル圧縮を行う。 より小さなデータセットに存在する限られたデータは、アクション認識モデルが複雑な時間的特徴を学習するのに十分なものではないため、微調整が必要である。
  論文  参考訳（メタデータ） (2021-07-18T02:33:24Z)
• Multi-task Over-the-Air Federated Learning: A Non-Orthogonal Transmission Approach [52.85647632037537]
  複数の学習タスクがエッジサーバ(ES)の協調の下でデータ収集および学習モデルのためのエッジデバイスを共有するマルチタスク・オーバーテア・フェデレーション・ラーニング(MOAFL)フレームワークを提案する。 収束解析と数値計算の両方の結果から,MOAFLフレームワークは学習性能を著しく低下させることなく,複数のタスクのアップリンク帯域幅の消費を大幅に削減できることが示された。
  論文  参考訳（メタデータ） (2021-06-27T13:09:32Z)
• Joint Parameter-and-Bandwidth Allocation for Improving the Efficiency of Partitioned Edge Learning [73.82875010696849]
  機械学習アルゴリズムは、人工知能(AI)モデルをトレーニングするために、ネットワークエッジにデプロイされる。 本稿では,パラメータ(計算負荷)割り当てと帯域幅割り当ての新しい共同設計に焦点を当てる。
  論文  参考訳（メタデータ） (2020-03-10T05:52:15Z)
• Convolutional Tensor-Train LSTM for Spatio-temporal Learning [116.24172387469994]
  本稿では,ビデオシーケンスの長期相関を効率的に学習できる高次LSTMモデルを提案する。 これは、時間をかけて畳み込み特徴を組み合わせることによって予測を行う、新しいテンソルトレインモジュールによって達成される。 この結果は,幅広いアプリケーションやデータセットにおいて,最先端のパフォーマンス向上を実現している。
  論文  参考訳（メタデータ） (2020-02-21T05:00:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。