論文の概要: On-Device Evaluation Toolkit for Machine Learning on Heterogeneous Low-Power System-on-Chip

• arxiv url: http://arxiv.org/abs/2306.14574v1
• Date: Mon, 26 Jun 2023 10:35:31 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-27 14:07:15.885957
• Title: On-Device Evaluation Toolkit for Machine Learning on Heterogeneous Low-Power System-on-Chip
• Title（参考訳）: 不均質な低消費電力チップ上での機械学習のためのオンデバイス評価ツールキット
• Authors: Zhaolan Huang, Koen Zandberg, Kaspar Schleiser and Emmanuel Baccelli
• Abstract要約: U-TOEは任意のモデルの任意の低消費電力IoTハードウェアへの移行可能性を評価するオールインワンツールキットである。 我々は,U-TOEのオープンソース実装を提供し,様々なモデルの性能を実験的に評価するためにその利用を実証する。
• 参考スコア（独自算出の注目度）: 4.837070874480984
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Network delays, throughput bottlenecks and privacy issues push Artificial Intelligence of Things (AIoT) designers towards evaluating the feasibility of moving model training and execution (inference) as near as possible to the terminals. Meanwhile, results from the TinyML community demonstrate that, in some cases, it is possible to execute model inference directly on the terminals themselves, even if these are small microcontroller-based devices. However, to date, researchers and practitioners in the domain lack convenient all-in-one toolkits to help them evaluate the feasibility of moving execution of arbitrary models to arbitrary low-power IoT hardware. To this effect, we present in this paper U-TOE, a universal toolkit we designed to facilitate the task of AIoT designers and researchers, by combining functionalities from a low-power embedded OS, a generic model transpiler and compiler, an integrated performance measurement module, and an open-access remote IoT testbed. We provide an open source implementation of U-TOE and we demonstrate its use to experimentally evaluate the performance of a wide variety of models, on a wide variety of low-power boards, based on popular microcontroller architectures (ARM Cortex-M and RISC-V). U-TOE thus allows easily reproducible and customisable comparative evaluation experiments in this domain, on a wide variety of IoT hardware all-at-once. The availability of a toolkit such as U-TOE is desirable to accelerate the field of AIoT, towards fully exploiting the potential of edge computing.
• Abstract（参考訳）: ネットワーク遅延、スループットのボトルネック、プライバシの問題により、AI of Things(AIoT)デザイナは、端末に可能な限り近いモデルトレーニングと実行(推論)の実現可能性を評価する。 一方、TinyMLコミュニティの結果は、小さなマイクロコントローラベースのデバイスであっても、モデル推論を端末自身で直接実行することが可能であることを実証している。 しかし、これまでは、任意のモデルの実行を任意の低消費電力IoTハードウェアに移行する可能性を評価するための便利なオールインワンツールキットが欠如していた。 そこで本稿では,aiot設計者や研究者の作業を容易にするために設計した汎用ツールキットであるu-toeを,低消費電力組込みos,汎用モデルトランスパイラとコンパイラ,統合パフォーマンス計測モジュール,オープンアクセス型リモートiotテストベッドの機能を組み合わせることで紹介する。 マイクロコントローラアーキテクチャ(ARM Cortex-M, RISC-V)をベースとした多種多様な低消費電力ボード上で, 様々なモデルの性能を実験的に評価するために, オープンソース実装のU-TOEを提案する。 したがって、U-TOEは、この領域で、さまざまなIoTハードウェアのオールアット・オンスで、容易に再現可能でカスタマイズ可能な比較評価実験を可能にする。 U-TOEのようなツールキットの可用性は、エッジコンピューティングの可能性を完全に活用するために、AIoTの分野を加速することが望ましい。

関連論文リスト

• IoT-LM: Large Multisensory Language Models for the Internet of Things [70.74131118309967]
  IoTエコシステムは、モーション、サーマル、ジオロケーション、イメージング、ディープ、センサー、オーディオといった、現実世界のモダリティの豊富なソースを提供する。 機械学習は、IoTデータを大規模に自動的に処理する豊富な機会を提供する。 IoTエコシステムに適した,オープンソースの大規模マルチセンサ言語モデルであるIoT-LMを紹介します。
  論文  参考訳（メタデータ） (2024-07-13T08:20:37Z)
• Integration of Mixture of Experts and Multimodal Generative AI in Internet of Vehicles: A Survey [82.84057882105931]
  ジェネレーティブAI(GAI)は、IoT(Internet of Vehicles)におけるインテリジェントモジュールの認知、推論、計画能力を高めることができる。 IoVにおけるGAI, MoE, およびそれらの相互作用応用の基礎を提示する。 我々はIoVにおけるMoEとGAIの統合の可能性について論じ、分散認識とモニタリング、協調的な意思決定と計画、生成モデリングとシミュレーションを含む。
  論文  参考訳（メタデータ） (2024-04-25T06:22:21Z)
• Usability and Performance Analysis of Embedded Development Environment for On-device Learning [0.0]
  本研究は、リソース制約されたIoTデバイス上で、さまざまな抽象化レベルを持つ様々な開発ツールを評価する。 この分析は、モデルトレーニングと推論におけるメモリ使用量、エネルギー消費量、パフォーマンスメトリクスを含む。
  論文  参考訳（メタデータ） (2024-03-18T09:26:04Z)
• ESPnet-SPK: full pipeline speaker embedding toolkit with reproducible recipes, self-supervised front-ends, and off-the-shelf models [51.35570730554632]
  ESPnet-SPKは、話者埋め込み抽出器を訓練するためのツールキットである。 我々は、x-vectorから最近のSKA-TDNNまで、いくつかのモデルを提供している。 開発モデルと他のドメインとの橋渡しも目指しています。
  論文  参考訳（メタデータ） (2024-01-30T18:18:27Z)
• DTMM: Deploying TinyML Models on Extremely Weak IoT Devices with Pruning [12.014366791775027]
  DTMMは、弱いIoTデバイス上で機械学習モデルの効率的なデプロイと実行のために設計されたライブラリである。 DTMMを設計する動機は、小さな機械学習(TinyML)の新たな分野から来ている。 本稿では, プルーニング単位の選択, 実行前プルーニング最適化, 実行時アクセラレーション, 実行後低コストストレージによるDTMMを提案し, プルーニングモデルの効率的なデプロイと実行のギャップを埋める。
  論文  参考訳（メタデータ） (2024-01-17T09:01:50Z)
• Software Engineering Approaches for TinyML based IoT Embedded Vision: A Systematic Literature Review [0.0]
  IoT(Internet of Things)は、マシンラーニング(ML)と協力して、遠端に深いインテリジェンスを埋め込んでいる。 TinyML(Tiny Machine Learning)は、極めてリーンなエッジハードウェア上に、組み込みビジョンのためのMLモデルのデプロイを可能にする。 TinyMLをベースとする組み込みビジョンアプリケーションは、まだ初期段階にある。
  論文  参考訳（メタデータ） (2022-04-19T07:07:41Z)
• How to Manage Tiny Machine Learning at Scale: An Industrial Perspective [5.384059021764428]
  TinyML(TinyML)は、ユビキタスマイクロコントローラ上で機械学習(ML)が民主化され、広く普及している。 TinyMLモデルは異なる構造で開発されており、その動作原理を明確に理解せずに配布されることが多い。 本稿では,TinyMLモデルとIoTデバイスを大規模に管理するためのセマンティックWeb技術を用いたフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-02-18T10:36:11Z)
• Computational Intelligence and Deep Learning for Next-Generation Edge-Enabled Industrial IoT [51.68933585002123]
  エッジ対応産業用IoTネットワークにおける計算知能とディープラーニング(DL)の展開方法について検討する。 本稿では,新しいマルチエグジットベースフェデレーションエッジ学習(ME-FEEL)フレームワークを提案する。 特に、提案されたME-FEELは、非常に限られたリソースを持つ産業用IoTネットワークにおいて、最大32.7%の精度を達成することができる。
  論文  参考訳（メタデータ） (2021-10-28T08:14:57Z)
• Learning, Computing, and Trustworthiness in Intelligent IoT Environments: Performance-Energy Tradeoffs [62.91362897985057]
  Intelligent IoT Environment(iIoTe)は、半自律IoTアプリケーションを協調実行可能な異種デバイスで構成されている。 本稿では,これらの技術の現状を概観し,その機能と性能,特にリソース,レイテンシ,プライバシ,エネルギー消費のトレードオフに注目した。
  論文  参考訳（メタデータ） (2021-10-04T19:41:42Z)
• Integrated Benchmarking and Design for Reproducible and Accessible Evaluation of Robotic Agents [61.36681529571202]
  本稿では,開発とベンチマークを統合した再現性ロボット研究の新しい概念について述べる。 このセットアップの中心的なコンポーネントの1つはDuckietown Autolabであり、これは比較的低コストで再現可能な標準化されたセットアップである。 本研究では,インフラを用いて実施した実験の再現性を解析し,ロボットのハードウェアや遠隔実験室間でのばらつきが低いことを示す。
  論文  参考訳（メタデータ） (2020-09-09T15:31:29Z)
• LIMITS: Lightweight Machine Learning for IoT Systems with Resource Limitations [8.647853543335662]
  我々は、IoTシステムのための新しいオープンソースのフレームワークLIghtweight Machine Learning(LIMITS)を紹介する。 LIMITSは、ターゲットIoTプラットフォームの実際のコンパイルツールチェーンを明示的に考慮した、プラットフォーム・イン・ザ・ループのアプローチを適用している。 LIMITSを携帯電話データレート予測と無線車種分類に応用し,その妥当性を検証した。
  論文  参考訳（メタデータ） (2020-01-28T06:34:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。