論文の概要: EPAM: A Predictive Energy Model for Mobile AI
- arxiv url: http://arxiv.org/abs/2303.01509v1
- Date: Thu, 2 Mar 2023 09:11:23 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-06 17:23:54.460559
- Title: EPAM: A Predictive Energy Model for Mobile AI
- Title（参考訳）: EPAM:モバイルAIの予測エネルギーモデル
- Authors: Anik Mallik, Haoxin Wang, Jiang Xie, Dawei Chen, and Kyungtae Han
- Abstract要約: 本稿では,異なるディープニューラルネットワーク(DNN)モデルと処理源を考慮したモバイルAIアプリケーションに関する総合的研究を紹介する。
4つの処理源を用いて,全モデルのレイテンシ,エネルギー消費,メモリ使用量を測定した。
私たちの研究は、CPU、GPU、NNAPIを使用して、異なるアプリケーション(ビジョンとノンビジョン)でモバイルAIがどのように振る舞うか、といった重要な洞察を強調しています。
- 参考スコア（独自算出の注目度）: 6.451060076703027
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial intelligence (AI) has enabled a new paradigm of smart applications
-- changing our way of living entirely. Many of these AI-enabled applications
have very stringent latency requirements, especially for applications on mobile
devices (e.g., smartphones, wearable devices, and vehicles). Hence, smaller and
quantized deep neural network (DNN) models are developed for mobile devices,
which provide faster and more energy-efficient computation for mobile AI
applications. However, how AI models consume energy in a mobile device is still
unexplored. Predicting the energy consumption of these models, along with their
different applications, such as vision and non-vision, requires a thorough
investigation of their behavior using various processing sources. In this
paper, we introduce a comprehensive study of mobile AI applications considering
different DNN models and processing sources, focusing on computational resource
utilization, delay, and energy consumption. We measure the latency, energy
consumption, and memory usage of all the models using four processing sources
through extensive experiments. We explain the challenges in such investigations
and how we propose to overcome them. Our study highlights important insights,
such as how mobile AI behaves in different applications (vision and non-vision)
using CPU, GPU, and NNAPI. Finally, we propose a novel Gaussian process
regression-based general predictive energy model based on DNN structures,
computation resources, and processors, which can predict the energy for each
complete application cycle irrespective of device configuration and
application. This study provides crucial facts and an energy prediction
mechanism to the AI research community to help bring energy efficiency to
mobile AI applications.
- Abstract（参考訳）: 人工知能(AI)は、スマートアプリケーションの新しいパラダイムを可能にしました。
これらのAI対応アプリケーションの多くは、特にモバイルデバイス(スマートフォン、ウェアラブルデバイス、車両など)のアプリケーションにおいて、非常に厳しいレイテンシ要件を持っている。
したがって、モバイルデバイス向けに小型で量子化されたディープニューラルネットワーク(DNN)モデルが開発され、モバイルAIアプリケーションに対してより高速でエネルギー効率の高い計算を提供する。
しかし、AIモデルがモバイルデバイスでどのようにエネルギーを消費するかはまだ解明されていない。
これらのモデルのエネルギー消費を予測するには、視覚や非視覚などの異なる応用とともに、様々な処理源を用いてそれらの挙動を徹底的に調査する必要がある。
本稿では,異なるDNNモデルと処理源を考慮したモバイルAIアプリケーションについて,計算資源利用,遅延,エネルギー消費に着目した総合的研究を紹介する。
大規模な実験により,4つの処理源を用いた全モデルのレイテンシ,エネルギー消費,メモリ使用量を測定した。
このような調査の課題と克服の方法について説明する。
我々の研究は、CPU、GPU、NNAPIを使用して、異なるアプリケーション(ビジョンとノンビジョン)でモバイルAIがどのように振る舞うかといった重要な洞察を強調している。
最後に, DNN構造, 計算資源, プロセッサに基づくガウスプロセス回帰に基づく新しい一般予測エネルギーモデルを提案する。
この研究は、モバイルAIアプリケーションにエネルギー効率をもたらすため、AI研究コミュニティに重要な事実とエネルギー予測メカニズムを提供する。
関連論文リスト
- THOR: A Generic Energy Estimation Approach for On-Device Training [34.57867978862375]
THORは、ディープニューラルネットワーク(DNN)トレーニングにおけるエネルギー消費推定のための一般的なアプローチである。
我々は、様々な現実世界のプラットフォームにまたがる様々なタイプのモデルで広範な実験を行う。
その結果,THORは平均絶対パーセンテージ誤差(MAPE)を最大30%削減した。
論文 参考訳（メタデータ） (2025-01-27T03:29:02Z) - Power Hungry Processing: Watts Driving the Cost of AI Deployment? [74.19749699665216]
生成された多目的AIシステムは、機械学習(ML)モデルをテクノロジに構築するための統一的なアプローチを約束する。
この「一般性」の野心は、これらのシステムが必要とするエネルギー量と放出する炭素量を考えると、環境に急激なコストがかかる。
これらのモデルを用いて,代表的なベンチマークデータセット上で1,000の推論を行うのに必要なエネルギーと炭素の量として,デプロイメントコストを測定した。
本稿は、多目的MLシステムの展開動向に関する議論から締めくくり、エネルギーと排出の面でコストの増大に対して、その実用性はより意図的に重み付けされるべきである、と警告する。
論文 参考訳（メタデータ） (2023-11-28T15:09:36Z) - On the Opportunities of Green Computing: A Survey [80.21955522431168]
人工知能(AI)は数十年にわたり、技術と研究において大きな進歩を遂げてきた。
高いコンピューティングパワーの必要性は、より高い二酸化炭素排出量をもたらし、研究の公正性を損なう。
コンピューティングリソースの課題とAIの環境への影響に取り組むため、グリーンコンピューティングはホットな研究トピックとなっている。
論文 参考訳（メタデータ） (2023-11-01T11:16:41Z) - The Two Faces of AI in Green Mobile Computing: A Literature Review [2.6763498831034034]
本稿では,グリーンモバイルコンピューティングの領域における人工知能の利用について,過去10年間の文献を概観する。
34論文の分析から,新たなパターンを取り上げ,その領域を詳細にまとめた13のトピックにまとめる。
論文 参考訳（メタデータ） (2023-07-21T15:18:10Z) - Towards Implementing Energy-aware Data-driven Intelligence for Smart
Health Applications on Mobile Platforms [4.648824029505978]
デバイス上でのディープラーニングフレームワークは、モバイルプラットフォームのコンピューティングリソースをシームレスに活用するのに熟練している。
しかし、モバイル機器のエネルギー資源は通常限られている。
我々はエネルギーを意識した適応モデル理解と実現を通じて新しい枠組みを導入する。
論文 参考訳（メタデータ） (2023-02-01T15:34:24Z) - Precise Energy Consumption Measurements of Heterogeneous Artificial
Intelligence Workloads [0.534434568021034]
本稿では,異なるタイプの計算ノード上でのディープラーニングモデルの典型的な2つの応用のエネルギー消費の測定を行う。
我々のアプローチの1つの利点は、スーパーコンピュータの全ユーザーがエネルギー消費に関する情報を利用できることである。
論文 参考訳（メタデータ） (2022-12-03T21:40:55Z) - Fluid Batching: Exit-Aware Preemptive Serving of Early-Exit Neural
Networks on Edge NPUs [74.83613252825754]
スマートエコシステム(smart ecosystems)"は、スタンドアロンではなく、センセーションが同時に行われるように形成されています。
これはデバイス上の推論パラダイムを、エッジにニューラル処理ユニット(NPU)をデプロイする方向にシフトしている。
そこで本研究では,実行時のプリエンプションが到着・終了プロセスによってもたらされる動的性を考慮に入れた,新しい早期終了スケジューリングを提案する。
論文 参考訳（メタデータ） (2022-09-27T15:04:01Z) - Enable Deep Learning on Mobile Devices: Methods, Systems, and
Applications [46.97774949613859]
ディープニューラルネットワーク(DNN)は人工知能(AI)分野において前例のない成功を収めた
しかし、それらの優れた性能は、計算の複雑さのかなりのコストを伴っている。
本稿では,効率的なディープラーニング手法,システム,応用について概説する。
論文 参考訳（メタデータ） (2022-04-25T16:52:48Z) - Learning, Computing, and Trustworthiness in Intelligent IoT
Environments: Performance-Energy Tradeoffs [62.91362897985057]
Intelligent IoT Environment(iIoTe)は、半自律IoTアプリケーションを協調実行可能な異種デバイスで構成されている。
本稿では,これらの技術の現状を概観し,その機能と性能,特にリソース,レイテンシ,プライバシ,エネルギー消費のトレードオフに注目した。
論文 参考訳（メタデータ） (2021-10-04T19:41:42Z) - Smart at what cost? Characterising Mobile Deep Neural Networks in the
wild [16.684419342012674]
本稿では,野生におけるDeep Neural Network (DNN) の使用状況に関する総合的研究を行う。
われわれはGoogle Play Storeで最も人気のあるアプリの16万以上を分析している。
モバイルデプロイメントのコアコスト次元として,モデルのエネルギーフットプリントを測定します。
論文 参考訳（メタデータ） (2021-09-28T18:09:29Z) - Energy Drain of the Object Detection Processing Pipeline for Mobile
Devices: Analysis and Implications [77.00418462388525]
本稿では、移動体拡張現実(AR)クライアントのエネルギー消費と、畳み込みニューラルネットワーク(CNN)に基づく物体検出を行う際の検出遅延について、初めて詳細な実験を行った。
我々は,移動体ARクライアントのエネルギー分析を精査し,CNNによる物体検出を行う際のエネルギー消費に関するいくつかの興味深い視点を明らかにした。
論文 参考訳（メタデータ） (2020-11-26T00:32:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。