論文の概要: The Battery Price of edge AI: A study of the Environmental Impact of LLM Inference on Mobile Devices
- arxiv url: http://arxiv.org/abs/2609.11940v1
- Date: Fri, 10 Jul 2026 07:48:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.496459
- Title: The Battery Price of edge AI: A study of the Environmental Impact of LLM Inference on Mobile Devices
- Title（参考訳）: エッジAIのバッテリ価格:モバイル端末におけるLCM推論の環境影響に関する研究
- Abstract要約: 本稿では,デバイス上での大規模言語モデル(LLM)のエネルギー消費,性能,精度について,系統的研究を行った。
異なるモデルファミリ,サイズ,量子化レベルから18種類のモデルを評価する。
以上の結果から,(i)オンデバイス推論はバッチサーバ推論の3倍エネルギー効率が低いこと,(ii)トークン単位の量子化ビット幅とエネルギーの関係は非モノトニックであり,両スマートフォンのエネルギースイートスポットは非モノトニックであることがわかった。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: The rapid diffusion of generative artificial intelligence raises privacy, latency, and performance concerns that motivate a shift toward "local-first" AI, where inferences are performed on the user's device instead of on remote cloud servers. This paradigm also places a significant computational load on battery-powered smartphones, potentially shortening battery life and increasing the overall replacement rate of mobile devices. This paper presents a systematic study of the energy consumption, performance, and accuracy of on-device large language model (LLM) inference. We evaluate 18 models from different model families, sizes, and quantization levels, on two modern smartphones and on a server, using the respective state-of-the-art for such deployments. We measure the energy per generated token, inter-token latency, model accuracy, and battery-cycle consumption. Our results show that (i) on-device inference is on average 3 times less energy-efficient than batched server inference; (ii) the relationship between quantization bit-width and energy per token is non-monotonic, with energy sweet spots on both tested smartphones; (iii) eight out of 18 model configurations lie on the Pareto front of accuracy and energy-efficiency, allowing practitioners to build battery-aware model routers; and (iv) realistic modeling assumptions do not allow local inference to be less environmentally impacting per token than batched server inference, with 88--90% of that impact attributable to device embodied carbon rather than electricity consumption. These findings challenge the premise that local AI is more sustainable than cloud inference, and motivate the need for context-aware and life-cycle-aware model selection when deploying edge AI on battery-powered mobile platforms.
- Abstract（参考訳）: 生成人工知能の急速な普及により、プライバシやレイテンシ、パフォーマンス上の懸念が高まり、リモートクラウドサーバではなく、ユーザのデバイス上で推論が行われる"ローカルファースト"AIへのシフトを動機付けている。
このパラダイムはまた、バッテリ駆動のスマートフォンにかなりの計算負荷を与え、潜在的にバッテリ寿命を短縮し、モバイルデバイスの全体的な交換率を増加させる。
本稿では,デバイス上での大規模言語モデル(LLM)のエネルギー消費,性能,精度について,系統的研究を行った。
異なるモデルファミリ,サイズ,量子化レベルから18種類のモデルを評価する。
生成トークン当たりのエネルギー,トークン間レイテンシ,モデル精度,バッテリサイクル使用量を測定した。
私たちの結果は
(i)オンデバイス推論は、バッチサーバ推論の3倍のエネルギー効率が低い。
(ii)トークン当たりの量子化ビット幅とエネルギーの関係は、非単調であり、両方のテスト済みスマートフォンにエネルギースイートスポットがある。
三 八のモデル構成のうち八は、精度及びエネルギー効率の点でパレートに置かれ、練習者がバッテリ対応のモデルルーターを製作することができる。
(4)現実的なモデリングの仮定では、局所的な推論は、バッチ化されたサーバの推論よりも環境への影響が小さく、その88---90%は、電力消費よりもデバイスエンボダイドカーボンによるものである。
これらの発見は、ローカルAIがクラウド推論よりも持続性が高いという前提に挑戦し、バッテリー駆動のモバイルプラットフォームにエッジAIをデプロイする際のコンテキスト認識とライフサイクル認識モデル選択の必要性を動機付けている。
関連論文リスト
- Networking-Aware Energy Efficiency in Agentic AI Inference: A Survey [64.20429885919701]
本稿では,知覚・推論・行動サイクル全体にわたる計算・通信コストを同定するエネルギー会計フレームワークを提案する。
我々は、単純化、計算制御、インプット・アンド・アテンション最適化、ハードウェア・アウェア・推論にまたがる統一的な分類法を確立する。
我々は,第6世代移動通信(6G)ネイティブエージェントAI,自己維持システムといったグリーンラーニングのオープンな課題を特定した。
論文 参考訳（メタデータ） (2026-04-09T06:13:59Z) - Sustainability Is Not Linear: Quantifying Performance, Energy, and Privacy Trade-offs in On-Device Intelligence [8.06653461490703]
大規模言語モデルにおけるエネルギー消費,レイテンシ,品質の相互作用について検討する。
フラッグシップAndroidデバイスであるSamsung Galaxy S25 Ultraについて、実証的なケーススタディを行いました。
我々の調査では、反直感的な量子化-エネルギーパラドックスが発見された。
論文 参考訳（メタデータ） (2026-03-27T17:00:25Z) - Energy Scaling Laws for Diffusion Models: Quantifying Compute and Carbon Emissions in Image Generation [50.21021246855702]
本稿では,計算複雑性(FLOP)に基づく拡散モデルに対するGPUエネルギー消費予測のためのKaplanスケーリング法の適用法を提案する。
提案手法は, テキストエンコーディング, 反復的復号化, 復号化コンポーネントへの拡散モデル推論を分解し, 複数の推論ステップをまたいだ繰り返し実行により, 演算の復号化がエネルギー消費を支配しているという仮説を導いた。
この結果は拡散予測の計算バウンドの性質を検証し、持続可能なAIデプロイメント計画と炭素フットプリント推定の基礎を提供する。
論文 参考訳（メタデータ） (2025-11-21T08:12:47Z) - On the Sustainability of AI Inferences in the Edge [3.71486243189764]
エッジデバイスはレイテンシクリティカルなアプリケーションをサポートするためにAI推論を実行する。
情報意思決定における性能とエネルギー利用に関する研究は行われていない。
モデルF1のスコア、推測時間、推論パワー、メモリ使用量のトレードオフを分析する。
論文 参考訳（メタデータ） (2025-07-30T20:47:22Z) - Smooth Handovers via Smoothed Online Learning [48.953313950521746]
まず、欧州の商用モバイルネットワークオペレータ(MNO)から4000万人以上のユーザを対象に、HOに対する重要な特徴とパフォーマンスへの影響を理解し、明らかにするために、広範なデータセットを分析した。
本研究は, HO故障/遅延と無線セルとエンドユーザーデバイスの特徴の相関関係を明らかにする。
本稿では,HO最適化にデバイスとセルの機能を組み込むことで,既存のアプローチを拡張したスムーズで高精度なHOのための現実的なシステムモデルを提案する。
論文 参考訳（メタデータ） (2025-01-14T13:16:33Z) - EdgeOL: Efficient in-situ Online Learning on Edge Devices [51.86178757050963]
予測精度、微調整実行時間、エネルギー効率を最適化するエッジオンライン学習フレームワークであるEdgeOLを提案する。
実験結果から、EdgeOLは、全体の微調整実行時間を64%削減し、エネルギー消費を52%削減し、オンラインの即時学習戦略よりも平均推定精度を1.75%向上させることがわかった。
論文 参考訳（メタデータ） (2024-01-30T02:41:05Z) - EPAM: A Predictive Energy Model for Mobile AI [6.451060076703027]
本稿では,異なるディープニューラルネットワーク(DNN)モデルと処理源を考慮したモバイルAIアプリケーションに関する総合的研究を紹介する。
4つの処理源を用いて,全モデルのレイテンシ,エネルギー消費,メモリ使用量を測定した。
私たちの研究は、CPU、GPU、NNAPIを使用して、異なるアプリケーション(ビジョンとノンビジョン)でモバイルAIがどのように振る舞うか、といった重要な洞察を強調しています。
論文 参考訳（メタデータ） (2023-03-02T09:11:23Z) - EAFL: Towards Energy-Aware Federated Learning on Battery-Powered Edge
Devices [3.448338949969246]
フェデレーテッド・ラーニング(FL)は、エッジデバイスがデータの集中化やプライバシーをデフォルトにすることなく、グローバルな機械学習モデルを協調的にトレーニングすることを可能にする、新たに登場したAIのブランチである。
大規模なデプロイメントでは、クライアントの不均一性は、正確性、公平性、時間といったトレーニング品質に影響を与える規範です。
我々は、エネルギー消費を考慮し、異種ターゲット装置の参加を最大化するエネルギー対応FL選択法EAFLを開発した。
論文 参考訳（メタデータ） (2022-08-09T02:15:45Z) - EVE: Environmental Adaptive Neural Network Models for Low-power Energy
Harvesting System [8.16411986220709]
環境からエネルギーを回収するエネルギー収穫技術は、これらのデバイスを動かすための電池に代わる有望な選択肢だ。
本稿では,エネルギ収穫用IoTデバイスを共有重み付きで検索する機械学習フレームワークであるEVEを提案する。
実験結果から、EVEが生成するニューラルネットワークモデルは、プルーニングや共有重みのないベースラインモデルよりも平均2.5倍高速であることがわかった。
論文 参考訳（メタデータ） (2022-07-14T20:53:46Z) - To Talk or to Work: Flexible Communication Compression for Energy
Efficient Federated Learning over Heterogeneous Mobile Edge Devices [78.38046945665538]
巨大なモバイルエッジデバイス上でのフェデレーション学習(FL)は、多数のインテリジェントなモバイルアプリケーションのための新たな地平を開く。
FLは、定期的なグローバル同期と継続的なローカルトレーニングにより、参加するデバイスに膨大な通信と計算負荷を課す。
フレキシブルな通信圧縮を可能にする収束保証FLアルゴリズムを開発。
論文 参考訳（メタデータ） (2020-12-22T02:54:18Z) - Multi-Agent Meta-Reinforcement Learning for Self-Powered and Sustainable
Edge Computing Systems [87.4519172058185]
エッジコンピューティング機能を有するセルフパワー無線ネットワークの効率的なエネルギー分配機構について検討した。
定式化問題を解くために,新しいマルチエージェントメタ強化学習(MAMRL)フレームワークを提案する。
実験の結果、提案されたMAMRLモデルは、再生不可能なエネルギー使用量を最大11%削減し、エネルギーコストを22.4%削減できることが示された。
論文 参考訳（メタデータ） (2020-02-20T04:58:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。