論文の概要: Joint Optimization of Memory and Computing Frequency for Energy-Efficient DNN Inference
- arxiv url: http://arxiv.org/abs/2608.13863v1
- Date: Fri, 14 Aug 2026 01:25:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.247364
- Title: Joint Optimization of Memory and Computing Frequency for Energy-Efficient DNN Inference
- Title（参考訳）: エネルギー効率の良いDNN推論のためのメモリと計算周波数の同時最適化
- Abstract要約: モバイルデバイス上でのディープニューラルネットワーク(DNN)推論は、コンピューティングやメモリリソースの制限により、高レイテンシとエネルギー消費を引き起こすことが多い。
メモリ周波数と計算周波数がDNN推定時間に与える影響を考察し、これらの2つをエネルギー効率のよい推論のための通信資源と共同で最適化する。
提案アルゴリズムは,他の手法と比較して,機器の消費電力を最大10.4%削減する。
- 参考スコア（独自算出の注目度）: 9.303797341103534
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural network (DNN) inference on mobile devices often incurs high latency and energy consumption due to limited computing and memory resources. To enable energy-efficient DNN inference, most existing studies focus on dynamic voltage and frequency scaling (DVFS) for adjusting the computing frequency, while the impact of memory frequency on the inference performance has been greatly overlooked. In this paper, we consider the impact of memory frequency and computing frequency on DNN inference time, and jointly optimize these two frequencies together with communication resources for energy-efficient DNN inference. Based on a realistic inference time model, we formulate an optimization problem to minimize the energy consumption of all mobile devices under the deadline constraint. For local inference, we derive a near-optimal closed-form solution via convex optimization, while an optimal closed-form solution for transmission power is obtained for edge inference with the given bandwidth. Furthermore, we propose a low-complexity heuristic algorithm to effectively solve the overall problem with polynomial time complexity. Simulation results based on measured data show that the proposed near-optimal solution for local inference can achieve optimal performance under strict deadline constraints, with a performance gap of up to 2.5% compared with the optimal solution. Meanwhile, our proposed algorithm significantly reduces the energy consumption of devices by up to 10.4% compared to other methods.
- Abstract（参考訳）: モバイルデバイス上でのディープニューラルネットワーク(DNN)推論は、コンピューティングやメモリリソースの制限により、高レイテンシとエネルギー消費を引き起こすことが多い。
エネルギー効率のよいDNN推論を実現するため、既存の研究の多くは動的電圧と周波数スケーリング(DVFS)に着目して計算周波数を調整するが、メモリ周波数が推論性能に与える影響は大幅に見過ごされている。
本稿では、メモリ周波数と計算周波数がDNN推論時間に与える影響を考察し、エネルギー効率の良いDNN推論のための通信資源とともに、これらの2つの周波数を協調的に最適化する。
現実的な推論時間モデルに基づいて、期限制約の下で全モバイルデバイスのエネルギー消費を最小限に抑える最適化問題を定式化する。
局所的推論では、凸最適化によりほぼ最適閉形式解が導出され、一方、送信電力に対する最適閉形式解は、与えられた帯域幅に対するエッジ推論のために得られる。
さらに,多項式時間複雑性の問題を効果的に解くために,低複雑性ヒューリスティックアルゴリズムを提案する。
実測データに基づくシミュレーションの結果,提案した局所的推論の近似解は,最適解と比較して最大2.5%の性能差で,厳密な期限条件下での最適性能を達成できることが示唆された。
一方,提案アルゴリズムは,他の手法と比較して,機器の消費電力を最大10.4%削減する。
関連論文リスト
- Joint Optimization of Model Partitioning and Resource Allocation for Anti-Jamming Collaborative Inference Systems [52.842088497389746]
この手紙は、悪意のあるジャマーの存在下での、アンチジャミングの協調推論システムに焦点を当てている。
まず、ジャミングとDNNパーティショニングがデータ回帰による推測精度に与える影響を解析する。
問題を3つのサブプロブレムに分解する,効率的な交互最適化アルゴリズムを提案する。
論文 参考訳（メタデータ） (2026-03-03T03:52:52Z) - Joint Memory Frequency and Computing Frequency Scaling for Energy-efficient DNN Inference [9.303797341103534]
リソース制約のあるデバイスでは、高いレイテンシとエネルギーオーバーヘッドは避けられない。
この課題に対処するため、ほとんどの研究者は動的電圧と周波数スケーリング(DVFS)技術に焦点を当てている。
本稿ではまず,結合記憶周波数と計算周波数のスケーリングが推定時間とエネルギー消費に与える影響について検討する。
論文 参考訳（メタデータ） (2025-09-22T16:20:29Z) - Robust DNN Partitioning and Resource Allocation Under Uncertain Inference Time [9.303797341103534]
エッジインテリジェンスシステムでは、ディープニューラルネットワーク(DNN)のパーティショニングとデータオフロードが、リソース制約のあるモバイルデバイスに対してリアルタイムなタスク推論を提供する。
本稿では,タスクの確率的期限を満たしながら,モバイルデバイスの総エネルギー消費を最小化するためのロバストな最適化手法を提案する。
論文 参考訳（メタデータ） (2025-03-27T13:06:26Z) - Switchable Decision: Dynamic Neural Generation Networks [98.61113699324429]
本稿では,各データインスタンスのリソースを動的に割り当てることで,推論を高速化するスイッチブルな決定を提案する。
提案手法は, 同一の精度を維持しながら, 推論時のコスト低減に有効である。
論文 参考訳（メタデータ） (2024-05-07T17:44:54Z) - Energy-Efficient Power Control for Multiple-Task Split Inference in
UAVs: A Tiny Learning-Based Approach [27.48920259431965]
無人航空機(UAV)における分割推論におけるエネルギー最小化のための2段階のアプローチを提案する。
送信電力の最適化を送信時間に置き換えて,計算複雑性を低減する。
シミュレーションの結果,提案アルゴリズムは低消費電力でタスク完了確率が高いことを示す。
論文 参考訳（メタデータ） (2023-12-31T10:16:59Z) - A Multi-Head Ensemble Multi-Task Learning Approach for Dynamical
Computation Offloading [62.34538208323411]
共有バックボーンと複数の予測ヘッド(PH)を組み合わせたマルチヘッドマルチタスク学習(MEMTL)手法を提案する。
MEMTLは、追加のトレーニングデータを必要とせず、推測精度と平均平方誤差の両方でベンチマーク手法より優れている。
論文 参考訳（メタデータ） (2023-09-02T11:01:16Z) - Joint Optimization of Energy Consumption and Completion Time in Federated Learning [10.085927375730812]
フェデレートラーニング(FL)は、プライバシ保護の特性から興味深い分散機械学習アプローチである。
エネルギーと実行遅延の間のトレードオフをバランスさせるアルゴリズムを定式化し、異なる要求とアプリケーションシナリオに対応する。
論文 参考訳（メタデータ） (2022-09-29T16:05:28Z) - Predictive GAN-powered Multi-Objective Optimization for Hybrid Federated
Split Learning [56.125720497163684]
無線ネットワークにおけるハイブリッド・フェデレーション・スプリット・ラーニング・フレームワークを提案する。
ラベル共有のないモデル分割のための並列計算方式を設計し,提案方式が収束速度に与える影響を理論的に解析する。
論文 参考訳（メタデータ） (2022-09-02T10:29:56Z) - Federated Learning for Energy-limited Wireless Networks: A Partial Model
Aggregation Approach [79.59560136273917]
デバイス間の限られた通信資源、帯域幅とエネルギー、およびデータ不均一性は、連邦学習(FL)の主要なボトルネックである
まず、部分モデルアグリゲーション(PMA)を用いた新しいFLフレームワークを考案する。
提案されたPMA-FLは、2つの典型的な異種データセットにおいて2.72%と11.6%の精度を改善する。
論文 参考訳（メタデータ） (2022-04-20T19:09:52Z) - Energy-Efficient Model Compression and Splitting for Collaborative
Inference Over Time-Varying Channels [52.60092598312894]
本稿では,エッジノードとリモートノード間のモデル圧縮と時間変化モデル分割を利用して,エッジデバイスにおける総エネルギーコストを削減する手法を提案する。
提案手法は, 検討されたベースラインと比較して, エネルギー消費が最小限であり, 排出コストが$CO$となる。
論文 参考訳（メタデータ） (2021-06-02T07:36:27Z) - Energy Efficient Edge Computing: When Lyapunov Meets Distributed
Reinforcement Learning [12.845204986571053]
本研究では,エッジコンピューティングによるエネルギー効率のよいオフロード問題について検討する。
考慮されたシナリオでは、複数のユーザが同時に無線およびエッジコンピューティングリソースを競う。
提案されたソリューションは、ベンチマークアプローチと比較してネットワークのエネルギー効率を高めることもできます。
論文 参考訳（メタデータ） (2021-03-31T11:02:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。