論文の概要: WattLayer: Get Layers Right to Estimate Inference Energy of Neural Networks
- arxiv url: http://arxiv.org/abs/2606.27841v1
- Date: Fri, 26 Jun 2026 08:27:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-29 18:24:25.43254
- Title: WattLayer: Get Layers Right to Estimate Inference Energy of Neural Networks
- Title（参考訳）: WattLayer: ニューラルネットワークの推論エネルギーを正しく推定するレイヤ
- Abstract要約: 本稿では,AIアーキテクチャのためのタスク独立層エネルギー推定モデルを提案する。
我々の手法は19.6%の中央値誤差を達成し、最先端の手法より優れている。
エネルギー効率の良いAIシステムを設計する際に利害関係者に力を与えるツール、洞察、正確な方法論を提供する。
- 参考スコア（独自算出の注目度）: 3.457963934920459
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The widespread adoption of Artificial Intelligence (AI) has led to increasing concerns about energy consumption, yet there is a lack of standardized methodologies to accurately estimate AI inference energy consumption, particularly across various tasks and architectures. In this study, we propose a task independent, layer-wise energy estimation model for AI architectures. Our model is evaluated on a large dataset of more than 100,000 layers for 295 neural network architectures across 3 widely-used tasks and 3 distinct hardware platforms. Our approach achieves a median error of 19.6%, outperforming state-of-the-art methods. We further show that layer-wise decomposition generalize to new tasks without complete retraining, by leveraging shared layers across architectures. It offer tools, insights and a precise methodology to empower stakeholders in designing energy-efficient AI systems.
- Abstract（参考訳）: 人工知能(AI)の普及により、エネルギー消費に対する懸念が高まりつつあるが、AI推定エネルギー消費量を正確に推定する標準化された方法論が欠如している。
本研究では,AIアーキテクチャのためのタスク独立層エネルギー推定モデルを提案する。
我々のモデルは、広く使われている3つのタスクと3つの異なるハードウェアプラットフォームにまたがる295のニューラルネットワークアーキテクチャのために、10万以上のレイヤーからなる大規模なデータセットで評価されている。
我々の手法は19.6%の中央値誤差を達成し、最先端の手法より優れている。
さらに、アーキテクチャ間の共有レイヤを活用することにより、階層分解が完全な再トレーニングなしに新しいタスクに一般化されることも示します。
エネルギー効率の良いAIシステムを設計する際に利害関係者に力を与えるツール、洞察、正確な方法論を提供する。
関連論文リスト
- A Survey on the Green Development of Large Models: From Resource-Efficient Architectures to Hardware-Software Co-Design [71.32556809242666]
大規模AIモデルの急速な拡張は、さまざまな領域で大幅なパフォーマンスのブレークスルーをもたらした。
また、計算コスト、エネルギー消費、環境の持続可能性に関する重要な懸念を提起している。
この調査は、大規模モデルの持続的、スケーラブルで、社会的に責任のある開発に向けて、全体的なロードマップを提供することを目的としている。
論文 参考訳（メタデータ） (2026-07-10T04:02:22Z) - THOR: A Generic Energy Estimation Approach for On-Device Training [34.57867978862375]
THORは、ディープニューラルネットワーク(DNN)トレーニングにおけるエネルギー消費推定のための一般的なアプローチである。
我々は、様々な現実世界のプラットフォームにまたがる様々なタイプのモデルで広範な実験を行う。
その結果,THORは平均絶対パーセンテージ誤差(MAPE)を最大30%削減した。
論文 参考訳（メタデータ） (2025-01-27T03:29:02Z) - On Accelerating Edge AI: Optimizing Resource-Constrained Environments [1.7355861031903428]
リソース制約のあるエッジデプロイメントでは、厳格な計算、メモリ、エネルギー制限とハイパフォーマンスのバランスをとるAIソリューションが要求される。
本稿では,このような制約下でのディープラーニングモデルを加速するための主要な戦略について概観する。
論文 参考訳（メタデータ） (2025-01-25T01:37:03Z) - EM-DARTS: Hierarchical Differentiable Architecture Search for Eye Movement Recognition [20.209756662832365]
微分可能なニューラルアーキテクチャサーチ(DARTS)は、高い探索効率でアーキテクチャ設計のマニュアルプロセスを自動化する。
眼球運動認識のためのDLアーキテクチャを自動設計する階層的微分可能なアーキテクチャ探索アルゴリズムEM-DARTSを提案する。
EM-DARTSは、最先端の認識性能につながる最適なアーキテクチャを実現できることを示す。
論文 参考訳（メタデータ） (2024-09-22T13:11:08Z) - The Energy Cost of Artificial Intelligence Lifecycle in Communication Networks [0.44739156031315913]
本稿では,システム内の1つのAIモデルのエネルギコスト(eCAL)という新たな指標を提案する。
eCALは、無線通信ネットワークにインテリジェンスを提供するAIモデルの開発と展開を通じて、エネルギー消費をキャプチャする。
モデルが良くなるほど、それが使われるほど、推論のエネルギー効率が増すことが示される。
論文 参考訳（メタデータ） (2024-08-01T13:23:15Z) - Mechanistic Design and Scaling of Hybrid Architectures [114.3129802943915]
我々は、様々な計算プリミティブから構築された新しいハイブリッドアーキテクチャを特定し、テストする。
本研究では,大規模計算最適法則と新しい状態最適スケーリング法則解析を用いて,結果のアーキテクチャを実験的に検証する。
我々は,MAD合成法と計算-最適パープレキシティを相関させ,新しいアーキテクチャの正確な評価を可能にする。
論文 参考訳（メタデータ） (2024-03-26T16:33:12Z) - Measuring the Energy Consumption and Efficiency of Deep Neural Networks:
An Empirical Analysis and Design Recommendations [0.49478969093606673]
BUTTER-Eデータセットは、BUTTER Empirical Deep Learningデータセットの拡張である。
このデータセットは、データセットのサイズ、ネットワーク構造、エネルギー使用の複雑な関係を明らかにする。
本稿では,ネットワークサイズ,コンピューティング,メモリ階層を考慮した,単純かつ効率的なエネルギーモデルを提案する。
論文 参考訳（メタデータ） (2024-03-13T00:27:19Z) - Green Edge AI: A Contemporary Survey [46.11332733210337]
AIの変換力は、ディープニューラルネットワーク(DNN)の利用から導かれる。
ディープラーニング(DL)は、エンドユーザーデバイス(EUD)に近い無線エッジネットワークに移行しつつある。
その可能性にもかかわらず、エッジAIは大きな課題に直面している。主な原因は、無線エッジネットワークのリソース制限と、DLのリソース集約的な性質の分離である。
論文 参考訳（メタデータ） (2023-12-01T04:04:37Z) - Computation-efficient Deep Learning for Computer Vision: A Survey [121.84121397440337]
ディープラーニングモデルは、さまざまな視覚的知覚タスクにおいて、人間レベルのパフォーマンスに到達または超えた。
ディープラーニングモデルは通常、重要な計算資源を必要とし、現実のシナリオでは非現実的な電力消費、遅延、または二酸化炭素排出量につながる。
新しい研究の焦点は計算効率のよいディープラーニングであり、推論時の計算コストを最小限に抑えつつ、良好な性能を達成することを目指している。
論文 参考訳（メタデータ） (2023-08-27T03:55:28Z) - Energy Consumption of Neural Networks on NVIDIA Edge Boards: an
Empirical Model [6.809944967863927]
近年、レイテンシの低減とデータプライバシの保護のために、ディープラーニング推論タスクの実行を、ユーザに近いネットワークのエッジにシフトする傾向があります。
本研究では,現代のエッジノードにおける推論タスクのエネルギ消費をプロファイリングすることを目的とする。
そこで我々は, 検討ボード上である推論タスクのエネルギー消費を推定できる, 単純で実用的なモデルを構築した。
論文 参考訳（メタデータ） (2022-10-04T14:12:59Z) - MS-RANAS: Multi-Scale Resource-Aware Neural Architecture Search [94.80212602202518]
我々は,MS-RANAS(Multi-Scale Resource-Aware Neural Architecture Search)を提案する。
我々は,検索コストの削減を図るために,ワンショットのアーキテクチャ探索手法を採用した。
我々は精度-速度トレードオフの観点から最先端の結果を得る。
論文 参考訳（メタデータ） (2020-09-29T11:56:01Z) - Automated Search for Resource-Efficient Branched Multi-Task Networks [81.48051635183916]
我々は,多タスクニューラルネットワークにおける分岐構造を自動的に定義する,微分可能なニューラルネットワーク探索に根ざした原理的アプローチを提案する。
本手法は,限られた資源予算内で高い性能の分岐構造を見いだすことができる。
論文 参考訳（メタデータ） (2020-08-24T09:49:19Z) - Stage-Wise Neural Architecture Search [65.03109178056937]
ResNetやNASNetのような現代の畳み込みネットワークは、多くのコンピュータビジョンアプリケーションで最先端の結果を得た。
これらのネットワークは、同じ解像度で表現を操作するレイヤのセットであるステージで構成されている。
各ステージにおけるレイヤー数の増加はネットワークの予測能力を向上させることが示されている。
しかし、結果として得られるアーキテクチャは、浮動小数点演算、メモリ要求、推論時間の観点から計算的に高価になる。
論文 参考訳（メタデータ） (2020-04-23T14:16:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。