Fugu-MT 論文翻訳(概要): Towards Accurate and Reliable Energy Measurement of NLP Models

論文の概要: Towards Accurate and Reliable Energy Measurement of NLP Models

arxiv url: http://arxiv.org/abs/2010.05248v1
Date: Sun, 11 Oct 2020 13:44:52 GMT
ステータス: 処理完了
システム内更新日: 2022-10-08 13:23:15.503139
Title: Towards Accurate and Reliable Energy Measurement of NLP Models
Title（参考訳）: NLPモデルの高精度かつ信頼性の高いエネルギー測定に向けて
Authors: Qingqing Cao, Aruna Balasubramanian, Niranjan Balasubramanian
Abstract要約: 既存のソフトウェアベースのエネルギー測定は、ハードウェアの違いや資源利用がエネルギー消費に与える影響を考慮していないため、正確ではないことを示す。我々は,高精度なエネルギー測定を行うハードウェアパワーメータを用いて,既存のソフトウェアベースのエネルギー測定の誤差を定量化する。我々の重要な特徴は、ハードウェアの多様性と資源利用とエネルギー消費の非線形関係を考慮に入れたより正確なエネルギー推定モデルの必要性である。
参考スコア（独自算出の注目度）: 20.289537200662306
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Accurate and reliable measurement of energy consumption is critical for making well-informed design choices when choosing and training large scale NLP models. In this work, we show that existing software-based energy measurements are not accurate because they do not take into account hardware differences and how resource utilization affects energy consumption. We conduct energy measurement experiments with four different models for a question answering task. We quantify the error of existing software-based energy measurements by using a hardware power meter that provides highly accurate energy measurements. Our key takeaway is the need for a more accurate energy estimation model that takes into account hardware variabilities and the non-linear relationship between resource utilization and energy consumption. We release the code and data at https://github.com/csarron/sustainlp2020-energy.
Abstract（参考訳）: 大規模NLPモデルの選択および訓練において,エネルギー消費の高精度かつ信頼性の高い測定は,優れた設計選択を行う上で重要である。本研究では,ハードウェアの差異や資源利用がエネルギー消費に与える影響を考慮せず,既存のソフトウェアベースのエネルギー測定は正確ではないことを示す。質問応答タスクに4つの異なるモデルを用いてエネルギー測定実験を行う。高精度なエネルギー測定を行うハードウェアパワーメータを用いて,既存のソフトウェアベースのエネルギー測定誤差を定量化する。我々の重要な特徴は、ハードウェアの多様性と資源利用とエネルギー消費の非線形関係を考慮したより正確なエネルギー推定モデルの必要性である。コードとデータはhttps://github.com/csarron/sustainlp2020-energyでリリースします。

関連論文リスト

Enhancing Energy-Awareness in Deep Learning through Fine-Grained Energy Measurement [11.37120215795946]
本稿では,詳細なディープラーニングエネルギー消費測定のためのフレームワークであるFECoM(Fine-fine Energy Consumption Meter)を紹介する。 FECoMは、静的計測を用いて、計算負荷安定性や温度など様々な要因を考慮し、エネルギー消費をきめ細かいレベルで測定する課題に対処する。
論文参考訳（メタデータ） (2023-08-23T17:32:06Z)
ecoBLE: A Low-Computation Energy Consumption Prediction Framework for Bluetooth Low Energy [9.516475567386768]
Bluetooth Low Energy (BLE) はモノのインターネット(IoT)アプリケーションのためのデファクト技術であり、非常に低エネルギー消費を約束している。本稿では,Long Short-Term Memory Projection (LSTMP)ベースのBLEエネルギー消費予測フレームワークを提案する。提案手法は, 平均絶対パーセンテージ誤差 (MAPE) を最大12%とすることで, 異なるBLEノードのエネルギー消費を予測する。
論文参考訳（メタデータ） (2023-08-02T13:04:23Z)
How to use model architecture and training environment to estimate the energy consumption of DL training [5.190998244098203]
本研究は,Deep Learning Trainingにおけるエネルギー消費と2つの関連する設計決定との関係を活用することを目的とする。本研究では, トレーニングの消費電力特性について検討し, 4つの新しいエネルギー推定法を提案する。その結果、適切なモデルアーキテクチャとトレーニング環境を選択することで、エネルギー消費を劇的に削減できることがわかった。
論文参考訳（メタデータ） (2023-07-07T12:07:59Z)
Counting Carbon: A Survey of Factors Influencing the Emissions of Machine Learning [77.62876532784759]
機械学習(ML)は、モデルトレーニングプロセス中に計算を実行するためにエネルギーを使用する必要がある。このエネルギーの生成には、使用量やエネルギー源によって、温室効果ガスの排出という観点からの環境コストが伴う。本稿では,自然言語処理とコンピュータビジョンにおいて,95のMLモデルの炭素排出量の時間的および異なるタスクに関する調査を行う。
論文参考訳（メタデータ） (2023-02-16T18:35:00Z)
Guaranteed efficient energy estimation of quantum many-body Hamiltonians using ShadowGrouping [55.47824411563162]
量子多体系のエネルギーの推定は、様々な研究分野におけるパラダイム的な課題である。本研究の目的は,全測定予算から最も高い証明可能な精度が得られる単一キュービット計測による最適戦略を見出すことである。私たちはShadowGroupingと呼ばれる実用的で効率的な見積もり戦略を開発します。
論文参考訳（メタデータ） (2023-01-09T14:41:07Z)
Precise Energy Consumption Measurements of Heterogeneous Artificial Intelligence Workloads [0.534434568021034]
本稿では,異なるタイプの計算ノード上でのディープラーニングモデルの典型的な2つの応用のエネルギー消費の測定を行う。我々のアプローチの1つの利点は、スーパーコンピュータの全ユーザーがエネルギー消費に関する情報を利用できることである。
論文参考訳（メタデータ） (2022-12-03T21:40:55Z)
EnergyVis: Interactively Tracking and Exploring Energy Consumption for ML Models [8.939420322774243]
EnergyVisは機械学習(ML)モデルのためのインタラクティブなエネルギー消費トラッカーです。研究者は、重要なエネルギー消費と炭素フットプリントのメトリクス間で、モデルエネルギー消費をインタラクティブに追跡、可視化、比較することができる。 EnergyVisは、モデルトレーニング中に過剰なエネルギー使用量をインタラクティブに強調することで、計算持続可能性に関する意識向上を目指しています。
論文参考訳（メタデータ） (2021-03-30T15:33:43Z)
Power Modeling for Effective Datacenter Planning and Compute Management [53.41102502425513]
我々は,すべてのハードウェア構成とワークロードに適用可能な,正確でシンプルで解釈可能な統計パワーモデルの設計と検証の2つのクラスについて論じる。提案された統計的モデリング手法は, 単純かつスケーラブルでありながら, 4つの特徴のみを用いて, 95% 以上の多様な配電ユニット (2000 以上) に対して, 5% 未満の絶対パーセンテージエラー (MAPE) で電力を予測できることを実証した。
論文参考訳（メタデータ） (2021-03-22T21:22:51Z)
Energy Drain of the Object Detection Processing Pipeline for Mobile Devices: Analysis and Implications [77.00418462388525]
本稿では、移動体拡張現実(AR)クライアントのエネルギー消費と、畳み込みニューラルネットワーク(CNN)に基づく物体検出を行う際の検出遅延について、初めて詳細な実験を行った。我々は,移動体ARクライアントのエネルギー分析を精査し,CNNによる物体検出を行う際のエネルギー消費に関するいくつかの興味深い視点を明らかにした。
論文参考訳（メタデータ） (2020-11-26T00:32:07Z)
Risk-Aware Energy Scheduling for Edge Computing with Microgrid: A Multi-Agent Deep Reinforcement Learning Approach [82.6692222294594]
マイクログリッドを用いたMECネットワークにおけるリスク対応エネルギースケジューリング問題について検討する。ニューラルネットワークを用いたマルチエージェントディープ強化学習(MADRL)に基づくアドバンテージアクター・クリティック(A3C)アルゴリズムを適用し,その解を導出する。
論文参考訳（メタデータ） (2020-02-21T02:14:38Z)
Multi-Agent Meta-Reinforcement Learning for Self-Powered and Sustainable Edge Computing Systems [87.4519172058185]
エッジコンピューティング機能を有するセルフパワー無線ネットワークの効率的なエネルギー分配機構について検討した。定式化問題を解くために,新しいマルチエージェントメタ強化学習(MAMRL)フレームワークを提案する。実験の結果、提案されたMAMRLモデルは、再生不可能なエネルギー使用量を最大11%削減し、エネルギーコストを22.4%削減できることが示された。
論文参考訳（メタデータ） (2020-02-20T04:58:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。