論文の概要: A Robust Power Model Training Framework for Cloud Native Runtime Energy Metric Exporter
- arxiv url: http://arxiv.org/abs/2407.00878v1
- Date: Wed, 10 Apr 2024 02:20:29 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-22 22:38:24.151327
- Title: A Robust Power Model Training Framework for Cloud Native Runtime Energy Metric Exporter
- Title(参考訳): クラウドネイティブランタイムエネルギメトリックエクスポータのためのロバストパワーモデルトレーニングフレームワーク
- Authors: Sunyanan Choochotkaew, Chen Wang, Huamin Chen, Tatsuhiro Chiba, Marcelo Amaral, Eun Kyung Lee, Tamar Eilam,
- Abstract要約: 現在のクラウド環境における電力消費量の推定は、グリーンコンピューティングに向けた炭素定量化に不可欠である。
本稿では,この目標に関する複数の課題について考察する。
最初の課題は、複数の顧客が同じハードウェアプラットフォームを共有していることだ。
第2の課題は、クラウドプラットフォームコントロールプレーンが引き起こす電力消費のオーバーヘッドである。
- 参考スコア(独自算出の注目度): 2.661555989363678
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Estimating power consumption in modern Cloud environments is essential for carbon quantification toward green computing. Specifically, it is important to properly account for the power consumed by each of the running applications, which are packaged as containers. This paper examines multiple challenges associated with this goal. The first challenge is that multiple customers are sharing the same hardware platform (multi-tenancy), where information on the physical servers is mostly obscured. The second challenge is the overhead in power consumption that the Cloud platform control plane induces. This paper addresses these challenges and introduces a novel pipeline framework for power model training. This allows versatile power consumption approximation of individual containers on the basis of available performance counters and other metrics. The proposed model utilizes machine learning techniques to predict the power consumed by the control plane and associated processes, and uses it for isolating the power consumed by the user containers, from the server power consumption. To determine how well the prediction results in an isolation, we introduce a metric termed isolation goodness. Applying the proposed power model does not require online power measurements, nor does it need information on the physical servers, configuration, or information on other tenants sharing the same machine. The results of cross-workload, cross-platform experiments demonstrated the higher accuracy of the proposed model when predicting power consumption of unseen containers on unknown platforms, including on virtual machines.
- Abstract(参考訳): 現在のクラウド環境における電力消費量の推定は、グリーンコンピューティングに向けた炭素定量化に不可欠である。
具体的には、コンテナとしてパッケージ化された実行中のアプリケーション毎に消費される電力を適切に考慮しておくことが重要です。
本稿では,この目標に関する複数の課題について考察する。
最初の課題は、複数の顧客が同じハードウェアプラットフォーム(マルチテナンシ)を共有していることです。
第2の課題は、クラウドプラットフォームコントロールプレーンが引き起こす電力消費のオーバーヘッドである。
本稿では,これらの課題に対処し,パワーモデルトレーニングのための新しいパイプラインフレームワークを提案する。
これにより、利用可能なパフォーマンスカウンタやその他のメトリクスに基づいて、個々のコンテナの汎用的な消費電力近似が可能になる。
提案モデルでは,制御プレーンと関連するプロセスが消費する電力を機械学習で予測し,サーバの電力消費からユーザコンテナが消費する電力を分離する。
孤立状態における予測の精度を決定するために, 孤立状態の指標として, 孤立状態の指標を導入する。
提案されたパワーモデルを適用するには、オンラインの電力測定を必要とせず、物理サーバや構成、あるいは同じマシンを共有する他のテナントに関する情報も必要としない。
クロスワークロード、クロスプラットフォーム実験の結果は、仮想マシンを含む未知のプラットフォーム上の未知のコンテナの電力消費を予測する際に、提案したモデルのより高い精度を実証した。
関連論文リスト
- Green AI: A Preliminary Empirical Study on Energy Consumption in DL
Models Across Different Runtime Infrastructures [56.200335252600354]
トレーニング済みのモデルを、ネイティブな開発環境とは異なる環境にデプロイするのは、一般的なプラクティスです。
これにより、インフラを含むONNXや標準フォーマットとして機能するONNXなどの交換フォーマットが導入された。
論文 参考訳(メタデータ) (2024-02-21T09:18:44Z) - Power Hungry Processing: Watts Driving the Cost of AI Deployment? [74.19749699665216]
生成された多目的AIシステムは、機械学習(ML)モデルをテクノロジに構築するための統一的なアプローチを約束する。
この「一般性」の野心は、これらのシステムが必要とするエネルギー量と放出する炭素量を考えると、環境に急激なコストがかかる。
これらのモデルを用いて,代表的なベンチマークデータセット上で1,000の推論を行うのに必要なエネルギーと炭素の量として,デプロイメントコストを測定した。
本稿は、多目的MLシステムの展開動向に関する議論から締めくくり、エネルギーと排出の面でコストの増大に対して、その実用性はより意図的に重み付けされるべきである、と警告する。
論文 参考訳(メタデータ) (2023-11-28T15:09:36Z) - WattScope: Non-intrusive Application-level Power Disaggregation in
Datacenters [0.6086160084025234]
WattScopeは、個々のアプリケーションの消費電力を非侵襲的に推定するシステムである。
WattScopeは、ビルドパワーを分離するための機械学習ベースのテクニックを適応し、拡張する。
論文 参考訳(メタデータ) (2023-09-22T04:13:46Z) - A Reinforcement Learning Approach for Performance-aware Reduction in
Power Consumption of Data Center Compute Nodes [0.46040036610482665]
我々はReinforcement Learningを使用して、クラウド計算ノード上での電力供給ポリシーを設計する。
実ハードウェア上でトレーニングされたエージェントが、消費電力とアプリケーションパフォーマンスのバランスをとることで、どのように行動を起こすかを示す。
論文 参考訳(メタデータ) (2023-08-15T23:25:52Z) - Non-Intrusive Electric Load Monitoring Approach Based on Current Feature
Visualization for Smart Energy Management [51.89904044860731]
我々はAIのコンピュータビジョン技術を用いて、スマートエネルギー管理のための非侵襲的な負荷監視手法を設計する。
マルチスケールの特徴抽出とアテンション機構を備えたU字型ディープニューラルネットワークを用いて,色特徴画像からすべての電気負荷を認識することを提案する。
論文 参考訳(メタデータ) (2023-08-08T04:52:19Z) - Assessing VoD pressure on network power consumption [0.0]
ネットワークインフラにおけるビデオストリーミングの効果を評価するための新しい手法を提案する。
私たちの方法論の中核は、単純化されたネットワークとコンテンツ配信ネットワーク(CDN)インフラストラクチャのパラメトリックモデルです。
以上の結果から,従来の効率指標は,インターネット利用の電力消費の増加を反映していないことが明らかとなった。
論文 参考訳(メタデータ) (2023-04-06T15:34:14Z) - Precise Energy Consumption Measurements of Heterogeneous Artificial
Intelligence Workloads [0.534434568021034]
本稿では,異なるタイプの計算ノード上でのディープラーニングモデルの典型的な2つの応用のエネルギー消費の測定を行う。
我々のアプローチの1つの利点は、スーパーコンピュータの全ユーザーがエネルギー消費に関する情報を利用できることである。
論文 参考訳(メタデータ) (2022-12-03T21:40:55Z) - MetaNetwork: A Task-agnostic Network Parameters Generation Framework for
Improving Device Model Generalization [65.02542875281233]
そこで本研究では,デバイス上でのトレーニングを伴わずに,クラウドから適応的なデバイスモデルパラメータを生成するための,MetaNetworkという新しいタスク非依存フレームワークを提案する。
MetaGeneratorは、サンプルからモデルパラメータへのマッピング関数を学習するために設計されており、デバイスからクラウドにアップロードされたサンプルに基づいて、適応パラメータをデバイスに生成および配信することができる。
MetaStabilizerは、MetaGeneratorの振動を減らし、収束を加速し、トレーニングと推論の両方でモデルパフォーマンスを改善することを目的としている。
論文 参考訳(メタデータ) (2022-09-12T13:26:26Z) - SOLIS -- The MLOps journey from data acquisition to actionable insights [62.997667081978825]
本稿では,基本的なクロスプラットフォームテンソルフレームワークとスクリプト言語エンジンを使用しながら,すべての要件をサポートする統合デプロイメントパイプラインとフリー・ツー・オペレートアプローチを提案する。
しかし、このアプローチは、実際のプロダクショングレードシステムに機械学習機能を実際にデプロイするために必要な手順やパイプラインを提供していない。
論文 参考訳(メタデータ) (2021-12-22T14:45:37Z) - A Deep Learning Technique using Low Sampling rate for residential Non
Intrusive Load Monitoring [0.19662978733004596]
非侵入負荷監視(Non-Inrusive Load Monitoring、NILM)は、ブラインドソース分離の問題である。
低周波電力データ上で負荷分散を行うための,新しいディープニューラルネットワークに基づくアプローチを提案する。
私たちのニューラルネットワークは、需要側の詳細なフィードバックを生成し、エンドユーザに重要な洞察を提供することができます。
論文 参考訳(メタデータ) (2021-11-07T23:01:36Z) - Power Modeling for Effective Datacenter Planning and Compute Management [53.41102502425513]
我々は,すべてのハードウェア構成とワークロードに適用可能な,正確でシンプルで解釈可能な統計パワーモデルの設計と検証の2つのクラスについて論じる。
提案された統計的モデリング手法は, 単純かつスケーラブルでありながら, 4つの特徴のみを用いて, 95% 以上の多様な配電ユニット (2000 以上) に対して, 5% 未満の絶対パーセンテージエラー (MAPE) で電力を予測できることを実証した。
論文 参考訳(メタデータ) (2021-03-22T21:22:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。