論文の概要: Hydra: Hybrid Server Power Model
- arxiv url: http://arxiv.org/abs/2207.10217v1
- Date: Wed, 20 Jul 2022 22:25:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-22 13:42:45.188953
- Title: Hydra: Hybrid Server Power Model
- Title（参考訳）: Hydra: ハイブリッドサーバのパワーモデル
- Authors: Nigel Bernard, Hoa Nguyen, Aman Chandan, Savyasachi Jagdeeshan, Namdev
Prabhugaonkar, Rutuja Shah, Hyeran Jeon
- Abstract要約: 本稿では,予測精度と性能オーバーヘッドの両方を考慮したハイブリッドサーバ電力モデルHydraを提案する。
最先端のソリューションと比較すると、Hydraは異種サーバ上のすべての計算強度レベルでパフォーマンスが向上する。
- 参考スコア（独自算出の注目度）: 1.9671574103264045
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the growing complexity of big data workloads that require abundant data
and computation, data centers consume a tremendous amount of power daily. In an
effort to minimize data center power consumption, several studies developed
power models that can be used for job scheduling either reducing the number of
active servers or balancing workloads across servers at their peak energy
efficiency points. Due to increasing software and hardware heterogeneity, we
observed that there is no single power model that works the best for all server
conditions. Some complicated machine learning models themselves incur
performance and power overheads and hence it is not desirable to use them
frequently. There are no power models that consider containerized workload
execution. In this paper, we propose a hybrid server power model, Hydra, that
considers both prediction accuracy and performance overhead. Hydra dynamically
chooses the best power model for the given server conditions. Compared with
state-of-the-art solutions, Hydra outperforms across all compute-intensity
levels on heterogeneous servers.
- Abstract（参考訳）: 大量のデータと計算を必要とするビッグデータワークロードが複雑化する中、データセンターは毎日膨大な電力を消費する。
データセンターの電力消費量を最小化するために、いくつかの研究は、ジョブスケジューリングに使用できる電力モデルを開発した。
ソフトウェアとハードウェアの不均一性の増加により、すべてのサーバ条件に最適な電力モデルが存在しないことがわかりました。
複雑な機械学習モデルには、それ自体がパフォーマンスと電力のオーバーヘッドを伴っているため、頻繁に使用するのは望ましくない。
コンテナ化されたワークロードの実行を考えるパワーモデルはありません。
本稿では,予測精度と性能オーバーヘッドの両方を考慮したハイブリッドサーバパワーモデルhydraを提案する。
hydraは、与えられたサーバ条件に対して最適な電力モデルを動的に選択する。
最先端のソリューションと比較して、hydraはヘテロジニアスサーバ上のすべての計算強度レベルを上回っている。
関連論文リスト
- Data-Juicer Sandbox: A Comprehensive Suite for Multimodal Data-Model Co-development [67.55944651679864]
統合データモデル共同開発に適した新しいサンドボックススイートを提案する。
このサンドボックスは包括的な実験プラットフォームを提供し、データとモデルの両方の迅速なイテレーションと洞察駆動による改善を可能にする。
また、徹底的なベンチマークから得られた実りある洞察を明らかにし、データ品質、多様性、モデル行動の間の重要な相互作用に光を当てています。
論文 参考訳（メタデータ） (2024-07-16T14:40:07Z) - A Robust Power Model Training Framework for Cloud Native Runtime Energy Metric Exporter [2.661555989363678]
現在のクラウド環境における電力消費量の推定は、グリーンコンピューティングに向けた炭素定量化に不可欠である。
本稿では,この目標に関する複数の課題について考察する。
最初の課題は、複数の顧客が同じハードウェアプラットフォームを共有していることだ。
第2の課題は、クラウドプラットフォームコントロールプレーンが引き起こす電力消費のオーバーヘッドである。
論文 参考訳（メタデータ） (2024-04-10T02:20:29Z) - WattScope: Non-intrusive Application-level Power Disaggregation in
Datacenters [0.6086160084025234]
WattScopeは、個々のアプリケーションの消費電力を非侵襲的に推定するシステムである。
WattScopeは、ビルドパワーを分離するための機械学習ベースのテクニックを適応し、拡張する。
論文 参考訳（メタデータ） (2023-09-22T04:13:46Z) - SoTaNa: The Open-Source Software Development Assistant [81.86136560157266]
SoTaNaはオープンソースのソフトウェア開発アシスタントだ。
ソフトウェア工学の分野のための高品質な命令ベースのデータを生成する。
オープンソースの基盤モデルであるLLaMAを強化するためにパラメータ効率のよい微調整アプローチを採用している。
論文 参考訳（メタデータ） (2023-08-25T14:56:21Z) - Training Deep Surrogate Models with Large Scale Online Learning [48.7576911714538]
ディープラーニングアルゴリズムは、PDEの高速解を得るための有効な代替手段として登場した。
モデルは通常、ソルバによって生成された合成データに基づいてトレーニングされ、ディスクに格納され、トレーニングのために読み返される。
ディープサロゲートモデルのためのオープンソースのオンライントレーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2023-06-28T12:02:27Z) - Does compressing activations help model parallel training? [64.59298055364336]
モデル並列性に対する圧縮法の有効性に関する実験的検討を行った。
圧縮アルゴリズムの3つの共通クラスを実装し,評価する。
我々は160以上の設定と8つの一般的なデータセットでこれらの手法を評価した。
論文 参考訳（メタデータ） (2023-01-06T18:58:09Z) - RT-1: Robotics Transformer for Real-World Control at Scale [98.09428483862165]
我々は,有望なスケーラブルなモデル特性を示す,ロボティクストランスフォーマーと呼ばれるモデルクラスを提示する。
実世界の課題を遂行する実ロボットの大規模データ収集に基づいて,様々なモデルクラスと,データサイズ,モデルサイズ,データの多様性の関数として一般化する能力について検証した。
論文 参考訳（メタデータ） (2022-12-13T18:55:15Z) - Hydra: A System for Large Multi-Model Deep Learning [3.571623412954477]
本稿では,トランスフォーマーやCNNといったモデルを対象として,DRAMとGPUメモリ間のレイヤ群を移動させる手法である'model spilling'を提案する。
次に,マルチモデルトレーニングワークロードの効率を上げるために,こぼれを利用した新しいテクニックのセットを提案する。
実際のベンチマークワークロードによる実験によると、HYDRAは通常のモデル並列処理よりも7倍高速で、パイプライン並列処理のための最先端の産業ツールよりも50%高速である。
論文 参考訳（メタデータ） (2021-10-16T18:13:57Z) - Power Modeling for Effective Datacenter Planning and Compute Management [53.41102502425513]
我々は,すべてのハードウェア構成とワークロードに適用可能な,正確でシンプルで解釈可能な統計パワーモデルの設計と検証の2つのクラスについて論じる。
提案された統計的モデリング手法は, 単純かつスケーラブルでありながら, 4つの特徴のみを用いて, 95% 以上の多様な配電ユニット (2000 以上) に対して, 5% 未満の絶対パーセンテージエラー (MAPE) で電力を予測できることを実証した。
論文 参考訳（メタデータ） (2021-03-22T21:22:51Z) - Serverless Model Serving for Data Science [23.05534539170047]
データサイエンスアプリケーションのための主流モデルとしてのサーバーレスの実現可能性について検討する。
サーバーレスは、コストとパフォーマンスに関して多くのクラウドベースの代替手段を上回っています。
スケーラブルで費用対効果の高いモデルサービスにサーバレスを使用する方法について、データサイエンティストにいくつかの推奨事項を提示します。
論文 参考訳（メタデータ） (2021-03-04T11:23:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。