論文の概要: Measuring the Carbon Intensity of AI in Cloud Instances
- arxiv url: http://arxiv.org/abs/2206.05229v1
- Date: Fri, 10 Jun 2022 17:04:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-13 16:59:57.780849
- Title: Measuring the Carbon Intensity of AI in Cloud Instances
- Title(参考訳): クラウドインスタンスにおけるAIの炭素強度の測定
- Authors: Jesse Dodge, Taylor Prewitt, Remi Tachet Des Combes, Erika Odmark, Roy
Schwartz, Emma Strubell, Alexandra Sasha Luccioni, Noah A. Smith, Nicole
DeCario, Will Buchanan
- Abstract要約: 我々は,ソフトウェアの炭素強度を測定するための枠組みを提供し,運転中の炭素排出量を測定することを提案する。
私たちは、Microsoft Azureクラウドコンピューティングプラットフォームにおける排出削減のための一連のアプローチを評価します。
- 参考スコア(独自算出の注目度): 91.28501520271972
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: By providing unprecedented access to computational resources, cloud computing
has enabled rapid growth in technologies such as machine learning, the
computational demands of which incur a high energy cost and a commensurate
carbon footprint. As a result, recent scholarship has called for better
estimates of the greenhouse gas impact of AI: data scientists today do not have
easy or reliable access to measurements of this information, precluding
development of actionable tactics. Cloud providers presenting information about
software carbon intensity to users is a fundamental stepping stone towards
minimizing emissions. In this paper, we provide a framework for measuring
software carbon intensity, and propose to measure operational carbon emissions
by using location-based and time-specific marginal emissions data per energy
unit. We provide measurements of operational software carbon intensity for a
set of modern models for natural language processing and computer vision, and a
wide range of model sizes, including pretraining of a 6.1 billion parameter
language model. We then evaluate a suite of approaches for reducing emissions
on the Microsoft Azure cloud compute platform: using cloud instances in
different geographic regions, using cloud instances at different times of day,
and dynamically pausing cloud instances when the marginal carbon intensity is
above a certain threshold. We confirm previous results that the geographic
region of the data center plays a significant role in the carbon intensity for
a given cloud instance, and find that choosing an appropriate region can have
the largest operational emissions reduction impact. We also show that the time
of day has notable impact on operational software carbon intensity. Finally, we
conclude with recommendations for how machine learning practitioners can use
software carbon intensity information to reduce environmental impact.
- Abstract(参考訳): クラウドコンピューティングは、計算資源への前例のないアクセスを提供することで、機械学習、高いエネルギーコストと炭素フットプリントをもたらす計算要求のような技術の急速な成長を可能にした。
その結果、最近の奨学金は、AIの温室効果ガスの影響をより正確に見積もっている。
ソフトウェア炭素強度に関する情報をユーザに提示するクラウドプロバイダは、排出を最小化するための基本的な一歩だ。
本稿では,ソフトウェアの炭素強度を測定するためのフレームワークを提案し,エネルギー単位当たりの場所ベースおよび時間特異的辺縁排出データを用いて,運転中の炭素排出量を測定することを提案する。
我々は,自然言語処理とコンピュータビジョンのための現代的なモデル群と,6.10億パラメータ言語モデルの事前学習を含む幅広いモデルサイズに対して,運用ソフトウェア炭素強度の測定を行う。
次に、Microsoft Azureクラウドコンピューティングプラットフォーム上の排出削減のための一連のアプローチを評価します。異なる地理的領域のクラウドインスタンスの使用、異なる時間にクラウドインスタンスの使用、限界炭素強度が一定のしきい値を超える場合に、動的にクラウドインスタンスを一時停止する。
我々は, データセンターの地理的領域が, 所定のクラウドインスタンスの炭素強度に重要な役割を担っていることを確認し, 適切な領域を選択すると, 最大の運転排出削減効果が得られることを確認した。
また、日中のソフトウェアがカーボン強度に顕著な影響を与えることも示しています。
最後に,機械学習の実践者がソフトウェア炭素強度情報を用いて環境影響を低減できるかを推奨する。
関連論文リスト
- The Sunk Carbon Fallacy: Rethinking Carbon Footprint Metrics for Effective Carbon-Aware Scheduling [2.562727244613512]
本研究は, 炭素会計指標を用いて, 所定のサーバ群上での炭素を意識したジョブスケジューリングと配置を評価する。
本研究では, 炭素添加コストに影響を及ぼす要因について検討した。
論文 参考訳(メタデータ) (2024-10-19T12:23:59Z) - Generative AI for Low-Carbon Artificial Intelligence of Things with Large Language Models [67.0243099823109]
ジェネレーティブAI(GAI)は、AIoT(Artificial Intelligence of Things)の二酸化炭素排出量を減らす大きな可能性を秘めている
本稿では, 炭素排出量削減のためのGAIの可能性について検討し, 低炭素AIoTのための新しいGAI対応ソリューションを提案する。
本稿では,Large Language Model (LLM) を利用したCO_2排出最適化フレームワークを提案し,このフレームワークにより,プラグ可能なLLMとRetrieval Augmented Generation (RAG) モジュールを設計する。
論文 参考訳(メタデータ) (2024-04-28T05:46:28Z) - LACS: Learning-Augmented Algorithms for Carbon-Aware Resource Scaling with Uncertain Demand [1.423958951481749]
本稿では,未知の作業時間(OCSU)を用いたオンラインCO_2-Awareリソーススケーリング問題について検討する。
我々は,論理的に堅牢な学習拡張アルゴリズムであるLACSを提案し,OCSUを解く。
LACSは、納期を意識した炭素に依存しない作業と比較して、炭素フットプリントの32%の削減を実現している。
論文 参考訳(メタデータ) (2024-03-29T04:54:22Z) - CAFE: Carbon-Aware Federated Learning in Geographically Distributed Data
Centers [18.54380015603228]
大規模人工知能(AI)モデルの訓練には、計算能力とエネルギーが要求されるため、炭素フットプリントが増加し、環境に悪影響を及ぼす可能性がある。
本稿は、地理的に分散した(地理的に分散した)データセンターでAIモデルをトレーニングする際の課題を考察し、学習性能と炭素フットプリントのバランスを強調する。
固定炭素フットプリント予算内でのトレーニングを最適化するために,CAFE(Carbon-Aware Federated Learning)と呼ばれる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2023-11-06T23:59:22Z) - Sustainable AIGC Workload Scheduling of Geo-Distributed Data Centers: A
Multi-Agent Reinforcement Learning Approach [48.18355658448509]
生成的人工知能の最近の進歩は、機械学習トレーニングの需要が急増し、エネルギー消費の大幅な増加によるコスト負担と環境問題を引き起こしている。
地理的に分散したクラウドデータセンタ間でのトレーニングジョブのスケジューリングは、安価で低炭素エネルギーのコンピューティング能力の使用を最適化する機会を浮き彫りにする。
本研究では,実生活におけるワークロードパターン,エネルギー価格,炭素強度を組み込んだクラウドシステムと対話することで,マルチエージェント強化学習とアクタクリティカルな手法に基づく最適協調スケジューリング戦略の学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-04-17T02:12:30Z) - Counting Carbon: A Survey of Factors Influencing the Emissions of
Machine Learning [77.62876532784759]
機械学習(ML)は、モデルトレーニングプロセス中に計算を実行するためにエネルギーを使用する必要がある。
このエネルギーの生成には、使用量やエネルギー源によって、温室効果ガスの排出という観点からの環境コストが伴う。
本稿では,自然言語処理とコンピュータビジョンにおいて,95のMLモデルの炭素排出量の時間的および異なるタスクに関する調査を行う。
論文 参考訳(メタデータ) (2023-02-16T18:35:00Z) - Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language
Model [72.65502770895417]
176ビリオンパラメータ言語モデルBLOOMの炭素フットプリントを,そのライフサイクルにわたって定量化する。
BLOOMの最終訓練で約24.7トンのカルボネックが放出されたと推定する。
本稿では,機械学習モデルの炭素フットプリントを正確に推定することの難しさについて論じる。
論文 参考訳(メタデータ) (2022-11-03T17:13:48Z) - Treehouse: A Case For Carbon-Aware Datacenter Software [4.7521372297013365]
デナードのスケーリングの終わりとムーアの法則の減速は、データセンターのエネルギー利用を持続不可能な経路に押し上げた。
我々は、ソフトウェア中心のアプローチにより、データセンターコンピューティングの炭素強度を大幅に削減できると主張している。
論文 参考訳(メタデータ) (2022-01-06T16:00:53Z) - Green Algorithms: Quantifying the carbon footprint of computation [0.0]
本稿では,任意の計算タスクの炭素フットプリントを,標準化された信頼性の高い方法で推定する枠組みを提案する。
温室効果ガスの排出を解釈し、文脈的に解釈する指標が定義され、車や飛行機で走行する同等距離を含む。
我々は、ユーザが計算の炭素フットプリントを見積り、レポートできる、無料で利用可能なオンラインツールであるGreen Algorithmsを開発した。
論文 参考訳(メタデータ) (2020-07-15T11:05:33Z) - Towards the Systematic Reporting of the Energy and Carbon Footprints of
Machine Learning [68.37641996188133]
我々は、リアルタイムエネルギー消費と二酸化炭素排出量を追跡するための枠組みを導入する。
エネルギー効率のよい強化学習アルゴリズムのためのリーダーボードを作成します。
炭素排出量削減とエネルギー消費削減のための戦略を提案する。
論文 参考訳(メタデータ) (2020-01-31T05:12:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。