論文の概要: LLM-Powered Predictive Decision-Making for Sustainable Data Center Operations
- arxiv url: http://arxiv.org/abs/2608.18503v1
- Date: Wed, 19 Aug 2026 03:50:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.270458
- Title: LLM-Powered Predictive Decision-Making for Sustainable Data Center Operations
- Title(参考訳): 持続可能なデータセンター運用のためのLLMによる予測決定法
- Abstract要約: 本研究は, データセンターの環境影響を低減しつつ, 運用効率を向上させるために設計された, 新たな予測スケジューリングシステムを提案する。
本システムでは,LLMを用いてソースコードからの実行時間やエネルギー消費などの重要な指標を予測する。
- 参考スコア(独自算出の注目度): 9.857318694890429
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The growing demand for AI-driven workloads, particularly from Large Language Models (LLMs), has raised concerns about the significant energy and resource consumption in data centers. This work introduces a novel LLM-based predictive scheduling system designed to enhance operational efficiency while reducing the environmental impact of data centers. Our system utilizes an LLM to predict key metrics such as execution time and energy consumption from source code, and it has the potential to extend to other sustainability-focused metrics like water usage for cooling and carbon emissions, provided the data center can track such data. The predictive model is followed by a real-time scheduling algorithm that allocates GPU resources, aiming to improve sustainability by optimizing both energy consumption and queuing delays. With fast inference times, the ability to generalize across diverse task types, and minimal data requirements for training, our approach offers a practical solution for data center scheduling. This framework demonstrates strong potential for advancing sustainability objectives in AI-driven infrastructure. Through our collaboration with a data center, we achieved a 32% reduction in energy consumption and a 30% decrease in waiting time.
- Abstract(参考訳): AI駆動ワークロードの需要の増加、特にLarge Language Models(LLMs)は、データセンタにおける重要なエネルギーとリソース消費に対する懸念を高めている。
本研究は, データセンターの環境影響を低減しつつ, 運用効率を向上させることを目的とした, LLMに基づく新しい予測スケジューリングシステムを提案する。
本システムでは,LLMを用いてソースコードからの実行時間やエネルギー消費などの重要な指標を予測し,データセンタがそのようなデータを追跡できれば,冷却用水利用や二酸化炭素排出量といったサステナビリティを重視した他の指標にも拡張する可能性がある。
予測モデルに続いて、GPUリソースを割り当てるリアルタイムスケジューリングアルゴリズムが登場し、エネルギー消費と待ち時間の両方を最適化することで、サステナビリティの向上を目指している。
高速な推論時間、多様なタスクタイプにまたがる一般化機能、トレーニングのためのデータ要件の最小化などにより、我々のアプローチはデータセンターのスケジューリングに実用的なソリューションを提供する。
このフレームワークは、AI駆動インフラストラクチャにおけるサステナビリティ目標を前進させる強力な可能性を示している。
データセンターとのコラボレーションを通じて、エネルギー消費の32%削減と待ち時間の30%削減を実現しました。
関連論文リスト
- Edge-AI-Driven Learning-to-Rank for Decentralized Task Allocation in Circular Smart Manufacturing [54.4933359656657]
本研究は,ランクアウェア交渉に基づくエッジAI駆動型分散タスク割り当てフレームワークを提案する。
ランキング対応の定式化は、最終的に学習目標を再認識し、勝者選択の順序付けに基づく性質に適合する。
その結果, 高負荷下での遅延および期限順守が向上し, より厳密な制約下でのエネルギー効率が向上した。
論文 参考訳(メタデータ) (2026-05-14T20:38:25Z) - A Scalable Digital Twin Framework for Energy Optimization in Data Centers [0.0]
本研究では,データセンターにおけるエネルギー最適化のためのスケーラブルなDigital Twinフレームワークを提案する。
このフレームワークはIoTベースのデータ取得、クラウドコンピューティング、機械学習技術を統合し、リアルタイム監視、予測、インテリジェントエネルギー管理を可能にする。
論文 参考訳(メタデータ) (2026-05-07T02:00:49Z) - DCcluster-Opt: Benchmarking Dynamic Multi-Objective Optimization for Geo-Distributed Data Center Workloads [14.834687262955585]
持続可能な時空間タスクスケジューリングのためのオープンソースの高忠実度シミュレーションベンチマークであるDCcluster-Optを提案する。
AIのワークロードトレース、グリッドカーボンの強度、電力市場、20のグローバルリージョンにわたる天候、クラウド送信コスト、経験的ネットワーク遅延パラメータなど、実世界のデータセットを組み合わせている。
モジュール型報酬システムは、二酸化炭素排出量、エネルギーコスト、サービスレベル合意、水利用の間のトレードオフを明示的に研究することを可能にする。
論文 参考訳(メタデータ) (2025-10-31T03:07:12Z) - Improving AI Efficiency in Data Centres by Power Dynamic Response [74.12165648170894]
近年、人工知能(AI)の着実に成長が加速し、洗練されたモデルの開発が進められている。
AIの潜在能力を最大限に活用するためには、堅牢で信頼性の高い電力インフラの確保が不可欠だ。
しかし、AIデータセンターは電力に非常に飢えており、彼らの電力管理の問題が注目されている。
論文 参考訳(メタデータ) (2025-10-13T08:08:21Z) - Towards Carbon-Aware Container Orchestration: Predicting Workload Energy Consumption with Federated Learning [8.968986043976532]
本稿では,企業内における機密性の高い運用データを維持することにより,データのプライバシを保護する,エネルギー消費予測のためのフェデレート学習手法を提案する。
私たちのフレームワークは、FlowerのFedXgbBaggingアグリゲーションを使用して、分散クライアント間で協調的にXGBoostモデルをトレーニングします。
この研究は、KeplerやCASPERといった以前のシステムにおける、データのプライバシとエネルギー予測効率の間の未解決のトレードオフに対処する。
論文 参考訳(メタデータ) (2025-10-04T23:01:59Z) - Hybrid Heterogeneous Clusters Can Lower the Energy Consumption of LLM Inference Workloads [0.2389598109913753]
大規模言語モデル(LLM)の訓練と使用には大量のエネルギーが必要である。
本稿では, LLM を運用するデータセンターにおけるエネルギー消費削減の課題に対処する。
本稿では,コストベースのスケジューリングフレームワークを用いて,ハードウェアアクセラレータ間でタスクを動的に割り当てるハイブリッドデータセンターモデルを提案する。
論文 参考訳(メタデータ) (2024-04-25T11:24:08Z) - Dynamic Scheduling for Federated Edge Learning with Streaming Data [56.91063444859008]
我々は,長期的エネルギー制約のある分散エッジデバイスにおいて,トレーニングデータを時間とともにランダムに生成するフェデレーションエッジ学習(FEEL)システムを検討する。
限られた通信リソースとレイテンシ要件のため、各イテレーションでローカルトレーニングプロセスに参加するのはデバイスのサブセットのみである。
論文 参考訳(メタデータ) (2023-05-02T07:41:16Z) - Sustainable AIGC Workload Scheduling of Geo-Distributed Data Centers: A
Multi-Agent Reinforcement Learning Approach [48.18355658448509]
生成的人工知能の最近の進歩は、機械学習トレーニングの需要が急増し、エネルギー消費の大幅な増加によるコスト負担と環境問題を引き起こしている。
地理的に分散したクラウドデータセンタ間でのトレーニングジョブのスケジューリングは、安価で低炭素エネルギーのコンピューティング能力の使用を最適化する機会を浮き彫りにする。
本研究では,実生活におけるワークロードパターン,エネルギー価格,炭素強度を組み込んだクラウドシステムと対話することで,マルチエージェント強化学習とアクタクリティカルな手法に基づく最適協調スケジューリング戦略の学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-04-17T02:12:30Z) - HUNTER: AI based Holistic Resource Management for Sustainable Cloud
Computing [26.48962351761643]
我々は,HUNTERと呼ばれる持続可能なクラウドコンピューティングのための人工知能(AI)に基づく総合的資源管理手法を提案する。
提案モデルでは,多目的スケジューリング問題として,データセンターのエネルギー効率を最適化する目標を定式化している。
シミュレーションおよび物理雲環境の実験により、HUNTERはエネルギー消費、SLA違反、スケジューリング時間、コスト、温度を最大12、35、43、54、3%で上回った。
論文 参考訳(メタデータ) (2021-10-11T18:11:26Z) - A Framework for Energy and Carbon Footprint Analysis of Distributed and
Federated Edge Learning [48.63610479916003]
本稿では,分散学習政策の環境フットプリントに影響を与える要因を概説し,分析する。
バニラとコンセンサスによって駆動される分散FLポリシーの両方をモデル化する。
その結果、flは低ビット/ジュール効率を特徴とするワイヤレスシステムにおいて、顕著なエンドツーエンドの省エネ(30%-40%)が可能となった。
論文 参考訳(メタデータ) (2021-03-18T16:04:42Z) - Risk-Aware Energy Scheduling for Edge Computing with Microgrid: A
Multi-Agent Deep Reinforcement Learning Approach [82.6692222294594]
マイクログリッドを用いたMECネットワークにおけるリスク対応エネルギースケジューリング問題について検討する。
ニューラルネットワークを用いたマルチエージェントディープ強化学習(MADRL)に基づくアドバンテージアクター・クリティック(A3C)アルゴリズムを適用し,その解を導出する。
論文 参考訳(メタデータ) (2020-02-21T02:14:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。