論文の概要: InFactPlanner: Planning Sustainable Geo-Distributed LLM Data Centers
- arxiv url: http://arxiv.org/abs/2608.12915v1
- Date: Thu, 13 Aug 2026 07:57:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.432835
- Title: InFactPlanner: Planning Sustainable Geo-Distributed LLM Data Centers
- Title(参考訳): InFactPlanner: 持続可能な地理分散LLMデータセンターの計画
- Abstract要約: InFactPlanner(インファクトプランナー)は、持続可能なAIデータセンターの配置を分析するためのトレース駆動の意思決定支援フレームワークである。
InFactPlannerは、クエリトレース、ハードウェアモデルプロファイル、候補サイト構成、PUE/WUEパラメータ、再生可能生成モデル、時間変化のグリッドカーボン強度を組み合わせて、電力、エネルギー、二酸化炭素排出量、水利用、レイテンシ、サーバー利用を推定する。
- 参考スコア(独自算出の注目度): 0.15999407512883507
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The rapid growth of LLM inference is shifting sustainability concerns from one-time training to continuous serving, where infrastructure decisions shape energy use, carbon emissions, water consumption, and service quality. Yet operators often need to compare deployment alternatives before large-scale infrastructure is built, making direct measurement costly, slow, and sometimes infeasible. We present InFactPlanner, a trace-driven decision-support framework for what-if analysis of sustainable AI data center deployment for LLM inference across single and geo-distributed sites. InFactPlanner combines query traces, hardware-model profiles, candidate site configurations, PUE/WUE parameters, renewable generation models, and time-varying grid carbon intensity to estimate power, energy, carbon emissions, water use, latency, and server utilization. The framework abstracts low-level serving effects into configurable hardware-model profiles, enabling rapid comparison of site selection, capacity placement, hardware, model, renewable integration, and routing choices. We validate the energy accounting pipeline by reproducing reference LLM inference energy estimates with less than 10% deviation, evaluate scalability across multiple data centers and server counts, and demonstrate scenario-driven decision analyses for hardware selection, renewable placement, geographic deployment, and carbon-aware routing. Our results show that sustainability-optimal choices can differ from latency-optimal ones, and that the carbon value of deployment depends strongly on the local grid mix.
- Abstract(参考訳): LLM推論の急速な成長は、持続可能性に関する懸念を一度のトレーニングから継続的なサービスへとシフトさせており、そこではインフラ決定がエネルギー利用、二酸化炭素排出量、水消費、サービス品質を形成している。
しかしオペレータは、大規模なインフラストラクチャを構築する前に、デプロイの代替手段を比較する必要がある場合が多いため、直接的な測定はコストがかかり、遅く、時には実現不可能である。
InFactPlannerは、単一および地理的に分散したサイトにわたるLSM推論のための持続可能なAIデータセンターの配置を、何時まで分析する、トレース駆動の意思決定支援フレームワークである。
InFactPlannerは、クエリトレース、ハードウェアモデルプロファイル、候補サイト構成、PUE/WUEパラメータ、再生可能生成モデル、時間変化のグリッドカーボン強度を組み合わせて、電力、エネルギー、二酸化炭素排出量、水利用、レイテンシ、サーバー利用を推定する。
このフレームワークは、低レベルのサービス効果を構成可能なハードウェアモデルプロファイルに抽象化し、サイト選択、キャパシティ配置、ハードウェア、モデル、再生可能統合、ルーティング選択の迅速な比較を可能にする。
我々は、基準LLM推定エネルギー推定を10%未満の偏差で再現し、複数のデータセンターとサーバ数にわたるスケーラビリティを評価し、ハードウェア選択、再生可能配置、地理的展開、炭素対応ルーティングのシナリオ駆動決定分析を実証し、エネルギー会計パイプラインを検証する。
以上の結果から,持続可能性-最適選択は遅延-最適選択と異なり,展開の炭素値が局所格子混合に強く依存していることが示唆された。
関連論文リスト
- LLM-Powered Predictive Decision-Making for Sustainable Data Center Operations [9.857318694890429]
本研究は, データセンターの環境影響を低減しつつ, 運用効率を向上させるために設計された, 新たな予測スケジューリングシステムを提案する。
本システムでは,LLMを用いてソースコードからの実行時間やエネルギー消費などの重要な指標を予測する。
論文 参考訳(メタデータ) (2026-08-19T03:50:32Z) - Time Series Network Utilization KPI Forecasting Using Advanced AI/ML Models [0.13048920509133805]
本研究は,季節分解,預言,ランダムフォレスト,XGBoost,サポートベクター回帰を含む多様なモデルのスペクトルを評価することで,課題に対処する。
最終的に、この研究はモデル精度と計算効率のトレードオフに関する実用的な洞察を提供する。
論文 参考訳(メタデータ) (2026-07-22T09:57:47Z) - CRAWO: Custom Resources for Adaptive Workload Orchestration [0.08910173568215411]
本稿では,分散エッジ環境におけるAIパイプラインのコーディネートのためのアーキテクチャフレームワークであるCRAWOを紹介する。
このフレームワークには、ハードウェア対応アロケータと、適応的なワークロード配置を可能にするプラグイン可能なマルチクレータ決定層が組み込まれている。
論文 参考訳(メタデータ) (2026-06-08T15:45:03Z) - Generate, Filter, Control, Replay: A Comprehensive Survey of Rollout Strategies for LLM Reinforcement Learning [79.88942231770629]
強化学習(RL)は、大規模言語モデル(LLM)の推論能力を向上させるための訓練後の中心的なツールとなっている。
統一表記によるロールアウトパイプラインの形式化とGenerate-Filter-Control-Replay(GFCR)の導入
検証可能な報酬、プロセスの監督、判断に基づくゲーティング、ガイドとツリー/セグメントのロールアウト、アダプティブな計算割り当て、早期終了と部分的なロールアウト、スループット最適化、自己改善のための再生/再配置でRLにまたがる手法を合成する。
論文 参考訳(メタデータ) (2026-04-08T00:53:29Z) - Carbon-aware decentralized dynamic task offloading in MIMO-MEC networks via multi-agent reinforcement learning [0.7373617024876725]
本稿では,マルチエージェントポリシー最適化に基づく炭素対応分散動的タスクオフロードフレームワークCADDTO-PPOを提案する。
このフレームワークは最低炭素強度を達成し、極端な交通負荷下では、ほぼゼロに近いオーバーフロー速度を維持する。
論文 参考訳(メタデータ) (2026-02-21T11:07:11Z) - Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。
実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。
FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
論文 参考訳(メタデータ) (2026-02-01T05:54:59Z) - DCcluster-Opt: Benchmarking Dynamic Multi-Objective Optimization for Geo-Distributed Data Center Workloads [14.834687262955585]
持続可能な時空間タスクスケジューリングのためのオープンソースの高忠実度シミュレーションベンチマークであるDCcluster-Optを提案する。
AIのワークロードトレース、グリッドカーボンの強度、電力市場、20のグローバルリージョンにわたる天候、クラウド送信コスト、経験的ネットワーク遅延パラメータなど、実世界のデータセットを組み合わせている。
モジュール型報酬システムは、二酸化炭素排出量、エネルギーコスト、サービスレベル合意、水利用の間のトレードオフを明示的に研究することを可能にする。
論文 参考訳(メタデータ) (2025-10-31T03:07:12Z) - PowerGrow: Feasible Co-Growth of Structures and Dynamics for Power Grid Synthesis [75.14189839277928]
本稿では,運用効率を維持しながら計算オーバーヘッドを大幅に削減する,共同生成フレームワークPowerGrowを提案する。
ベンチマーク設定による実験では、PowerGrowはフィデリティと多様性において、事前の拡散モデルよりも優れていた。
これは、運用上有効で現実的な電力グリッドシナリオを生成する能力を示している。
論文 参考訳(メタデータ) (2025-08-29T01:47:27Z) - GreenDFL: a Framework for Assessing the Sustainability of Decentralized Federated Learning Systems [13.15941655109666]
Decentralized Federated Learning(DFL)は、集中的なデータやモデルアグリゲーションなしに協調的なモデルトレーニングを可能にする新興パラダイムである。
本研究の目的は、DFLシステムの持続可能性を評価するための総合的かつ運用的なフレームワークを開発することである。
提案したGreenDFLは、DFLシステムの持続可能性を評価するための包括的で実践的なアプローチを提供する。
論文 参考訳(メタデータ) (2025-02-27T16:27:42Z) - Adaptive Resource Allocation for Virtualized Base Stations in O-RAN with Online Learning [55.08287089554127]
基地局(vBS)を備えたオープンラジオアクセスネットワークシステムは、柔軟性の向上、コスト削減、ベンダーの多様性、相互運用性のメリットを提供する。
本研究では,予期せぬ「混み合う」環境下であっても,効率的なスループットとvBSエネルギー消費のバランスをとるオンライン学習アルゴリズムを提案する。
提案手法は, 課題のある環境においても, 平均最適性ギャップをゼロにすることで, サブ線形後悔を実現する。
論文 参考訳(メタデータ) (2023-09-04T17:30:21Z) - Time-sensitive Learning for Heterogeneous Federated Edge Intelligence [52.83633954857744]
フェデレーションエッジインテリジェンス(FEI)システムにおけるリアルタイム機械学習について検討する。
FEIシステムは異種通信と計算資源分布を示す。
本稿では,共有MLモデルの協調学習における全体の実行時間を最小化するために,時間依存型フェデレーションラーニング(TS-FL)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-01-26T08:13:22Z) - A Framework for Energy and Carbon Footprint Analysis of Distributed and
Federated Edge Learning [48.63610479916003]
本稿では,分散学習政策の環境フットプリントに影響を与える要因を概説し,分析する。
バニラとコンセンサスによって駆動される分散FLポリシーの両方をモデル化する。
その結果、flは低ビット/ジュール効率を特徴とするワイヤレスシステムにおいて、顕著なエンドツーエンドの省エネ(30%-40%)が可能となった。
論文 参考訳(メタデータ) (2021-03-18T16:04:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。