論文の概要: Characterizing Job Power Elasticity for Power-Flexible AI Training
- arxiv url: http://arxiv.org/abs/2609.11542v1
- Date: Thu, 10 Sep 2026 13:40:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.373286
- Title: Characterizing Job Power Elasticity for Power-Flexible AI Training
- Title（参考訳）: パワーフレキシブルAIトレーニングにおけるジョブパワーの弾力性の評価
- Abstract要約: 大規模言語モデル(LLM)訓練は、現代のデータセンターで急速に成長している電力需要源の一つである。
これらのワークロードの電力消費を柔軟にすることで、AIの成長のためのさらなるパワーを解放することができる。
本稿は, LLMトレーニングにおけるエンフィヨブパワーの弾力性について, 初めて体系的評価を行ったものである。
- 参考スコア（独自算出の注目度）: 3.066496319646445
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model (LLM) training is among the fastest-growing sources of electricity demand in modern data centers, and power availability is a primary bottleneck to continued AI infrastructure growth. Making the power consumption of these workloads flexible could unlock additional power for AI growth, limit increases in electricity prices, and improve the utilization of existing grid infrastructure. However, to realize this flexibility, we must first understand how the performance of training workloads changes when GPU power is reduced. This paper presents the first systematic characterization of \emph{job power elasticity} (the sensitivity of throughput to power reductions) in LLM training. To quantify elasticity, we introduce the \emph{Power Flexibility Index (PFI)}, a normalized metric that quantifies the performance cost of power reductions and provides a control primitive for SLA-aware power flexibility. We collect data from 131 LLM training runs on H200 (plus 24 H200 validation runs and 34 matched H100 runs), including both dense and mixture-of-experts models, pretraining and fine-tuning tasks, and up to 32 GPUs. We find that LLM training jobs exhibit substantial but variable power elasticity, and we identify telemetry signals that predict PFI at runtime. Finally, we demonstrate that PFI-aware power allocation maximizes total tokens/second throughput under power constraints. Under a 30\% power reduction, PFI-aware power allocation recovers ~1.5k tokens/s per job, 63\% of the performance gap between an equal-weight allocation and an oracle with perfect information. Our results establish power elasticity as a measurable property of training jobs and provide a foundation for power-aware, grid-responsive AI infrastructure.
- Abstract（参考訳）: 大規模言語モデル(LLM)トレーニングは、現代のデータセンターで急速に成長している電力需要源のひとつであり、電力可用性は、継続的なAIインフラストラクチャの成長のボトルネックである。
これらのワークロードの電力消費を柔軟にすることで、AI成長のための追加電力を解放し、電力価格の上昇を制限し、既存のグリッドインフラストラクチャの利用を改善することができる。
しかし、この柔軟性を実現するためには、まず、GPUのパワーが低下すると、トレーニングワークロードのパフォーマンスがどのように変化するかを理解する必要がある。
本稿では, LLM トレーニングにおける "emph{job power elasticity}" (スループットと電力削減の感度) の体系的評価を行った。
弾性率を定量化するために、電力削減の性能コストを定量化する正規化指標である \emph{Power Flexibility Index (PFI) を導入し、SLA対応電力柔軟性の制御プリミティブを提供する。
H200上での131 LLMトレーニング実行(さらに24 H200バリデーション実行と34 H100ラン)のデータを収集します。
LLMのトレーニングジョブは、かなりの電力弾性を示すが、実行時にPFIを予測するテレメトリ信号を特定する。
最後に、PFI対応パワーアロケーションは、電力制約下でのトークン/秒のスループットを最大化することを示した。
30 %の電力削減の下で、PFI 対応の電力割り当てはジョブ当たり1.5k のトークン/秒を回復する。
我々の結果は、トレーニングジョブの計測可能な特性として電力弾性を確立し、パワーアウェアでグリッドレスのAIインフラの基礎を提供する。
関連論文リスト
- Power-Flexible AI Data Centers: A New Paradigm for Grid-Responsive Compute [0.7399816551817894]
従来の電力系統計画では、大規模コンピューティング施設を柔軟性のないピーク負荷として扱い、コストのかかるインフラのアップグレードとグリッド相互接続の長い遅延につながる。
最近の研究によると、AIクラスタはソフトウェアベースのワークロードオーケストレーションによって、ピーク時の電力消費を削減できる。
粒度の細かいクラスタ電力制御のためのグリッド信号,ワークロードスケジューリング,電力テレメトリを統合したアーキテクチャについて述べる。
130kWのGPUクラスタ上の実世界のデプロイによる実験結果は、優先度ジョブのサービスレベルを保ちながら、高速な負荷削減、持続的な削減、炭素認識操作など、さまざまな形式の柔軟性を示している。
論文 参考訳（メタデータ） (2026-06-23T19:13:19Z) - EXPO-FT: Sample-Efficient Reinforcement Learning Finetuning for Vision-Language-Action Models [84.73890225707264]
提案するEXPO-FTは,事前学習したVLAポリシーの安定かつサンプル効率の良いRL微調整システムである。
本システムは,オンラインロボットデータの平均19.1分以内の全ての評価課題に対して,完全なタスク性能(30/30の成功)を実現する。
我々は、ロボット工学におけるVLAモデルのより広範なRLファインタニング導入を促進することを目的とした、オープンソースのロバスト性をリリースする。
論文 参考訳（メタデータ） (2026-05-25T06:31:03Z) - Measurement of Generative AI Workload Power Profiles for Whole-Facility Data Center Infrastructure Planning [1.2396819107017578]
本稿では,高分解能負荷電力測定と全能エネルギー需要を結びつけることでギャップを埋める手法を提案する。
我々は、AIトレーニング、微調整、推論ジョブのための0.1秒の解像度でAIワークロードの消費電力を測定する。
結果として生じる全ファシリティエネルギープロファイルは、AIワークロードとユーザビヘイビアによって駆動される現実的な時間的変動をキャプチャする。
論文 参考訳（メタデータ） (2026-04-08T17:56:41Z) - Understanding Efficiency: Quantization, Batching, and Serving Strategies in LLM Energy Use [4.513690948889834]
大規模言語モデル(LLM)はますます本番環境に配備され、計算資源やエネルギー需要の負担をトレーニングから推論へとシフトさせるのに寄与している。
我々は,同じモデルにおけるエネルギー消費のオーダー・オブ・マグニチュードの違いを,Emphsystemレベルの設計選択がいかに引き起こすかを示す。
我々の発見は、よりグリーンなAIサービスのための位相認識エネルギープロファイリングとシステムレベルの最適化を動機付けている。
論文 参考訳（メタデータ） (2026-01-29T22:16:25Z) - Residual Power Flow for Neural Solvers [0.0]
本研究は,Residual Power Flow (RPF) の定式化を提案する。
RPFはKirchhoffの法則に基づいて残関数を定式化し、操作条件の不実現性を定量化する。
ニューラルソルバを用いてRPFを学習し、その速度を活用することを提案する。
運用上の課題を解決するため、予測-仮説-最適化(PO)アプローチでニューラルソルバを統合する。
論文 参考訳（メタデータ） (2026-01-14T14:56:25Z) - Test Time Training for AC Power Flow Surrogates via Physics and Operational Constraint Refinement [11.02886935871606]
機械学習(ML)技術に基づくパワーフロー計算は、従来の数値法よりも計算上の優位性が高い。
本稿では,MLベースのPFサロゲートの精度と実現性を高める物理インフォームドテストタイムトレーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2025-11-27T11:27:54Z) - Thinking Augmented Pre-training [88.04395622064708]
拡張事前学習は、自動生成された思考軌跡でテキストを増強する普遍的な方法論である。
本稿では,既存のテキストデータを思考トラジェクトリで拡張することにより,大規模言語モデル(LLM)トレーニングのデータ効率を向上させるための,シンプルでスケーラブルなアプローチを提案する。
論文 参考訳（メタデータ） (2025-09-24T14:45:13Z) - PowerGrow: Feasible Co-Growth of Structures and Dynamics for Power Grid Synthesis [75.14189839277928]
本稿では,運用効率を維持しながら計算オーバーヘッドを大幅に削減する,共同生成フレームワークPowerGrowを提案する。
ベンチマーク設定による実験では、PowerGrowはフィデリティと多様性において、事前の拡散モデルよりも優れていた。
これは、運用上有効で現実的な電力グリッドシナリオを生成する能力を示している。
論文 参考訳（メタデータ） (2025-08-29T01:47:27Z) - Flextron: Many-in-One Flexible Large Language Model [85.93260172698398]
我々は,フレキシブルモデル展開をサポートするネットワークアーキテクチャとポストトレーニングモデル最適化フレームワークであるFlextronを紹介する。
本稿では,既存の学習用LDMをFlextronモデルに変換するための,サンプル効率のよいトレーニング手法と関連するルーティングアルゴリズムを提案する。
我々は、複数のエンドツーエンドトレーニングされた変種や他の最先端の弾性ネットワークよりも優れた性能を示し、これらは全て、オリジナルの事前訓練と比較してわずか7.63%のトークンを消費する単一の事前訓練ランで実現している。
論文 参考訳（メタデータ） (2024-06-11T01:16:10Z) - Personalized Wireless Federated Learning for Large Language Models [75.22457544349668]
大規模言語モデル(LLM)は、無線ネットワークにおいて大きな変革をもたらしている。
無線環境では、LLMのトレーニングはセキュリティとプライバシに関する重大な課題に直面している。
本稿では,無線ネットワークにおけるLLMのトレーニング段階の体系的解析を行い,事前学習,命令チューニング,アライメントチューニングを行う。
論文 参考訳（メタデータ） (2024-04-20T02:30:21Z) - Unsupervised Optimal Power Flow Using Graph Neural Networks [172.33624307594158]
グラフニューラルネットワークを用いて、要求された電力と対応するアロケーションとの間の非線形パラメトリゼーションを学習する。
シミュレーションを通して、この教師なし学習コンテキストにおけるGNNの使用は、標準解法に匹敵するソリューションにつながることを示す。
論文 参考訳（メタデータ） (2022-10-17T17:30:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。