論文の概要: Cutting AI Datacenter Energy with Reinforcement Learning: Measured Power Control of LLM Training from One GPU to the Fleet
- arxiv url: http://arxiv.org/abs/2608.11226v1
- Date: Mon, 27 Jul 2026 20:51:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 01:32:04.584848
- Title: Cutting AI Datacenter Energy with Reinforcement Learning: Measured Power Control of LLM Training from One GPU to the Fleet
- Title(参考訳): 強化学習によるAIデータセンタエネルギーの削減:1つのGPUからフリートへのLLMトレーニングのパワーコントロールの測定
- Abstract要約: 7B,14B,72Bの半秒間パワーテレメトリによるGRPOトレーニングを1~4A100s(380,000以上)で実施する。
PPOメタコントローラをトレーニングし、負荷の発生パラメータを測定パワーに適応させる。
経済と炭素の結果を定量化し、低コストのパイロットを指定する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Reinforcement-learning post-training dominates modern language-model development, yet its power behavior on GPU hardware has not been characterized, and datacenters manage GPU power with workload-blind mechanisms, static caps and reactive throttling, that slow hardware indiscriminately. We instrument GRPO training with half-second power telemetry at 7B, 14B, and 72B scales on one to four A100s (380,000+ samples), and train a PPO meta-controller that adapts the workload's own generation parameters to measured power. Against the full 500-step 7B trace, the controller cuts power-limit violations by 89.8% while increasing token output by 18.1% and energy efficiency by 26.2% (tokens per MWh). Deployed live at 72B, the same controller family yields replicated null results, diagnosed as the group-size actuator losing authority under model sharding. An actuator-authority sweep shows the same parameters applied as generation concurrency retain 17-22% power authority, isolating an occupancy-versus-volume principle; a controller rebuilt on that actuator controls a live 72B rollout-generation workload across three replications: 35.7% more output than a static safe baseline at 2.27 +/- 1.08% budget violations, 87.2% fewer violations than uncontrolled operation, and the best mean throughput and energy per token among constrained controllers, with an adaptive threshold rule matching it in one of three operating conditions. Under realistic measurement windows the original 72B transients fall from 23.6% at half-second resolution to 1.6% at 30 s and zero at 5 min; a composed 16-GPU fleet shows zero violations at 30 s and longer, with peak demand at 50-56% of nameplate. For this fleet mix, roughly twofold oversubscription of nameplate appears feasible, subject to operator validation. We quantify the economic and carbon consequences and specify a low-cost operator pilot.
- Abstract(参考訳): 強化学習後の学習は、現代の言語モデル開発を支配しているが、GPUハードウェアにおけるそのパワー挙動は特徴付けられておらず、データセンターは、ハードウェアを非差別的に遅くするワークロードブラインド機構、静的キャップ、リアクティブスロットリングでGPUパワーを管理している。
7B,14B,72Bの半秒間パワーテレメトリによるGRPOトレーニングを1~4A100s (380,000+サンプル)で実施し,負荷の発生パラメータを測定パワーに適応させるPPOメタコントローラを訓練する。
500ステップの7Bの完全なトレースに対して、コントローラはパワー限界違反を89.8%削減し、トークン出力は18.1%増加し、エネルギー効率は26.2%向上した。
72Bでライブ配信された同じコントローラファミリは、モデルシャーディングの下で権限を失うグループサイズのアクチュエータと診断された、複製されたnull結果を生成する。
アクチュエーター・オーソリティ・スイープ(Actuator-authority sweep)は、ジェネレーション・コンカレンシーが17-22%の権限を保持し、占有逆ボリュームの原理を分離し、アクタレータ上に再構築されたコントローラが3つのレプリケーションで72Bのライブ・ロールアウト・ジェネレーション・ワークロードを制御する:35.7%の出力が静的安全ベースラインより2.27 +/-1.08%の予算違反、2.27 + 87.2%の違反、制御されていない操作よりも87.2%の低い違反、制約のあるコントローラ間でトークン当たりの平均スループットとエネルギーが3つの動作条件のいずれかに適合する。
実測窓の下では、オリジナルの72Bトランジェントは半秒の解像度で23.6%から、30秒で1.6%、5分で0に落ちている。
このフリートミックスでは、オペレータの検証対象として、ネームプレートのおよそ2倍のオーバーサブスクライブが実現可能である。
経済と炭素の結果を定量化し、低コストのパイロットを指定する。
関連論文リスト
- nBMS, a Neuromorphic Battery Management System with a Silicon-Validated Spiking State-of-Charge Core for eVTOL Aircraft [0.0]
イベント駆動スパイクネットワークは、時間ごとの充電状態推定のために設計されている。
システムは低コストの自動車品質のArtix-7フィールドプログラマブルゲートアレイ上に展開される。
完全なアノテート後分析では、1回の推論で1.30$Jとなり、0.5Hzのミッションケイデンスで平均0.65$Wとなる。
論文 参考訳(メタデータ) (2026-09-11T20:12:16Z) - Phase-Decoupled, Model-Calibrated Power Control for Disaggregated LLM Serving [1.249668212599889]
NVIDIAのMax-Q推論プロファイルを分離したB200システムにデプロイする。
エージェント負荷下でQwen3-Coder-480B (FP8) を提供する8x B200ノード上では、バランスの取れたモードは、+20.4%トークン/Jを+3.5%平均e2eで提供する。
論文 参考訳(メタデータ) (2026-09-10T06:23:37Z) - Multi-Domain Physics-Based MDO of Multirotor UAVs: A Deterministic Framework for Discrete COTS Sizing [1.6114012813668932]
本稿では物理に基づくマルチディシプリナ設計最適化(MDO)エンジンであるAeroEvalについて述べる。
エンジンは、連続サイズ最適化を物理的に購入可能な商用オフザシェルフ(COTS)コンポーネントにマップする。
バッテリーの質量は単パックプラットフォームで7.9%の範囲で予測される。
論文 参考訳(メタデータ) (2026-07-24T03:52:36Z) - Mach-Mind-4-Flash Technical Report [0.0]
Mach-Mind-4-Flashは3Bアクティベートパラメータを持つMixture-of-Experts (MoE)エージェントモデルである。
トレーニング後の最適化は、事前学習計算をスケーリングすることなく、100B-パラメータクラスのモデルと同等かそれ以上のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-07-10T12:57:08Z) - LocalNav: Distilling Frontier VLMs and Embodied RL for On-Device Object Goal Navigation [53.88286427894783]
視覚言語モデル(VLM)は、ロボット分野において、言語コンテキストによる環境認識を可能にする強力なツールとして登場した。
しかし、彼らの計算フットプリントは、通常、それらをクラウド実行に制限し、リソースに制約のあるロボットへのローカルなデプロイによる低レイテンシの推論を妨げる。
本稿では,大規模フロンティアモデルからの複雑な空間意味推論を,組み込みGPUデバイス上でエッジ実行を行うための軽量な4BパラメータローカルVLMに転送する蒸留戦略を提案する。
論文 参考訳(メタデータ) (2026-06-26T09:11:59Z) - Reliability-Asymmetric Spacecraft Autonomy: Co-Designing a Capable Learned GNC Stack with a Verified, Adaptation-Aware Runtime Shield [2.28438857884398]
ルールベースの自律性は認証可能であるが不安定であり、学習された自律性は能力があるが検証するのは難しい。
AMPLE-GNCは3層誘導、ナビゲーション、制御スタックである。
文法制約付き復号化による事前訓練された360Mモデルの微調整は、ハードな出力値保証を与える。
我々は,有能な制御器であっても,ラッチングセーフホールドシールドが抑制可能であることを示す。
論文 参考訳(メタデータ) (2026-06-24T03:55:21Z) - ActQuant: Sub-4-bit Action-Guided Quantization for Vision-Language-Action Models [45.62029693245481]
本稿では,アクション誘導型混合精度PTQフレームワークであるActQuantを紹介する。
ActQuant は、(1) エージェントの動作の予測にどの程度貢献するかに基づいて、各重み行列に1ビット幅を割り当てるテンソル間ビットアロケータである。
我々はまた、効率的な低ビットカーネルを持つネイティブC/C++にポートするエージェント変換パイプラインであるOmniModelも導入した。
論文 参考訳(メタデータ) (2026-05-19T19:57:26Z) - Brain-inspired spike-timing plasticity for reliable label-efficient event-camera vision [0.3823356975862005]
ローカルスパイクタイピング依存可塑性(STDP)モジュールは、GPUをサポートせずに単一のCPUスレッドで動作する。
密度勾配訓練検出器は, 勾配訓練, 密度行列乗算, 局所可塑性自由運転を建設によって組み合わせることができない。
論文 参考訳(メタデータ) (2026-05-17T22:56:16Z) - A Delta-Aware Orchestration Framework for Scalable Multi-Agent Edge Computing [0.0]
Synergistic Collapseは、100以上のエージェントをスケーリングすることで、個々の最適化が防止できない超線形パフォーマンスの低下を引き起こす。
これまでの研究は、指数的行動空間成長、空間的隣接エージェント間の計算冗長性、タスクに依存しないハードウェアスケジューリングなど、それぞれの要因に対処してきた。
1) 中間層活性化を記憶し入力デルタのみを演算する微分ニューラルキャッシング、(2) エージェントを優先度階層に整理し、調整の複雑さを O(n2) から O(n log n) へ6%未満の最適で減少させる臨界ベースのアクションスペースプラニング、の3つに同時に対処するフレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-22T02:54:35Z) - SABER: A Stealthy Agentic Black-Box Attack Framework for Vision-Language-Action Models [55.48982086345088]
SABERは、VLAモデルに対する命令ベースの敵攻撃を自動的に生成するエージェント中心のアプローチである。
SABERはタスク成功率を20.6%減らし,アクションシーケンス長を55%増し,制約違反を33%減らした。
論文 参考訳(メタデータ) (2026-03-26T01:56:01Z) - Towards a Science of Scaling Agent Systems [79.64446272302287]
エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。
協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。
ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
論文 参考訳(メタデータ) (2025-12-09T06:52:21Z) - DigiRL: Training In-The-Wild Device-Control Agents with Autonomous Reinforcement Learning [61.10299147201369]
本稿では,Wild デバイス制御エージェントをトレーニングするための新しい自律型 RL 手法である DigiRL を提案する。
VLMベースの評価器を備えた,スケーラブルで並列化可能なAndroid学習環境を構築する。
我々はAndroid-in-the-Wildデータセットを使用してDigiRLの有効性を実証し、RLでトレーニングした1.3B VLMは49.5%の絶対改善を実現した。
論文 参考訳(メタデータ) (2024-06-14T17:49:55Z) - Real-Time Model-Free Deep Reinforcement Learning for Force Control of a
Series Elastic Actuator [56.11574814802912]
最先端のロボットアプリケーションは、歩行、揚力、操作などの複雑なタスクを達成するために、閉ループ力制御を備えた連続弾性アクチュエータ(SEAs)を使用する。
モデルフリーPID制御法はSEAの非線形性により不安定になりやすい。
深層強化学習は連続制御タスクに有効なモデルレス手法であることが証明されている。
論文 参考訳(メタデータ) (2023-04-11T00:51:47Z) - Improving Efficiency in Large-Scale Decentralized Distributed Training [58.80224380923698]
通信コストを最小化しつつ、スペクトルギャップを改善して(A)D-PSGDに基づくトレーニングを加速する手法を提案する。
提案手法の有効性を示すために,2000時間Switchboard音声認識タスクとImageNetコンピュータビジョンタスクの実験を行った。
論文 参考訳(メタデータ) (2020-02-04T04:29:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。