論文の概要: LLM-PowerTrace: A Dataset of Time-Resolved GPU Power Traces for AI Compute

• arxiv url: http://arxiv.org/abs/2610.38315v1
• Date: Wed, 28 Oct 2026 05:58:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:09.957441
• Title: LLM-PowerTrace: A Dataset of Time-Resolved GPU Power Traces for AI Compute
• Title（参考訳）: LLM-PowerTrace:AIコンピューティングのための時間分解GPUパワートレースのデータセット
• Abstract要約: LLM-PowerTraceは、AIの微調整と推論のための、時間分解されたGPU毎のパワートレースのオープンデータセットである。 完全なワークロードとシステムメタデータを組み合わせて、さまざまなNVIDIAプラットフォーム上で100,ms毎にサンプリングされる。 推論には、時間スケール、GPU周波数、KVキャッシュと重み量子化、プロンプトと出力の長さ、リクエスト順パターンのバリエーションがカバーされている。
• 参考スコア（独自算出の注目度）: 20.389954385865423
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI compute is becoming large and fast-changing electrical loads. Its impacts on data center infrastructure and power grids depend not only on total energy consumption, but also on how their power draw moves over sub-second to minute timescales, including peaks, ramps, and synchronized fluctuations across accelerators. Existing energy benchmarks for large language models (LLMs) report aggregate quantities such as joules per token and rarely release the underlying time-series measurements, leaving these power dynamics poorly characterized and difficult to model. We introduce LLM-PowerTrace, an open dataset of time-resolved, per-GPU power traces for LLM fine-tuning and inference, sampled every 100\,ms on varying NVIDIA platforms paired with complete workload and system metadata. For fine-tuning, LLM-PowerTrace profiles open model families spanning a wide range of model sizes and fine-tuning methods, together with controlled sweeps over batch size, sequence length, precision, parallelism, and checkpointing. For inference, it covers variations in concurrency, GPU frequency, KV-cache and weight quantization, prompt and output lengths, and request-arrival patterns. LLM-PowerTrace profiles a set of open model families across a wide range of model sizes, and controlled sweeps over batch size, sequence length, precision, parallelism, and checkpointing for fine-tuning, and it sweeps concurrency, GPU frequency, KV cache and weight quantization, prompt and output lengths, and request arrival patterns for inference. Built upon power traces, we define power-grid-facing metrics as well as AI-compute power\&energy scaling law for extrapolating beyond the measured settings. Together, LLM-PowerTrace provides a dataset foundation for modeling, forecasting, and managing the fast-changing electrical behavior of AI compute.
• Abstract（参考訳）: AI計算は、大きくて高速に変化する電気負荷になりつつある。 データセンターのインフラや電力網への影響は、総エネルギー消費だけでなく、ピーク、ランプ、加速器間の同期変動など、その電力が秒単位から分単位の時間スケールでどのように動くかにも依存する。 既存の大規模言語モデル(LLMs)のエネルギーベンチマークでは、トークンごとのジュールなどの集約量を報告し、基礎となる時系列測定を公表することは滅多になく、これらのパワーダイナミクスは貧弱でモデル化が難しいままである。 LLMファインチューニングと推論のための,タイムリゾルドとGPU毎のパワートレースのオープンデータセットであるLLM-PowerTraceを紹介した。 微調整のために、LLM-PowerTraceプロファイルは、幅広いモデルサイズと微調整メソッドにまたがるモデルファミリを開き、バッチサイズ、シーケンス長、精度、並列性、チェックポインティングを制御できる。 推論には、並行処理、GPU周波数、KVキャッシュと重み量子化、プロンプトと出力の長さ、リクエスト順パターンのバリエーションがカバーされている。 LLM-PowerTraceは、さまざまなモデルサイズにわたるオープンモデルファミリのセットをプロファイルし、バッチサイズ、シーケンス長、精度、並列性、チェックポインティングによる微調整のためのスイープを制御し、並列性、GPU周波数、KVキャッシュと重み量子化、プロンプトと出力長、推論のための到着パターンをスイープする。 パワートレースに基づいて、測定された設定を超えて外挿するためのAI計算パワー/エネルギースケーリング法と同様に、パワーグリッド対応メトリクスを定義します。 LLM-PowerTraceは、AIコンピューティングの高速な電気的振る舞いをモデリング、予測、管理するためのデータセット基盤を提供する。

関連論文リスト

• From Tokens to Watt-hours: Analytical Energy Estimation for LLM Inference on Modern GPUs [6.041312734387813]
  本報告では,NVIDIA H100級加速器の大規模言語モデル (LLM) 推定エネルギーを直接測定せずに推定するための,解析的,実験的に校正されたGPUレベルの手法を提案する。 提案手法は,FP16/BF16テンソルコア計算と高帯域幅メモリ動作のためのパラメータスケール変換器FLOP会計,メモリトラヒック係数,ハードウェア固有のエネルギー係数を組み合わせた。 この手法はさらに、総エネルギーを計算、パラメータアクセス、キー-値-キャッシュ書き込み、および注意-読み取りコンポーネントに分解し、モデルサイズ、コンテキスト長、生成トーケン数によるスケーリング動作を可能にする。
  論文  参考訳（メタデータ） (2026-07-29T07:50:55Z)
• PALS: Power-Aware LLM Serving for Mixture-of-Experts Models [7.28734124763028]
  大規模言語モデル(LLM)推論は、現代のデータセンターで支配的なワークロードとなっている。 我々は、GPUパワーキャップを一級制御ノブとして扱うLPMサービスPALSのためのパワーアウェアランタイムを提案する。 PALSはエネルギー効率を最大26.3%改善し、電力制約下ではランタイム違反を4倍から7倍に減らし、動的電力予算を追跡する。
  論文  参考訳（メタデータ） (2026-05-20T17:19:20Z)
• TimeLens: Rethinking Video Temporal Grounding with Multimodal LLMs [81.78017865436816]
  我々は,映像の時間的接地能力の強いMLLMを体系的に構築するTimeLensを提案する。 まず,既存のVTGベンチマークにおける重要な品質問題を明らかにし,TimeLens-Benchを導入する。 また、自動再アノテーションパイプラインを通じてノイズの多いトレーニングデータに対処し、大規模で高品質なトレーニングデータセットであるTimeLens-100Kを出力します。
  論文  参考訳（メタデータ） (2025-12-16T18:59:58Z)
• TokenPowerBench: Benchmarking the Power Consumption of LLM Inference [14.228868717031704]
  大規模言語モデル(LLM)サービスが1日に数十億のクエリに応答する。 推論は訓練ではなく、総消費電力の90%以上を占める。 本稿では, LLM-inference power consumption study のために設計された最初の軽量ベンチマークであるTokenPowerBenchを紹介する。
  論文  参考訳（メタデータ） (2025-12-02T18:50:17Z)
• Characterizing the Efficiency of Distributed Training: A Power, Performance, and Thermal Perspective [6.51239603014107]
  大規模言語モデル(LLM)は、単一ノード分析の限界を超えて、トレーニングワークロードを推し進めている。 様々な実世界のワークロードとハードウェアプラットフォームにわたるLLMトレーニングの包括的特徴について述べる。
  論文  参考訳（メタデータ） (2025-09-12T16:05:07Z)
• PLM: Efficient Peripheral Language Models Hardware-Co-Designed for Ubiquitous Computing [48.30406812516552]
  我々は、モデルアーキテクチャとエッジシステムの制約を協調的に最適化する共同設計プロセスを通じて開発された、周辺言語モデルであるPLMを紹介する。 PLMはMulti-head Latent Attentionメカニズムを採用し、正方形ReLUアクティベーション機能を採用してスパーシティを促進し、ピークメモリフットプリントを減少させる。 評価の結果, PLMは, 公開されているデータに基づいて訓練された既存の小言語モデルよりも優れていた。
  論文  参考訳（メタデータ） (2025-03-15T15:11:17Z)
• Predictable Scale: Part I, Step Law -- Optimal Hyperparameter Scaling Law in Large Language Model Pretraining [59.369484219304866]
  我々は100兆のトークンをスクラッチから3,700以上の大規模言語モデル(LLM)に対する前例のない経験的調査訓練を実施している。 ステップ法則(ステップ法)と呼ばれる,LLM事前学習におけるハイパーパラメータ最適化のための普遍的スケーリング法則を確立する。 我々の推定オプティマは, 排他的探索によって得られた世界最高の性能から, テストセットの0.094%しか逸脱しない。
  論文  参考訳（メタデータ） (2025-03-06T18:58:29Z)
• Evaluating the Generalization Ability of Quantized LLMs: Benchmark, Analysis, and Toolbox [46.39670209441478]
  大規模言語モデル(LLM)は、複数のシナリオでエキサイティングな進歩を見せている。 メモリフットプリントと推論コストを削減する効果的な方法として、量子化は低ビット幅での性能劣化にも直面する。 この研究は、評価システム、詳細な分析、一般的なツールボックスを含む、この研究トピックのための包括的なベンチマークスイートを提供する。
  論文  参考訳（メタデータ） (2024-06-15T12:02:14Z)
• Enabling High-Sparsity Foundational Llama Models with Efficient Pretraining and Deployment [56.44025052765861]
  大規模言語モデル(LLM)は自然言語処理(NLP)に革命をもたらしたが、そのサイズは計算のボトルネックを生み出している。 そこで本研究では,高性能LLMの高精度かつ疎結合な基本バージョンを作成するための新しいアプローチを提案する。 スパース量子化LLaMAの最大8.6倍のCPU上での総高速化を示す。
  論文  参考訳（メタデータ） (2024-05-06T16:03:32Z)
• PARTIME: Scalable and Parallel Processing Over Time with Deep Neural Networks [68.96484488899901]
  PartIMEは、データが継続的にストリーミングされるたびにニューラルネットワークを高速化するように設計されたライブラリです。 PartIMEは、ストリームから利用可能になった時点で、各データサンプルの処理を開始する。 オンライン学習において、PartialIMEと古典的な非並列ニューラル計算を経験的に比較するために実験が行われる。
  論文  参考訳（メタデータ） (2022-10-17T14:49:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。