論文の概要: A principled approach for energy-efficient training via phase-aware GPU frequency tuning
- arxiv url: http://arxiv.org/abs/2609.24205v1
- Date: Mon, 21 Sep 2026 07:20:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:01.141812
- Title: A principled approach for energy-efficient training via phase-aware GPU frequency tuning
- Title(参考訳): 位相認識型GPU周波数チューニングによるエネルギー効率向上のための一原理的アプローチ
- Abstract要約: 本稿では,相認識型動的適応型GPU周波数チューニングシステムPAFTについて述べる。
12種類の広く使用されているモデルで実施された実験では、PAFTは全てのベースラインを一貫して上回り、平均4%のオーバーヘッドで最大46%の省エネを実現している。
- 参考スコア(独自算出の注目度): 0.28106259549258145
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modern AI model training imposes unprecedented computational demands, making it a key contributor to datacenter energy consumption. Yet a significant fraction of the energy consumed during training does not translate to useful computation due to bottlenecks throughout the training pipeline. We present PAFT, a phase-aware, dynamically adaptable GPU frequency tuning system that reduces energy consumption of training workloads with minimal performance overhead. The key insight behind PAFT is that bottlenecks represent an energy optimization opportunity, rather than purely a performance problem: when GPUs are bound to stall, PAFT opportunistically reduces their clock frequencies to match the pace of bottlenecked devices, saving energy without impacting execution time. PAFT achieves this by continuously monitoring pipeline behavior and applying fine-grained frequency adjustments, adapting to workload and system changes. Experiments conducted on twelve widely used models show that PAFT consistently outperforms all baselines, achieving energy savings of up to 46% with an average overhead of 4%.
- Abstract(参考訳): 現代のAIモデルトレーニングは、前例のない計算要求を課し、データセンターのエネルギー消費に重要な貢献をする。
しかし、トレーニング中に消費されるエネルギーのかなりの部分は、トレーニングパイプライン全体のボトルネックのために有用な計算に変換されない。
本稿では,相認識型動的適応型GPU周波数チューニングシステムPAFTについて述べる。
PAFTの背景にある重要な洞察は、ボトルネックは純粋にパフォーマンスの問題ではなく、エネルギー最適化の機会を表しているということだ。
PAFTはパイプラインの動作を継続的に監視し、きめ細かい周波数調整を適用し、ワークロードやシステム変更に適応することでこれを実現している。
12種類の広く使用されているモデルで実施された実験では、PAFTは全てのベースラインを一貫して上回り、平均4%のオーバーヘッドで最大46%の省エネを実現している。
関連論文リスト
- Empowering On-Device Model Adaptation with an Edge AI Inference Accelerator [43.8008779739425]
オンデバイスモデル適応は、リソース制約のあるハードウェア上で生涯のパーソナライズを可能にするために不可欠だが、計算、電力、メモリ制限は、現代のディープニューラルネットワークではエンドツーエンドのバックプロパゲーションを非現実的にする。
この研究は、デバイス上でのトレーニング中にフリーズバックボーン特徴抽出のために、商用エッジAI推論アクセラレータであるHairo-8Lを再利用した異種適応パイプラインを提案する。
論文 参考訳(メタデータ) (2026-07-20T16:02:58Z) - Flash-GRPO: Efficient Alignment for Video Diffusion via One-Step Policy Optimization [69.03519018775779]
グループ相対政策最適化は、ビデオ拡散モデルと人間の嗜好の整合に不可欠である。
既存の効率の手法は、最適化を妥協し、深刻な不安定を示し、完全な軌道性能に到達できなかった。
Flash-GRPOは,低計算予算下でのアライメント品質において,完全な軌道学習よりも優れた1ステップのトレーニングフレームワークである。
論文 参考訳(メタデータ) (2026-05-15T14:13:39Z) - Reducing Compute Waste in LLMs through Kernel-Level DVFS [0.4747334911695324]
我々は、新しい周波数構成を探求するカーネルレベルのDVFSアプローチを提案し、これらが従来のパスレベルやイテレーションレベルのソリューションよりも省エネであることを証明した。
GPT-3のトレーニングでは、パスレベルアプローチは(性能を損なわずに)エネルギー消費を2%削減するが、カーネルレベルのアプローチは最大14.6%削減できる。
論文 参考訳(メタデータ) (2026-01-13T13:26:57Z) - Decorrelation Speeds Up Vision Transformers [0.6924349411126935]
Masked Autoencoder (MAE) pre-training of vision transformer (ViTs) は低ラベル方式では高い性能を示すが、かなりの計算コストが伴う。
我々は,各層における入力相関を反復的に低減し,収束を加速する最適化手法であるMAEプレトレーニングにDBP(Decorrelated Backpropagation)を統合することで,この問題に対処する。
ADE20KファインチューニングによるImageNet-1K事前トレーニングでは、DBP-MAEはウォールタイム時間を21.1%減らし、二酸化炭素排出量を21.4%減らし、セグメンテーションmIoUを1.1.1改善する。
論文 参考訳(メタデータ) (2025-10-16T13:13:12Z) - Energy-Efficient Federated Learning for Edge Real-Time Vision via Joint Data, Computation, and Communication Design [43.89869891417806]
無線エッジデバイスにおけるリアルタイムコンピュータビジョン(CV)アプリケーションは、エネルギー効率とプライバシ保護の学習を必要とする。
信頼できない無線ネットワーク上でのリアルタイムCVのための超エネルギー効率FLフレームワークであるFedDPQを提案する。
論文 参考訳(メタデータ) (2025-08-03T13:05:11Z) - AGFT: An Adaptive GPU Frequency Tuner for Real-Time LLM Inference Optimization [3.7086562665861464]
我々は、オンライン強化学習を用いて最適な周波数調整ポリシーを自律的に学習するフレームワークであるAGFT(An Adaptive GPU Frequency Tuner)を提案する。
AGFTは、パフォーマンス遅延のオーバーヘッドを10%以下に抑えながら、44.3%のGPUエネルギー消費を削減できたことを示す。
論文 参考訳(メタデータ) (2025-08-03T13:02:07Z) - Online Energy Optimization in GPUs: A Multi-Armed Bandit Approach [15.28157695259566]
エネルギー消費は、将来のコンピューティングアーキテクチャの開発において重要な設計基準と制限要因となっている。
本稿では,HPCシナリオにおけるGPUのための新しい,実用的なオンラインエネルギー最適化問題について検討する。
EnergyUCBは、GPUコア周波数をリアルタイムで動的に調整し、パフォーマンスへの影響を最小限に抑えるように設計されている。
論文 参考訳(メタデータ) (2024-10-03T17:05:34Z) - EdgeOL: Efficient in-situ Online Learning on Edge Devices [51.86178757050963]
予測精度、微調整実行時間、エネルギー効率を最適化するエッジオンライン学習フレームワークであるEdgeOLを提案する。
実験結果から、EdgeOLは、全体の微調整実行時間を64%削減し、エネルギー消費を52%削減し、オンラインの即時学習戦略よりも平均推定精度を1.75%向上させることがわかった。
論文 参考訳(メタデータ) (2024-01-30T02:41:05Z) - BottleFit: Learning Compressed Representations in Deep Neural Networks
for Effective and Efficient Split Computing [48.11023234245863]
圧縮速度が強い場合でも高い精度を達成するための新しいトレーニング戦略を含む,BottleFitと呼ばれる新しいフレームワークを提案する。
BottleFitは77.1%のデータ圧縮を実現し、ImageNetデータセットでは最大で0.6%の精度でロスする。
本稿では,BottleFitが消費電力とレイテンシを最大で49%,(w.r.t.)ローカルコンピューティングでは89%,エッジオフロードでは37%,W.r.t.エッジオフロードでは55%削減することを示した。
論文 参考訳(メタデータ) (2022-01-07T22:08:07Z) - Dynamic GPU Energy Optimization for Machine Learning Training Workloads [9.156075372403421]
GPOEOは、機械学習トレーニングワークロードのための、オンラインGPUエネルギ最適化フレームワークである。
オンライン計測、多目的予測モデリング、探索最適化に新しい手法を採用している。
NVIDIAのデフォルトのスケジューリング戦略と比較すると、GPOEOは平均エネルギーを16.2%削減し、平均実行時間は5.1%増加した。
論文 参考訳(メタデータ) (2022-01-05T16:25:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。