論文の概要: Tu(r)ning AI Green: Exploring Energy Efficiency Cascading with Orthogonal Optimizations
- arxiv url: http://arxiv.org/abs/2506.18289v1
- Date: Mon, 23 Jun 2025 04:52:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-24 19:06:36.858945
- Title: Tu(r)ning AI Green: Exploring Energy Efficiency Cascading with Orthogonal Optimizations
- Title(参考訳): Tu(r)ning AI Green: 直交最適化によるエネルギー効率カスケードの探索
- Authors: Saurabhsingh Rajput, Mootez Saad, Tushar Sharma,
- Abstract要約: 本稿では, エネルギー効率を第一級市民として, 計算集約パイプラインの基本設計として扱うことを強調する。
5つのAIパイプラインフェーズ(データ、モデル、トレーニング、システム、推論)の戦略的選択によって、カスケード効率が向上することを示す。
組み合わせによってエネルギー消費は94.6ドル%まで減少し、最適化されていないパイプラインの元々のF1スコアの95.95ドル%を維持できる。
- 参考スコア(独自算出の注目度): 2.829284162137884
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI's exponential growth intensifies computational demands and energy challenges. While practitioners employ various optimization techniques, that we refer as "knobs" in this paper, to tune model efficiency, these are typically afterthoughts and reactive ad-hoc changes applied in isolation without understanding their combinatorial effects on energy efficiency. This paper emphasizes on treating energy efficiency as the first-class citizen and as a fundamental design consideration for a compute-intensive pipeline. We show that strategic selection across five AI pipeline phases (data, model, training, system, inference) creates cascading efficiency. Experimental validation shows orthogonal combinations reduce energy consumption by up to $94.6$% while preserving $95.95$% of the original F1 score of non-optimized pipelines. This curated approach provides actionable frameworks for informed sustainable AI that balance efficiency, performance, and environmental responsibility.
- Abstract(参考訳): AIの指数的な成長は、計算要求とエネルギー課題を強化する。
本論文では、モデル効率をチューニングするために「ノブ」と呼ぶ様々な最適化手法を実践するが、これらは通常、エネルギー効率に対する組合せ効果を理解せずに、単独で適用された後続および反応性のアドホック変化である。
本稿では, エネルギー効率を第一級市民として, 計算集約パイプラインの基本設計として扱うことを強調する。
5つのAIパイプラインフェーズ(データ、モデル、トレーニング、システム、推論)の戦略的選択によって、カスケード効率が向上することを示す。
実験による検証では、直交結合はエネルギー消費を最大94.6ドル%削減し、一方、最適化されていないパイプラインのF1スコアの95.95ドル%を保存している。
このキュレートされたアプローチは、効率、パフォーマンス、環境責任のバランスをとる、情報持続可能なAIのための実行可能なフレームワークを提供する。
関連論文リスト
- Pathway-based Progressive Inference (PaPI) for Energy-Efficient Continual Learning [0.0]
継続的な学習システムは、エネルギー効率を維持しながら破滅的な忘れ込みを防ぐという2つの課題に直面している。
本稿では,これらの課題に対処する理論的枠組みであるPathway-based Progressive Inference (PaPI)を紹介する。
理論解析の結果,PaPIは安定性と塑性のトレードオフにおいて$mathcalO(K)$の改善を達成している。
論文 参考訳(メタデータ) (2025-06-21T22:50:01Z) - Energy Considerations of Large Language Model Inference and Efficiency Optimizations [28.55549828393871]
大規模言語モデル(LLM)の規模と採用が拡大するにつれて、その計算と環境コストは上昇し続けている。
多様なNLPおよびAIワークロードにまたがる共通推論効率最適化のエネルギー含意を系統的に分析する。
本研究により, 推定効率最適化の適切な適用により, 最適化されていないベースラインから最大73%のエネルギー使用量を削減できることが判明した。
論文 参考訳(メタデータ) (2025-04-24T15:45:05Z) - Synergistic Development of Perovskite Memristors and Algorithms for Robust Analog Computing [53.77822620185878]
本稿では,ペロブスカイト・メムリスタの製作を同時に最適化し,ロバストなアナログDNNを開発するための相乗的手法を提案する。
BO誘導ノイズインジェクションを利用したトレーニング戦略であるBayesMultiを開発した。
我々の統合されたアプローチは、より深くより広いネットワークでのアナログコンピューティングの使用を可能にし、最大100倍の改善を実現します。
論文 参考訳(メタデータ) (2024-12-03T19:20:08Z) - Green AI in Action: Strategic Model Selection for Ensembles in Production [2.464194460689648]
複数のモデルからの予測を1つの予測に組み合わせたアンサンブル学習は、累積エネルギー消費によってこの問題を強化する。
本稿では,AI アンサンブルシステムにおいて,AI モデルの精度とエネルギー消費のバランスをとることの課題に対処する,モデル選択のための新しいアプローチを提案する。
論文 参考訳(メタデータ) (2024-05-21T18:57:43Z) - PYRA: Parallel Yielding Re-Activation for Training-Inference Efficient Task Adaptation [61.57833648734164]
本稿では, PYRA(Parallel Yielding Re-Activation)法を提案する。
PYRAは低圧縮率と高圧縮率の両方で競合する全ての手法より優れている。
論文 参考訳(メタデータ) (2024-03-14T09:06:49Z) - Interpretable Deep Reinforcement Learning for Optimizing Heterogeneous
Energy Storage Systems [11.03157076666012]
エネルギー貯蔵システム(ESS)はエネルギー市場において重要な要素であり、エネルギー供給者と消費者の両方に役立っている。
エネルギー市場におけるESSの柔軟性を高めるために、異種太陽光発電(PV-ESS)を提案する。
我々は、現実のシナリオを反映して、劣化、資本、運用・保守コストを考慮した包括的コスト関数を開発する。
論文 参考訳(メタデータ) (2023-10-20T02:26:17Z) - Model-based Causal Bayesian Optimization [74.78486244786083]
乗算重み付き因果ベイズ最適化のための最初のアルゴリズム(CBO-MW)を提案する。
グラフ関連の量に自然に依存するCBO-MWに対する後悔の限界を導出する。
我々の実験は、共有モビリティシステムにおいて、ユーザの需要パターンを学習するためにCBO-MWをどのように使用できるかの現実的なデモを含む。
論文 参考訳(メタデータ) (2023-07-31T13:02:36Z) - Uncovering Energy-Efficient Practices in Deep Learning Training:
Preliminary Steps Towards Green AI [8.025202812165412]
我々は、エネルギー消費を精度に等しい重要性の指標とみなし、無関係なタスクやエネルギー使用量を減らす。
持続可能性の観点から深層学習パイプラインの訓練段階について検討する。
ディープラーニングモデルをトレーニングするための革新的で有望なエネルギー効率のプラクティスを強調します。
論文 参考訳(メタデータ) (2023-03-24T12:48:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。