論文の概要: Double-Exponential Increases in Inference Energy: The Cost of the Race for Accuracy

• arxiv url: http://arxiv.org/abs/2412.09731v1
• Date: Thu, 12 Dec 2024 21:44:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-16 15:03:02.234493
• Title: Double-Exponential Increases in Inference Energy: The Cost of the Race for Accuracy
• Title（参考訳）: 推論エネルギーの二重指数増加:正確性競争のコスト
• Authors: Zeyu Yang, Karel Adamek, Wesley Armour,
• Abstract要約: コンピュータビジョンにおけるディープラーニングモデルは、エネルギー消費と持続可能性に対する懸念を増大させる。 1200画像ネット分類モデルの推定エネルギー消費の包括的分析を行う。 我々は、エネルギー消費に寄与する重要な要因を特定し、エネルギー効率を向上させる方法を示す。
• 参考スコア（独自算出の注目度）: 3.6731536660959985
• License:
• Abstract: Deep learning models in computer vision have achieved significant success but pose increasing concerns about energy consumption and sustainability. Despite these concerns, there is a lack of comprehensive understanding of their energy efficiency during inference. In this study, we conduct a comprehensive analysis of the inference energy consumption of 1,200 ImageNet classification models - the largest evaluation of its kind to date. Our findings reveal a steep diminishing return in accuracy gains relative to the increase in energy usage, highlighting sustainability concerns in the pursuit of marginal improvements. We identify key factors contributing to energy consumption and demonstrate methods to improve energy efficiency. To promote more sustainable AI practices, we introduce an energy efficiency scoring system and develop an interactive web application that allows users to compare models based on accuracy and energy consumption. By providing extensive empirical data and practical tools, we aim to facilitate informed decision-making and encourage collaborative efforts in developing energy-efficient AI technologies.
• Abstract（参考訳）: コンピュータビジョンにおけるディープラーニングモデルは大きな成功を収めてきたが、エネルギー消費と持続可能性に対する懸念が高まっている。 これらの懸念にもかかわらず、推論中にエネルギー効率の包括的な理解が欠如している。 本研究では,1200のイメージネット分類モデルの推定エネルギー消費を包括的に分析する。 以上の結果から,エネルギー利用の増加に伴う精度向上の急激な低下が明らかとなり,限界改善の追求における持続可能性への懸念が浮き彫りになった。 我々は、エネルギー消費に寄与する重要な要因を特定し、エネルギー効率を向上させる方法を示す。 より持続可能なAIの実践を促進するため,我々はエネルギー効率評価システムを導入し,ユーザが精度とエネルギー消費に基づいてモデルを比較することができる対話型Webアプリケーションを開発した。 広範な実証データと実用的なツールを提供することで、情報提供による意思決定を促進し、エネルギー効率のよいAI技術開発における協調的な取り組みを促進することを目指している。

関連論文リスト

• From Efficiency Gains to Rebound Effects: The Problem of Jevons' Paradox in AI's Polarized Environmental Debate [69.05573887799203]
  この議論の多くは、大きな間接効果に対処することなく直接的影響に集中している。 本稿では,Jevonsのパラドックス問題がどのようにAIに適用され,効率向上がパラドックス的に消費増加を促すかを検討する。 これらの2次の影響を理解するには、ライフサイクルアセスメントと社会経済分析を組み合わせた学際的アプローチが必要であると論じる。
  論文  参考訳（メタデータ） (2025-01-27T22:45:06Z)
• Just In Time Transformers [2.7350304370706797]
  JITtransは,エネルギー消費予測精度を大幅に向上させる,トランスフォーマー深層学習モデルである。 本研究は, エネルギー管理を革新し, 持続可能な電力システムを構築するための先進的な予測技術の可能性を明らかにするものである。
  論文  参考訳（メタデータ） (2024-10-22T10:33:00Z)
• Impact of ML Optimization Tactics on Greener Pre-Trained ML Models [46.78148962732881]
  本研究の目的は,画像分類データセットと事前学習モデルの解析,最適化モデルと非最適化モデルを比較して推論効率を向上させること,最適化の経済的影響を評価することである。 画像分類におけるPyTorch最適化手法(動的量子化、トーチ・コンパイル、局所プルーニング、グローバルプルーニング)と42のHugging Faceモデルの影響を評価するための制御実験を行った。 動的量子化は推論時間とエネルギー消費の大幅な削減を示し、大規模システムに非常に適している。
  論文  参考訳（メタデータ） (2024-09-19T16:23:03Z)
• On the Opportunities of Green Computing: A Survey [80.21955522431168]
  人工知能(AI)は数十年にわたり、技術と研究において大きな進歩を遂げてきた。 高いコンピューティングパワーの必要性は、より高い二酸化炭素排出量をもたらし、研究の公正性を損なう。 コンピューティングリソースの課題とAIの環境への影響に取り組むため、グリーンコンピューティングはホットな研究トピックとなっている。
  論文  参考訳（メタデータ） (2023-11-01T11:16:41Z)
• Watt For What: Rethinking Deep Learning's Energy-Performance Relationship [13.505163099299025]
  深層学習モデルのモデル精度と消費電力のトレードオフについて検討する。 使用電力単位当たりの精度を評価することにより、より小型でエネルギー効率の高いモデルが研究を著しく高速化できることを示す。 この研究は、より公平な研究環境に寄与し、より小さなエンティティはより大きなエンティティと効果的に競合できる。
  論文  参考訳（メタデータ） (2023-10-10T11:08:31Z)
• Building Energy Efficiency through Advanced Regression Models and Metaheuristic Techniques for Sustainable Management [3.6811136816751513]
  この研究は、建設インフラからの広範な生データを活用して、エネルギー消費パターンを明らかにする。 ラッソ回帰, 決定木, ランダムフォレストモデルを用いて, 建物のエネルギー効率とコスト削減に影響を与える要因について検討した。 メタヒューリスティックな手法を用いて決定木アルゴリズムを改良し,予測精度を向上する。
  論文  参考訳（メタデータ） (2023-05-15T01:21:42Z)
• Sustainable AIGC Workload Scheduling of Geo-Distributed Data Centers: A Multi-Agent Reinforcement Learning Approach [48.18355658448509]
  生成的人工知能の最近の進歩は、機械学習トレーニングの需要が急増し、エネルギー消費の大幅な増加によるコスト負担と環境問題を引き起こしている。 地理的に分散したクラウドデータセンタ間でのトレーニングジョブのスケジューリングは、安価で低炭素エネルギーのコンピューティング能力の使用を最適化する機会を浮き彫りにする。 本研究では,実生活におけるワークロードパターン,エネルギー価格,炭素強度を組み込んだクラウドシステムと対話することで,マルチエージェント強化学習とアクタクリティカルな手法に基づく最適協調スケジューリング戦略の学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-04-17T02:12:30Z)
• Precise Energy Consumption Measurements of Heterogeneous Artificial Intelligence Workloads [0.534434568021034]
  本稿では,異なるタイプの計算ノード上でのディープラーニングモデルの典型的な2つの応用のエネルギー消費の測定を行う。 我々のアプローチの1つの利点は、スーパーコンピュータの全ユーザーがエネルギー消費に関する情報を利用できることである。
  論文  参考訳（メタデータ） (2022-12-03T21:40:55Z)
• Compute and Energy Consumption Trends in Deep Learning Inference [67.32875669386488]
  コンピュータビジョンと自然言語処理の分野における関連モデルについて検討する。 継続的な性能向上のために、これまで予想されていたよりもエネルギー消費の軟化が見られた。
  論文  参考訳（メタデータ） (2021-09-12T09:40:18Z)
• Full-Cycle Energy Consumption Benchmark for Low-Carbon Computer Vision [31.781943982148025]
  我々は,効率的なコンピュータビジョンモデルのための最初の大規模エネルギー消費ベンチマークを示す。 モデル利用強度の異なる全サイクルエネルギー消費を明示的に評価するための新しい指標を提案する。
  論文  参考訳（メタデータ） (2021-08-30T18:22:36Z)
• Towards the Systematic Reporting of the Energy and Carbon Footprints of Machine Learning [68.37641996188133]
  我々は、リアルタイムエネルギー消費と二酸化炭素排出量を追跡するための枠組みを導入する。 エネルギー効率のよい強化学習アルゴリズムのためのリーダーボードを作成します。 炭素排出量削減とエネルギー消費削減のための戦略を提案する。
  論文  参考訳（メタデータ） (2020-01-31T05:12:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。