論文の概要: Green AI in Action: Strategic Model Selection for Ensembles in Production
- arxiv url: http://arxiv.org/abs/2405.17451v1
- Date: Tue, 21 May 2024 18:57:43 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-02 14:20:20.430257
- Title: Green AI in Action: Strategic Model Selection for Ensembles in Production
- Title(参考訳): Green AI in Action: 生産におけるアンサンブルのための戦略的モデル選択
- Authors: Nienke Nijkamp, June Sallou, Niels van der Heijden, Luís Cruz,
- Abstract要約: 複数のモデルからの予測を1つの予測に組み合わせたアンサンブル学習は、累積エネルギー消費によってこの問題を強化する。
本稿では,AI アンサンブルシステムにおいて,AI モデルの精度とエネルギー消費のバランスをとることの課題に対処する,モデル選択のための新しいアプローチを提案する。
- 参考スコア(独自算出の注目度): 2.464194460689648
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Integrating Artificial Intelligence (AI) into software systems has significantly enhanced their capabilities while escalating energy demands. Ensemble learning, combining predictions from multiple models to form a single prediction, intensifies this problem due to cumulative energy consumption. This paper presents a novel approach to model selection that addresses the challenge of balancing the accuracy of AI models with their energy consumption in a live AI ensemble system. We explore how reducing the number of models or improving the efficiency of model usage within an ensemble during inference can reduce energy demands without substantially sacrificing accuracy. This study introduces and evaluates two model selection strategies, Static and Dynamic, for optimizing ensemble learning systems performance while minimizing energy usage. Our results demonstrate that the Static strategy improves the F1 score beyond the baseline, reducing average energy usage from 100\% from the full ensemble to 6\2%. The Dynamic strategy further enhances F1 scores, using on average 76\% compared to 100% of the full ensemble. Moreover, we propose an approach that balances accuracy with resource consumption, significantly reducing energy usage without substantially impacting accuracy. This method decreased the average energy usage of the Static strategy from approximately 62\% to 14\%, and for the Dynamic strategy, from around 76\% to 57\%. Our field study of Green AI using an operational AI system developed by a large professional services provider shows the practical applicability of adopting energy-conscious model selection strategies in live production environments.
- Abstract(参考訳): 人工知能(AI)をソフトウェアシステムに統合することは、エネルギー需要を増大させながら、その能力を大幅に強化した。
複数のモデルからの予測を1つの予測に組み合わせたアンサンブル学習は、累積エネルギー消費によってこの問題を強化する。
本稿では,AI アンサンブルシステムにおいて,AI モデルの精度とエネルギー消費のバランスをとることの課題に対処する,モデル選択のための新しいアプローチを提案する。
提案手法では,モデル数を削減するか,あるいはアンサンブル内でのモデル使用効率を向上させることで,精度を著しく損なうことなく,エネルギー需要を抑える方法について検討する。
本研究では,エネルギー使用量を最小限に抑えつつ,アンサンブル学習システムの性能を最適化するためのモデル選択戦略である静的と動的の2つを紹介し,評価する。
以上の結果から,静的戦略はF1スコアをベースラインを超えて改善し,全アンサンブルから平均エネルギー使用量を100 %から6 2%に削減した。
ダイナミック戦略はF1スコアをさらに強化し、全アンサンブルの100%に対して平均76\%を使用する。
また,資源消費と精度のバランスを保ち,エネルギー消費を著しく削減する手法を提案する。
この方法では, 静的戦略の平均エネルギー使用量を62 %から14 %に減らし, 動的戦略では76 %から57 %に減らした。
大規模プロフェッショナルサービスプロバイダが開発した運用AIシステムを用いたグリーンAIのフィールドスタディでは,実運用環境におけるエネルギーを考慮したモデル選択戦略の適用性を示した。
関連論文リスト
- E-QUARTIC: Energy Efficient Edge Ensemble of Convolutional Neural Networks for Resource-Optimized Learning [9.957458251671486]
Convolutional Neural Networks(CNN)のようなモデルを組み立てると、メモリとコンピューティングのオーバーヘッドが高くなり、組み込みシステムへのデプロイが妨げられる。
人工知能(AI)をベースとした組込みシステムを対象としたCNNのアンサンブルを構築するための,新しいエネルギー効率の良いエッジ組立フレームワークであるE-QUARTICを提案する。
論文 参考訳(メタデータ) (2024-09-12T19:30:22Z) - AI-Driven Approaches for Optimizing Power Consumption: A Comprehensive Survey [0.0]
電力最適化が重要である主な理由は、環境効果の低減、運転コストの低減、安定的で持続可能なエネルギー供給である。
電力最適化と人工知能(AI)の統合は、エネルギーの生成、使用、分散の方法を変えるために不可欠である。
AI駆動のアルゴリズムと予測分析によって、電力使用傾向のリアルタイム監視と分析が可能になる。
論文 参考訳(メタデータ) (2024-06-22T04:42:37Z) - Towards Physical Plausibility in Neuroevolution Systems [0.276240219662896]
人工知能(AI)モデル、特にディープニューラルネットワーク(DNN)の利用の増加は、トレーニングや推論における消費電力を増加させている。
本研究は機械学習(ML)におけるエネルギー消費の増大問題に対処する。
電力使用量をわずかに削減しても、大幅な省エネ、ユーザ、企業、環境に恩恵をもたらす可能性がある。
論文 参考訳(メタデータ) (2024-01-31T10:54:34Z) - An Energy-Aware Approach to Design Self-Adaptive AI-based Applications
on the Edge [42.462246527457594]
我々は、自己適応型AIベースのアプリケーションの設計と展開にエネルギーを意識したアプローチを提案する。
本稿では,メタヒューリスティックな探索手順でシステムに自己適応できる構成の集合を決定する問題に対処する。
その結果、我々の自己適応型アプリケーションは、最大81%のエネルギーを節約し、2%から6%の精度で、非適応型ベースライン構成を上回ります。
論文 参考訳(メタデータ) (2023-08-31T09:33:44Z) - A Comparative Study of Machine Learning Algorithms for Anomaly Detection
in Industrial Environments: Performance and Environmental Impact [62.997667081978825]
本研究は,環境の持続可能性を考慮した高性能機械学習モデルの要求に応えることを目的としている。
Decision TreesやRandom Forestsといった従来の機械学習アルゴリズムは、堅牢な効率性とパフォーマンスを示している。
しかし, 資源消費の累積増加にもかかわらず, 最適化された構成で優れた結果が得られた。
論文 参考訳(メタデータ) (2023-07-01T15:18:00Z) - Sustainable AIGC Workload Scheduling of Geo-Distributed Data Centers: A
Multi-Agent Reinforcement Learning Approach [48.18355658448509]
生成的人工知能の最近の進歩は、機械学習トレーニングの需要が急増し、エネルギー消費の大幅な増加によるコスト負担と環境問題を引き起こしている。
地理的に分散したクラウドデータセンタ間でのトレーニングジョブのスケジューリングは、安価で低炭素エネルギーのコンピューティング能力の使用を最適化する機会を浮き彫りにする。
本研究では,実生活におけるワークロードパターン,エネルギー価格,炭素強度を組み込んだクラウドシステムと対話することで,マルチエージェント強化学習とアクタクリティカルな手法に基づく最適協調スケジューリング戦略の学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-04-17T02:12:30Z) - Uncovering Energy-Efficient Practices in Deep Learning Training:
Preliminary Steps Towards Green AI [8.025202812165412]
我々は、エネルギー消費を精度に等しい重要性の指標とみなし、無関係なタスクやエネルギー使用量を減らす。
持続可能性の観点から深層学習パイプラインの訓練段階について検討する。
ディープラーニングモデルをトレーニングするための革新的で有望なエネルギー効率のプラクティスを強調します。
論文 参考訳(メタデータ) (2023-03-24T12:48:21Z) - Learning to Continuously Optimize Wireless Resource in a Dynamic
Environment: A Bilevel Optimization Perspective [52.497514255040514]
この研究は、データ駆動メソッドが動的環境でリソース割り当て戦略を継続的に学び、最適化することを可能にする新しいアプローチを開発しています。
学習モデルが新たなエピソードに段階的に適応できるように、連続学習の概念を無線システム設計に組み込むことを提案する。
我々の設計は、異なるデータサンプルにまたがる公平性を保証する、新しい二段階最適化定式化に基づいている。
論文 参考訳(メタデータ) (2021-05-03T07:23:39Z) - Reinforcement Learning for Minimizing Age of Information in Real-time
Internet of Things Systems with Realistic Physical Dynamics [158.67956699843168]
本稿では,インターネット・オブ・モノ(IoT)デバイスにおける情報量(AoI)と総エネルギー消費の重み付けを最小化する問題について検討する。
サンプリングポリシを最適化するために,分散強化学習手法を提案する。
PM 2.5公害の実データを用いたシミュレーションでは、提案アルゴリズムがAoIの合計を最大17.8%および33.9%削減できることが示された。
論文 参考訳(メタデータ) (2021-04-04T03:17:26Z) - Highly Efficient Salient Object Detection with 100K Parameters [137.74898755102387]
そこで我々は,段階内および複数ステージのマルチスケール機能を効率的に活用するために,フレキシブルな畳み込みモジュールであるOctoConv(gOctConv)を提案する。
我々は、非常に軽量なモデル、すなわちCSNetを構築し、一般的なオブジェクト検出ベンチマークで、約0.2%(100k)の大規模モデルで同等のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2020-03-12T07:00:46Z) - Multi-Agent Meta-Reinforcement Learning for Self-Powered and Sustainable
Edge Computing Systems [87.4519172058185]
エッジコンピューティング機能を有するセルフパワー無線ネットワークの効率的なエネルギー分配機構について検討した。
定式化問題を解くために,新しいマルチエージェントメタ強化学習(MAMRL)フレームワークを提案する。
実験の結果、提案されたMAMRLモデルは、再生不可能なエネルギー使用量を最大11%削減し、エネルギーコストを22.4%削減できることが示された。
論文 参考訳(メタデータ) (2020-02-20T04:58:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。