論文の概要: Carbon Aware Transformers Through Joint Model-Hardware Optimization

• arxiv url: http://arxiv.org/abs/2505.01386v2
• Date: Thu, 08 May 2025 22:21:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-12 12:48:53.970103
• Title: Carbon Aware Transformers Through Joint Model-Hardware Optimization
• Title（参考訳）: 結合型モデルハードウェア最適化によるカーボンアウェア変換器
• Authors: Irene Wang, Newsha Ardalani, Mostafa Elhoushi, Daniel Jiang, Samuel Hsia, Ekin Sumbul, Divya Mahajan, Carole-Jean Wu, Bilge Acun,
• Abstract要約: 機械学習システムの炭素フットプリント全体の定量化と最適化を行うツールが不足している。 本稿では,持続可能性駆動型MLモデルとハードウェアアーキテクチャの協調最適化を可能にする,炭素対応アーキテクチャ検索フレームワークであるCATransformersを提案する。 このフレームワークをマルチモーダルCLIPモデルに適用し,CLIPモデル群であるCarbonCLIPを最大17%削減した。
• 参考スコア（独自算出の注目度）: 6.731982787210602
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid growth of machine learning (ML) systems necessitates a more comprehensive evaluation of their environmental impact, particularly their carbon footprint, which comprises operational carbon from training and inference execution and embodied carbon from hardware manufacturing and its entire life-cycle. Despite the increasing importance of embodied emissions, there is a lack of tools and frameworks to holistically quantify and optimize the total carbon footprint of ML systems. To address this, we propose CATransformers, a carbon-aware architecture search framework that enables sustainability-driven co-optimization of ML models and hardware architectures. By incorporating both operational and embodied carbon metrics into early design space exploration of domain-specific hardware accelerators, CATransformers demonstrates that optimizing for carbon yields design choices distinct from those optimized solely for latency or energy efficiency. We apply our framework to multi-modal CLIP-based models, producing CarbonCLIP, a family of CLIP models achieving up to 17% reduction in total carbon emissions while maintaining accuracy and latency compared to state-of-the-art edge small CLIP baselines. This work underscores the need for holistic optimization methods to design high-performance, environmentally sustainable AI systems.
• Abstract（参考訳）: 機械学習(ML)システムの急速な成長は、その環境影響のより包括的な評価を必要とする。特に、トレーニングと推論実行からの運転炭素と、ハードウェア製造とそのライフサイクル全体からの実施炭素を含む炭素フットプリントである。 エボディードエミッションの重要性が増しているにもかかわらず、MLシステムの炭素フットプリント全体の定量化と最適化を行うツールやフレームワークが不足している。 そこで本研究では,持続可能性駆動型MLモデルとハードウェアアーキテクチャの協調最適化を実現する,カーボンアウェアアーキテクチャ検索フレームワークであるCATransformersを提案する。 CATransformersは、運用と実施された炭素メトリクスの両方を、ドメイン固有のハードウェアアクセラレータの初期の設計空間探索に組み込むことで、炭素の最適化が、レイテンシやエネルギー効率に最適化されたものとは異なる設計選択をもたらすことを実証している。 このフレームワークをマルチモーダルCLIPモデルに適用し,CLIPモデル群であるCarbonCLIPを作成した。 この研究は、高性能で環境に優しいAIシステムを設計するための全体最適化手法の必要性を浮き彫りにしている。

関連論文リスト

• Carbon-Efficient 3D DNN Acceleration: Optimizing Performance and Sustainability [7.059399419316343]
  3D統合はパフォーマンスを向上させるが、持続可能性の問題をもたらす。 本稿では3次元加速器の炭素効率設計手法を提案する。 提案手法は,高い計算精度を維持しつつ,シリコン面積と製造オーバーヘッドを効果的に低減する。
  論文  参考訳（メタデータ） (2025-04-14T03:48:37Z)
• AOLO: Analysis and Optimization For Low-Carbon Oriented Wireless Large Language Model Services [14.664814078159282]
  大規模言語モデル (LLM) は、エネルギー消費と炭素フットプリントの大幅な増加により、懸念が高まっている。 低炭素指向の無線LLMサービスの解析と最適化のためのフレームワークであるAOLOを提案する。 AOLOは、LLMサービスチェーン全体にわたる温室効果ガス排出量を定量化する包括的な炭素フットプリントモデルを導入している。 SNNに基づく深部強化学習(SDRL)という低炭素指向最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-03-06T13:21:38Z)
• Carbon Market Simulation with Adaptive Mechanism Design [55.25103894620696]
  炭素市場(英: carbon market)は、個人の利益をグローバルユーティリティーと整合させる経済エージェントをインセンティブとする、市場ベースのツールである。 階層型モデルフリーマルチエージェント強化学習(MARL)を用いて市場をシミュレートする適応機構設計フレームワークを提案する。 MARLは、政府エージェントが生産性、平等、二酸化炭素排出のバランスをとることができることを示している。
  論文  参考訳（メタデータ） (2024-06-12T05:08:51Z)
• Beyond Efficiency: Scaling AI Sustainably [4.711003829305544]
  現代のAIアプリケーションは、コンピューティングにおける需要を継続的に増加させてきた。 本稿では, ハードウェア製造における炭素排出量の具体化だけでなく, トレーニングおよび推論からのCO排出の操作を含む, AIの炭素影響を特徴付ける。
  論文  参考訳（メタデータ） (2024-06-08T00:07:16Z)
• Carbon-aware Software Services [3.105112058253643]
  本稿では,炭素を意識した対話型ソフトウェアサービスの実装,構成,評価を行う新しいフレームワークを提案する。 エネルギー消費の異なる代替サービスバージョンを特徴付けるために,ストラテジーデザインパターンを活用した炭素対応サービスを実装する手法を提案する。 我々は、炭素強度とサービス要求の予測に基づいて、その日の異なる時間に使用するバージョンを設定するための二段階最適化スキームを考案する。
  論文  参考訳（メタデータ） (2024-05-21T08:26:38Z)
• Generative AI for Low-Carbon Artificial Intelligence of Things with Large Language Models [67.0243099823109]
  ジェネレーティブAI(GAI)は、AIoT(Artificial Intelligence of Things)の二酸化炭素排出量を減らす大きな可能性を秘めている 本稿では, 炭素排出量削減のためのGAIの可能性について検討し, 低炭素AIoTのための新しいGAI対応ソリューションを提案する。 本稿では,Large Language Model (LLM) を利用したCO_2排出最適化フレームワークを提案し,このフレームワークにより,プラグ可能なLLMとRetrieval Augmented Generation (RAG) モジュールを設計する。
  論文  参考訳（メタデータ） (2024-04-28T05:46:28Z)
• Real-time high-resolution CO$_2$ geological storage prediction using nested Fourier neural operators [58.728312684306545]
  炭素捕獲貯蔵(CCS)は、地球規模の脱炭酸に不可欠な役割を担っている。 CCS展開のスケールアップには, 貯留層圧力上昇とガス配管マイグレーションの高精度かつ高精度なモデリングが必要である。 我々は,高分解能な3D CO2ストレージモデリングのための機械学習フレームワークであるNested Fourier Neural Operator (FNO)を,盆地スケールで導入した。
  論文  参考訳（メタデータ） (2022-10-31T04:04:03Z)
• Measuring the Carbon Intensity of AI in Cloud Instances [91.28501520271972]
  我々は,ソフトウェアの炭素強度を測定するための枠組みを提供し,運転中の炭素排出量を測定することを提案する。 私たちは、Microsoft Azureクラウドコンピューティングプラットフォームにおける排出削減のための一連のアプローチを評価します。
  論文  参考訳（メタデータ） (2022-06-10T17:04:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。