論文の概要: The Energy Footprint of LLM-Based Environmental Analysis: LLMs and Domain Products
- arxiv url: http://arxiv.org/abs/2604.00053v1
- Date: Tue, 31 Mar 2026 00:19:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-02 16:44:31.649025
- Title: The Energy Footprint of LLM-Based Environmental Analysis: LLMs and Domain Products
- Title(参考訳): LLMによる環境分析のエネルギーフットプリント:LLMとドメイン製品
- Authors: Alicia Bao, Jiamian He, Angel Hsu, Diego Manya, Ji, Zhang,
- Abstract要約: 大規模言語モデル (LLMs) は、気候変動や環境研究など、ドメイン固有の用途での利用が増えている。
ドメイン固有のRAGのエネルギー消費は、直接ジェネリックLLMのエネルギー消費とどのように比べられるか?
我々は,各ワークフローを検索,生成,幻覚検査コンポーネントに分解することで,実際のユーザクエリ下でのエネルギー使用量を推定する。
- 参考スコア(独自算出の注目度): 21.239678391166578
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As large language models (LLMs) are increasingly used in domain-specific applications, including climate change and environmental research, understanding their energy footprint has become an important concern. The growing adoption of retrieval-augmented (RAG) systems for climate-domain specific analysis raises a key question: how does the energy consumption of domain-specific RAG workflows compare with that of direct generic LLM usage? Prior research has focused on standalone model calls or coarse token-based estimates, while leaving the energy implications of deployed application workflows insufficiently understood. In this paper, we assess the inference-time energy consumption of two LLM-based climate analysis chatbots (ChatNetZero and ChatNDC) compared to the generic GPT-4o-mini model. We estimate energy use under actual user queries by decomposing each workflow into retrieval, generation, and hallucination-checking components. We also test across different times of day and geographic access locations. Our results show that the energy consumption of domain-specific RAG systems depends strongly on their design. More agentic pipelines substantially increase inference-time energy use, particularly when used for additional accuracy or verification checks, although they may not yield proportional gains in response quality. While more research is needed to further test these initial findings more robustly across models, environments and prompting structures, this study provides a new understanding on how the design of domain-specific LLM products affects both the energy footprint and quality of output.
- Abstract(参考訳): 大きな言語モデル(LLM)は、気候変動や環境研究など、ドメイン固有の用途でますます使われているため、そのエネルギーフットプリントを理解することが重要な関心事となっている。
ドメイン固有のRAGワークフローのエネルギー消費は、直接的LLMの使用量とどのように比較されるのか?
これまでの研究では、スタンドアロンのモデル呼び出しや粗いトークンベースの見積もりに重点を置いていたが、デプロイされたアプリケーションワークフローのエネルギー的影響は十分に理解されていない。
本稿では,LLMに基づく2つの気候分析チャットボット(ChatNetZeroとChatNDC)の予測時エネルギー消費量を汎用GPT-4o-miniモデルと比較した。
我々は,各ワークフローを検索,生成,幻覚検査コンポーネントに分解することで,実際のユーザクエリ下でのエネルギー使用量を推定する。
また、日々の異なる時間と地理的アクセスの場所でもテストします。
その結果,ドメイン固有のRAGシステムのエネルギー消費は,その設計に強く依存していることがわかった。
より多くのエージェントパイプラインは、特に追加の精度や検証チェックに使用される場合において、推論時エネルギーの使用を著しく増加させるが、応答品質の比例的な利得は得られない。
モデル, 環境, 構造にまたがってこれらの初期の発見をより堅牢にテストするためには, さらなる研究が必要であるが, 本研究は, ドメイン固有のLCM製品の設計が, エネルギーフットプリントと出力の質の両方にどのように影響するかを, 新たな理解を提供する。
関連論文リスト
- Comparing energy consumption and accuracy in text classification inference [0.9208007322096533]
本研究は,テキスト分類推定におけるモデル精度とエネルギー消費のトレードオフを系統的に評価する。
精度の点で最高の性能モデルはエネルギー効率も良いが、より大きなLCMはより低い分類精度ではるかに多くのエネルギーを消費する傾向がある。
論文 参考訳(メタデータ) (2025-08-19T18:00:08Z) - Green MLOps to Green GenOps: An Empirical Study of Energy Consumption in Discriminative and Generative AI Operations [2.2765705959685234]
本研究では,実世界のMLOpsパイプラインにおける識別型および生成型AIモデルのエネルギー消費について検討する。
さまざまな構成、モデル、データセットにわたるレプリケーションの容易性を保証するために、ソフトウェアベースのパワー測定を採用しています。
論文 参考訳(メタデータ) (2025-03-31T10:28:04Z) - Can Large Language Models Simulate Human Responses? A Case Study of Stated Preference Experiments in the Context of Heating-related Choices [2.2582258282563763]
ステートド・リセプション(SP)調査は、個人が仮説的、そして未来的シナリオでトレードオフを行う方法を研究するための重要な方法である。
高価で時間を要する傾向があり、応答性疲労や倫理的制約の影響を受けやすい。
本研究では,エネルギー関連調査における消費者選択をシミュレートするための大規模言語モデル (LLM) の利用について検討した。
論文 参考訳(メタデータ) (2025-03-07T10:37:31Z) - Prompt engineering and its implications on the energy consumption of Large Language Models [4.791072577881446]
ソフトウェア工学における大規模言語モデル(LLM)は、計算資源、データセンター、二酸化炭素排出に関する深刻な問題を引き起こす。
本稿では,コード生成タスクにおけるLlama 3モデルの炭素排出に及ぼすPETの影響について検討する。
論文 参考訳(メタデータ) (2025-01-10T11:49:31Z) - Exploring Language Model Generalization in Low-Resource Extractive QA [57.14068405860034]
ドメインドリフト下でのLarge Language Models (LLM) を用いた抽出質問応答(EQA)について検討する。
性能ギャップを実証的に説明するための一連の実験を考案する。
論文 参考訳(メタデータ) (2024-09-27T05:06:43Z) - Computing Within Limits: An Empirical Study of Energy Consumption in ML Training and Inference [2.553456266022126]
機械学習(ML)は大きな進歩を遂げているが、その環境のフットプリントは依然として懸念されている。
本稿では,グリーンMLの環境影響の増大を認め,グリーンMLについて検討する。
論文 参考訳(メタデータ) (2024-06-20T13:59:34Z) - Power Hungry Processing: Watts Driving the Cost of AI Deployment? [74.19749699665216]
生成された多目的AIシステムは、機械学習(ML)モデルをテクノロジに構築するための統一的なアプローチを約束する。
この「一般性」の野心は、これらのシステムが必要とするエネルギー量と放出する炭素量を考えると、環境に急激なコストがかかる。
これらのモデルを用いて,代表的なベンチマークデータセット上で1,000の推論を行うのに必要なエネルギーと炭素の量として,デプロイメントコストを測定した。
本稿は、多目的MLシステムの展開動向に関する議論から締めくくり、エネルギーと排出の面でコストの増大に対して、その実用性はより意図的に重み付けされるべきである、と警告する。
論文 参考訳(メタデータ) (2023-11-28T15:09:36Z) - Counting Carbon: A Survey of Factors Influencing the Emissions of
Machine Learning [77.62876532784759]
機械学習(ML)は、モデルトレーニングプロセス中に計算を実行するためにエネルギーを使用する必要がある。
このエネルギーの生成には、使用量やエネルギー源によって、温室効果ガスの排出という観点からの環境コストが伴う。
本稿では,自然言語処理とコンピュータビジョンにおいて,95のMLモデルの炭素排出量の時間的および異なるタスクに関する調査を行う。
論文 参考訳(メタデータ) (2023-02-16T18:35:00Z) - Energy Drain of the Object Detection Processing Pipeline for Mobile
Devices: Analysis and Implications [77.00418462388525]
本稿では、移動体拡張現実(AR)クライアントのエネルギー消費と、畳み込みニューラルネットワーク(CNN)に基づく物体検出を行う際の検出遅延について、初めて詳細な実験を行った。
我々は,移動体ARクライアントのエネルギー分析を精査し,CNNによる物体検出を行う際のエネルギー消費に関するいくつかの興味深い視点を明らかにした。
論文 参考訳(メタデータ) (2020-11-26T00:32:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。