論文の概要: This Is Taking Too Long - Investigating Time as a Proxy for Energy Consumption of LLMs

• arxiv url: http://arxiv.org/abs/2603.15699v1
• Date: Mon, 16 Mar 2026 08:26:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-18 17:42:06.89461
• Title: This Is Taking Too Long - Investigating Time as a Proxy for Energy Consumption of LLMs
• Title（参考訳）: 長すぎる - LLMのエネルギー消費のプロキシとしての時間調査-
• Abstract要約: 大規模言語モデル(LLM)のエネルギー消費は、環境安定と資源利用に悪影響を及ぼすため、懸念が高まっている。 しかし、これらのエネルギコストは、特にAPIを通じてモデルにアクセスされた場合、ユーザにとって不透明なままである。 本研究では,API ベースの LLM の関連エネルギーコストを近似するプロキシとして,推定時間の測定について検討する。
• 参考スコア（独自算出の注目度）: 9.089321870671297
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The energy consumption of Large Language Models (LLMs) is raising growing concerns due to their adverse effects on environmental stability and resource use. Yet, these energy costs remain largely opaque to users, especially when models are accessed through an API - a black box in which all information depends on what providers choose to disclose. In this work, we investigate inference time measurements as a proxy to approximate the associated energy costs of API-based LLMs. We ground our approach by comparing our estimations with actual energy measurements from locally hosted equivalents. Our results show that time measurements allow us to infer GPU models for API-based LLMs, grounding our energy cost estimations. Our work aims to create means for understanding the associated energy costs of API-based LLMs, especially for end users.
• Abstract（参考訳）: 大規模言語モデル(LLM)のエネルギー消費は、環境安定と資源利用に悪影響を及ぼすため、懸念が高まっている。 しかし、これらのエネルギーコストは、特にモデルがAPIを通してアクセスされた場合、ユーザにとって不透明なままである。 本研究では,API ベースの LLM の関連エネルギーコストを近似するプロキシとして,推定時間の測定について検討する。 提案手法は, 実測値と局所的にホストされた等価値の実際のエネルギー測定値を比較して検討する。 以上の結果から,時間測定により,APIベースのLLMのGPUモデルを推定し,エネルギーコストの見積を行うことが可能であることが示唆された。 我々の研究は、APIベースのLCMの関連エネルギーコスト、特にエンドユーザに対する理解手段を作ることを目的としています。

関連論文リスト

• Beyond FLOPs: Energy-Aware Knowledge Distillation for Sustainable LLMs on Code-Related Task [10.915684166086026]
  大規模言語モデル(LLM)は、ソフトウェア工学(SE)タスクにますます適用され、クローン検出、脆弱性予測、コードの要約といった問題に対して高い精度を達成する。 高い計算要求とエネルギー消費はサステナビリティの懸念を高め、消費者のハードウェアやリソースに制約のあるプラットフォームでの使用を妨げる。 本研究は,SEにおけるエネルギー利用知識蒸留の意義を考察し,性能を維持しつつモデル効率を向上させることを目的とした。
  論文  参考訳（メタデータ） (2026-08-18T08:41:04Z)
• The Energy Footprint of LLM-Based Environmental Analysis: LLMs and Domain Products [21.239678391166578]
  大規模言語モデル (LLMs) は、気候変動や環境研究など、ドメイン固有の用途での利用が増えている。 ドメイン固有のRAGのエネルギー消費は、直接ジェネリックLLMのエネルギー消費とどのように比べられるか? 我々は,各ワークフローを検索,生成,幻覚検査コンポーネントに分解することで,実際のユーザクエリ下でのエネルギー使用量を推定する。
  論文  参考訳（メタデータ） (2026-03-31T00:19:07Z)
• Towards Green AI: Decoding the Energy of LLM Inference in Software Development [46.879983975894135]
  AI支援ツールはソフトウェア開発にますます統合されているが、大きな言語モデル(LLM)に依存しているため、相当な計算とエネルギーコストが伴う。 モデルが入力を処理して内部表現を構築した(1)プリフィルと,(2)デコードで格納された状態を用いて出力トークンを生成する(2)プリフィルとを区別し,LCM推定エネルギー消費の位相レベル解析を行う。
  論文  参考訳（メタデータ） (2026-02-05T14:38:19Z)
• Densing Law of LLMs [81.06644243978101]
  大規模言語モデル(LLM)は人工知能のマイルストーンとして登場し、モデルのサイズが大きくなるにつれてその性能が向上する。 本稿では,異なるスケールでLLMの品質を評価するための新しい指標として,「テクトキャパシティ密度」の概念を紹介する。
  論文  参考訳（メタデータ） (2024-12-05T16:31:13Z)
• TinyML NLP Scheme for Semantic Wireless Sentiment Classification with Privacy Preservation [49.801175302937246]
  本研究は、エッジデバイスにプライバシ保護、エネルギー効率の高いNLPモデルをデプロイする際の洞察を提供する。 セマンティックスプリットラーニング(SL)を,エネルギー効率,プライバシ保護,小型機械学習(TinyML)フレームワークとして導入する。 その結果,FLの4倍,CLの約18倍の再現誤差の増加により,SLは計算能力とCO2排出量を著しく低減し,プライバシーの向上を図った。
  論文  参考訳（メタデータ） (2024-11-09T21:26:59Z)
• LLM-PBE: Assessing Data Privacy in Large Language Models [111.58198436835036]
  大規模言語モデル(LLM)は多くのドメインに不可欠なものとなり、データ管理、マイニング、分析におけるアプリケーションを大幅に進歩させた。 この問題の批判的な性質にもかかわらず、LLMにおけるデータプライバシのリスクを総合的に評価する文献は存在しない。 本稿では,LLMにおけるデータプライバシリスクの体系的評価を目的としたツールキットであるLLM-PBEを紹介する。
  論文  参考訳（メタデータ） (2024-08-23T01:37:29Z)
• Hybrid Heterogeneous Clusters Can Lower the Energy Consumption of LLM Inference Workloads [0.2389598109913753]
  大規模言語モデル(LLM)の訓練と使用には大量のエネルギーが必要である。 本稿では, LLM を運用するデータセンターにおけるエネルギー消費削減の課題に対処する。 本稿では,コストベースのスケジューリングフレームワークを用いて,ハードウェアアクセラレータ間でタスクを動的に割り当てるハイブリッドデータセンターモデルを提案する。
  論文  参考訳（メタデータ） (2024-04-25T11:24:08Z)
• Towards Greener LLMs: Bringing Energy-Efficiency to the Forefront of LLM Inference [6.68507515624183]
  大規模な言語モデルを提供するためのデータセンター拡張の最大の課題として、エネルギーの可用性が最前線に現れている。 入力,モデル,サービスレベルの合意によっては,LLM推論プロバイダがエネルギー効率を高めるために利用できるノブがいくつか存在することを示す。
  論文  参考訳（メタデータ） (2024-03-29T17:22:48Z)
• Small Models, Big Insights: Leveraging Slim Proxy Models To Decide When and What to Retrieve for LLMs [60.40396361115776]
  本稿では,スリムプロキシモデルを用いた大規模言語モデル (LLM) における知識不足を検知する新しい協調手法であるSlimPLMを提案する。 パラメータがはるかに少ないプロキシモデルを採用し、回答を回答としています。 ヒューリスティックな回答は、LLM内の既知の未知の知識と同様に、ユーザの質問に答えるために必要な知識を予測するのに使用される。
  論文  参考訳（メタデータ） (2024-02-19T11:11:08Z)
• Power Hungry Processing: Watts Driving the Cost of AI Deployment? [74.19749699665216]
  生成された多目的AIシステムは、機械学習(ML)モデルをテクノロジに構築するための統一的なアプローチを約束する。 この「一般性」の野心は、これらのシステムが必要とするエネルギー量と放出する炭素量を考えると、環境に急激なコストがかかる。 これらのモデルを用いて,代表的なベンチマークデータセット上で1,000の推論を行うのに必要なエネルギーと炭素の量として,デプロイメントコストを測定した。 本稿は、多目的MLシステムの展開動向に関する議論から締めくくり、エネルギーと排出の面でコストの増大に対して、その実用性はより意図的に重み付けされるべきである、と警告する。
  論文  参考訳（メタデータ） (2023-11-28T15:09:36Z)
• From Words to Watts: Benchmarking the Energy Costs of Large Language Model Inference [19.439683873290623]
  大規模言語モデル(LLM)は、新しい生成能力によって、最先端の最先端をはるかに超えているため、人気が高まっている。 これらのモデルには計算上の課題、特に推論に必要な計算とエネルギーのコストが伴う。
  論文  参考訳（メタデータ） (2023-10-04T17:41:59Z)
• Enhancing Energy-Awareness in Deep Learning through Fine-Grained Energy Measurement [11.37120215795946]
  本稿では,詳細なディープラーニングエネルギー消費測定のためのフレームワークであるFECoM(Fine-fine Energy Consumption Meter)を紹介する。 FECoMは、静的計測を用いて、計算負荷安定性や温度など様々な要因を考慮し、エネルギー消費をきめ細かいレベルで測定する課題に対処する。
  論文  参考訳（メタデータ） (2023-08-23T17:32:06Z)
• Counting Carbon: A Survey of Factors Influencing the Emissions of Machine Learning [77.62876532784759]
  機械学習(ML)は、モデルトレーニングプロセス中に計算を実行するためにエネルギーを使用する必要がある。 このエネルギーの生成には、使用量やエネルギー源によって、温室効果ガスの排出という観点からの環境コストが伴う。 本稿では,自然言語処理とコンピュータビジョンにおいて,95のMLモデルの炭素排出量の時間的および異なるタスクに関する調査を行う。
  論文  参考訳（メタデータ） (2023-02-16T18:35:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。