論文の概要: Life Cycle Assessment of Pre-training the Lucie 7B Open-Source Large Language Model on the Jean Zay Supercomputer

• arxiv url: http://arxiv.org/abs/2607.05408v1
• Date: Tue, 09 Jun 2026 13:44:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-13 07:26:11.083438
• Title: Life Cycle Assessment of Pre-training the Lucie 7B Open-Source Large Language Model on the Jean Zay Supercomputer
• Title（参考訳）: Jean Zayスーパーコンピュータを用いたLucie 7Bオープンソース大言語モデルの事前学習に関するライフサイクルアセスメント
• Abstract要約: 本稿では,OpenLLM-Franceコンソーシアムが開発したオープンソースの多言語基盤モデルであるLucie 7Bの事前学習のライフサイクルアセスメント(LCA)について述べる。 研究範囲は、データ準備からモデル検証まで拡大し、ハードウェアインフラストラクチャの全ライフサイクルを統合する。 我々はJean Zay H100パーティションにおいて,年間417.5 tCO2eqのフットプリントを報告した。
• 参考スコア（独自算出の注目度）: 0.038233569758620044
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: The environmental impact of training large language models (LLMs) is increasingly scrutinised, yet most published estimates focus on operational energy and disclose little about manufacturing (embodied) emissions, water consumption, or the underlying highperformance computing (HPC) infrastructure. We present a life cycle assessment (LCA) of the pre-training of Lucie 7B, an open-source multilingual Foundation Model developed by the OpenLLM-France consortium and trained on the NVIDIA H100 partition of the Jean Zay supercomputer operated by IDRIS (CNRS). The assessment is framed by the AFNOR SPEC 2314 "Frugal AI" reference and applies the Labos 1point5 methodology for greenhouse gas(GHG) accounting in computing. The study scope extends from data preparation to model validation, and integrates the full life cycle of the hardware infrastructure: manufacturing (including raw-material extraction), use (compute, temporary storage, system administration, cooling), and end-of-life. We report (i) an annual footprint of 417.5 tCO2eq for the Jean Zay H100 partition, split almost equally between manufacturing and operation; (ii) an effective intensity of 36.7 gCO2eq per H100 GPU-hour; (iii) a total training footprint of 21 tCO2eq for Lucie 7B (574 564 H100 GPU-hours), inclusive of amortised hardware manufacturing; (iv) on-site water consumption of approximately 76m3 for the training campaign and an annual Water Usage Effectiveness (WUE) of 0.07 L/kWh for IDRIS; (v) a heat-reuse factor (ERF) of 0.37 thanks to waste-heat recovery into the urban heating network. The study contributes one of the few publicly documented LCAs of an LLM training campaign that explicitly couples operational data with embodied emissions decomposed by subsystem (compute, storage, power chain, cooling), and discusses the implications for the design of frugal-by-construction AI systems in Europe.
• Abstract（参考訳）: 大規模言語モデル(LLM)の訓練による環境への影響は、ますます精査されているが、最も多く発表された見積もりは、運用エネルギーに焦点を当て、製造(身体的)の排出、水消費、基盤となる高性能コンピューティング(HPC)のインフラについてはほとんど明らかにしていない。 我々は,OpenLLM-Franceコンソーシアムが開発し,IDRIS(CNRS)が運用するJean ZayスーパーコンピュータのNVIDIA H100パーティションをトレーニングしたオープンソースの多言語基盤モデルであるLucie 7Bの事前学習のライフサイクルアセスメント(LCA)を提案する。 この評価は、AFNOR SPEC 2314 "Frugal AI" の基準で定式化され、コンピューティングにおける温室効果ガス(GHG)の会計に Labos 1point5 方法論を適用している。 研究範囲は、データ準備からモデル検証まで拡大し、製造(原料抽出を含む)、使用(計算、一時記憶、システム管理、冷却)、終末期といったハードウェアインフラの全ライフサイクルを統合する。 報告 (i) ジャン・ザイH100区画の年間面積417.5 tCO2eqで、製造と運用をほぼ等しく分けている。 (II)H100GPU時間当たりの有効強度36.7gCO2eq 三 ルシー7B用の21 tCO2eq(574 564 H100 GPU-hours)の総トレーニングフットプリント。 四 トレーニングキャンペーンの現場水消費量は約76m3、IDRISの年間水利用効果は0.07L/kWhである。 (v) 都市熱ネットワークへの廃熱回収による熱回収率0.37。 この研究は、LLMトレーニングキャンペーンにおいて、サブシステム(コンピュテーション、ストレージ、電源チェーン、冷却)によって分解された操作データを明示的に結合する数少ない文書化されたLCAの1つに貢献し、ヨーロッパにおけるフラガル・バイ・コンストラクション・AIシステムの設計における意味について論じている。

関連論文リスト

• JD Oxygen AI Item Center (Oxygen AIIC) V1: An Industrial-Scale LLM/VLM-Centric Solution for Item Understanding, Management, and Applications [52.23546815210647]
  本稿では,JD Oxygen AI Item Center (Oxygen AIIC) について紹介する。 酸素AIICは、(i)効率的な人間とAIのコラボレーションによって駆動されるエンジニアリング、(ii)"セマンティック検索による識別"(S2D)知識識別アーキテクチャ、(iii)自己進化的なLLM/VLMの4つの柱を中心に構築されている。 今やOxygen AIICは数万のJDカテゴリをカバーし、Huawei Ascend NPU上で1日に数億のアイテム更新を処理する。
  論文  参考訳（メタデータ） (2026-06-26T13:33:27Z)
• Accounting for AI Inference in Corporate GHG Inventories: A Four-Tier Methodology for Scope 3 Category 1 Reporting [0.0]
  AI推論サービスは、CSRD(Comporate Sustainability Reporting Directive)の下でScope 3 Category 1に該当する。 現在の慣行では、カテゴリーを完全に省略するか、ICTセクター全体に対して調整された一般的な経済的な入出力要素を適用している。 推定精度とデータ組織が現実的に得るデータとを一致させる4層フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-09T10:08:36Z)
• The Hidden Cost of Thinking: Energy Use and Environmental Impact of LMs Beyond Pretraining [59.27959962602072]
  Olmo 3は70億と32億のパラメータモデルからなるファミリーである。 モデル開発プロセスでは,12.3GWhのデータセンターエネルギーを消費し,4,251tCO2eqを放出し,15,887kLの水を消費した。
  論文  参考訳（メタデータ） (2026-05-01T23:24:23Z)
• From FLOPs to Footprints: The Resource Cost of Artificial Intelligence [4.315953541684344]
  本研究では,計算処理とハードウェアの物理的ニーズを結びつけることで,AIトレーニングの材料フットプリントを定量化する。 Nvidia A100 SXM 40GBグラフィックス処理ユニット(GPU)の素子組成を誘導結合プラズマ発光分光法を用いて解析し,32個の素子を同定した。 その結果、AIハードウェアは約90%の重金属と微量の貴金属からなることがわかった。
  論文  参考訳（メタデータ） (2025-12-03T17:01:46Z)
• How Hungry is AI? Benchmarking Energy, Water, and Carbon Footprint of LLM Inference [0.0]
  本稿では,商用データセンタにデプロイされる30の最先端モデルを対象とした,AI推論の環境フットプリントを定量化する,新たなインフラストラクチャ対応ベンチマークフレームワークを提案する。 以上の結果から,O3とDeepSeek-R1が最もエネルギー集約的なモデルとして出現し,GPT-4.1ナノの70倍以上のGPT-4.1ナノを消費し,Claude-3.7 Sonnetはエコ効率で最高であることがわかった。 AIは安価で速くなっているが、そのグローバルな採用はリソース消費を不均等にしている。
  論文  参考訳（メタデータ） (2025-05-14T17:47:00Z)
• Holistically Evaluating the Environmental Impact of Creating Language Models [26.846990296567267]
  我々は、2000万から13億のアクティブパラメータから、最大5.6兆のトークンで訓練された一連の言語モデルを開発することで、現実世界の環境への影響を推定する。 私たちの一連のモデルでは、米国の約98世帯に1年間電力を供給するのと同等の493トンの二酸化炭素を放出しています。 また、トレーニングを通じての電力使用量は一貫性がなく、ハードウェアの最大消費電力の15%から85%の間で変動していることもわかりました。
  論文  参考訳（メタデータ） (2025-03-03T22:16:15Z)
• Green Federated Learning [7.003870178055125]
  Federated Learning(FL)は、分散エンティティのデータを使用して集中型モデルをトレーニングする機械学習技術である。 FLは、多様なエネルギー源を持つ数億ものグローバル分散エンドユーザーデバイスを活用することができる。 提案するグリーンFLの概念は, FLパラメータを最適化し, 二酸化炭素排出量を最小化するための設計選択を行うものである。
  論文  参考訳（メタデータ） (2023-03-26T02:23:38Z)
• Counting Carbon: A Survey of Factors Influencing the Emissions of Machine Learning [77.62876532784759]
  機械学習(ML)は、モデルトレーニングプロセス中に計算を実行するためにエネルギーを使用する必要がある。 このエネルギーの生成には、使用量やエネルギー源によって、温室効果ガスの排出という観点からの環境コストが伴う。 本稿では,自然言語処理とコンピュータビジョンにおいて,95のMLモデルの炭素排出量の時間的および異なるタスクに関する調査を行う。
  論文  参考訳（メタデータ） (2023-02-16T18:35:00Z)
• Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model [72.65502770895417]
  176ビリオンパラメータ言語モデルBLOOMの炭素フットプリントを,そのライフサイクルにわたって定量化する。 BLOOMの最終訓練で約24.7トンのカルボネックが放出されたと推定する。 本稿では,機械学習モデルの炭素フットプリントを正確に推定することの難しさについて論じる。
  論文  参考訳（メタデータ） (2022-11-03T17:13:48Z)
• Low Emission Building Control with Zero-Shot Reinforcement Learning [70.70479436076238]
  強化学習(RL)による制御は、建築エネルギー効率を著しく向上させることが示されている。 我々は、ゼロショットビルディング制御と呼ばれるパラダイムを優先せずに、排出削減ポリシーを得られることを示す。
  論文  参考訳（メタデータ） (2022-08-12T17:13:25Z)
• A Framework for Energy and Carbon Footprint Analysis of Distributed and Federated Edge Learning [48.63610479916003]
  本稿では,分散学習政策の環境フットプリントに影響を与える要因を概説し,分析する。 バニラとコンセンサスによって駆動される分散FLポリシーの両方をモデル化する。 その結果、flは低ビット/ジュール効率を特徴とするワイヤレスシステムにおいて、顕著なエンドツーエンドの省エネ(30%-40%)が可能となった。
  論文  参考訳（メタデータ） (2021-03-18T16:04:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。