論文の概要: Sustainable Federated Fine-Tuning with LoRA: Environmental Impact and Performance Footprint
- arxiv url: http://arxiv.org/abs/2611.16856v1
- Date: Thu, 12 Nov 2026 14:30:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.485995
- Title: Sustainable Federated Fine-Tuning with LoRA: Environmental Impact and Performance Footprint
- Title(参考訳): LoRAによる持続可能なファインチューニング:環境影響とパフォーマンスのフットプリント
- Abstract要約: Federated Low-Rank Adaptation (LoRA) fine-tuningをNVIDIA A40, 6000 Ada, A100 GPUで評価した。
歩数が少ない構成は、ほぼ6-8倍のエネルギー消費で同等の精度を達成した。
これらの知見は, 評価条件内でのエネルギー効率の高い微調整のための, より小さな局部予算を支持する。
- 参考スコア(独自算出の注目度): 0.0439813058609837
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated Learning (FL) with Parameter-Efficient Fine-Tuning (PEFT) enables efficient adaptation of Large Language Models (LLMs), yet its energy and carbon costs across hardware remain poorly understood. We evaluated federated Low-Rank Adaptation (LoRA) fine-tuning on NVIDIA A40, RTX 6000 Ada, and A100 GPUs using a $2^2$ full factorial design with 135M/360M models and 10/100 local steps. CodeCarbon tracked energy and estimated CO$_2$-equivalent emissions. Descriptive allocation of variation assigned 84.8-91.2% of energy and emissions variation to local steps within these ranges. On A40 and RTX 6000 Ada, configurations with fewer steps achieved comparable accuracy with roughly 6-8-fold lower energy consumption and higher accuracy per kWh. These findings support smaller local budgets for energy-efficient federated fine-tuning within the evaluated setting.
- Abstract(参考訳): Federated Learning (FL) with Parameter-Efficient Fine-Tuning (PEFT) は、Large Language Models (LLM) の効率的な適応を可能にするが、ハードウェア全体のエネルギーと炭素コストは未理解のままである。
NVIDIA A40, RTX 6000 Ada, A100 GPU上で, 135M/360Mモデルと10/100ローカルステップのフルファクター設計を用いて, フェデレートローランド適応(LoRA)の微調整を行った。
コードカーボンはエネルギーを追跡し、CO$2$等価の排出量を推定した。
エネルギーと排出量の84.8-91.2%をこれらの範囲内の局所的なステップに割り当てた。
A40とRTX 6000 Adaでは、より少ないステップでほぼ6-8倍のエネルギー消費とkWhあたりの精度で同等の精度を達成した。
これらの知見は, エネルギー効率の高いフェデレーションファインチューニングのための, より小さな局部予算を, 評価条件内で支援する。
関連論文リスト
- Measuring the Inference Energy Efficiency of Open-Weight LLMs across Benchmarks, Reasoning Modes, and Hardware [2.2672364873235953]
ベンチマークスコアは、LCMに何ができるかを教えてくれるが、その能力を実現するのにどれだけのエネルギーが必要かは教えてくれない。
86のオープンウェイトモデルチェックポイントに対するこのトレードオフを測定し、7つのベンチマークと6つのハードウェアプラットフォームで評価する。
同様の能力を持つモデルにおいても,エネルギー効率に大きな差がある。
論文 参考訳(メタデータ) (2026-10-09T23:15:10Z) - AD-E2E-JEPA: A Joint-Embedding Predictive Architecture For End-to-End Autonomous Driving [40.80550970549309]
我々は、エンド・ツー・エンド・エンド・自動運転(E2EAD)において、LWM、DINOWM、JEPA-WMを含む既存の行動条件付き共同予測アーキテクチャ(JEPA)の世界モデルを評価する。
我々は、目標条件付きゼロショット計画設定を採用し、運転方針を訓練することなく、将来的な観測を目標としてこれらのモデルを評価する。
さらに、自己教師型事前訓練プロジェクターは、下流の模倣学習性能を80.2から85.4timesSに改善することを示した。
論文 参考訳(メタデータ) (2026-09-28T01:22:22Z) - TGRL: Temperature-Grouped Reinforcement Learning for Efficient Exploration in LLMs [62.823724078400865]
本稿では,温度群強化学習(TGRL)を提案する。
各プロンプトに対して、TGRLはロールアウトグループを低温および高温のサブセットに分割し、その報酬コントラストを通じて探索ゲインを推定し、このグループレベルの信号をトークンレベルクレジットとして割り当てる。
TGRLは、ロールアウト予算を拡大することなく、強力なRLVRベースラインよりも最大36%の精度に達する。
論文 参考訳(メタデータ) (2026-09-27T14:06:26Z) - SymbolicLight V2: Hybrid Neuromorphic Architecture and Sparse Execution for Low-Energy Language Inference [8.419155861590548]
SymbolicLight V2はスパースイベント計算と連続状態処理を組み合わせる。
デジタル固定点演算を用いたAlveo U50C FPGA上でSybolicLight V2を実装した。
ROCK 5Tの4つのCortex-A76コアでは、完全なリクエストは9.80Wで65.4トークン/秒、アダプタのAC入力で生成されたトークン毎に0.151Jに達する。
論文 参考訳(メタデータ) (2026-09-09T06:18:49Z) - EULER-ADAS: Energy-Efficient & SIMD-Unified Logarithmic-Posit Engine for Precision-Reconfigurable Approximate ADAS Acceleration [0.12314765641075437]
EULER-ADASは、エネルギー効率と信頼性を意識したADASアクセラレーションのためのSIMD対応の対数有界型ニューラルネットワークエンジンである。
提案したデータパスは,有界正規化ポジット表現,段階適応対数マンティサ乗算とビットトランケーション,SIMD共有クイア蓄積経路を組み合わせたものである。
FPGAの実装により、提案された構成により、LUT数を41.4%、遅延を76.1%、パワーを71.9%削減できる。
論文 参考訳(メタデータ) (2026-05-07T19:20:10Z) - A Deployment-Friendly Foundational Framework for Efficient Computational Pathology [48.3868019137117]
モデルオーバーパラメータ化とパッチレベルの冗長性を緩和するLitePathを提案する。
LitePathは、1億9000万のパッチを使用して3つの大きなPFMから蒸留されたコンパクトなモデルであるLiteFMを統合している。
LitePathはVirchhow2より104.5倍高速で、3000のスライドに対して0.36 kWhを消費する。
論文 参考訳(メタデータ) (2026-02-15T06:31:50Z) - Green MLOps: Closed-Loop, Energy-Aware Inference with NVIDIA Triton, FastAPI, and Bio-Inspired Thresholding [0.0]
バイオインスパイアされたフレームワークは、タンパク質の折りたたみエネルギー盆地をコストの展望にマッピングする。
電力対エネルギーのトレードオフが望ましい場合にのみ、要求が認められます。
結果は、バイオ物理エネルギーモデルとグリーンMLORTOpsを結びつけ、生産におけるクローズドループエネルギー認識推論の実践的で監査可能な基礎を提供する。
論文 参考訳(メタデータ) (2026-01-06T15:50:11Z) - Intelligence per Watt: Measuring Intelligence Efficiency of Local AI [39.049258055931524]
大規模言語モデル(LLM)クエリは、主に集中型クラウドインフラストラクチャのフロンティアモデルによって処理される。
小さなLMは、多くのタスクにおけるフロンティアモデルに対する競合的なパフォーマンスを実現しています。
集中インフラからの需要の再分配によるローカル推論は可能か?
本稿では,局所的推論の能力と効率を評価する指標として,1ワット当たりのインテリジェンス(IPW)を提案する。
論文 参考訳(メタデータ) (2025-11-11T06:33:30Z) - Energy Use of AI Inference: Efficiency Pathways and Test-Time Compute [4.8312457834136175]
非生産推定と仮定はエネルギー使用量を4-20倍に超過することができる。
モデル,サービスプラットフォーム,ハードウェアレベルでの達成可能な効率向上の定量化を行う。
10億のクエリを毎日0.8GWhと見積もる。
論文 参考訳(メタデータ) (2025-09-24T15:32:01Z) - EfficientLLM: Efficiency in Large Language Models [64.3537131208038]
大規模言語モデル(LLM)は大きな進歩を導いてきたが、その増加とコンテキストウィンドウは計算、エネルギー、金銭的コストを禁止している。
本稿では,新しいベンチマークであるEfficientLLMを紹介する。
論文 参考訳(メタデータ) (2025-05-20T02:27:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。