論文の概要: A Theoretical Framework for Energy-Aware Gradient Pruning in Federated Learning

• arxiv url: http://arxiv.org/abs/2603.22465v1
• Date: Mon, 23 Mar 2026 18:31:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.144368
• Title: A Theoretical Framework for Energy-Aware Gradient Pruning in Federated Learning
• Title（参考訳）: フェデレーション学習におけるエネルギーを考慮したグラディエント・プルーニングの理論的枠組み
• Authors: Emmanouil M. Athanasakos,
• Abstract要約: フェデレートラーニング(FL)は、分散エッジデバイスの通信とエネルギー制限によって制約される。 本稿では,パラメータの更新を物理コストに応じて優先順位付けする選択規則であるCWMP(Cost-Weighted Magnitude Pruning)を提案する。 非IIDAR-10ベンチマークの数値結果は、CWMPがTop-Kベースラインよりも優れたパフォーマンス・エネルギ・フロンティアを一貫して確立していることを示している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated Learning (FL) is constrained by the communication and energy limitations of decentralized edge devices. While gradient sparsification via Top-K magnitude pruning effectively reduces the communication payload, it remains inherently energy-agnostic. It assumes all parameter updates incur identical downstream transmission and memory-update costs, ignoring hardware realities. We formalize the pruning process as an energy-constrained projection problem that accounts for the hardware-level disparities between memory-intensive and compute-efficient operations during the post-backpropagation phase. We propose Cost-Weighted Magnitude Pruning (CWMP), a selection rule that prioritizes parameter updates based on their magnitude relative to their physical cost. We demonstrate that CWMP is the optimal greedy solution to this constrained projection and provide a probabilistic analysis of its global energy efficiency. Numerical results on a non-IID CIFAR-10 benchmark show that CWMP consistently establishes a superior performance-energy Pareto frontier compared to the Top-K baseline.
• Abstract（参考訳）: フェデレートラーニング(FL)は、分散エッジデバイスの通信とエネルギー制限によって制約される。 トポ-K等級プルーニングによる勾配スペーシフィケーションは通信ペイロードを効果的に削減するが、本質的にエネルギーに依存しない。 パラメータの更新はすべて、同じダウンストリーム送信とメモリ更新コストを発生させ、ハードウェアの現実を無視していると仮定する。 我々は,pruning過程を,バックプロパゲーションフェーズにおけるメモリ集約処理と計算効率演算のハードウェアレベルの相違を考慮したエネルギー制約予測問題として定式化する。 本稿では,パラメータの更新を物理コストに応じて優先順位付けする選択規則であるCWMP(Cost-Weighted Magnitude Pruning)を提案する。 我々は、CWMPが、この制約された射影の最適グリージー解であり、その大域的なエネルギー効率の確率論的解析を提供することを示した。 非IID CIFAR-10 ベンチマークの数値結果から、CWMP はTop-K ベースラインよりも優れたパフォーマンス・エネルギーのパレートフロンティアを一貫して確立していることがわかる。

関連論文リスト

• Understanding Efficiency: Quantization, Batching, and Serving Strategies in LLM Energy Use [4.513690948889834]
  大規模言語モデル(LLM)はますます本番環境に配備され、計算資源やエネルギー需要の負担をトレーニングから推論へとシフトさせるのに寄与している。 我々は,同じモデルにおけるエネルギー消費のオーダー・オブ・マグニチュードの違いを,Emphsystemレベルの設計選択がいかに引き起こすかを示す。 我々の発見は、よりグリーンなAIサービスのための位相認識エネルギープロファイリングとシステムレベルの最適化を動機付けている。
  論文  参考訳（メタデータ） (2026-01-29T22:16:25Z)
• Feature-Based Semantics-Aware Scheduling for Energy-Harvesting Federated Learning [18.65400996570946]
  リソース制約のあるエッジデバイス上でのフェデレートラーニング(FL)は、重要な課題に直面している。 ディープニューラルネットワーク(DNN)のトレーニングに必要な計算エネルギーは、通信コストを支配していることが多い。 更新タイムラインと重要度を定量化するセマンティックス対応のメトリクスであるVersion Age of Information (VAoI) を用いた軽量クライアントスケジューリングフレームワークを提案する。 本フレームワークは,教育費が送信コストを上回る現実的なシナリオにおいて,EHFLの現実的かつ重要なソリューションとしてセマンティクスを考慮したスケジューリングを確立する。
  論文  参考訳（メタデータ） (2025-12-01T18:40:26Z)
• Pathway-based Progressive Inference (PaPI) for Energy-Efficient Continual Learning [0.0]
  継続的な学習システムは、エネルギー効率を維持しながら破滅的な忘れ込みを防ぐという2つの課題に直面している。 本稿では,これらの課題に対処する理論的枠組みであるPathway-based Progressive Inference (PaPI)を紹介する。 理論解析の結果,PaPIは安定性と塑性のトレードオフにおいて$mathcalO(K)$の改善を達成している。
  論文  参考訳（メタデータ） (2025-06-21T22:50:01Z)
• The Larger the Merrier? Efficient Large AI Model Inference in Wireless Edge Networks [56.37880529653111]
  大規模計算モデル(LAIM)サービスの需要は、従来のクラウドベースの推論から、低レイテンシでプライバシ保護のアプリケーションのためのエッジベースの推論へのパラダイムシフトを推進している。 本稿では,事前学習したLAIMをデバイス上のサブモデルとサーバ上のサブモデルに分割して配置するLAIM推論方式について検討する。
  論文  参考訳（メタデータ） (2025-05-14T08:18:55Z)
• Federated Learning With Energy Harvesting Devices: An MDP Framework [17.87295300394514]
  フェデレートラーニング(FL)は、エッジデバイスがローカルなトレーニングを行い、パラメータサーバと通信することを要求する。 実用FLシステムにおける重要な課題は、バッテリ寿命を制限し、学習性能に影響を及ぼす、バッテリ制限のエッジデバイスが急速に枯渇することである。 FLシステムにエネルギー回収技術を導入し、環境エネルギーを捕捉し、エッジデバイスに連続的な電力を供給する。
  論文  参考訳（メタデータ） (2024-05-17T03:41:40Z)
• Multiagent Reinforcement Learning with an Attention Mechanism for Improving Energy Efficiency in LoRa Networks [52.96907334080273]
  ネットワーク規模が大きくなるにつれて、パケット衝突によるLoRaネットワークのエネルギー効率は急激に低下する。 マルチエージェント強化学習(MALoRa)に基づく伝送パラメータ割り当てアルゴリズムを提案する。 シミュレーションの結果,MALoRaはベースラインアルゴリズムと比較してシステムEEを著しく改善することがわかった。
  論文  参考訳（メタデータ） (2023-09-16T11:37:23Z)
• A Safe Genetic Algorithm Approach for Energy Efficient Federated Learning in Wireless Communication Networks [53.561797148529664]
  フェデレートラーニング(FL)は、従来の集中型アプローチとは対照的に、デバイスが協調的にモデルトレーニングを行う分散技術として登場した。 FLの既存の取り組みにもかかわらず、その環境影響は、無線ネットワークへの適用性に関するいくつかの重要な課題が特定されているため、まだ調査中である。 現在の研究は遺伝的アルゴリズム(GA)アプローチを提案しており、FLプロセス全体のエネルギー消費と不要な資源利用の両方を最小化することを目標としている。
  論文  参考訳（メタデータ） (2023-06-25T13:10:38Z)
• Green, Quantized Federated Learning over Wireless Networks: An Energy-Efficient Design [68.86220939532373]
  有限精度レベルは、固定精度フォーマットで重みとアクティベーションを定量化する量子ニューラルネットワーク(QNN)を使用して取得される。 提案するFLフレームワークは,ベースラインFLアルゴリズムと比較して,収束までのエネルギー消費量を最大70%削減することができる。
  論文  参考訳（メタデータ） (2022-07-19T16:37:24Z)
• Collaborative Intelligent Reflecting Surface Networks with Multi-Agent Reinforcement Learning [63.83425382922157]
  インテリジェント・リフレクション・サーフェス(IRS)は将来の無線ネットワークに広く応用されることが想定されている。 本稿では,エネルギー収穫能力を備えた協調型IRSデバイスを用いたマルチユーザ通信システムについて検討する。
  論文  参考訳（メタデータ） (2022-03-26T20:37:14Z)
• Targeted free energy estimation via learned mappings [66.20146549150475]
  自由エネルギー摂動 (FEP) は60年以上前にズワンツィヒによって自由エネルギー差を推定する方法として提案された。 FEPは、分布間の十分な重複の必要性という厳しい制限に悩まされている。 目標自由エネルギー摂動(Targeted Free Energy Perturbation)と呼ばれるこの問題を緩和するための1つの戦略は、オーバーラップを増やすために構成空間の高次元マッピングを使用する。
  論文  参考訳（メタデータ） (2020-02-12T11:10:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。