論文の概要: A Full Compression Pipeline for Green Federated Learning in Communication-Constrained Environments
- arxiv url: http://arxiv.org/abs/2604.11146v2
- Date: Tue, 14 Apr 2026 07:11:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-15 14:01:13.430954
- Title: A Full Compression Pipeline for Green Federated Learning in Communication-Constrained Environments
- Title(参考訳): コミュニケーション制約のある環境におけるグリーンフェデレーション学習のための全圧縮パイプライン
- Authors: Elouan Colybes, Shirin Salehi, Anke Schmeink,
- Abstract要約: Federated Learning (FL)は、生データを共有せずに、分散クライアント間で協調的なモデルトレーニングを可能にする。
FCPは3つの補完的なディープ圧縮技術を統合されたエンドツーエンドフレームワークに統合する。
FCPは、競争精度を維持しながら、送信コストとリソース消費を大幅に削減する。
- 参考スコア(独自算出の注目度): 14.398823059302279
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated Learning (FL) enables collaborative model training across distributed clients without sharing raw data, thereby preserving privacy. However, FL often suffers from significant communication and computational overhead, limiting its scalability and sustainability. In this work, we introduce a Full Compression Pipeline (FCP) for FL in communication-constrained environments. FCP integrates three complementary deep compression techniques (pruning, quantization, and Huffman encoding) into a unified end-to-end framework. By compressing local models and communication payloads, FCP substantially reduces transmission costs and resource consumption while maintaining competitive accuracy. To quantify its impact, we develop an evaluation framework that captures both communication and computation overheads as a unified model cost, allowing a holistic assessment of efficiency trade-offs. The pipeline is evaluated in an independent and identically distributed (IID) and non-IID data setting. In one representative scenario, training a ResNet-12 model on the CIFAR-10 dataset with ten clients and a 2 Mbps bandwidth, the FCP achieves more than 11$\times$ reduction in model size, with only a 2% drop in accuracy compared to the uncompressed baseline. This results in an FL training that is more than 60% faster.
- Abstract(参考訳): フェデレートラーニング(FL)は、生データを共有せずに分散クライアント間で協調的なモデルトレーニングを可能にし、プライバシーを保護します。
しかし、FLは通信と計算のオーバーヘッドに悩まされ、スケーラビリティと持続可能性に限界がある。
本研究では,通信制約環境におけるFLのためのFCP(Full Compression Pipeline)を提案する。
FCPは3つの補完的なディープ圧縮技術(プルーニング、量子化、ハフマンエンコーディング)を統一されたエンドツーエンドフレームワークに統合する。
ローカルモデルと通信ペイロードを圧縮することにより、FCPは競争精度を維持しながら、送信コストとリソース消費を大幅に削減する。
その影響を定量化するために,コミュニケーションと計算のオーバーヘッドを統一的なモデルコストとして捉え,効率のトレードオフを総合的に評価できる評価フレームワークを開発した。
パイプラインは、独立かつ同一に分散された(IID)および非IIDデータ設定で評価される。
1つの代表的なシナリオでは、10のクライアントと2Mbpsの帯域幅を持つCIFAR-10データセット上でResNet-12モデルをトレーニングする。
これにより、60%以上高速なFLトレーニングが実施される。
関連論文リスト
- An Efficient Gradient-Aware Error-Bounded Lossy Compressor for Federated Learning [7.649286962189554]
フェデレートラーニング(FL)は、クライアントのプライベートデータを公開せずに、協調的なモデルトレーニングを可能にする。
EBLCは特に、細粒度のユーティリティ圧縮トレードオフをアピールしている。
モデル精度を保ちながら高い圧縮率を達成するために,FL勾配データに適したEBLCフレームワークを提案する。
論文 参考訳(メタデータ) (2025-11-07T23:59:09Z) - FedBWO: Enhancing Communication Efficiency in Federated Learning [4.788163807490197]
フェデレートラーニング(FL)は、分散機械学習(ML)のセットアップで、共有モデルは、データをプライベートにしながら、ローカルデータセットを使用して、さまざまなクライアントによって協調的にトレーニングされる。
リソースの制約を考慮すると、クライアントの数とデータ量(モデルウェイト)がボトルネックにつながる可能性がある。
本稿では,Federated Black Widow Optimization (FedBWO) 技術を導入し,クライアントのローカルモデル重みではなく,パフォーマンススコアのみを送信することで送信データ量を削減する。
論文 参考訳(メタデータ) (2025-05-07T14:02:35Z) - Fed-CVLC: Compressing Federated Learning Communications with
Variable-Length Codes [54.18186259484828]
フェデレートラーニング(FL)パラダイムでは、パラメータサーバ(PS)がモデル収集、更新アグリゲーション、複数のラウンドでのモデル分散のために、分散参加クライアントと同時通信する。
FLの圧縮には可変長が有用であることを示す。
本稿では,Fed-CVLC(Federated Learning Compression with Variable-Length Codes)を提案する。
論文 参考訳(メタデータ) (2024-02-06T07:25:21Z) - Adaptive Model Pruning and Personalization for Federated Learning over
Wireless Networks [72.59891661768177]
フェデレーション学習(FL)は、データプライバシを保護しながら、エッジデバイス間での分散学習を可能にする。
これらの課題を克服するために、部分的なモデルプルーニングとパーソナライズを備えたFLフレームワークを検討する。
このフレームワークは、学習モデルを、データ表現を学ぶためにすべてのデバイスと共有されるモデルプルーニングと、特定のデバイスのために微調整されるパーソナライズされた部分とで、グローバルな部分に分割する。
論文 参考訳(メタデータ) (2023-09-04T21:10:45Z) - FedCliP: Federated Learning with Client Pruning [3.796320380104124]
フェデレートラーニング(Federated Learning、FL)は、新たな分散ラーニングパラダイムである。
FLの基本的なボトルネックの1つは、分散クライアントと中央サーバの間の通信オーバーヘッドである。
マクロの観点から,最初の通信効率のよいFLトレーニングフレームワークであるFedCliPを提案する。
論文 参考訳(メタデータ) (2023-01-17T09:15:37Z) - ResFed: Communication Efficient Federated Learning by Transmitting Deep
Compressed Residuals [24.13593410107805]
フェデレートラーニングは、学習したローカルモデルパラメータを共有することで、大規模分散クライアント間の協調トレーニングを可能にする。
モデルパラメータではなく残差を訓練用ネットワークに送信する残差ベースフェデレーション学習フレームワーク(ResFed)を導入する。
共通予測ルールを用いることで、ローカルモデルとグローバルモデルの両方が、常にクライアントとサーバで完全に回復可能である。
論文 参考訳(メタデータ) (2022-12-11T20:34:52Z) - Federated Dynamic Sparse Training: Computing Less, Communicating Less,
Yet Learning Better [88.28293442298015]
Federated Learning (FL)は、クラウドからリソース制限されたエッジデバイスへの機械学習ワークロードの分散を可能にする。
我々は、FedDST(Federated Dynamic Sparse Training)と呼ばれる新しいFLフレームワークを開発し、実装し、実験的に検証する。
FedDSTは、ターゲットのフルネットワークからスパースサブネットワークを抽出し、訓練する動的プロセスである。
論文 参考訳(メタデータ) (2021-12-18T02:26:38Z) - ProgFed: Effective, Communication, and Computation Efficient Federated Learning by Progressive Training [65.68511423300812]
本稿では,効率的なフェデレート学習のためのプログレッシブトレーニングフレームワークであるProgFedを提案する。
ProgFedは計算と双方向通信のコストを本質的に低減し、最終モデルの強力な性能を維持している。
以上の結果から, ProgFed はフルモデルの標準トレーニングと同等の速度で収束することがわかった。
論文 参考訳(メタデータ) (2021-10-11T14:45:00Z) - Dynamic Attention-based Communication-Efficient Federated Learning [85.18941440826309]
フェデレートラーニング(FL)は、グローバル機械学習モデルをトレーニングするためのソリューションを提供する。
FLは、クライアントデータの分散が非IIDであるときに性能劣化に悩まされる。
本稿では,この劣化に対処するために,新しい適応トレーニングアルゴリズムであるtextttAdaFL$を提案する。
論文 参考訳(メタデータ) (2021-08-12T14:18:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。