論文の概要: MUFFLe: Efficient Model Update Compression via Generalized Deduplication for Federated Learning

• arxiv url: http://arxiv.org/abs/2606.14354v1
• Date: Fri, 12 Jun 2026 11:27:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 16:00:42.875752
• Title: MUFFLe: Efficient Model Update Compression via Generalized Deduplication for Federated Learning
• Title（参考訳）: MUFFLe:フェデレーション学習のための一般化重複による効率的なモデル更新圧縮
• Authors: Xiaobo Zhao, Daniel E. Lucani,
• Abstract要約: MUFFLeは通信効率の高い更新圧縮方式である。 MUFFLeは更新ベクタ間で繰り返しパターンを重複させ、固定レートの可変数圧縮スキームを生成する。 20のクライアントを持つIDMNISTの予備実験では、MUFFLeは38MBの累積アップリンク通信で目標精度が92.93%に達した。
• 参考スコア（独自算出の注目度）: 1.8391459958000806
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated learning is well suited to edge environments but is often limited by the uplink cost of transmitting model updates. This Work-in-Progress paper presents MUFFLe, a communication-efficient update compression scheme that integrates generalized deduplication (GD) into the FedAvg pipeline. MUFFLe deduplicates repeated patterns across the update vector, yielding a fixed-rate, variable-count compression scheme. Preliminary experiments on IID MNIST with 20 clients show that MUFFLe reaches the target accuracy of $92.93\%$ with 38~MB cumulative uplink communication, compared with 75~MB for 8-bit quantization, 86~MB for Top-$k$ sparsification, and 310~MB for uncompressed FedAvg. These results demonstrate the feasibility of applying GD to communication-efficient federated learning.
• Abstract（参考訳）: フェデレーション学習はエッジ環境に適しているが、モデル更新を送信する際のアップリンクコストによって制限されることが多い。 本稿では,FedAvgパイプラインに一般化重複(GD)を統合する通信効率の高い更新圧縮方式であるMUFFLeを提案する。 MUFFLeは更新ベクタ間で繰り返しパターンを重複させ、固定レートの可変数圧縮スキームを生成する。 IID MNISTの20のクライアントによる予備実験では、MUFFLeは38~MBの累積アップリンク通信で目標精度が92.93セントに達し、8ビット量子化では75~MB、Top-k$スパリフィケーションでは86~MB、圧縮されていないFedAvgでは310~MBに達した。 これらの結果は,コミュニケーション効率のよいフェデレーション学習にGDを適用する可能性を示している。

関連論文リスト

• WISV: Wireless-Informed Semantic Verification for Distributed Speculative Decoding in Device-Edge LLM Inference [56.297697169678095]
  WISV(Wireless-Informed Semantic Verification)は、分散投機的復号化フレームワークである。 WISVは最大60.8%の許容長の増加、37.3%の対話ラウンドの削減、31.4%のエンドツーエンドレイテンシの改善を実現している。 NVIDIA Jetson AGX OrinとA40搭載サーバからなるハードウェアテストベッド上でWISVを検証する。
  論文  参考訳（メタデータ） (2026-04-20T01:29:56Z)
• Arbitrary Ratio Feature Compression via Next Token Prediction [52.10426317889982]
  Arbitrary Ratio Feature Compression (ARFC)フレームワークは、任意の圧縮比を単一のモデルでサポートする。 ARCは、次の回帰予測によって圧縮を行う自動回帰モデルである。 MoSモジュールは複数の圧縮結果を利用して圧縮トークンを洗練する。 ERGCは、圧縮中の意味的および構造的関係を維持するために、トレーニングプロセスに統合される。
  論文  参考訳（メタデータ） (2026-02-12T02:38:57Z)
• FedUNet: A Lightweight Additive U-Net Module for Federated Learning with Heterogeneous Models [0.6144680854063939]
  フェデレートラーニング(FL)は、ローカルデータを共有せずに、分散モデルトレーニングを可能にする。 本稿では,U-Netにインスパイアされた付加モジュールを各クライアントのバックボーンにアタッチする,軽量なFLフレームワークであるFedUNetを提案する。 VGGの変種を用いた実験では、FedUNetは93.11%の精度と92.68%のコンパクト化を実現している。
  論文  参考訳（メタデータ） (2025-08-18T09:03:06Z)
• Communication Compression for Distributed Learning without Control Variates [43.69787537805927]
  本稿では,過去の集約更新を利用して圧縮可能なクライアントを実現する分散アルゴリズムを提案する。 実験結果から,CAFeは既存の分散圧縮学習方式よりも優れていたことが確認された。
  論文  参考訳（メタデータ） (2024-12-05T18:46:20Z)
• Bandwidth-Aware and Overlap-Weighted Compression for Communication-Efficient Federated Learning [29.727339562140653]
  フェデレーション平均化(FedAvg)におけるスパシフィケーションなどの現在のデータ圧縮手法は、フェデレーション学習(FL)のコミュニケーション効率を効果的に向上させる。 これらの手法は、異種帯域幅と非IIDデータによるストラグラー問題やモデル性能の低下といった課題に直面する。 非IIDデータに関連する問題を軽減しつつ,通信効率の向上を目的としたFLのための帯域幅対応圧縮フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-27T02:28:27Z)
• Communication-Efficient Federated Knowledge Graph Embedding with Entity-Wise Top-K Sparsification [49.66272783945571]
  Federated Knowledge Graphs Embedding Learning (FKGE)は、パラメータのかなりのサイズと広範なコミュニケーションラウンドから生じるコミュニケーション効率の課題に直面する。 本稿では,Entity-Wise Top-K Sparsification 戦略に基づく双方向通信効率のFedSを提案する。
  論文  参考訳（メタデータ） (2024-06-19T05:26:02Z)
• Fed-CVLC: Compressing Federated Learning Communications with Variable-Length Codes [54.18186259484828]
  フェデレートラーニング(FL)パラダイムでは、パラメータサーバ(PS)がモデル収集、更新アグリゲーション、複数のラウンドでのモデル分散のために、分散参加クライアントと同時通信する。 FLの圧縮には可変長が有用であることを示す。 本稿では,Fed-CVLC(Federated Learning Compression with Variable-Length Codes)を提案する。
  論文  参考訳（メタデータ） (2024-02-06T07:25:21Z)
• Quantize Once, Train Fast: Allreduce-Compatible Compression with Provable Guarantees [53.950234267704]
  我々は、全リデュース勾配互換量子化法であるGlobal-QSGDを紹介する。 ベースライン量子化法で最大3.51%の分散トレーニングを高速化することを示す。
  論文  参考訳（メタデータ） (2023-05-29T21:32:15Z)
• ResFed: Communication Efficient Federated Learning by Transmitting Deep Compressed Residuals [24.13593410107805]
  フェデレートラーニングは、学習したローカルモデルパラメータを共有することで、大規模分散クライアント間の協調トレーニングを可能にする。 モデルパラメータではなく残差を訓練用ネットワークに送信する残差ベースフェデレーション学習フレームワーク(ResFed)を導入する。 共通予測ルールを用いることで、ローカルモデルとグローバルモデルの両方が、常にクライアントとサーバで完全に回復可能である。
  論文  参考訳（メタデータ） (2022-12-11T20:34:52Z)
• Training Recommender Systems at Scale: Communication-Efficient Model and Data Parallelism [56.78673028601739]
  通信効率のよいハイブリッドトレーニングのためのDCT(Dynamic Communication Thresholding)という圧縮フレームワークを提案する。 DCTは、それぞれDPとMPの間に、少なくとも$100times$と$20times$の通信を削減します。 最先端の産業レコメンデーションモデルのエンドツーエンドのトレーニング時間を、パフォーマンスを損なうことなく、37%改善する。
  論文  参考訳（メタデータ） (2020-10-18T01:44:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。