論文の概要: Bridging Compressed Communication and Local Steps via Spectral Method in Federated Learning

• arxiv url: http://arxiv.org/abs/2610.23434v1
• Date: Fri, 16 Oct 2026 13:19:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.936971
• Title: Bridging Compressed Communication and Local Steps via Spectral Method in Federated Learning
• Title（参考訳）: フェデレーションラーニングにおけるスペクトル法によるブリッジング圧縮通信と局所ステップ
• Abstract要約: フェデレートラーニング(FL)は、エッジデバイスの大規模ネットワークにまたがる複雑なモデルの協調的なトレーニングを可能にする。 局所的な更新と圧縮の両方を利用する新しいスペクトルFL法を提案する。 標準画像分類ベンチマークの実証評価は、我々のアプローチの効率性とロバスト性を検証する。
• 参考スコア（独自算出の注目度）: 43.92077603347301
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated Learning (FL) enables collaborative training of complex models across large-scale networks of edge devices while keeping data localized. However, data heterogeneity and high communication overhead remain fundamental bottlenecks. Recently, the spectral optimizer Muon has demonstrated remarkable advantages over Adam-like methods in centralized training. While recent efforts have attempted to transition Muon to FL, naive integrations into traditional architectures fail short. Crucially, existing approaches do not support the the communication compression and local steps --- the two foundational techniques of efficient FL. To address this limitation, we introduce a novel spectral FL method that utilizes both local updates and compression. We establish rigorous convergence guarantees under mild assumptions, notably eliminating the restrictive bounded heterogeneity condition. Empirical evaluation on standard image classification benchmarks validates the efficiency and robustness of our approach.
• Abstract（参考訳）: フェデレートラーニング(FL)は、データをローカライズしながら、エッジデバイスの大規模ネットワークを横断する複雑なモデルの協調トレーニングを可能にする。 しかし、データの均一性と高い通信オーバーヘッドは、依然として根本的なボトルネックである。 近年、スペクトルオプティマイザのMuonは、集中トレーニングにおいてAdamのような手法に対して顕著な優位性を示している。 最近の取り組みでは Muon から FL への移行が試みられているが,従来のアーキテクチャへのナイーブな統合は不十分だ。 重要なことは、既存のアプローチは通信圧縮とローカルステップをサポートしていません -- 効率的なFLの2つの基礎技術です。 この制限に対処するために,局所的な更新と圧縮の両方を利用するスペクトルFL法を提案する。 穏やかな仮定の下で厳密な収束保証を確立し、特に制限的有界不均一性条件を排除した。 標準画像分類ベンチマークの実証評価は、我々のアプローチの効率性とロバスト性を検証する。

関連論文リスト

• FedSLoP: Memory-Efficient Federated Learning with Low-Rank Gradient Projection [5.476264433576713]
  FedSLoPは効率的なフェデレート学習アルゴリズムである。 We show that FedSLoP converges to a first-order stationary point at a rate of $O (1/sqrNT)$。
  論文  参考訳（メタデータ） (2026-04-27T03:47:50Z)
• Enhancing Gradient Inversion Attacks in Federated Learning via Hierarchical Feature Optimization [56.95448807869383]
  フェデレートラーニング(FL)は、プライバシを保存する分散機械学習の魅力的なパラダイムとして登場した。 近年の研究では、FLシステムで交換される勾配もプライバシー漏洩に弱いことが報告されている。 我々は textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD) を提案する。
  論文  参考訳（メタデータ） (2026-04-01T14:32:15Z)
• Deep Leakage with Generative Flow Matching Denoiser [54.05993847488204]
  再建プロセスに先立って生成フローマッチング(FM)を組み込んだ新しい深部リーク攻撃(DL)を導入する。 当社のアプローチは、ピクセルレベル、知覚的、特徴に基づく類似度測定において、最先端の攻撃よりも一貫して優れています。
  論文  参考訳（メタデータ） (2026-01-21T14:51:01Z)
• Gradient Projection onto Historical Descent Directions for Communication-Efficient Federated Learning [0.8220217498103312]
  フェデレートラーニング(FL)は、データのプライバシを保持しながら、複数のクライアントにわたる分散モデルトレーニングを可能にする。 本稿では、非バイアス圧縮機用に設計されたProjFLと、エラーフィードバック機構によるバイアス圧縮機のためのProjFL+EFの2つのアルゴリズムを紹介する。
  論文  参考訳（メタデータ） (2025-11-05T13:11:30Z)
• Local Superior Soups: A Catalyst for Model Merging in Cross-Silo Federated Learning [33.88701368538447]
  我々は「ローカル・スーパー・スープ」と呼ばれる革新的モデルに基づくローカル・トレーニング手法を提案する。 提案手法は, 異なるクライアント間でのローカルトレーニングを強化し, 接続された低損失盆地の探索を奨励する。 広範に使われているFLデータセットにまたがって,その有効性と効率を実証した。
  論文  参考訳（メタデータ） (2024-10-31T06:20:17Z)
• FedComLoc: Communication-Efficient Distributed Training of Sparse and Quantized Models [52.13056951033747]
  フェデレートラーニング(FL)は、異種クライアントがローカルにプライベートデータを処理し、中央サーバーと対話できるというユニークな特徴から、注目を集めている。 FLにおける重要なボトルネックは通信コストです。 我々の研究は、FLにおける通信複雑性の低減を推進した革新的なScaffnewアルゴリズムにインスパイアされている。 我々はFedComLocを導入し、実用的で効果的な圧縮をScaffnewに統合し、通信効率をさらに高める。
  論文  参考訳（メタデータ） (2024-03-14T22:29:59Z)
• Communication-Efficient Heterogeneous Federated Learning with Generalized Heavy-Ball Momentum [19.473386008007942]
  Federated Learning(FL)は、プライバシ制約のあるシナリオにおける分散データから学ぶための最先端のアプローチとして登場した。 大きな研究努力にもかかわらず、既存のアプローチは不均一性と部分的クライアントの参加による共同効果により、しばしば著しく低下する。 本稿では,GHBM(Generalized Heavy-Ball Momentum)を提案する。 ランダムな一様クライアントサンプリングにおいて,GHBMは最先端性能を大幅に向上することを示す。
  論文  参考訳（メタデータ） (2023-11-30T14:17:57Z)
• Local Learning Matters: Rethinking Data Heterogeneity in Federated Learning [61.488646649045215]
  フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
  論文  参考訳（メタデータ） (2021-11-28T19:03:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。