論文の概要: Towards Serverless Semi-Decentralized Federated Learning with Heterogeneous Optimizers

• arxiv url: http://arxiv.org/abs/2606.06687v1
• Date: Thu, 04 Jun 2026 20:05:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-08 14:33:29.429953
• Title: Towards Serverless Semi-Decentralized Federated Learning with Heterogeneous Optimizers
• Title（参考訳）: 不均一最適化を用いたサーバーレス半分散フェデレーション学習を目指して
• Authors: Su Wang, Mung Chiang, H. Vincent Poor,
• Abstract要約: 分散化連合学習(FL)におけるクラスタの形成、クラスタの数と構成について検討する。 永続的なサーバインフラストラクチャを必要としない手法として,サーバレス半分散FL(SSD-FL)を提案する。 SSD-FLは、グローバルラウンドをクラスタ内およびクラスタ間システムに分割し、グローバルコンセンサスとコンセンサスを確保する。
• 参考スコア（独自算出の注目度）: 49.91939413642465
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We investigate cluster formation, involving the number and composition of clusters, in decentralized federated learning (FL) with heterogeneous machine learning (ML) optimizers. While clustering in centralized FL has enabled scalability and resource savings, its value and development in fully decentralized environments have yet to be explored. Optimizing cluster formation in such environments is challenging, especially due to the complex coupling between network graph structures, local data heterogeneity, and different local ML model optimizers. To address these challenges, we propose serverless semi-decentralized FL (SSD-FL), a methodology requiring no persistent server infrastructure. In SSD-FL, cluster formation occurs via a lightweight, one-time device-to-device (D2D) initialization phase, after which actual ML model training (alongside consensus and convergence processes) is fully serverless. Functionally, SSD-FL segments global rounds into intra-cluster and inter-cluster regimes, ensuring global convergence and consensus through novel "effective loss functions" that integrate device-specific ML optimizers with network graph-based regularization. Next, SSD-FL leverages the consensus gap via the Cheeger inequality to develop an iterative clustering algorithm evaluated against our derived convergence and consensus bounds, which incorporate a unique scoring metric to quantify data and optimizer heterogeneity across devices. Finally, experimental evaluation against three categories of decentralized FL methodologies validate that SSD-FL improves both convergence speeds and communication efficiency across various network graphs, datasets, and local optimizer regimes.
• Abstract（参考訳）: 異種機械学習(ML)オプティマイザを用いた分散化フェデレーション学習(FL)において,クラスタの数と構成を含むクラスタ形成について検討する。 集中型FLにおけるクラスタリングはスケーラビリティとリソースの節約を可能にしているが、完全に分散化された環境での価値と開発はまだ検討されていない。 このような環境でのクラスタ生成の最適化は、特にネットワークグラフ構造、局所データの均一性、および異なるローカルMLモデルオプティマイザ間の複雑な結合のため、難しい。 これらの課題に対処するために、永続的なサーバーインフラを必要としない手法であるサーバレス半分散FL(SSD-FL)を提案する。 SSD-FLでは、クラスタ生成は軽量でワンタイムのデバイス・ツー・デバイス(D2D)初期化フェーズを介して行われ、その後、実際のMLモデルのトレーニング(コンセンサスと収束プロセスの他)は完全にサーバレスになる。 機能的には、SSD-FLはグローバルラウンドをクラスタ内およびクラスタ間システムに分割し、デバイス固有のMLオプティマイザとネットワークグラフベースの正規化を統合する新しい"効率的な損失関数"を通じて、グローバルコンバージェンスとコンセンサスを確保する。 次に、SSD-FLは、Cheegerの不等式によるコンセンサスギャップを利用して、導出した収束とコンセンサス境界に対して評価された反復的クラスタリングアルゴリズムを開発する。 最後に、分散FL手法の3つのカテゴリに対する実験的な評価により、SSD-FLは、様々なネットワークグラフ、データセット、ローカルオプティマイザシステム間の収束速度と通信効率の両方を改善する。

関連論文リスト

• DFCA: Decentralized Federated Clustering Algorithm [5.898448236416388]
  DFCAは、クライアントが集中的な調整なしにクラスタ固有のモデルを協調的に訓練することを可能にする、完全に分散化されたクラスタ化FLアルゴリズムである。 DFCAはシーケンシャルな実行平均を使い、更新が到着すると近隣のモデルを集約し、バッチアグリゲーションに代わる通信効率の高い代替手段を提供する。 本実験は,DFCAが他の分散アルゴリズムより優れ,集中型IFCAと同等に動作することを示す。
  論文  参考訳（メタデータ） (2025-10-17T04:17:00Z)
• LCFed: An Efficient Clustered Federated Learning Framework for Heterogeneous Data [21.341280782748278]
  クラスタ型フェデレーションラーニング(CFL)は、フェデレーションラーニング(FL)におけるデータ不均一性に起因するパフォーマンス上の課題に対処する。 既存のCFLアプローチは、クラスタ内の知識共有を厳密に制限し、クラスタ内のトレーニングとグローバル知識の統合を欠いている。 これらの課題に対処するための効率的なCFLフレームワークであるLCFedを提案する。
  論文  参考訳（メタデータ） (2025-01-03T14:59:48Z)
• Boosting the Performance of Decentralized Federated Learning via Catalyst Acceleration [66.43954501171292]
  本稿では,Catalytics Accelerationを導入し,DFedCataと呼ばれる促進型分散フェデレート学習アルゴリズムを提案する。 DFedCataは、パラメータの不整合に対処するMoreauエンベロープ関数と、アグリゲーションフェーズを加速するNesterovの外挿ステップの2つの主要コンポーネントで構成されている。 実験により, CIFAR10/100における収束速度と一般化性能の両面において, 提案アルゴリズムの利点を実証した。
  論文  参考訳（メタデータ） (2024-10-09T06:17:16Z)
• Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
  同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。 一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。 本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
  論文  参考訳（メタデータ） (2024-03-27T09:14:36Z)
• FedAC: An Adaptive Clustered Federated Learning Framework for Heterogeneous Data [21.341280782748278]
  クラスタ化フェデレーション学習(CFL)は、データ不均一性から生じる性能劣化を軽減するために提案される。 我々は,グローバル知識をクラスタ内学習に効率的に統合する適応型CFLフレームワークFedACを提案する。 実験の結果、FedACは試験精度が1.82%、12.67%向上した。
  論文  参考訳（メタデータ） (2024-03-25T06:43:28Z)
• Vertical Federated Learning over Cloud-RAN: Convergence Analysis and System Optimization [82.12796238714589]
  高速かつ正確なモデルアグリゲーションを実現するために,クラウド無線アクセスネットワーク(Cloud-RAN)ベースの垂直FLシステムを提案する。 アップリンクとダウンリンクの両方の伝送を考慮した垂直FLアルゴリズムの収束挙動を特徴付ける。 我々は,連続凸近似と代替凸探索に基づくシステム最適化アルゴリズムを開発した,連系トランシーバとフロントホール量子化設計によるシステム最適化フレームワークを構築した。
  論文  参考訳（メタデータ） (2023-05-04T09:26:03Z)
• Multi-Edge Server-Assisted Dynamic Federated Learning with an Optimized Floating Aggregation Point [51.47520726446029]
  協調エッジ学習(CE-FL)は、分散機械学習アーキテクチャである。 CE-FLの過程をモデル化し,分析訓練を行った。 実世界のテストベッドから収集したデータを用いて,本フレームワークの有効性を示す。
  論文  参考訳（メタデータ） (2022-03-26T00:41:57Z)
• Parallel Successive Learning for Dynamic Distributed Model Training over Heterogeneous Wireless Networks [50.68446003616802]
  フェデレートラーニング(Federated Learning, FedL)は、一連の無線デバイスにモデルトレーニングを配布する一般的なテクニックとして登場した。 我々は,FedLアーキテクチャを3次元に拡張した並列逐次学習(PSL)を開発した。 我々の分析は、分散機械学習におけるコールド対ウォームアップモデルの概念とモデル慣性について光を当てている。
  論文  参考訳（メタデータ） (2022-02-07T05:11:01Z)
• Federated Learning with Cooperating Devices: A Consensus Approach for Massive IoT Networks [8.456633924613456]
  分散システムにおける機械学習モデルをトレーニングするための新しいパラダイムとして、フェデレートラーニング(FL)が登場している。 提案するFLアルゴリズムは,ネットワーク内のデータ操作を行うデバイスとの協調を利用して,完全に分散された(あるいはサーバレス)学習手法を提案する。 このアプローチは、分散接続とコンピューティングを特徴とするネットワークを超えて、5G 内で FL を統合するための基盤となる。
  論文  参考訳（メタデータ） (2019-12-27T15:16:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。