論文の概要: FedA2L: Adaptive layer-wise learning rate adjustment in decentralized federated learning

• arxiv url: http://arxiv.org/abs/2608.09208v1
• Date: Mon, 10 Aug 2026 07:27:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:37.12529
• Title: FedA2L: Adaptive layer-wise learning rate adjustment in decentralized federated learning
• Title（参考訳）: FedA2L:分散学習における適応層単位の学習率調整
• Abstract要約: 不均質なデバイスを持つ分散型知能システムは、ますます分散化された連邦学習(DFL)に依存している。 本研究はモデル発散信号に基づいて層幅LRを動的に調整するFedA2Lを導入する。 ローカル更新強度とネットワークコンセンサス制約を活用することで、FedA2Lは通信や調整を必要とせずに既存のDFLプロトコルにシームレスに統合する。
• 参考スコア（独自算出の注目度）: 2.252594484945365
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Decentralized intelligence systems with heterogeneous devices and limited coordination increasingly rely on decentralized federated learning (DFL). However, DFL suffers from convergence inefficiency under data heterogeneity due to the use of a uniform learning rate (LR) that ignores layer-specific optimization needs. Foundational layers are responsible for maintaining network consensus, while specialized layers adapt to local data characteristics, leading to conflicting gradients and degraded performance under non-IID conditions. To address this fundamental tension, this work introduces FedA2L, a method that dynamically adjusts layer-wise LRs based on model divergence signals. By leveraging local update intensity and network consensus constraints, FedA2L seamlessly integrates into existing DFL protocols without additional communication or coordination. Extensive evaluations across DFL algorithms, various model architectures, and datasets demonstrate that FedA2L achieves up to 4.94 times faster convergence than vanilla DFL and reduces communication rounds by up to 59% compared to scheduler-based baselines. Furthermore, FedA2L exhibits resilience to severe data heterogeneity, larger network sizes, and sparse topologies, reducing communication overhead and establishing it as a versatile optimization tool for resource-constrained or large-scale distributed learning in edge and IoT deployments. The code is released at https://github.com/nclabteam/FedA2L.
• Abstract（参考訳）: 不均一なデバイスと限定的な調整を備えた分散インテリジェンスシステムは、ますます分散化された連邦学習(DFL)に依存している。 しかし、DFLは、層固有の最適化ニーズを無視した一様学習率(LR)を使用することにより、データの均一性の下で収束不効率に悩まされる。 基礎的なレイヤはネットワークコンセンサスを維持する責任を負うが、特殊なレイヤはローカルなデータ特性に適応し、非IID条件下でのグラデーションと性能の低下につながる。 この基本的な緊張に対処するために、モデル発散信号に基づいてレイヤワイズLRを動的に調整するFedA2Lを導入する。 ローカル更新強度とネットワークコンセンサス制約を活用することで、FedA2Lは通信や調整を必要とせずに既存のDFLプロトコルにシームレスに統合する。 DFLアルゴリズム、様々なモデルアーキテクチャ、データセットの広範な評価は、FedA2LがバニラDFLよりも最大4.94倍の収束を実現し、スケジューラベースのベースラインに比べて通信ラウンドを最大59%削減することを示した。 さらにFedA2Lは、厳しいデータの不均一性、より大きなネットワークサイズ、スパーストポロジに対するレジリエンスを示し、通信オーバーヘッドを低減し、エッジおよびIoTデプロイメントにおけるリソース制約や大規模分散学習のための汎用的な最適化ツールとして確立している。 コードはhttps://github.com/nclabteam/FedA2Lで公開されている。

関連論文リスト

• On the Effectiveness of Adaptation Strategies for VLM-Based Federated Learning in Remote Sensing [7.060465634216585]
  フェデレートラーニング(FL)は、データ集中化を必要とせずに、分散化されたイメージアーカイブ間でディープラーニングモデルの協調トレーニングを可能にする。 クライアント間でのトレーニングデータの不均一性(非IIDデータとして知られる)の存在は収束を妨げる。 一般化能力と通信・計算制約のバランスをとる適切なVLM適応戦略を選択することが重要である。
  論文  参考訳（メタデータ） (2026-08-05T12:57:13Z)
• Air-Plan: Query-Optimized Topology Selection for Over-the-Air Decentralized Federated Learning [0.39373541926236766]
  オーバー・ザ・エア(OTA)アグリゲーションは、無線マルチアクセスチャネルの重ね合わせ特性を利用して、1つの送信スロット内の複数のデバイスからモデル更新を集約する。 本稿では,OTA-DFL(Over-the-Air Decentralized Federated Learning)のためのクエリ最適化トポロジ選択フレームワークであるAIRPLANを紹介する。 AIRPLANはワークロードの91.4%でオラクル最適トポロジと一致し、オーバーヘッドは1.8%以下である。
  論文  参考訳（メタデータ） (2026-07-05T12:10:47Z)
• Enhancing Gradient Inversion Attacks in Federated Learning via Hierarchical Feature Optimization [56.95448807869383]
  フェデレートラーニング(FL)は、プライバシを保存する分散機械学習の魅力的なパラダイムとして登場した。 近年の研究では、FLシステムで交換される勾配もプライバシー漏洩に弱いことが報告されている。 我々は textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD) を提案する。
  論文  参考訳（メタデータ） (2026-04-01T14:32:15Z)
• Consolidation or Adaptation? PRISM: Disentangling SFT and RL Data via Gradient Concentration [56.074760766965085]
  PRISMは、モデルの既存の知識との認知的対立度に基づいてデータを調停する動的認識フレームワークを実現する。 この結果から,内部最適化方式に基づくデータ分離が,スケーラブルでロバストなエージェントアライメントに不可欠であることが示唆された。
  論文  参考訳（メタデータ） (2026-01-12T05:43:20Z)
• Lightweight Federated Learning over Wireless Edge Networks [83.4818741890634]
  Federated (FL) はネットワークエッジの代替品であるが、無線ネットワークでは代替品である。 閉形式式FL収束ギャップ伝送パワー,モデルプルーニング誤差,量子化を導出する。 LTFLは、実世界のデータセットの実験において最先端のスキームよりも優れている。
  論文  参考訳（メタデータ） (2025-07-13T09:14:17Z)
• Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
  同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。 一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。 本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
  論文  参考訳（メタデータ） (2024-03-27T09:14:36Z)
• Topology Learning for Heterogeneous Decentralized Federated Learning over Unreliable D2D Networks [25.672506041978615]
  分散統合学習(DFL)は、無線デバイス間通信(D2D)ネットワークにおいて大きな関心を集めている。 我々はDFLの理論収束解析を行い、収束境界を導出する。 本研究では,DFLにおける表現不一致と信頼できないリンクを考慮した新しいトポロジー学習手法ToLRDULを開発した。
  論文  参考訳（メタデータ） (2023-12-21T07:01:18Z)
• Semi-Federated Learning: Convergence Analysis and Optimization of A Hybrid Learning Framework [70.83511997272457]
  本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。 我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
  論文  参考訳（メタデータ） (2023-10-04T03:32:39Z)
• Adaptive Federated Pruning in Hierarchical Wireless Networks [69.6417645730093]
  Federated Learning(FL)は、サーバがプライベートデータセットにアクセスすることなく、複数のデバイスによって更新されたモデルを集約する、プライバシ保護の分散学習フレームワークである。 本稿では,無線ネットワークにおけるHFLのモデルプルーニングを導入し,ニューラルネットワークの規模を小さくする。 提案するHFLは,モデルプルーニングを伴わないHFLと比較して学習精度が良く,通信コストが約50%削減できることを示す。
  論文  参考訳（メタデータ） (2023-05-15T22:04:49Z)
• Efficient Parallel Split Learning over Resource-constrained Wireless Edge Networks [44.37047471448793]
  本稿では,エッジコンピューティングパラダイムと並列分割学習(PSL)の統合を提唱する。 そこで本研究では,モデル学習を高速化するために,効率的な並列分割学習(EPSL)という革新的なPSLフレームワークを提案する。 提案するEPSLフレームワークは,目標精度を達成するために必要なトレーニング遅延を著しく低減することを示す。
  論文  参考訳（メタデータ） (2023-03-26T16:09:48Z)
• Delay-Aware Hierarchical Federated Learning [7.292078085289465]
  本稿では,分散機械学習(ML)モデルの学習効率を向上させるために,遅延認識型階層型学習(DFL)を提案する。 グローバル同期の間、クラウドサーバは、凸制御アルゴリズムを使用して、ローカルモデルを時代遅れのグローバルモデルと統合する。 数値評価により、DFLの高速グローバルモデル、収束資源の削減、通信遅延に対する評価において優れた性能を示す。
  論文  参考訳（メタデータ） (2023-03-22T09:23:29Z)
• Fed-LAMB: Layerwise and Dimensionwise Locally Adaptive Optimization Algorithm [24.42828071396353]
  FL(Federated Learning)の新たなパラダイムでは、モバイルデバイスなどの大量のクライアントが、それぞれのデータに基づいてトレーニングされている。 低帯域幅のため、分散最適化手法は計算負荷をそれらのクライアントからサーバにシフトさせる必要がある。 我々は階層的なディープニューラルネットワークに基づく新しい学習手法であるFed-LAMBを提案する。
  論文  参考訳（メタデータ） (2021-10-01T16:54:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。