論文の概要: Bridging Update Coordination and Flatness in Federated Learning
- arxiv url: http://arxiv.org/abs/2611.15165v1
- Date: Wed, 11 Nov 2026 08:00:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.080533
- Title: Bridging Update Coordination and Flatness in Federated Learning
- Title(参考訳): フェデレーション学習におけるブリッジ更新コーディネートとフラットネス
- Abstract要約: フェデレーション学習は、クライアント間で補完的な知識を組み合わせることで、生サンプルを共有することなく、ローカルデータ制限を緩和する。
更新調整と平坦度最適化を橋渡しする統合学習フレームワークを提案する。
実験により、評価された組み合わせは、更新調整だけで平均と最悪のクオリティを向上することが示された。
- 参考スコア(独自算出の注目度): 5.9897636514677375
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning combines complementary knowledge across clients to alleviate local data limitations without sharing raw samples. However, data heterogeneity can cause conflicting updates and hinder generalization. Update coordination reduces interference among client updates, while flatness optimization reduces sensitivity to parameter perturbations to improve generalization. Existing joint designs largely target specific algorithms, limiting flexible combinations of these approaches. To address this problem, we propose a unified federated learning framework that bridges update coordination and flatness optimization. Clients separately accumulate descent signals and flatness corrections along the same local trajectory. The server coordinates both groups with independent states before fusing their outputs into a global update. Explicit conversion between trajectory signals and model updates enables different coordination strategies to work with compatible local or globally guided flatness mechanisms without changing the inference architecture. Experiments show that the evaluated combinations generally improve average and worst-client accuracy over update coordination alone, demonstrating the effectiveness of the proposed framework in combining these complementary optimization mechanisms.
- Abstract(参考訳): フェデレーション学習は、クライアント間で補完的な知識を組み合わせることで、生サンプルを共有することなく、ローカルデータ制限を緩和する。
しかし、データの異質性は相反する更新を引き起こし、一般化を妨げる可能性がある。
更新調整はクライアント更新間の干渉を低減し、フラットネス最適化はパラメータ摂動に対する感度を低減し、一般化を改善する。
既存の共同設計は主に特定のアルゴリズムをターゲットにしており、これらのアプローチの柔軟な組み合わせを制限している。
この問題に対処するために,更新調整と平坦度最適化を橋渡しする統合学習フレームワークを提案する。
クライアントは、同じ局所軌道に沿って降下信号と平坦度補正を別々に蓄積する。
サーバは、アウトプットをグローバルに更新する前に、両方のグループを独立した状態に調整する。
軌道信号とモデル更新の明示的な変換により、異なる調整戦略が、推論アーキテクチャを変更することなく、互換性のある局所的またはグローバルに導かれた平坦性メカニズムで機能することができる。
実験により, 評価された組み合わせは, 更新調整だけで平均値と最低値の精度を向上し, これらの相補的な最適化機構を組み合わせる上で, 提案フレームワークの有効性を実証した。
関連論文リスト
- FedACT: Federated Adaptive Coordinate Trust Modulation for Robust Transformer Training under Data Heterogeneity [28.268709911338632]
FedACTはグローバルに修正された適応方向を形成し、座標的信頼スコアに従って更新サイズを再配置する。
フェデレーション・ビジョン・トランスフォーマー, CNN, LLM事前訓練, LLM微調整実験の結果, FedACTは強い適応ベースラインよりも一貫して改善されている。
論文 参考訳(メタデータ) (2026-07-04T08:31:49Z) - Local adapt-then-combine algorithms for distributed nonsmooth optimization: Achieving provable communication acceleration [50.67878993903822]
通信効率のよいAdapt-Then-Combine (ATC) フレームワークであるFlexATCを提案する。
ローカル更新がATCベースの分散アルゴリズムの通信高速化につながることを示すのはこれが初めてである。
論文 参考訳(メタデータ) (2026-02-18T02:47:05Z) - CO-PFL: Contribution-Oriented Personalized Federated Learning for Heterogeneous Networks [51.43780477302533]
コントリビューション指向型PFL(CO-PFL)は,グローバルアグリゲーションに対する各クライアントのコントリビューションを動的に推定するアルゴリズムである。
CO-PFLは、パーソナライズ精度、堅牢性、スケーラビリティ、収束安定性において、最先端の手法を一貫して超越している。
論文 参考訳(メタデータ) (2025-10-23T05:10:06Z) - Kuramoto-FedAvg: Using Synchronization Dynamics to Improve Federated Learning Optimization under Statistical Heterogeneity [0.0]
不均一(非IID)クライアントデータのフェデレーション学習は、クライアントのドリフトによる収束が遅い。
重み集約ステップを同期問題として再構成するフェデレート最適化アルゴリズムである倉本FedAvgを提案する。
論文 参考訳(メタデータ) (2025-05-26T07:16:00Z) - FedDuA: Doubly Adaptive Federated Learning [2.6108066206600555]
フェデレーション学習(Federated Learning)は、クライアントが生データを共有せずにグローバルモデルを共同でトレーニングする分散学習フレームワークである。
我々は、ミラー降下レンズによる中央サーバ最適化手順を定式化し、FedDuAと呼ばれる新しいフレームワークを提案する。
提案した2次適応型ステップサイズルールは最小限最適であり,凸対象に対する収束解析を提供する。
論文 参考訳(メタデータ) (2025-05-16T11:15:27Z) - Aggregation on Learnable Manifolds for Asynchronous Federated Optimization [3.8208848658169763]
曲線学習としてアグリゲーションを取り入れた幾何学的枠組みを導入する。
そこで我々は,線形アグリゲーションを低次曲率成分に置き換えたAsyncBezierを提案する。
これらの利得は、他の方法がより高いローカルな計算予算に割り当てられた場合でも維持されることを示す。
論文 参考訳(メタデータ) (2025-03-18T16:36:59Z) - Aiding Global Convergence in Federated Learning via Local Perturbation and Mutual Similarity Information [6.767885381740953]
分散最適化パラダイムとしてフェデレートラーニングが登場した。
本稿では,各クライアントが局所的に摂動勾配のステップを実行する,新しいフレームワークを提案する。
我々は,FedAvgと比較して,アルゴリズムの収束速度が30のグローバルラウンドのマージンとなることを示す。
論文 参考訳(メタデータ) (2024-10-07T23:14:05Z) - Efficient Federated Learning via Local Adaptive Amended Optimizer with
Linear Speedup [90.26270347459915]
そこで我々は,グローバル・アダプティカル・アダプティカル・アダプティカル・アダプティカル・アダプティカル・アルゴリズムを提案する。
textitLADAは通信ラウンドを大幅に削減し、複数のベースラインよりも高い精度を実現する。
論文 参考訳(メタデータ) (2023-07-30T14:53:21Z) - Dynamic Regularized Sharpness Aware Minimization in Federated Learning: Approaching Global Consistency and Smooth Landscape [59.841889495864386]
フェデレートラーニング(FL)では、グローバルサーバの協調の下で、ローカルクライアントのクラスタがチェアリングされる。
クライアントは自身のオプティマに過度に適合する傾向にあり、グローバルな目標から非常に逸脱する。
tt Family FedSMOOは、グローバルな目的に対する局所的な最適性を保証するために動的正規化器を採用する。
理論解析により, tt Family FedSMOO は, 低境界一般化による高速$mathcalO (1/T)$収束率を達成することが示された。
論文 参考訳(メタデータ) (2023-05-19T10:47:44Z) - Accelerated Federated Learning with Decoupled Adaptive Optimization [53.230515878096426]
フェデレートドラーニング(FL)フレームワークは、クライアント上のトレーニングデータのプライバシを維持しながら、共有モデルを協調的に学習することを可能にする。
近年,SGDM,Adam,AdaGradなどの集中型適応最適化手法をフェデレートした設定に一般化するためのイテレーションが多数実施されている。
本研究は、常微分方程式(ODE)のダイナミクスの観点から、FLの新しい適応最適化手法を開発することを目的としている。
論文 参考訳(メタデータ) (2022-07-14T22:46:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。