論文の概要: The Dynamics of Collapse and Recovery in Clustered Federated Learning

• arxiv url: http://arxiv.org/abs/2610.28565v1
• Date: Tue, 20 Oct 2026 17:24:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.947292
• Title: The Dynamics of Collapse and Recovery in Clustered Federated Learning
• Title（参考訳）: クラスタ化フェデレーション学習における崩壊と回復のダイナミクス
• Abstract要約: 我々は、未知の力学系の制御として、クラスタ化された連合学習を定式化する。 経路干渉が崩壊を逆転させる可能性を示す有限地平面誤差ダイナミクスを導出する。 実験により、より単純な予測器とより高速なスペシャリスト形成により、自律的なコントローラ選択が利用可能なスペシャリストを回復することが示された。
• 参考スコア（独自算出の注目度）: 1.2891210250935148
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Clustered federated learning (CFL) can suffer from cluster collapse. In particular, under unfavorable initialization, early client assignments concentrate heterogeneous groups on one cluster model, which is then trained toward a pooled compromise, while another model receives no updates. Since the current models determine client routing and routing determines subsequent model updates, we formulate clustered federated learning as control of an unknown dynamical system, with cluster models as the evolving state, client routing patterns as the control input, and routing interventions as state dependent controllers. In a two group linear model, we identify an initialization region in which greedy routing makes collapse self reinforcing. We then derive finite horizon error dynamics showing how routing interventions can reverse collapse by repeatedly training the starved model, primarily with updates from its compatible group. Motivated by this condition, each client uses blocked EXP3 to choose between greedy routing and interventions that redirect updates toward unused models. Experiments show that with simpler predictors and faster specialist formation, autonomous controller selection recovers usable specialists from unfavorable starts that trap standard CFL baselines. In transformed FEMNIST, the synchronized-entry configuration with persistent commitment recovers usable specialists in settings where the autonomous controller configuration often does not. Code and scripts for reproducing the experiments and figures are available at https://github.com/prsinha1/FedRecover.
• Abstract（参考訳）: クラスタ化された連合学習(CFL)は、クラスタ崩壊に悩まされる可能性がある。 特に、好ましくない初期化の下では、初期のクライアントの割り当ては、あるクラスタモデルに異種グループを集中させ、プールされた妥協に向けてトレーニングされ、別のモデルは更新を受けない。 現在のモデルがクライアントのルーティングを決定し、ルーティングがその後のモデル更新を決定するため、未知の動的システムの制御としてクラスタ化されたフェデレーション学習を定式化し、クラスタモデルを進化状態として、クライアントのルーティングパターンを制御入力として、そして状態依存コントローラとしてルーティング介入を行う。 2群線形モデルでは、グリージールーティングが自己補強を崩壊させる初期化領域を同定する。 次に、主に対応するグループからの更新を伴う飢餓モデルを繰り返し訓練することにより、経路介入が崩壊を逆転させることを示す有限地平面誤差ダイナミクスを導出する。 この条件でモチベーションされた各クライアントは、ブロックされたEXP3を使用して、greedyルーティングと、更新を未使用のモデルにリダイレクトする介入を選択する。 実験により、より単純な予測器とより高速なスペシャリスト構成により、自律的なコントローラ選択は、標準のCFLベースラインをトラップする好ましくないスタートから、使用可能なスペシャリストを回復することが示された。 変換されたFEMNISTでは、永続的なコミットを伴う同期化エントリ構成は、自律的なコントローラ設定が頻繁に行わない設定で使用可能なスペシャリストを回復する。 実験と図を再現するためのコードとスクリプトはhttps://github.com/prsinha1/FedRecover.comで公開されている。

関連論文リスト

• RIPPLE in Still Water: Zero-Shot Clustering in Federated Learning with Wavelet Scattering Transform [51.56484100374058]
  クラスタ化されたフェデレートラーニング(FL)は、クライアントを同じローカル分布のグループに分割し、クラスタ毎に1つの特別なモデルを訓練する。 本稿では、各クライアントのローカルデータのスペクトル特性からクラスタ割り当てを完全にオフラインで計算するクラスタリングFLフレームワークであるRIPPLEを提案する。
  論文  参考訳（メタデータ） (2026-10-02T09:35:39Z)
• UPLOTS: A Unified Pretrained Language Model for Constrained Time-series Generation [9.651308133504818]
  UPLOTS(Unified, Prompt-guided Language framework fOrtrained Time-Series Generation)を提案する。 タスク固有のモデルを構築する代わりに、UPLOTSは学習された制約プロンプトによって導かれる1つの事前訓練されたトランスフォーマーバックボーンを利用する。 UPLOTSを4つの実世界のベンチマークと、ピーク時、カレンダー、負荷レベル、ボラティリティパターンを含む複数の制約設定で評価する。
  論文  参考訳（メタデータ） (2026-06-09T06:36:06Z)
• COSMOS: Model-Agnostic Personalized Federated Learning with Clustered Server Models and Pseudo-Label-Only Communication [30.273926583699264]
  擬似ラベル通信のみを用いてサーバ側のパーソナライズを可能にするモデルに依存しないフレームワークであるCOSMOSを紹介する。 クライアントはローカルモデルをトレーニングし、公開データに基づいて予測する。サーバは類似性を予測してクライアントをクラスタ化し、独自の計算を使用して各グループのクラスタ固有のモデルをトレーニングする。 本研究では,学習クラスタモデルの蒸留が指数関数的パーソナライズリスク収縮をもたらすことを示す最初の理論的解析を行った。
  論文  参考訳（メタデータ） (2026-05-11T19:16:36Z)
• Emergent temporal abstractions in autoregressive models enable hierarchical reinforcement learning [61.380634253724594]
  次トーケン予測に基づく大規模自己回帰モデルの構築と強化学習(RL)による微調整 自己回帰モデルの内部表現を動作させ,探索することにより,この問題を克服できることを示す。
  論文  参考訳（メタデータ） (2025-12-23T18:51:50Z)
• CycleSL: Server-Client Cyclical Update Driven Scalable Split Learning [60.59553507555341]
  本稿では,新たなアグリゲーションフリーな分割学習フレームワークであるCycleSLを紹介する。 ブロック座標降下の交互化によって着想を得たCycleSLは、サーバサイドトレーニングを独立した高レベルの機械学習タスクとして扱う。 実験結果から,CycleSLのモデル性能向上効果が示唆された。
  論文  参考訳（メタデータ） (2025-11-23T21:00:21Z)
• Model Discovery and Graph Simulation: A Lightweight Gateway to Chaos Engineering [0.0]
  カオスエンジニアリングはレジリエンスのリスクを明らかにしますが、広く頻繁に実行するには高価で運用上のリスクがあります。 我々は、単純な接続のみのトポロジモデルにより、フェールストップフォールトの下で、高速で低リスクなアベイラビリティー推定を行うことができると主張している。
  論文  参考訳（メタデータ） (2025-06-12T10:59:28Z)
• A system identification approach to clustering vector autoregressive time series [50.66782357329375]
  基礎となる力学に基づく時系列のクラスタ化は、複雑なシステムモデリングを支援するために研究者を惹きつけている。 現在の時系列クラスタリング手法のほとんどは、スカラー時系列のみを処理し、ホワイトノイズとして扱うか、高品質な特徴構築のためにドメイン知識に依存している。 システム識別アプローチは、機能/測定構造に頼るのではなく、基礎となる自己回帰力学を明示的に考慮することで、ベクトル時系列クラスタリングを処理できる。
  論文  参考訳（メタデータ） (2025-05-20T14:31:44Z)
• Byzantine-robust Federated Learning through Spatial-temporal Analysis of Local Model Updates [6.758334200305236]
  フェデレートラーニング(FL)は、複数の分散クライアント(モバイルデバイスなど)が、クライアントにローカルにトレーニングデータを保持しながら、協調的に集中的なモデルをトレーニングすることを可能にする。 本稿では,これらの障害と攻撃を空間的・時間的観点から緩和することを提案する。 具体的には、パラメータ空間におけるそれらの幾何学的性質を活用することにより、不正な更新を検出し、排除するためにクラスタリングに基づく手法を用いる。
  論文  参考訳（メタデータ） (2021-07-03T18:48:11Z)
• Information-Theoretic Bounds on the Generalization Error and Privacy Leakage in Federated Learning [96.38757904624208]
  モバイルネットワーク上の機械学習アルゴリズムは、3つのカテゴリに分類される。 この研究の主な目的は、前述のすべての学習パラダイムに対する情報理論のフレームワークを提供することである。
  論文  参考訳（メタデータ） (2020-05-05T21:23:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。