論文の概要: Beyond Aggregate Drift: Optimal Client-Specific Windows in Federated Learning

• arxiv url: http://arxiv.org/abs/2610.15543v1
• Date: Sun, 11 Oct 2026 11:34:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-19 18:02:16.500814
• Title: Beyond Aggregate Drift: Optimal Client-Specific Windows in Federated Learning
• Title（参考訳）: Aggregate Driftを超えて: フェデレーションラーニングにおける最適なクライアント特化Windows
• Abstract要約: 私たちは、継続的に到着するデータから学習を研究する。各クライアントは、それぞれのディストリビューションからサンプルを採取し、これらの分散は時間とともにドリフトし、サーバは、クライアントの重み付けされた平均損失の最小値を追跡する必要がある。 ひとつの共有ウィンドウは、一度にすべてのクライアントにサービスを提供しなければならないため、高速に変化するクライアントは、遅く、ほぼ静止しているクライアントのサンプリングノイズを運ぶ。 私たちは、各クライアントに、そのクライアントのノイズ、到着率、ドリフトの大きさの独自のメモリを与え、共通のポイントから始まるアクセラレーションされたメソッドによってそれをリフレッシュします。
• 参考スコア（独自算出の注目度）: 36.90685004800658
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study federated learning from continuously arriving data: each client samples from its own distribution, these distributions drift over time, and the server must track the minimizer of the clients' weighted average loss. Clients are not alike as they collect data at different rates, with different noise, and change at different speeds. The main question is how much history should each one keep? A single shared window must serve every client at once, and so makes a fast-changing client carry the sampling noise of a slow, nearly stationary one. We give each client a memory of its own, sized to that client's noise, arrival rate, and drift, and refresh it by restarted accelerated method that starts from a common point. The tracking error is then bounded by \[ R\left(\sum_m w_m^{3/2}\,σ_m\sqrt{γ_m/λ_m}\right)^{2/3}, \] for clients with weight $w_m$, noise $σ_m$, arrival rate $λ_m$, and drift rate $γ_m$ on a domain of diameter $R$. This is never worse than what any common window can achieve, and strictly better whenever noise and drift are spread unevenly across clients. A lower bound that puts different groups of clients on different drift clocks shows this quantity is the right one. The two bounds agree up to a constant whenever the clients occupy boundedly many refresh scales, and in general differ only by the sixth root of the number of scales. Experiments show the gain comes from the memory rather than from the solver: it persists across accelerated, stochastic-gradient, and one-step methods, and against a separately tuned common-memory baseline.
• Abstract（参考訳）: それぞれのクライアントは、それぞれの分散からサンプルを採取し、これらの分散は時間とともにドリフトし、サーバは、クライアントの重み付き平均損失の最小化を追跡する必要がある。 クライアントは、異なるレートでデータを収集し、異なるノイズで、異なる速度で変更するため、似ていない。 主な疑問は、それぞれの歴史がどれくらい保持されるべきかということです。 ひとつの共有ウィンドウは、一度にすべてのクライアントにサービスを提供しなければならないため、高速に変化するクライアントは、遅く、ほぼ静止しているクライアントのサンプリングノイズを運ぶ。 私たちは、各クライアントに、そのクライアントのノイズ、到着率、ドリフトの大きさの独自のメモリを与え、共通のポイントから始まるアクセラレーションされたメソッドによってそれをリフレッシュします。 次に、追跡誤差は、重量$w_m$、ノイズ$σ_m$、到着レート$λ_m$、直径$R$の領域でのドリフトレート$γ_m$、クライアントに対する \[R\left(\sum_m w_m^{3/2}\,σ_m\sqrt{γ_m/λ_m}\right)^{2/3}, \] でバウンドされる。 これは、一般的なウィンドウが達成できるものよりも悪くはないし、ノイズやドリフトがクライアント全体に不均一に分散するたびに、厳密には改善される。 異なるドリフトクロックに異なるクライアントのグループを置く低い境界は、この量が正しいことを示している。 2つのバウンダリは、クライアントが多くのリフレッシュスケールを有界に占有するたびに常に一致し、一般的には、スケールの数の6番目のルートによってのみ異なる。 実験では、チューンされた共通メモリベースラインに対して、加速された、確率的な、段階的な、ワンステップのメソッドにまたがって継続する。

関連論文リスト

• RIPPLE in Still Water: Zero-Shot Clustering in Federated Learning with Wavelet Scattering Transform [51.56484100374058]
  クラスタ化されたフェデレートラーニング(FL)は、クライアントを同じローカル分布のグループに分割し、クラスタ毎に1つの特別なモデルを訓練する。 本稿では、各クライアントのローカルデータのスペクトル特性からクラスタ割り当てを完全にオフラインで計算するクラスタリングFLフレームワークであるRIPPLEを提案する。
  論文  参考訳（メタデータ） (2026-10-02T09:35:39Z)
• Byzantine-Robust Federated Learning: Impact of Client Subsampling and Local Updates [11.616782769625003]
  逆境(エム・ビザンティン)のクライアントは、連邦学習(FL)を任意に操作する傾向がある。 学習精度の向上は, サブサンプルクライアント数に対して著しく低下することを示す。 また、注意深いステップ選択の下では、ビザンティンのクライアントによる学習エラーは局所的なステップの数とともに減少する。
  論文  参考訳（メタデータ） (2024-02-20T07:40:11Z)
• Adaptive Compression in Federated Learning via Side Information [28.401993810064255]
  約$D_KL(q_phi(n) p_theta$ ビットの通信を必要とするフレームワークを提案する。 私たちは、我々のメソッドを既存の圧縮フレームワークに組み込むことで、以前の作業の最大8,2500ドル(約8,500円)の精度で、同じ(そしてしばしば高い)テストの精度を達成することができることを示しています。
  論文  参考訳（メタデータ） (2023-06-22T01:29:50Z)
• Timely Asynchronous Hierarchical Federated Learning: Age of Convergence [59.96266198512243]
  クライアント-エッジ-クラウドフレームワークを用いた非同期階層型フェデレーション学習環境について検討する。 クライアントはトレーニングされたパラメータをエッジサーバと交換し、ローカルに集約されたモデルを更新する。 各クライアントの目標は、クライアントのタイムラインを維持しながら、グローバルモデルに収束することだ。
  論文  参考訳（メタデータ） (2023-06-21T17:39:16Z)
• Federated Learning with Regularized Client Participation [1.433758865948252]
  Federated Learning(FL)は、複数のクライアントが協力して機械学習タスクを解決する分散機械学習アプローチである。 FLの主な課題の1つは、多くのクライアントがトレーニングプロセスに関与しているときに発生する部分的な参加の問題である。 本稿では,新しい手法を提案し,新しいクライアント参加方式を設計する。
  論文  参考訳（メタデータ） (2023-02-07T18:26:07Z)
• FedCorr: Multi-Stage Federated Learning for Label Noise Correction [80.9366438220228]
  Federated Learning(FL)は、クライアントがグローバルモデルの共同トレーニングを可能にする、プライバシ保護の分散学習パラダイムである。 FLにおける異種ラベルノイズに対処する汎用多段階フレームワークであるtextttFedCorr$を提案する。 CIFAR-10/100でフェデレートされた合成ラベルノイズと実世界のノイズデータセットであるCloting1Mで実施された実験は、textttFedCorr$がラベルノイズに対して堅牢であることを実証した。
  論文  参考訳（メタデータ） (2022-04-10T12:51:18Z)
• Federated Noisy Client Learning [105.00756772827066]
  フェデレートラーニング(FL)は、複数のローカルクライアントに依存する共有グローバルモデルを協調的に集約する。 標準FLメソッドは、集約されたモデル全体のパフォーマンスを損なううるノイズの多いクライアントの問題を無視します。 本稿では,Fed-NCL (Federated Noisy Client Learning) を提案する。
  論文  参考訳（メタデータ） (2021-06-24T11:09:17Z)
• Timely Communication in Federated Learning [65.1253801733098]
  我々は,パラメータサーバ(PS)が,クラウドサーバにクライアントデータを集中的に格納することなく,$n$クライアントを用いてグローバルモデルを訓練するグローバルラーニングフレームワークを検討する。 提案されたスキームでは、各イテレーションでPSは$m$のクライアントを待ち、現在のモデルを送信する。 各クライアントが経験する情報の平均年齢を見つけ、与えられた$n$の年齢最適値である$m$と$k$を数値的に特徴付ける。
  論文  参考訳（メタデータ） (2020-12-31T18:52:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。