論文の概要: Best of Both Worlds in Federated LSA: Speedup When Possible, Personalization Always
- arxiv url: http://arxiv.org/abs/2610.11555v1
- Date: Thu, 08 Oct 2026 09:18:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.919544
- Title: Best of Both Worlds in Federated LSA: Speedup When Possible, Personalization Always
- Title(参考訳): フェデレートされたLSAの世界のベスト2:スピードアップ、パーソナライゼーションは常に可能
- Abstract要約: エージェント間の平均更新と各エージェントのローカル更新を混合する最小限のアルゴリズムであるPF-LSAを導入する。
我々はPF-LSAが不均一性のレベルに関する事前の知識がなければ、最高の世界を保証することを証明している。
- 参考スコア(独自算出の注目度): 24.508653577554824
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study personalized federated linear stochastic approximation (LSA), a framework which notably encompass personalized temporal difference learning. In this setting, heterogeneous agents collaborate to solve distinct linear fixed-point equations, each corresponding to an agent-specific learning problem. A central open question in personalized learning is whether a single method can adapt to an unknown level of heterogeneity by converging to each agent's personalized solution in all regimes while achieving a linear speedup in the number of agents when their learning problems are sufficiently similar. We answer this question affirmatively by introducing PF-LSA, a minimalist algorithm that mixes each agent's local stochastic update with the average update across agents, at no additional computational cost relative to standard federated methods. We prove that PF-LSA, achieves best-of-both-worlds guarantees without any prior knowledge on the level of heterogeneity. Our analysis is based on a sharp decomposition of the error into consensus and disagreement components. The consensus error decays rapidly, whereas the disagreement error decays more slowly but becomes negligible in low-heterogeneity regimes.
- Abstract(参考訳): 個人化時間差学習に特有なフレームワークであるパーソナライズされた線形確率近似(LSA)について検討した。
この設定では、異種エージェントが協調して異なる線形不動点方程式を解き、それぞれがエージェント固有の学習問題に対応する。
パーソナライズドラーニングにおける中心的な疑問は、各エージェントのパーソナライズされたソリューションをすべてのレシスタンスに収束させ、学習問題が十分に類似している場合のエージェント数の線形スピードアップを達成することで、単一のメソッドが未知のヘテロジニティのレベルに適応できるかどうかである。
PF-LSAは,各エージェントの局所確率的更新とエージェント間の平均更新を混合する最小限のアルゴリズムであり,標準フェデレーション法と比較して計算コストは高くない。
我々はPF-LSAが、異質性のレベルに関する事前の知識がなければ、最高の世界を保証することを証明している。
我々の分析は、誤差をコンセンサスと不一致成分に急激な分解に基づいている。
コンセンサスエラーは急速に崩壊するが、不一致エラーはよりゆっくりと崩壊するが、低異質性体制では無視される。
関連論文リスト
- Bridging the Gap Between Homogeneous and Heterogeneous Asynchronous Optimization Is Surprisingly Difficult [67.12978375116599]
ランダム化アルゴリズムの1階と2階の類似性仮定において、改善は証明不可能であることを示す。
我々は、労働者の計算時間に依存した新しい時間複雑性を、同質な設定で最もよく知られた結果に導出する。
論文 参考訳(メタデータ) (2026-09-15T17:24:09Z) - On Performance Guarantees for Federated Learning with Personalized Constraints [1.0195618602298684]
フェデレートラーニング(FL)は、複数のエージェントにまたがる分散ラーニングのための通信効率のよいアルゴリズムフレームワークとして登場した。
そこで我々は,PC-FedAvgを提案する。PC-FedAvgはマルチブロック局所決定ベクトルを用いて,各エージェントが他エージェントの変数の相互推定を行う手法である。
我々は,サブ最適化のために$mathcalO(-2)$,エージェントワイド実現のために$mathcalO(-1)$の通信複雑度を定めている。
論文 参考訳(メタデータ) (2026-03-20T03:49:28Z) - Personalized Collaborative Learning with Affinity-Based Variance Reduction [6.504864626522373]
我々は、シームレスな適応性を持つパーソナライズされたソリューションを協調的に学習する異種エージェントのための新しいフレームワークであるパーソナライズされた協調学習(PCL)を提案する。
AffPCLは独立学習におけるサンプルの複雑さを$maxn-1, delta$で減らし、$n$はエージェントの数、$deltain[0,1]$はその不均一性を測定する。
さらに, エージェントが任意の異種エージェントと共同作業しても線形スピードアップが得られ, 高い不均一性体制下でのパーソナライズと協調に関する新たな知見が明らかにされた。
論文 参考訳(メタデータ) (2025-10-17T21:49:51Z) - Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。
我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。
車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
論文 参考訳(メタデータ) (2024-07-24T12:00:30Z) - Finite-Time Analysis of On-Policy Heterogeneous Federated Reinforcement Learning [8.632943870358627]
フェデレート強化学習(FRL)は、強化学習タスクのサンプル複雑性を低減するための有望なパラダイムとして登場した。
本稿では,線形関数近似を用いた新しいオンライン強化学習手法であるFedSARSAを紹介する。
我々は,FedSARSAが,不均一性のレベルに比例して,すべてのエージェントに対してほぼ最適のポリシーに収束することを示す。
論文 参考訳(メタデータ) (2024-01-27T02:43:45Z) - The Blessing of Heterogeneity in Federated Q-Learning: Linear Speedup
and Beyond [44.43850105124659]
地域データだけで訓練された局所的なQ-推定を周期的に集約することで、最適なQ-関数を学習することを目的とした、連合型Q-ラーニングについて考察する。
フェデレートされたQ-ラーニングの同期型と非同期型の両方に対して,複雑性の保証を行う。
本稿では,より頻繁に訪れる状態-行動ペアに対して,重み付けを重要視する新しいQ-ラーニングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-05-18T04:18:59Z) - Factorization of Multi-Agent Sampling-Based Motion Planning [72.42734061131569]
現代のロボティクスは、共有環境内で複数のエンボディエージェントを動作させることが多い。
標準的なサンプリングベースのアルゴリズムは、ロボットの関節空間における解の探索に使用できる。
我々は、因子化の概念をサンプリングベースアルゴリズムに統合し、既存の手法への最小限の変更しか必要としない。
本稿では, PRM* のサンプル複雑性の観点から解析的ゲインを導出し, RRG の実証結果を示す。
論文 参考訳(メタデータ) (2023-04-01T15:50:18Z) - Local Learning Matters: Rethinking Data Heterogeneity in Federated
Learning [61.488646649045215]
フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
論文 参考訳(メタデータ) (2021-11-28T19:03:39Z) - Decentralized Local Stochastic Extra-Gradient for Variational
Inequalities [125.62877849447729]
我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。
我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。
理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
論文 参考訳(メタデータ) (2021-06-15T17:45:51Z) - Dynamic Federated Learning [57.14673504239551]
フェデレートラーニング(Federated Learning)は、マルチエージェント環境における集中的なコーディネーション戦略の包括的用語として登場した。
我々は、各イテレーションにおいて、利用可能なエージェントのランダムなサブセットがそのデータに基づいてローカル更新を実行する、フェデレートされた学習モデルを考える。
集約最適化問題に対する真の最小化器上の非定常ランダムウォークモデルの下で、アーキテクチャの性能は、各エージェントにおけるデータ変動率、各エージェントにおけるモデル変動率、アルゴリズムの学習率に逆比例する追跡項の3つの要因によって決定されることを示す。
論文 参考訳(メタデータ) (2020-02-20T15:00:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。