論文の概要: Gaussian Approximation and Multiplier Bootstrap for Federated Linear Stochastic Approximation
- arxiv url: http://arxiv.org/abs/2605.19629v1
- Date: Tue, 19 May 2026 10:08:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:09.272072
- Title: Gaussian Approximation and Multiplier Bootstrap for Federated Linear Stochastic Approximation
- Title(参考訳): 線形確率近似に対するガウス近似と乗算器ブートストラップ
- Authors: Ilya Levin, Maksim Shuklin, Eric Moulines, Paul Mangold, Sergey Samsonov,
- Abstract要約: 我々は、連合線形近似(LSA)のためのベリー-エッセイン型境界を確立する。
結果は、通信計算のトレードオフと不均一性を考慮したエラー項を明示的にキャプチャする LSA に対する最初の連合ガウス近似を提供する。
その結果, (i) ステップサイズが一定であること, (ii) ステップサイズが小さくなったこと, (ii) 局所的な反復が増加し, ボナージーら(2025) の最近の速度が回復した。
- 参考スコア(独自算出の注目度): 25.919837824259474
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we establish Berry-Esseen-type bounds for federated linear stochastic approximation (LSA). Our results provide the first federated Gaussian approximations for LSA that explicitly capture communication-computation trade-offs and heterogeneity-aware error terms, quantifying the effects of local step size, number of local updates, and heterogeneity on convergence rates. We present results for both (i) constant step size regime and (ii) decreasing step size with an increasing number of local iterations, recovering the recent rates of Bonnerjee et al. [2025] as a special case. As a primary application of our results, we develop an online multiplier bootstrap procedure for inference on the last iterate, which avoids explicit estimation of the asymptotic covariance matrix, and obtain non-asymptotic validity guarantees for this procedure.
- Abstract(参考訳): 本稿では,連合線形確率近似(LSA)のためのベリー-エッセイン型境界を確立する。
この結果は,通信計算のトレードオフと不均一性を考慮した誤り項を明示的に捉え,局所的なステップサイズ,局所的な更新数,収束率に対する不均一性の影響を定量化する。
我々は両方に結果を提示する
一 一定の段階の大きさの体制及び
(ii) 局所反復数の増加に伴いステップサイズが減少し,Bonnerjee et al [2025] の最近の比率が回復した。
本研究の主な応用として, 漸近的共分散行列の明示的な推定を回避し, 非漸近的確証を得るオンライン・マルチプライアブートストラップ法を開発した。
関連論文リスト
- Improved Central Limit Theorem and Bootstrap Approximations for Linear Stochastic Approximation [28.34847294888529]
我々は、ポリャク=ジュディツキー中心極限定理によって予測される共分散行列を持つガウス分布による正規近似を考える。
平均化LSA推定器の再スケール誤差の分布を近似するために,乗算器ブートストラップ法の非漸近的妥当性を証明した。
論文 参考訳(メタデータ) (2025-10-14T10:50:10Z) - Uncertainty quantification for Markov chain induced martingales with application to temporal difference learning [55.197497603087065]
線形関数近似を用いた時間差分学習アルゴリズムの性能解析を行った。
マルコフ連鎖によって誘導されるベクトル値マルティンタに対する新規で一般的な高次元濃度不等式とベリー-エッセイン境界を確立する。
論文 参考訳(メタデータ) (2025-02-19T15:33:55Z) - Riemannian Federated Learning via Averaging Gradient Streams [10.533809913888591]
分散学習パラダイムとしてのフェデレートラーニング(FL)は、大規模な機械学習タスクに対処する上で大きな利点がある。
本稿では、RFedAGSと呼ばれる勾配ストリームを平均化する、新しい効率的なサーバアグリゲーションを提示、分析する。
提案したRFedAGSは, 崩壊するステップサイズの場合において, グローバル収束率とサブ線形収束率を有することを示す。
論文 参考訳(メタデータ) (2024-09-11T12:28:42Z) - Gaussian Approximation and Multiplier Bootstrap for Polyak-Ruppert Averaged Linear Stochastic Approximation with Applications to TD Learning [15.041074872715752]
マルチプライアブートストラップに基づくパラメータ推定において,信頼区間の非漸近的妥当性を証明した。
本稿では,線形関数近似を用いた時間差学習の設定について述べる。
論文 参考訳(メタデータ) (2024-05-26T17:43:30Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Variational sparse inverse Cholesky approximation for latent Gaussian
processes via double Kullback-Leibler minimization [6.012173616364571]
後肢の変分近似とSIC制限したKulback-Leibler-Optimal近似を併用した。
この設定のために、我々の変分近似は反復毎の多対数時間で勾配降下によって計算できる。
本稿では,DKLGP(Double-Kullback-Leibler-Optimal Gaussian-process approximation)を提案する。
論文 参考訳(メタデータ) (2023-01-30T21:50:08Z) - Posterior and Computational Uncertainty in Gaussian Processes [52.26904059556759]
ガウスのプロセスはデータセットのサイズとともに違法にスケールする。
多くの近似法が開発されており、必然的に近似誤差を導入している。
この余分な不確実性の原因は、計算が限られているため、近似後部を使用すると完全に無視される。
本研究では,観測された有限個のデータと有限個の計算量の両方から生じる組合せ不確実性を一貫した推定を行う手法の開発を行う。
論文 参考訳(メタデータ) (2022-05-30T22:16:25Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z) - ROOT-SGD: Sharp Nonasymptotics and Near-Optimal Asymptotics in a Single Algorithm [71.13558000599839]
第一次アルゴリズムを用いて,厳密な凸と滑らかな非制約最適化問題の解法について検討する。
我々は,過去の勾配を平均化し,実装が容易な小説「Recursive One-Over-T SGD」を考案した。
有限サンプル, 漸近感覚, 感覚の両面において, 最先端の性能を同時に達成できることを実証する。
論文 参考訳(メタデータ) (2020-08-28T14:46:56Z) - Random extrapolation for primal-dual coordinate descent [61.55967255151027]
本稿では,データ行列の疎度と目的関数の好適な構造に適応する,ランダムに外挿した原始-双対座標降下法を提案する。
一般凸凹の場合, 主対差と目的値に対するシーケンスのほぼ確実に収束と最適サブ線形収束率を示す。
論文 参考訳(メタデータ) (2020-07-13T17:39:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。