論文の概要: Gaussian Approximation for Two-Timescale Linear Stochastic Approximation

• arxiv url: http://arxiv.org/abs/2508.07928v1
• Date: Mon, 11 Aug 2025 12:41:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-12 21:23:29.095781
• Title: Gaussian Approximation for Two-Timescale Linear Stochastic Approximation
• Title（参考訳）: 2時間線形確率近似のためのガウス近似
• Authors: Bogdan Butyrin, Artemy Rubtsov, Alexey Naumov, Vladimir Ulyanov, Sergey Samsonov,
• Abstract要約: We establish algorithm driven by martingale difference or Markov noise。 確率間の凸距離の観点から正規近似のバウンダリを導出する。 また,線形TTSAアルゴリズムの誤差に対する高次モーメント境界も提供する。
• 参考スコア（独自算出の注目度）: 4.4491311274892436
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we establish non-asymptotic bounds for accuracy of normal approximation for linear two-timescale stochastic approximation (TTSA) algorithms driven by martingale difference or Markov noise. Focusing on both the last iterate and Polyak-Ruppert averaging regimes, we derive bounds for normal approximation in terms of the convex distance between probability distributions. Our analysis reveals a non-trivial interaction between the fast and slow timescales: the normal approximation rate for the last iterate improves as the timescale separation increases, while it decreases in the Polyak-Ruppert averaged setting. We also provide the high-order moment bounds for the error of linear TTSA algorithm, which may be of independent interest.
• Abstract（参考訳）: 本論文では,マーチンゲール差やマルコフ雑音によって駆動される線形2時間スケール確率近似(TTSA)アルゴリズムに対して,正規近似の精度の非漸近境界を確立する。 最後のイテレーションとPolyak-Ruppert平均化に焦点をあてて、確率分布間の凸距離の観点から正規近似のバウンダリを導出する。 解析の結果, 時間スケールの分離が増加するにつれて, 時間スケールの正規近似率が向上する一方, ポリーク・ルパート平均設定では減少することがわかった。 また,線形TTSAアルゴリズムの誤差に対する高次モーメント境界も提供する。

関連論文リスト

• Nonasymptotic CLT and Error Bounds for Two-Time-Scale Stochastic Approximation [12.69327994479157]
  We consider linear two-time-scale approximation algorithm driven by martingale noise。 我々は、PolyakRuppert平均化を用いた2時間スケール近似のためのワッサーシュタイン-1距離に関する最初の漸近的中心極限定理を導出した。
  論文  参考訳（メタデータ） (2025-02-14T03:20:30Z)
• Gaussian Approximation and Multiplier Bootstrap for Polyak-Ruppert Averaged Linear Stochastic Approximation with Applications to TD Learning [15.041074872715752]
  マルチプライアブートストラップに基づくパラメータ推定において,信頼区間の非漸近的妥当性を証明した。 本稿では,線形関数近似を用いた時間差学習の設定について述べる。
  論文  参考訳（メタデータ） (2024-05-26T17:43:30Z)
• Variational sparse inverse Cholesky approximation for latent Gaussian processes via double Kullback-Leibler minimization [6.012173616364571]
  後肢の変分近似とSIC制限したKulback-Leibler-Optimal近似を併用した。 この設定のために、我々の変分近似は反復毎の多対数時間で勾配降下によって計算できる。 本稿では,DKLGP(Double-Kullback-Leibler-Optimal Gaussian-process approximation)を提案する。
  論文  参考訳（メタデータ） (2023-01-30T21:50:08Z)
• Min-Max Optimization Made Simple: Approximating the Proximal Point Method via Contraction Maps [77.8999425439444]
  本稿では,凸/凹凸 min-max 問題に対して,ほぼ最適収束率を許容する一階法を提案する。 我々の研究は、近点法の更新規則を精度良く近似できるという事実に基づいている。
  論文  参考訳（メタデータ） (2023-01-10T12:18:47Z)
• Hessian Averaging in Stochastic Newton Methods Achieves Superlinear Convergence [69.65563161962245]
  ニュートン法を用いて,滑らかで強凸な目的関数を考える。 最適段階において局所収束に遷移する普遍重み付き平均化スキームが存在することを示す。
  論文  参考訳（メタデータ） (2022-04-20T07:14:21Z)
• ROOT-SGD: Sharp Nonasymptotics and Near-Optimal Asymptotics in a Single Algorithm [71.13558000599839]
  第一次アルゴリズムを用いて,厳密な凸と滑らかな非制約最適化問題の解法について検討する。 我々は,過去の勾配を平均化し,実装が容易な小説「Recursive One-Over-T SGD」を考案した。 有限サンプル, 漸近感覚, 感覚の両面において, 最先端の性能を同時に達成できることを実証する。
  論文  参考訳（メタデータ） (2020-08-28T14:46:56Z)
• On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and Non-Asymptotic Concentration [115.1954841020189]
  The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。 一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
  論文  参考訳（メタデータ） (2020-04-09T17:54:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。