論文の概要: Convergence Rate in Nonlinear Two-Time-Scale Stochastic Approximation with State (Time)-Dependence

• arxiv url: http://arxiv.org/abs/2509.11039v1
• Date: Sun, 14 Sep 2025 02:06:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-16 17:26:22.882306
• Title: Convergence Rate in Nonlinear Two-Time-Scale Stochastic Approximation with State (Time)-Dependence
• Title（参考訳）: 非線形2時間スケール確率近似における状態(時間)依存性の収束速度
• Authors: Zixi Chen, Yumin Xu, Ruixun Zhang,
• Abstract要約: Lyapunov 関数はどちらの場合も収束率を示す。 状態雑音パラメータがその極限値に完全に近づくと、リャプノフ函数は指数収束率を達成する。
• 参考スコア（独自算出の注目度）: 6.160559095588513
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The nonlinear two-time-scale stochastic approximation is widely studied under conditions of bounded variances in noise. Motivated by recent advances that allow for variability linked to the current state or time, we consider state- and time-dependent noises. We show that the Lyapunov function exhibits polynomial convergence rates in both cases, with the rate of polynomial delay depending on the parameters of state- or time-dependent noises. Notably, if the state noise parameters fully approach their limiting value, the Lyapunov function achieves an exponential convergence rate. We provide two numerical examples to illustrate our theoretical findings in the context of stochastic gradient descent with Polyak-Ruppert averaging and stochastic bilevel optimization.
• Abstract（参考訳）: 非線形2時間スケール確率近似は、雑音の有界分散条件下で広く研究されている。 現状や時間に関連付けられた変動を許容する最近の進歩によって、我々は状態依存ノイズと時間依存ノイズを考慮に入れている。 Lyapunov関数は、状態依存ノイズや時間依存ノイズのパラメータに依存する多項式遅延率で、どちらの場合も多項式収束率を示すことを示す。 特に、状態雑音パラメータがその極限値に完全に近づくと、リャプノフ函数は指数収束率を達成する。 本稿では,Polyak-Ruppert平均化と確率的二レベル最適化による確率勾配降下の文脈における理論的知見を示す2つの数値例を示す。

関連論文リスト

• Gaussian Approximation for Two-Timescale Linear Stochastic Approximation [4.4491311274892436]
  We establish algorithm driven by martingale difference or Markov noise。 確率間の凸距離の観点から正規近似のバウンダリを導出する。 また,線形TTSAアルゴリズムの誤差に対する高次モーメント境界も提供する。
  論文  参考訳（メタデータ） (2025-08-11T12:41:14Z)
• Nonasymptotic CLT and Error Bounds for Two-Time-Scale Stochastic Approximation [12.69327994479157]
  We consider linear two-time-scale approximation algorithm driven by martingale noise。 我々は、PolyakRuppert平均化を用いた2時間スケール近似のためのワッサーシュタイン-1距離に関する最初の漸近的中心極限定理を導出した。
  論文  参考訳（メタデータ） (2025-02-14T03:20:30Z)
• High-Probability Bounds for Stochastic Optimization and Variational Inequalities: the Case of Unbounded Variance [59.211456992422136]
  制約の少ない仮定の下で高確率収束結果のアルゴリズムを提案する。 これらの結果は、標準機能クラスに適合しない問題を最適化するために検討された手法の使用を正当化する。
  論文  参考訳（メタデータ） (2023-02-02T10:37:23Z)
• Tradeoffs between convergence rate and noise amplification for momentum-based accelerated optimization algorithms [8.669461942767098]
  モーメントに基づく1次最適化アルゴリズムについて検討し, 繰り返しが付加的な白色雑音を受ける場合について検討した。 強い凸2次問題に対しては、雑音増幅の定量化のために最適化変数における誤差の定常分散を用いる。 雑音増幅と定位時間のバランスをとるアルゴリズムの2つのパラメータ化ファミリを導入する。
  論文  参考訳（メタデータ） (2022-09-24T04:26:30Z)
• The Connection between Discrete- and Continuous-Time Descriptions of Gaussian Continuous Processes [60.35125735474386]
  我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。 この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
  論文  参考訳（メタデータ） (2021-01-16T17:11:02Z)
• Nonlinear Two-Time-Scale Stochastic Approximation: Convergence and Finite-Time Performance [1.52292571922932]
  非線形2時間スケール近似の収束と有限時間解析について検討する。 特に,本手法は期待値の収束を$mathcalO (1/k2/3)$で達成し,$k$は反復数であることを示す。
  論文  参考訳（メタデータ） (2020-11-03T17:43:39Z)
• Fast Objective & Duality Gap Convergence for Non-Convex Strongly-Concave Min-Max Problems with PL Condition [52.08417569774822]
  本稿では,深層学習(深層AUC)により注目度が高まっている,円滑な非凹部min-max問題の解法に焦点をあてる。
  論文  参考訳（メタデータ） (2020-06-12T00:32:21Z)
• Stochastic Approximation with Markov Noise: Analysis and applications in reinforcement learning [0.0]
  マルコフ雑音によって駆動される2つの時間スケール近似の収束解析を初めて提示する。 両方の時間スケールにおける差分包摂を限定することで、フレームワークの挙動を分析する。 ポリシ評価アルゴリズムの関数近似における最初の情報的誤差境界を求める。
  論文  参考訳（メタデータ） (2020-04-08T03:59:21Z)
• Is Temporal Difference Learning Optimal? An Instance-Dependent Analysis [102.29671176698373]
  我々は、割引決定過程における政策評価の問題に対処し、生成モデルの下で、ll_infty$errorに対するマルコフに依存した保証を提供する。 我々は、ポリシー評価のために、局所ミニマックス下限の両漸近バージョンと非漸近バージョンを確立し、アルゴリズムを比較するためのインスタンス依存ベースラインを提供する。
  論文  参考訳（メタデータ） (2020-03-16T17:15:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。