論文の概要: The ODE Method for Asymptotic Statistics in Stochastic Approximation and
Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2110.14427v4
- Date: Wed, 21 Feb 2024 17:11:06 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-22 21:56:04.475738
- Title: The ODE Method for Asymptotic Statistics in Stochastic Approximation and
Reinforcement Learning
- Title（参考訳）: 確率近似と強化学習における漸近統計量のODE法
- Authors: Vivek Borkar, Shuhang Chen, Adithya Devraj, Ioannis Kontoyiannis and
Sean Meyn
- Abstract要約: theta_n+1=theta_n + alpha_n + 1 f(theta_n, Phi_n+1),,quad nge 0, ] ここで em が $theta_ninRed$ と $Phi_n $ は、一般的な状態空間上のマルコフ連鎖である。
- 参考スコア（独自算出の注目度）: 4.08734863805696
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The paper concerns the stochastic approximation recursion, \[ \theta_{n+1}=
\theta_n + \alpha_{n + 1} f(\theta_n, \Phi_{n+1})
\,,\quad n\ge 0, \] where the {\em estimates} $\theta_n\in\Re^d$ and $ \{
\Phi_n \}$ is a Markov chain on a general state space. In addition to standard
Lipschitz assumptions and conditions on the vanishing step-size sequence, it is
assumed that the associated \textit{mean flow} $ \tfrac{d}{dt} \vartheta_t =
\bar{f}(\vartheta_t)$, is globally asymptotically stable with stationary point
denoted $\theta^*$, where $\bar{f}(\theta)=\text{ E}[f(\theta,\Phi)]$ with
$\Phi$ having the stationary distribution of the chain. The main results are
established under additional conditions on the mean flow and a version of the
Donsker-Varadhan Lyapunov drift condition known as (DV3) for the chain:
(i) An appropriate Lyapunov function is constructed that implies convergence
of the estimates in $L_4$.
(ii) A functional CLT is established, as well as the usual one-dimensional
CLT for the normalized error. Moment bounds combined with the CLT imply
convergence of the normalized covariance $\text{ E} [ z_n z_n^T ]$ to the
asymptotic covariance $\Sigma^\Theta$ in the CLT, where $z_n=
(\theta_n-\theta^*)/\sqrt{\alpha_n}$.
(iii) The CLT holds for the normalized version $z^{\text{ PR}}_n$ of the
averaged parameters $\theta^{\text{ PR}}_n$, subject to standard assumptions on
the step-size. Moreover, the normalized covariance of both $\theta^{\text{
PR}}_n$ and $z^{\text{ PR}}_n$ converge to $\Sigma^{\text{ PR}}$, the minimal
covariance of Polyak and Ruppert.
(iv)} An example is given where $f$ and $\bar{f}$ are linear in $\theta$, and
the Markov chain is geometrically ergodic but does not satisfy (DV3). While the
algorithm is convergent, the second moment of $\theta_n$ is unbounded and in
fact diverges.
- Abstract（参考訳）: この論文は確率近似再帰に関するもので、 \[ \theta_{n+1}= \theta_n + \alpha_{n + 1} f(\theta_n, \Phi_{n+1}) \,\quad n\ge 0, \] ここで {\em estimates} $\theta_n\in\Re^d$ と $ \{ \Phi_n \}$ は一般状態空間上のマルコフ連鎖である。
消滅するステップサイズ列上の標準的なリプシッツの仮定と条件に加えて、関連する \textit{mean flow} $ \tfrac{d}{dt} \vartheta_t = \bar{f}(\vartheta_t)$ が、連鎖の定常分布を持つ$\bar{f}(\theta)=\text{E}[f(\theta,\Phi)]$ で表される定常点と世界的に漸近的に安定であると仮定する。
主な結果は、平均流れに関する追加条件と、連鎖のドンスカー=ヴァラダン・リャプノフドリフト条件(dv3)によって確立される。
(i)$L_4$の見積もりの収束を意味する適切なリャプノフ函数が構成される。
(ii)正規化誤差に対する通常の1次元CLTと同様に関数型CLTが確立される。
モーメント境界は CLT と結合し、正規化された共分散 $\text{ E} [ z_n z_n^T ]$ を CLT の漸近共分散 $\Sigma^\Theta$ に収束させる。
(iii) CLTは、ステップサイズに関する標準的な仮定に従う平均パラメータの正規化バージョン $z^{\text{ PR}}_n$ を保持する。
さらに、$\theta^{\text{ PR}}_n$ と $z^{\text{ PR}}_n$ の正規化共分散は、Polyak と Ruppert の最小共分散である $\Sigma^{\text{ PR}}$ に収束する。
(iv) 例えば、$f$と$\bar{f}$が$\theta$で線型であり、マルコフ連鎖は幾何学的にエルゴード的であるが満足しない(DV3)。
アルゴリズムは収束するが、$\theta_n$ の第二モーメントは非有界であり、実際には発散する。
関連論文リスト
- Optimal Sketching for Residual Error Estimation for Matrix and Vector Norms [50.15964512954274]
線形スケッチを用いた行列とベクトルノルムの残差誤差推定問題について検討する。
これは、前作とほぼ同じスケッチサイズと精度で、経験的にかなり有利であることを示す。
また、スパースリカバリ問題に対して$Omega(k2/pn1-2/p)$低いバウンダリを示し、これは$mathrmpoly(log n)$ factorまで厳密である。
論文 参考訳（メタデータ） (2024-08-16T02:33:07Z) - Revisiting Step-Size Assumptions in Stochastic Approximation [1.3654846342364308]
この論文は、一般的なマルコフ的な設定でステップサイズの選択を再考する。
大きな結論は、$rho =0$ または $rho1/2$ の選択は、選択した設定でのみ正当化されるということである。
論文 参考訳（メタデータ） (2024-05-28T05:11:05Z) - On the $O(\frac{\sqrt{d}}{T^{1/4}})$ Convergence Rate of RMSProp and Its Momentum Extension Measured by $\ell_1$ Norm [59.65871549878937]
本稿では、RMSPropとその運動量拡張を考察し、$frac1Tsum_k=1Tの収束速度を確立する。
我々の収束率は、次元$d$を除くすべての係数に関して下界と一致する。
収束率は$frac1Tsum_k=1Tと類似していると考えられる。
論文 参考訳（メタデータ） (2024-02-01T07:21:32Z) - A Unified Framework for Uniform Signal Recovery in Nonlinear Generative
Compressed Sensing [68.80803866919123]
非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。
本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。
また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
論文 参考訳（メタデータ） (2023-09-25T17:54:19Z) - Convergence of a Normal Map-based Prox-SGD Method under the KL
Inequality [0.0]
我々は、$symbol$k$収束問題に対して、新しいマップベースのアルゴリズム(mathsfnorMtext-mathsfSGD$)を提案する。
論文 参考訳（メタデータ） (2023-05-10T01:12:11Z) - Finite-time High-probability Bounds for Polyak-Ruppert Averaged Iterates
of Linear Stochastic Approximation [22.51165277694864]
本稿では,線形近似 (LSA) アルゴリズムの有限時間解析を行う。
LSAは$d$次元線形系の近似解を計算するために用いられる。
論文 参考訳（メタデータ） (2022-07-10T14:36:04Z) - Random matrices in service of ML footprint: ternary random features with
no performance loss [55.30329197651178]
我々は、$bf K$ の固有スペクトルが$bf w$ の i.d. 成分の分布とは独立であることを示す。
3次ランダム特徴(TRF)と呼ばれる新しいランダム手法を提案する。
提案したランダムな特徴の計算には乗算が不要であり、古典的なランダムな特徴に比べてストレージに$b$のコストがかかる。
論文 参考訳（メタデータ） (2021-10-05T09:33:49Z) - Accelerating Optimization and Reinforcement Learning with
Quasi-Stochastic Approximation [2.294014185517203]
本稿では、収束理論を準確率近似に拡張することを目的とする。
強化学習のためのグラデーションフリー最適化とポリシー勾配アルゴリズムへの応用について説明する。
論文 参考訳（メタデータ） (2020-09-30T04:44:45Z) - Linear Time Sinkhorn Divergences using Positive Features [51.50788603386766]
エントロピー正則化で最適な輸送を解くには、ベクトルに繰り返し適用される$ntimes n$ kernel matrixを計算する必要がある。
代わりに、$c(x,y)=-logdotpvarphi(x)varphi(y)$ ここで$varphi$は、地上空間から正のorthant $RRr_+$への写像であり、$rll n$である。
論文 参考訳（メタデータ） (2020-06-12T10:21:40Z) - A Simple Convergence Proof of Adam and Adagrad [74.24716715922759]
我々はAdam Adagradと$O(d(N)/st)$アルゴリズムの収束の証明を示す。
Adamはデフォルトパラメータで使用する場合と同じ収束$O(d(N)/st)$で収束する。
論文 参考訳（メタデータ） (2020-03-05T01:56:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。