Fugu-MT 論文翻訳(概要): Polynomial convergence of iterations of certain random operators in Hilbert space

論文の概要: Polynomial convergence of iterations of certain random operators in Hilbert space

arxiv url: http://arxiv.org/abs/2202.02266v1
Date: Fri, 4 Feb 2022 17:48:29 GMT
ステータス: 処理完了
システム内更新日: 2022-02-07 16:05:13.935436
Title: Polynomial convergence of iterations of certain random operators in Hilbert space
Title（参考訳）: ヒルベルト空間におけるあるランダム作用素の反復の多項式収束
Authors: Soumyadip Ghosh, Yingdong Lu, Tomasz J. Nowicki
Abstract要約: 本稿では,SGDアルゴリズムにインスパイアされた無限次元空間上の演算子の族におけるランダム反復列の収束について検討する。収束率は初期状態に依存するが、ランダム性は最適定数係数の選択においてのみ役割を果たすことを示す。
参考スコア（独自算出の注目度）: 2.732936573198251
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We study the convergence of random iterative sequence of a family of operators on infinite dimensional Hilbert spaces, which are inspired by the Stochastic Gradient Descent (SGD) algorithm in the case of the noiseless regression, as studied in [1]. We demonstrate that its polynomial convergence rate depends on the initial state, while the randomness plays a role only in the choice of the best constant factor and we close the gap between the upper and lower bounds.
Abstract（参考訳）: 本研究では,SGD(Stochastic Gradient Descent)アルゴリズムにインスパイアされた,無限次元ヒルベルト空間上の作用素群のランダム反復列の収束について検討する。多項式収束速度が初期状態に依存することを示す一方、ランダム性は最良の定数係数の選択においてのみ重要な役割を果たし、上界と下界の間のギャップを埋める。

関連論文リスト

Conditioning of Banach Space Valued Gaussian Random Variables: An Approximation Approach Based on Martingales [8.81121308982678]
ガウス確率変数として有意な2つのバナッハ空間の条件分布について検討する。それらの手段と共分散は、マルティンゲールアプローチに基づく一般的な有限次元近似スキームによって決定されることを示す。
論文参考訳（メタデータ） (2024-04-04T13:57:44Z)
Characterizing Overfitting in Kernel Ridgeless Regression Through the Eigenspectrum [6.749750044497731]
我々は、ガウス以下の設計仮定の下で、誘惑的な過フィットと破滅的な過フィットの現象を証明した。また、機能の独立性は、誘惑に満ちたオーバーフィッティングを保証する上で重要な役割を担っていることも確認しています。
論文参考訳（メタデータ） (2024-02-02T10:36:53Z)
Curvature-Independent Last-Iterate Convergence for Games on Riemannian Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文参考訳（メタデータ） (2023-06-29T01:20:44Z)
High-Probability Bounds for Stochastic Optimization and Variational Inequalities: the Case of Unbounded Variance [59.211456992422136]
制約の少ない仮定の下で高確率収束結果のアルゴリズムを提案する。これらの結果は、標準機能クラスに適合しない問題を最適化するために検討された手法の使用を正当化する。
論文参考訳（メタデータ） (2023-02-02T10:37:23Z)
Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文参考訳（メタデータ） (2021-12-29T18:46:52Z)
Uniform Function Estimators in Reproducing Kernel Hilbert Spaces [0.0]
本稿では,ランダムな位置で重畳された誤差で観測される関数再構成の回帰問題に対処する。ガウス確率場を用いて導出される推定器は、ヒルベルト空間を条件付き期待値に再現するカーネルの平均ノルムに収束することが示されている。
論文参考訳（メタデータ） (2021-08-16T08:13:28Z)
On the Convergence of Stochastic Extragradient for Bilinear Games with Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文参考訳（メタデータ） (2021-06-30T17:51:36Z)
Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文参考訳（メタデータ） (2020-12-09T20:19:32Z)
Stochastic optimization with momentum: convergence, fluctuations, and traps avoidance [0.0]
本稿では,重球法,ネステロフ加速勾配法(S-NAG),広く使用されているアダム法など,勾配勾配勾配のいくつかの変種を統一する一般最適化手法について検討する。この回避は、非自明な常微分方程式のノイズ離散化として研究される。
論文参考訳（メタデータ） (2020-12-07T19:14:49Z)
ROOT-SGD: Sharp Nonasymptotics and Near-Optimal Asymptotics in a Single Algorithm [71.13558000599839]
第一次アルゴリズムを用いて,厳密な凸と滑らかな非制約最適化問題の解法について検討する。我々は,過去の勾配を平均化し,実装が容易な小説「Recursive One-Over-T SGD」を考案した。有限サンプル, 漸近感覚, 感覚の両面において, 最先端の性能を同時に達成できることを実証する。
論文参考訳（メタデータ） (2020-08-28T14:46:56Z)
Convergence rates and approximation results for SGD and its continuous-time counterpart [16.70533901524849]
本稿では,非増加ステップサイズを有する凸勾配Descent (SGD) の完全理論的解析を提案する。まず、結合を用いた不均一微分方程式(SDE)の解により、SGDを確実に近似できることを示す。連続的手法による決定論的および最適化手法の最近の分析において, 連続過程の長期的挙動と非漸近的境界について検討する。
論文参考訳（メタデータ） (2020-04-08T18:31:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。