論文の概要: Random tilts to find stationary points in stochastic convex optimization
- arxiv url: http://arxiv.org/abs/2609.17798v1
- Date: Tue, 15 Sep 2026 20:08:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.531367
- Title: Random tilts to find stationary points in stochastic convex optimization
- Title(参考訳): 確率凸最適化における定常点を求めるランダム傾き
- Abstract要約: 本研究では, 正規化経験的リスク最小化とランダムな傾き摂動が組み合わさって, ステーション残差を$d$次元問題に対して$sqrtd/n$とすることを示した。
標準最適化と経験的リスク最小化とを区別して、いくつかの次元依存が必要であることを示すいくつかの相補的な結果を示す。
- 参考スコア(独自算出の注目度): 10.704125080088327
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the problem of finding stationary points of stochastic convex functions and related variational inequalities. For each, we show that regularized empirical risk minimization, coupled with a random tilting perturbation, obtains stationarity residual order $\sqrt{d/n}$ for $d$-dimensional problems given $n$ observations. We present a few complementary results that show that some dimension dependence is necessary, in distinction from standard stochastic optimization and empirical risk minimization, by providing minimax lower bounds scaling as $\sqrt{\log d / n}$.
- Abstract(参考訳): 確率凸関数の定常点と関連する変分不等式を求める問題を考察する。
それぞれに対して、ランダムな傾き摂動を伴う正規化された経験的リスク最小化が、n$の観測で与えられた$d$次元問題に対して、定常性残差位$\sqrt{d/n}$を得ることを示した。
標準確率最適化と経験的リスク最小化とを区別して、いくつかの次元依存は必要であることを示すいくつかの相補的な結果を示し、ミニマックス下界を$\sqrt{\log d / n}$として拡張する。
関連論文リスト
- Finding a stationary point of a stochastic convex problem [1.0055428846517076]
凸関数の部分微分は、最適の任意の小さな近傍でさえ一様収束しない。
我々の収束は、凸函数の部分微分のグラフを分解するために次元理論に依存することを保証している。
論文 参考訳(メタデータ) (2026-07-08T00:54:11Z) - Stochastic global optimization of continuous functions via random walks on Grassmannians [19.659410865201384]
グラスマン多様体上のランダムウォークに基づく大域的最適化手法を提案する。
この方法は、ランダムな$k$次元の線形部分空間を繰り返しサンプリングする。
我々は、反復が世界最小値に近づく速度を制御するギャップパラメータを同定する。
論文 参考訳(メタデータ) (2026-05-13T22:06:50Z) - High-accuracy log-concave sampling with stochastic queries [70.90863485771405]
サブエクスフォデンシャルテールの繰り返し勾配を用いて,ログコンケーブサンプリングの精度保証が達成可能であることを示す。
また、このフレームワークは、0番目の順序(値)クエリの下でも、同様の高精度な保証を提供する。
論文 参考訳(メタデータ) (2026-02-15T23:19:07Z) - Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。
以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
論文 参考訳(メタデータ) (2025-10-22T19:06:39Z) - Stochastic Optimization with Constraints: A Non-asymptotic Instance-Dependent Analysis [2.1756081703276]
凸制約下での凸最適化のための自然分散低減近位勾配(VRPG)アルゴリズムの挙動を解析する。
我々の主な成果は、VRPGアルゴリズムの漸近的でない保証である。
我々の保証は、損失関数の複雑さ、雑音の可変性、制約集合の幾何を捉えていることを示す。
論文 参考訳(メタデータ) (2024-03-24T14:45:11Z) - Riemannian stochastic optimization methods avoid strict saddle points [68.80251170757647]
研究中のポリシーは、確率 1 の厳密なサドル点/部分多様体を避けていることを示す。
この結果は、アルゴリズムの極限状態が局所最小値にしかならないことを示すため、重要な正当性チェックを提供する。
論文 参考訳(メタデータ) (2023-11-04T11:12:24Z) - Distributionally Robust Optimization with Bias and Variance Reduction [9.341215359733601]
勾配に基づくアルゴリズムであるProspectは、スムーズな正規化損失に対する線形収束を享受していることを示す。
また、勾配法のようなベースラインよりも2~3$times$早く収束できることも示している。
論文 参考訳(メタデータ) (2023-10-21T00:03:54Z) - Optimal variance-reduced stochastic approximation in Banach spaces [114.8734960258221]
可分バナッハ空間上で定義された収縮作用素の定点を推定する問題について検討する。
演算子欠陥と推定誤差の両方に対して漸近的でない境界を確立する。
論文 参考訳(メタデータ) (2022-01-21T02:46:57Z) - Optimal Rates for Random Order Online Optimization [60.011653053877126]
敵が損失関数を選択できるカテットガルバー2020onlineについて検討するが、一様にランダムな順序で提示される。
2020onlineアルゴリズムが最適境界を達成し,安定性を著しく向上することを示す。
論文 参考訳(メタデータ) (2021-06-29T09:48:46Z) - Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。
本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。
ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文 参考訳(メタデータ) (2020-06-11T19:40:38Z) - Synchronizing Probability Measures on Rotations via Optimal Transport [26.110033098056334]
測定値の不確実性とグラフを同期する新しいパラダイムであるtextitmeasuresynchronous$ を導入する。
特に、マニス上のグラフ上で絶対回転の絶対方向を推定することを目指す。
論文 参考訳(メタデータ) (2020-04-01T18:44:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。