論文の概要: Convergence Analysis of the PAGE Stochastic Algorithm for Weakly Convex Finite-Sum Optimization
- arxiv url: http://arxiv.org/abs/2509.00737v2
- Date: Sat, 20 Sep 2025 10:41:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-23 14:36:45.560829
- Title: Convergence Analysis of the PAGE Stochastic Algorithm for Weakly Convex Finite-Sum Optimization
- Title(参考訳): 弱凸有限和最適化のためのPAGE確率アルゴリズムの収束解析
- Authors: Laurent Condat, Peter Richtárik,
- Abstract要約: このアルゴリズムは、このタイプの作業の平均点を定常的に見つけるように設計されている。
これは、一般的なフレームワーク(tautauL$)と変更率の間で改善される連続的な非滑らかなケース(tautauL$)を提供する。
- 参考スコア(独自算出の注目度): 56.57092765118707
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: PAGE, a stochastic algorithm introduced by Li et al. [2021], was designed to find stationary points of averages of smooth nonconvex functions. In this work, we study PAGE in the broad framework of $\tau$-weakly convex functions, which provides a continuous interpolation between the general nonconvex $L$-smooth case ($\tau = L$) and the convex case ($\tau = 0$). We establish new convergence rates for PAGE, showing that its complexity improves as $\tau$ decreases.
- Abstract(参考訳): Li et al [2021] によって導入された確率的アルゴリズム PAGE は、滑らかな非凸関数の平均の定常点を求めるために設計された。
本研究では、一般の非凸$L$-smoothケース(\tau = L$)と凸ケース(\tau = 0$)との間に連続的な補間を与える、$\tau$-weakly convex関数の広い枠組みでPAGEを研究する。
PAGEの新しい収束率を確立し、その複雑さは$\tau$が減少するにつれて改善することを示す。
関連論文リスト
- Adaptive Gradient Normalization and Independent Sampling for (Stochastic) Generalized-Smooth Optimization [19.000530691874516]
既存のアルゴリズムは一般化された非滑らかな幾何学に完全に適応していないことを示す。
実験により,本アルゴリズムによるサンプリング問題の高速収束が示された。
論文 参考訳(メタデータ) (2024-10-17T21:52:00Z) - A Near-Optimal Single-Loop Stochastic Algorithm for Convex Finite-Sum Coupled Compositional Optimization [53.14532968909759]
ALEXRと呼ばれる,効率的な単ループプリマル・デュアルブロック座標アルゴリズムを提案する。
本研究では, ALEXR の凸面および強凸面の収束速度を滑らか性および非滑らか性条件下で確立する。
CFCCO の ROC 曲線の下での GDRO および部分領域の実験結果から,提案アルゴリズムの有望な性能を示す。
論文 参考訳(メタデータ) (2023-12-04T19:00:07Z) - Decentralized Inexact Proximal Gradient Method With Network-Independent
Stepsizes for Convex Composite Optimization [39.352542703876104]
本稿では,非方向および接続ネットワーク上での分散凸複合最適化について考察する。
CTA(Combine-Then-Adapt)に基づく新しい分散アルゴリズムは、非協調的なネットワーク非依存の定数ステップサイズの下で提案される。
論文 参考訳(メタデータ) (2023-02-07T03:50:38Z) - Adaptive Stochastic Optimisation of Nonconvex Composite Objectives [2.1700203922407493]
一般化された複合ミラー降下アルゴリズムの一群を提案し,解析する。
適応的なステップサイズでは、提案アルゴリズムは問題の事前知識を必要とせずに収束する。
決定集合の低次元構造を高次元問題に活用する。
論文 参考訳(メタデータ) (2022-11-21T18:31:43Z) - Optimal Rates for Random Order Online Optimization [60.011653053877126]
敵が損失関数を選択できるカテットガルバー2020onlineについて検討するが、一様にランダムな順序で提示される。
2020onlineアルゴリズムが最適境界を達成し,安定性を著しく向上することを示す。
論文 参考訳(メタデータ) (2021-06-29T09:48:46Z) - Convergence of adaptive algorithms for weakly convex constrained
optimization [59.36386973876765]
モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。
我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
論文 参考訳(メタデータ) (2020-06-11T17:43:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。