論文の概要: From Nesterov's Estimate Sequence to Riemannian Acceleration
- arxiv url: http://arxiv.org/abs/2001.08876v1
- Date: Fri, 24 Jan 2020 04:17:14 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-07 05:25:40.647847
- Title: From Nesterov's Estimate Sequence to Riemannian Acceleration
- Title(参考訳): ネステロフの推定列からリーマン加速度へ
- Authors: Kwangjun Ahn and Suvrit Sra
- Abstract要約: 我々は、Nesterov氏の推定シーケンス手法の代替解析を開発し、これも独立性を持つ可能性がある。
そして、この解析をリーマン集合に拡張し、非ユークリッド構造による鍵的困難をある計量歪みに局所化する」。
- 参考スコア(独自算出の注目度): 52.99237600875452
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose the first global accelerated gradient method for Riemannian
manifolds. Toward establishing our result we revisit Nesterov's estimate
sequence technique and develop an alternative analysis for it that may also be
of independent interest. Then, we extend this analysis to the Riemannian
setting, localizing the key difficulty due to non-Euclidean structure into a
certain ``metric distortion.'' We control this distortion by developing a novel
geometric inequality, which permits us to propose and analyze a Riemannian
counterpart to Nesterov's accelerated gradient method.
- Abstract(参考訳): リーマン多様体に対する最初の大域的加速勾配法を提案する。
結果の確立に向けて,ネステロフの推定シーケンス手法を再検討し,それに対する別の分析手法の開発を行った。
そして、この解析をリーマン集合に拡張し、非ユークリッド構造による鍵的困難をある「計量歪み」に局所化する。
この歪みを制御するために,新しい幾何学的不等式を開発し,ネステロフの加速度勾配法に対するリーマンの対応式の提案と解析を可能にした。
関連論文リスト
- Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Riemannian accelerated gradient methods via extrapolation [40.23168342389821]
本稿では,勾配降下法から反復が生成された場合,加速されたスキームが最適収束率を比例的に達成することを示す。
本実験は, 新規加速戦略の実用的メリットを検証した。
論文 参考訳(メタデータ) (2022-08-13T10:31:09Z) - The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。
ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。
ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
論文 参考訳(メタデータ) (2022-06-14T12:30:11Z) - First-Order Algorithms for Min-Max Optimization in Geodesic Metric
Spaces [93.35384756718868]
min-maxアルゴリズムはユークリッド設定で解析されている。
指数関数法 (RCEG) が線形速度で最終収束を補正したことを証明した。
論文 参考訳(メタデータ) (2022-06-04T18:53:44Z) - Differentially private Riemannian optimization [40.23168342389821]
微分プライベートの枠組みを導入する。
現実的なリスクの問題です。
パラメータは a に制約される。
ロックフェラー多様体。
提案手法の有効性をいくつかの応用例で示す。
論文 参考訳(メタデータ) (2022-05-19T12:04:15Z) - A Riemannian Accelerated Proximal Extragradient Framework and its
Implications [52.31775617527208]
高速ユークリッド法を得るための強力なフレームワークである citetmonteiro2013accelerated の EmphAccelerated Hybrid Proximal Extragradient (A-HPE) 法を再検討する。
論文 参考訳(メタデータ) (2021-11-04T11:32:20Z) - A diffusion-map-based algorithm for gradient computation on manifolds
and applications [0.0]
ユークリッド空間におけるリーマン部分多様体の内部点上で定義される与えられた函数の勾配を回復する。
このアプローチは拡散写像理論において提案されたラプラス・ベルトラミ作用素の推定に基づいている。
論文 参考訳(メタデータ) (2021-08-16T09:35:22Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。