論文の概要: Decentralized Online Riemannian Optimization Beyond Hadamard Manifolds
- arxiv url: http://arxiv.org/abs/2509.07779v1
- Date: Tue, 09 Sep 2025 14:14:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-10 14:38:27.351868
- Title: Decentralized Online Riemannian Optimization Beyond Hadamard Manifolds
- Title(参考訳): アダマール多様体を超える分散オンラインリーマン最適化
- Authors: Emre Sahinoglu, Shahin Shahrampour,
- Abstract要約: 我々は、アダマール線距離を超える収束を可能にする曲率を考慮した測地ステップを解析する。
我々は勾配、平滑化手法を採用し、同じ部分性解析を通して$O(sqrtT)$ regret を証明した。
- 参考スコア(独自算出の注目度): 9.940555460165545
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study decentralized online Riemannian optimization over manifolds with possibly positive curvature, going beyond the Hadamard manifold setting. Decentralized optimization techniques rely on a consensus step that is well understood in Euclidean spaces because of their linearity. However, in positively curved Riemannian spaces, a main technical challenge is that geodesic distances may not induce a globally convex structure. In this work, we first analyze a curvature-aware Riemannian consensus step that enables a linear convergence beyond Hadamard manifolds. Building on this step, we establish a $O(\sqrt{T})$ regret bound for the decentralized online Riemannian gradient descent algorithm. Then, we investigate the two-point bandit feedback setup, where we employ computationally efficient gradient estimators using smoothing techniques, and we demonstrate the same $O(\sqrt{T})$ regret bound through the subconvexity analysis of smoothed objectives.
- Abstract(参考訳): 我々は、アダマール多様体の設定を超えて、潜在的に正の曲率を持つ多様体上の分散オンラインリーマン最適化について研究する。
分散最適化手法は、ユークリッド空間においてその線型性のためによく理解されるコンセンサスステップに依存している。
しかし、正に湾曲したリーマン空間では、測地距離が大域的凸構造を誘導しないという技術的な課題がある。
本研究では、まず、アダマール多様体を超えた線型収束を可能にする曲率対応リーマンコンセンサスステップを解析する。
このステップに基づいて、分散化オンラインリーマン勾配降下アルゴリズムに対して$O(\sqrt{T})$ regret boundを確立する。
次に,スムージング手法を用いて計算効率のよい勾配推定器を用いた2点帯域フィードバックのセットアップについて検討し,スムーズな対象の準凸解析を通して,同じ$O(\sqrt{T})$残念な値を示す。
関連論文リスト
- Riemannian Bilevel Optimization [35.42472057648458]
特に,2次情報を回避することを目的とした,バッチおよび勾配に基づく手法に着目する。
本稿では,一階勾配情報を活用する手法である$mathrmRF2SA$を提案し,分析する。
様々な設定の下で、$epsilon$-stationary 点に達するための明示的な収束率を提供する。
論文 参考訳(メタデータ) (2024-05-22T20:49:01Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Decentralized Riemannian Conjugate Gradient Method on the Stiefel
Manifold [59.73080197971106]
本稿では,最急降下法よりも高速に収束する一階共役最適化法を提案する。
これはスティーフェル多様体上の大域収束を達成することを目的としている。
論文 参考訳(メタデータ) (2023-08-21T08:02:16Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - First-Order Algorithms for Min-Max Optimization in Geodesic Metric
Spaces [93.35384756718868]
min-maxアルゴリズムはユークリッド設定で解析されている。
指数関数法 (RCEG) が線形速度で最終収束を補正したことを証明した。
論文 参考訳(メタデータ) (2022-06-04T18:53:44Z) - Global Riemannian Acceleration in Hyperbolic and Spherical Spaces [0.0]
第1次大域一階法によるユークリッド曲率の加速現象の研究
第一次方法は、加速勾配降下と同じ速度をユークリッド勾配で達成する。
論文 参考訳(メタデータ) (2020-12-07T12:09:30Z) - Stochastic Zeroth-order Riemannian Derivative Estimation and
Optimization [15.78743548731191]
多様体非線型性の非線型性の難しさを克服するために、ガウス滑らか化関数のオラクル版を提案する。
ニューラルネットワークに対するロボティクスとブラックボックス攻撃に対するブラックボックス剛性制御における,結果によるアルゴリズムの適用性と実世界の応用を実証する。
論文 参考訳(メタデータ) (2020-03-25T06:58:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。