論文の概要: Decentralized Online Riemannian Optimization for Strongly Geodesically Convex Functions
- arxiv url: http://arxiv.org/abs/2607.20316v1
- Date: Wed, 22 Jul 2026 16:03:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-23 18:51:38.140436
- Title: Decentralized Online Riemannian Optimization for Strongly Geodesically Convex Functions
- Title（参考訳）: 強測地的凸関数に対する分散オンラインリーマン最適化
- Abstract要約: 我々は、有界曲率上での強測地学的凸(強いg-)損失に対する新しいタイプのオンライン最適化を開発する。
境界損失関数のスムーズなバージョンを設定する2つの強点帯域幅フィードバック設定の最初の解析を証明した。
- 参考スコア（独自算出の注目度）: 9.035866986287205
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study decentralized online optimization for strongly geodesically convex (strongly g-convex) losses on Riemannian manifolds with bounded sectional curvature, including positively curved manifolds. In centralized Riemannian optimization, strong g-convexity tightens the optimal regret from $O(\sqrt{T})$ to $O(\log T)$, where $T$ is the time horizon; in the decentralized Riemannian setting, however, existing methods address only g-convex losses, leaving the strongly g-convex regime unexplored. One challenge is that the required decaying step size in the centralized regime is incompatible with existing network-error analyses, which typically assume a fixed step size. First, we provide a general network-error analysis for time-varying schedules. Next, we build on this analysis to establish the first $O(\log T)$ static regret bound for decentralized online Riemannian gradient descent, matching the minimax-optimal rate for strongly-convex Euclidean online optimization. Finally, we prove the same $O(\log T)$ regret bound for the two-point bandit feedback setting using novel strong subconvexity arguments for the smoothed versions of the loss functions.
- Abstract（参考訳）: 正の湾曲多様体を含む有界断面曲率を持つリーマン多様体上での強測地凸(強 g-凸)損失に対する分散オンライン最適化について検討する。
中央集権リーマン最適化において、強い g-凸性は、$O(\sqrt{T})$から$O(\log T)$への最適後悔を強める。
1つの課題は、中央集権体制における必要な減衰ステップサイズが、通常、固定ステップサイズを仮定する既存のネットワークエラー分析と相容れないことである。
まず、時間変化スケジュールに対する一般的なネットワークエラー解析を行う。
次に、この分析に基づいて、分散化オンラインリーマン勾配降下に対する最初の$O(\log T)$静的後悔境界を確立し、強凸ユークリッドオンライン最適化のミニマックス最適化率と一致する。
最後に、損失関数の滑らかなバージョンに対して、新しい強い凸性引数を用いて、2点のバンドイットフィードバック設定に対して同じ$O(\log T)$後悔境界を証明した。
関連論文リスト
- Curvature-Independent Regret Bounds for Distributed Online Optimization on Hadamard Manifolds [9.035866986287205]
この研究は、Hadamard上の分散オンライン凸最適化に対処する。
我々の知る限り、これらは、曲率による劣化を伴わずに、予測レートの埋め込みに関する最初の曲率に依存しない後悔の保証である。
論文 参考訳（メタデータ） (2026-09-12T01:53:49Z) - Fitting Unknown Number of Hyperplanes with Manifold Optimization [57.48093263119306]
未知数の線形平面をデータに適合させることは、機械学習の根本的な課題である。
既存のアプローチはしばしば最適な最適化に苦しむか、幾何的整合性に欠ける。
論文 参考訳（メタデータ） (2026-05-27T14:02:20Z) - Decentralized Online Riemannian Optimization Beyond Hadamard Manifolds [9.940555460165545]
我々は、アダマール線距離を超える収束を可能にする曲率を考慮した測地ステップを解析する。
我々は勾配、平滑化手法を採用し、同じ部分性解析を通して$O(sqrtT)$ regret を証明した。
論文 参考訳（メタデータ） (2025-09-09T14:14:46Z) - Two-Timescale Gradient Descent Ascent Algorithms for Nonconvex Minimax Optimization [77.3396841985172]
我々は、構造化された非極小最適化問題の解法として、2時間勾配上昇(TTGDA)を統一的に解析する。
我々の貢献はTTGDAアルゴリズムを設計することであり、設定を超えて効果的です。
論文 参考訳（メタデータ） (2024-08-21T20:14:54Z) - Online Optimization Perspective on First-Order and Zero-Order Decentralized Nonsmooth Nonconvex Stochastic Optimization [8.670873561640903]
分散環境下での非平滑な非平滑な目的に対する(delta,,ilon$)-定常点の有限時間解析について検討する。
$Oは分散非滑らかな最適化のための最初の有限時間保証である。
論文 参考訳（メタデータ） (2024-06-03T16:09:34Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳（メタデータ） (2023-10-20T12:45:12Z) - Universal Online Learning with Gradient Variations: A Multi-layer Online Ensemble Approach [57.92727189589498]
本稿では,2段階の適応性を持つオンライン凸最適化手法を提案する。
我々は$mathcalO(log V_T)$, $mathcalO(d log V_T)$, $hatmathcalO(sqrtV_T)$ regret bounds for strong convex, exp-concave and convex loss function。
論文 参考訳（メタデータ） (2023-07-17T09:55:35Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳（メタデータ） (2023-06-29T01:20:44Z) - Decentralized Weakly Convex Optimization Over the Stiefel Manifold [28.427697270742947]
我々は分散環境でスティーフェル多様体に焦点をあて、$nMn log-1)$のエージェントの連結ネットワークをテストする。
そこで本研究では,nMn log-1 以下の自然ステーションを強制的に強制する分散下位段階法 (DRSM)$ という手法を提案する。
論文 参考訳（メタデータ） (2023-03-31T02:56:23Z) - Decentralized Riemannian Algorithm for Nonconvex Minimax Problems [82.50374560598493]
ニューラルネットワークのためのミニマックスアルゴリズムは、多くの問題を解決するために開発された。
本稿では,2種類のミニマックスアルゴリズムを提案する。
そこで我々は, DRSGDAを提案し, 本手法が勾配を達成することを証明した。
論文 参考訳（メタデータ） (2023-02-08T01:42:45Z) - Gradient-Free Methods for Deterministic and Stochastic Nonsmooth
Nonconvex Optimization [94.19177623349947]
非滑らかな非最適化問題は、機械学習とビジネス製造に現れる。
2つのコア課題は、有限収束を保証する効率的な方法の開発を妨げる。
GFMとSGFMの2相版も提案され, 改良された大規模評価結果が得られた。
論文 参考訳（メタデータ） (2022-09-12T06:53:24Z) - A hybrid variance-reduced method for decentralized stochastic non-convex
optimization [15.447966950703947]
textttGTHSGDアルゴリズムは、グローバルな勾配を追跡するためにネットワークを実装している。
textttGTHSGDは、必要なエラートレランス$epsilon$が十分小さいときに、ネットワークの複雑さを$O(n-1)$にします。
論文 参考訳（メタデータ） (2021-02-12T20:13:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。