論文の概要: Riemannian ascent--descent for nonconvex nonconcave minimax landscapes: convergence to basin saddle points and applications to distributionally robust optimization
- arxiv url: http://arxiv.org/abs/2609.14141v1
- Date: Sat, 12 Sep 2026 20:42:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.711064
- Title: Riemannian ascent--descent for nonconvex nonconcave minimax landscapes: convergence to basin saddle points and applications to distributionally robust optimization
- Title(参考訳): 非凸非凸ミニマックスランドスケープに対するリーマン的昇華--サドル点の収束と分布論的ロバストな最適化への応用
- Abstract要約: 測地線空間とブレージアン多様体の勾配上のミニマックス問題を研究する。
グローバル収束順序ファースト法は利用できないので、代わりにエンフバシンサドル点の概念を導入する。
- 参考スコア(独自算出の注目度): 1.0195618602298684
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study a class of distributionally robust optimization (DRO) problems for the statistical risk problem, formulated as minimax problems over the product of a Euclidean space and a Riemannian manifold. Because the resulting minimax landscape is nonconvex nonconcave in general, no globally convergent first order method is known to be available. We instead introduce the notion of a \emph{basin saddle point}, a Nash equilibrium defined locally on the Cartesian product of a $δ$ basin around a connected component of the local minima critical set and a geodesic ball on the measure manifold. We develop an abstract convergence framework for a Riemannian gradient ascent multistep descent iteration to a basin saddle point under a local Łojasiewicz type growth condition, with exponent $β\in (1,2]$, in the $δ$ basin around connected components of the local minima critical sets. Under Lipschitz regularity of critical sets we establish linear convergence for $β= 2$ and polynomial convergence for $β\in (1,2)$ to a basin saddle point, with explicit dependence on the sectional curvature of the manifold. We then instantiate this framework for the statistical risk DRO problem over Gaussian measures, where the ambiguity set is naturally modeled as the product of Euclidean space and the Bures Wasserstein manifold of covariance matrices, which we relax to a penalized DRO formulation. We derive nonasymptotic Hessian estimates for the resulting Lagrangian, establish existence and local uniqueness of its maximizer, and prove that an alternating Riemannian gradient scheme converges to a basin saddle point of the penalized DRO problem, recovering the linear and polynomial rates of the abstract theory with all constants explicit in terms of data dimension, loss moments, and the reference covariance.
- Abstract(参考訳): ユークリッド空間とリーマン多様体の積上のミニマックス問題として定式化された統計リスク問題に対する分布ロバスト最適化(DRO)のクラスについて検討する。
結果のミニマックスランドスケープは一般に非凸な非凸であるため、大域的に収束した一階法は利用できないことが知られている。
代わりに、局所ミニマ臨界集合の連結成分と測度多様体上の測地線球の周囲の$δ$盆地のカルテシアン積上で局所的に定義されるナッシュ均衡である「emph{basin saddle point」の概念を導入する。
局所ミニマ臨界集合の連結成分の周囲に、指数$β\in (1,2]$、および$δ$$の指数を持つ、リーマン勾配の増進多段降下反復を局所的ジョジャシエヴィチ型成長条件の下で盆地サドル点へ導くための抽象収束フレームワークを開発する。
臨界集合のリプシッツ正則性の下では、$β= 2$の線型収束と$β\in (1,2)$の多項式収束を確立し、多様体の断面曲率に明示的に依存する。
次に、このフレームワークをガウス測度上の統計的リスク DRO 問題に対してインスタンス化し、あいまい性集合をユークリッド空間の積と共分散行列のブレス・ワッサーシュタイン多様体として自然にモデル化し、ペナル化された DRO の定式化に緩和する。
結果のラグランジアンに対する漸近的ヘッセン予想を導出し、その最大値の存在と局所的な一意性を確立し、交代リーマン勾配スキームがペナル化DRO問題の盆地サドル点に収束し、データ次元、損失モーメント、参照共分散という観点で明示された全ての定数で抽象理論の線形および多項式速度を回復することを証明する。
関連論文リスト
- Curvature-Independent Regret Bounds for Distributed Online Optimization on Hadamard Manifolds [9.035866986287205]
この研究は、Hadamard上の分散オンライン凸最適化に対処する。
我々の知る限り、これらは、曲率による劣化を伴わずに、予測レートの埋め込みに関する最初の曲率に依存しない後悔の保証である。
論文 参考訳(メタデータ) (2026-09-12T01:53:49Z) - Nonconvex Composite Functional Constraints via First-Order Augmented Lagrangian Methods under Local Regularity [10.643433352418915]
一次非バランス性非コンケーブ最小値再構成の条件境界を均一に拡張した。
双対正則化では、大域的局所論はバイアスとともに議論される。
KKT。
論文 参考訳(メタデータ) (2026-07-09T21:28:29Z) - Fitting Unknown Number of Hyperplanes with Manifold Optimization [57.48093263119306]
未知数の線形平面をデータに適合させることは、機械学習の根本的な課題である。
既存のアプローチはしばしば最適な最適化に苦しむか、幾何的整合性に欠ける。
論文 参考訳(メタデータ) (2026-05-27T14:02:20Z) - From Saddle Points Toward Global Minima: A Newton-Type Method on Wasserstein Space [51.56484100374058]
正方形ワッサーシュタイン・ヘッセンの正則化平方根によるワッサーシュタイン最小化を前提とした二階法を提案する。
この構造は、負の曲率に沿って反発方向を誘導しながら、正の曲率に向かう方向へのアトラクションを保っている。
We show that WSFN converges linearly in $L2$-Wasserstein to a non-de global distance。
論文 参考訳(メタデータ) (2026-05-18T07:18:22Z) - Local LMO: Constrained Gradient Optimization via a Local Linear Minimization Oracle [51.714334316332476]
Local Lは制約付き最適化のための新しいプロジェクションフリー型である。
局所LMOはGD(Gradient Descent)のオラクルと見なされる。
論文 参考訳(メタデータ) (2026-05-09T10:03:24Z) - Riemannian Flow Matching for Disentangled Graph Domain Adaptation [51.98961391065951]
グラフドメイン適応(GDA)は典型的には、ユークリッド空間におけるグラフ埋め込みの整列に逆学習を使用する。
DisRFMは、埋め込みとフローベースのトランスポートを統一する幾何学的なGDAフレームワークである。
論文 参考訳(メタデータ) (2026-01-31T11:05:35Z) - On lower bounds of the density of planar periodic sets without unit distances [55.2480439325792]
平面トーラスから構築したグラフ上での最大独立集合(MIS)問題として問題を再構成することにより、$m_1(mathbbR2)$を推定する新しいアプローチを導入する。
提案手法の理論的正当性によって支持された実験結果から, 十分に広い範囲のパラメータに対して, この手法が既知の下界を改善できないことを示す。
論文 参考訳(メタデータ) (2024-11-20T12:07:19Z) - Riemannian stochastic optimization methods avoid strict saddle points [68.80251170757647]
研究中のポリシーは、確率 1 の厳密なサドル点/部分多様体を避けていることを示す。
この結果は、アルゴリズムの極限状態が局所最小値にしかならないことを示すため、重要な正当性チェックを提供する。
論文 参考訳(メタデータ) (2023-11-04T11:12:24Z) - Extragradient Type Methods for Riemannian Variational Inequality Problems [25.574847201669144]
我々は、REG と RPEG の両者の平均収束度が、2020 年の場合と一致する$Oleft(frac1Tright)$であることを示す。
結果はホロノミー効果の偏見に対処することで可能となり、さらなる観測を減らせることができる。
論文 参考訳(メタデータ) (2023-09-25T14:08:02Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Decentralized Weakly Convex Optimization Over the Stiefel Manifold [28.427697270742947]
我々は分散環境でスティーフェル多様体に焦点をあて、$nMn log-1)$のエージェントの連結ネットワークをテストする。
そこで本研究では,nMn log-1 以下の自然ステーションを強制的に強制する分散下位段階法 (DRSM)$ という手法を提案する。
論文 参考訳(メタデータ) (2023-03-31T02:56:23Z) - Randomized Coordinate Subgradient Method for Nonsmooth Composite
Optimization [11.017632675093628]
非滑らかな問題に対処するコーディネート型劣階法は、リプシッツ型仮定の性質のセットのため、比較的過小評価されている。
論文 参考訳(メタデータ) (2022-06-30T02:17:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。