論文の概要: Non-Euclidean Broximal Point Method: A Blueprint for Geometry-Aware Optimization
- arxiv url: http://arxiv.org/abs/2510.00823v1
- Date: Wed, 01 Oct 2025 12:32:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-03 16:59:20.55593
- Title: Non-Euclidean Broximal Point Method: A Blueprint for Geometry-Aware Optimization
- Title(参考訳): 非ユークリッドブロキシマル点法:幾何学的最適化のための青写真
- Authors: Kaja Gruntkowska, Peter Richtárik,
- Abstract要約: Broximal Point Method(BPM)は、現在の反復を中心にした標準球よりも目的関数を反復的に最小化する、理想的な最適化フレームワークを提供する。
顕著な大域収束保証、線形収束、および正規閉凸函数に対する有限のステップを享受する。
本稿では、BPMの収束理論が、このより一般的な非ユークリッド的な設定に拡張できるかどうかを問う。
- 参考スコア(独自算出の注目度): 55.002497070656624
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: The recently proposed Broximal Point Method (BPM) [Gruntkowska et al., 2025] offers an idealized optimization framework based on iteratively minimizing the objective function over norm balls centered at the current iterate. It enjoys striking global convergence guarantees, converging linearly and in a finite number of steps for proper, closed and convex functions. However, its theoretical analysis has so far been confined to the Euclidean geometry. At the same time, emerging trends in deep learning optimization, exemplified by algorithms such as Muon [Jordan et al., 2024] and Scion [Pethick et al., 2025], demonstrate the practical advantages of minimizing over balls defined via non-Euclidean norms which better align with the underlying geometry of the associated loss landscapes. In this note, we ask whether the convergence theory of BPM can be extended to this more general, non-Euclidean setting. We give a positive answer, showing that most of the elegant guarantees of the original method carry over to arbitrary norm geometries. Along the way, we clarify which properties are preserved and which necessarily break down when leaving the Euclidean realm. Our analysis positions Non-Euclidean BPM as a conceptual blueprint for understanding a broad class of geometry-aware optimization algorithms, shedding light on the principles behind their practical effectiveness.
- Abstract(参考訳): 最近提案されたBroximal Point Method (BPM) [Gruntkowska et al , 2025] は、現在のイテレートを中心とする標準球に対する目的関数を反復的に最小化する、理想的な最適化フレームワークを提供する。
顕著な大域収束保証、線形収束、および正規閉凸函数に対する有限のステップを享受する。
しかし、その理論解析は今のところユークリッド幾何学に限られている。
同時に、ムオン(Jordan et al , 2024)やシオン(Pethick et al , 2025)のようなアルゴリズムによって実証されたディープラーニング最適化の新たなトレンドは、関連するロスランドスケープの基盤となる幾何とより整合した非ユークリッドノルムによって定義されるボールの最小化という実践的な利点を実証している。
本稿では、BPMの収束理論が、このより一般的な非ユークリッド的な設定にまで拡張できるかどうかを問う。
我々は、元のメソッドのエレガントな保証のほとんどが任意のノルム測度に受け継がれることを示す、肯定的な回答を与える。
その過程で、どの性質が保存されているかを明らかにし、ユークリッド領域を離れるときに必ず壊れる。
我々の分析では、非ユークリッドBPMを、幾何対応最適化アルゴリズムの幅広いクラスを理解するための概念的青写真として位置づけ、その実用性の背後にある原則に光を当てています。
関連論文リスト
- Generalized Gradient Norm Clipping & Non-Euclidean $(L_0,L_1)$-Smoothness [51.302674884611335]
本研究は、急勾配と条件勾配のアプローチを組み合わせることでノルムクリッピングを一般化するハイブリッド非ユークリッド最適化手法を提案する。
本稿では、ディープラーニングのためのアルゴリズムのインスタンス化について論じ、画像分類と言語モデリングにおけるそれらの特性を実証する。
論文 参考訳(メタデータ) (2025-06-02T17:34:29Z) - Early-Stopped Mirror Descent for Linear Regression over Convex Bodies [14.30754799752932]
加法的ガウス雑音下での高次元線形回帰の設定について検討する。
その結果,未拘束の早期停止ミラー降下の最悪のリスクは,少なくとも凸体に拘束される最小2乗推定器のリスクであることがわかった。
論文 参考訳(メタデータ) (2025-03-05T11:59:31Z) - Mirror Descent Under Generalized Smoothness [23.5387392871236]
一般ノルムと双対という観点からヘッセンのノルムを測定する新しい$ell*$-smoothnessの概念を導入する。
我々は、古典的な滑らかさの下でのレートに一致するミラー・ディフレッシュ型アルゴリズムの収束性を確立する。
論文 参考訳(メタデータ) (2025-02-02T11:23:10Z) - Warped geometric information on the optimisation of Euclidean functions [43.43598316339732]
我々は、潜在的に高次元ユークリッド空間で定義される実数値函数の最適化を考える。
函数の最適度は、曲がった計量を持つ多様体に沿う。
提案アルゴリズムは測地学の3次近似を用いており、標準ユークリッド勾配法よりも優れている傾向にある。
論文 参考訳(メタデータ) (2023-08-16T12:08:50Z) - Optimistic Policy Optimization is Provably Efficient in Non-stationary MDPs [113.8752163061151]
非定常線形カーネルマルコフ決定過程(MDP)におけるエピソード強化学習(RL)の研究
線形最適化アンダーライン最適化アルゴリズム(PROPO)を提案する。
PROPOはスライディングウィンドウベースのポリシー評価と周期的リスタートベースのポリシー改善の2つのメカニズムを特徴としている。
論文 参考訳(メタデータ) (2021-10-18T02:33:20Z) - Improving Metric Dimensionality Reduction with Distributed Topology [68.8204255655161]
DIPOLEは、局所的、計量的項と大域的、位相的項の両方で損失関数を最小化し、初期埋め込みを補正する次元推論後処理ステップである。
DIPOLEは、UMAP、t-SNE、Isomapといった一般的な手法よりも多くの一般的なデータセットで優れています。
論文 参考訳(メタデータ) (2021-06-14T17:19:44Z) - Leveraging Non-uniformity in First-order Non-convex Optimization [93.6817946818977]
目的関数の非一様洗練は、emphNon-uniform Smoothness(NS)とemphNon-uniform Lojasiewicz inequality(NL)につながる
新しい定義は、古典的な$Omega (1/t2)$下界よりも早く大域的最適性に収束する新しい幾何学的一階法を刺激する。
論文 参考訳(メタデータ) (2021-05-13T04:23:07Z) - Adaptivity of Stochastic Gradient Methods for Nonconvex Optimization [71.03797261151605]
適応性は現代最適化理論において重要であるが、研究されていない性質である。
提案アルゴリズムは,PL目標に対して既存のアルゴリズムよりも優れた性能を保ちながら,PL目標に対して最適な収束性を実現することを実証した。
論文 参考訳(メタデータ) (2020-02-13T05:42:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。