論文の概要: Trajectory-Restricted Optimization Conditions and Geometry-Aware Linear Convergence
- arxiv url: http://arxiv.org/abs/2604.17067v1
- Date: Sat, 18 Apr 2026 17:02:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.317178
- Title: Trajectory-Restricted Optimization Conditions and Geometry-Aware Linear Convergence
- Title(参考訳): 軌道制限付き最適化条件と幾何対応線形収束
- Authors: Faris Chaudhry, Anthea Monod, Keisuke Yano,
- Abstract要約: 局所化幾何正則性に基づく線形収束のための軌道制限フレームワークを開発する。
古典的な収束保証は、これらの局所的な条件の下で拡張されることを示す。
我々の研究は、能動集合や多様体の同定後の高速局所収束のための幾何学的定量化を提供する。
- 参考スコア(独自算出の注目度): 0.764671395172401
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Linear convergence of first-order methods is typically characterized by global optimization conditions whose constants reflect worst-case geometry of the ambient space. In high-dimensional or structured problems, these global constants can be arbitrarily conservative and fail to capture the geometry actually encountered by optimization trajectories. In this paper, we develop a trajectory-restricted framework for linear convergence based on localized geometric regularity. We introduce restricted variants of the Polyak--Łojasiewicz inequality, error bound, and quadratic growth conditions that are required to hold only on subsets of the domain. We show that classical convergence guarantees extend under these localized conditions, and in key cases, we develop new arguments that yield explicit relationships between the corresponding constants. The resulting rates are governed by geometric quantities associated with the regions traversed by the algorithm. For polyhedral composite problems, we prove that convergence is controlled by restricted Hoffman constants corresponding to the active polyhedral faces visited along the trajectory. Once the iterates enter a well-conditioned face, the effective condition number improves accordingly. Our work provides a geometric quantification for fast local convergence after active-set or manifold identification and more broadly suggests that linear convergence is fundamentally governed by the geometry of the subsets explored by the algorithm, rather than by worst-case global conditioning.
- Abstract(参考訳): 一階法の線形収束は典型的には、定数が周囲空間の最悪のケース幾何学を反映する大域的最適化条件によって特徴づけられる。
高次元あるいは構造化された問題では、これらの大域定数は任意に保守的であり、最適化軌道によって実際に遭遇した幾何を捉えることができない。
本稿では,局所化幾何正則性に基づく線形収束のための軌道制限型フレームワークを開発する。
我々は、領域の部分集合のみを保持する必要のあるポリアック-ジョジャシエヴィチの不等式、誤差境界、二次成長条件の制限された変種を導入する。
古典収束保証がこれらの局所的な条件の下で拡張されることを示し、キーケースでは、対応する定数間の明示的な関係をもたらす新しい引数を開発する。
結果の速度は、アルゴリズムによってトラバースされた領域に関連付けられた幾何量によって制御される。
多面体合成問題に対して、収束は軌道に沿って訪れた活発な多面体面に対応する制限されたホフマン定数によって制御されることを示す。
イテレーションが十分に条件付けられた顔に入ると、有効条件数が改善される。
より広義には、線形収束は、最悪の大域的条件付けではなく、アルゴリズムによって探索された部分集合の幾何学によって根本的に支配されていることを示唆している。
関連論文リスト
- Yau's Affine Normal Descent: Algorithmic Framework and Convergence Analysis [0.30222726571099656]
Yau's Affine Normal Descent (YAND) はスムーズな非制約最適化のための幾何学的フレームワークである。
アフィン正規方向は、アフィンスケーリングの下では頑健であり、任意に不規則な変換には敏感であることを示す。
論文 参考訳(メタデータ) (2026-03-30T13:55:11Z) - Non-Euclidean Broximal Point Method: A Blueprint for Geometry-Aware Optimization [55.002497070656624]
Broximal Point Method(BPM)は、現在の反復を中心にした標準球よりも目的関数を反復的に最小化する、理想的な最適化フレームワークを提供する。
顕著な大域収束保証、線形収束、および正規閉凸函数に対する有限のステップを享受する。
本稿では、BPMの収束理論が、このより一般的な非ユークリッド的な設定に拡張できるかどうかを問う。
論文 参考訳(メタデータ) (2025-10-01T12:32:52Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Convergence of Adam Under Relaxed Assumptions [72.24779199744954]
我々は、アダムがより現実的な条件下で、$O(epsilon-4)$勾配複雑性で$epsilon$-定常点に収束することを示している。
また、Adamの分散還元版を$O(epsilon-3)$の加速勾配複雑性で提案する。
論文 参考訳(メタデータ) (2023-04-27T06:27:37Z) - Geometry and convergence of natural policy gradient methods [0.0]
規則的な政策パラメトリゼーションを伴う無限水平割引マルコフ決定過程におけるいくつかの自然政策勾配法(NPG)の収束について検討する。
様々なNPGや報酬関数に対して、状態作用空間の軌跡がヘッセン幾何学に関する勾配流の解であることを示す。
論文 参考訳(メタデータ) (2022-11-03T19:16:15Z) - On Asymptotic Linear Convergence of Projected Gradient Descent for
Constrained Least Squares [22.851500417035947]
この写本は、制約最小二乗の文脈における射影勾配降下の解析のための統一的な枠組みを提示する。
本稿では,PGDの収束解析のレシピを提示し,このレシピを4つの基本的な問題に応用して実証する。
論文 参考訳(メタデータ) (2021-12-22T09:49:51Z) - Proximal Gradient Descent-Ascent: Variable Convergence under K{\L}
Geometry [49.65455534654459]
有限降下指数パラメータ (GDA) はミニマックス最適化問題の解法として広く応用されている。
本稿では、KL-L型幾何学の収束を研究することにより、そのようなギャップを埋める。
論文 参考訳(メタデータ) (2021-02-09T05:35:53Z) - Curvature-Dependant Global Convergence Rates for Optimization on
Manifolds of Bounded Geometry [6.85316573653194]
1-有界幾何多様体上で定義される弱凸函数に対する曲率依存性収束率を与える。
最適化文献でよく用いられる多様体に対して、これらの境界を明示的に計算する。
指数写像の微分のノルムに完全一般境界の自己完備証明を与える。
論文 参考訳(メタデータ) (2020-08-06T08:30:35Z) - The Convergence Indicator: Improved and completely characterized
parameter bounds for actual convergence of Particle Swarm Optimization [68.8204255655161]
我々は、粒子が最終的に単一点に収束するか、分岐するかを計算するのに使用できる新しい収束指標を導入する。
この収束指標を用いて、収束群につながるパラメータ領域を完全に特徴づける実際の境界を提供する。
論文 参考訳(メタデータ) (2020-06-06T19:08:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。