論文の概要: Global Solutions to Non-Convex Functional Constrained Problems with Hidden Convexity
- arxiv url: http://arxiv.org/abs/2511.10626v1
- Date: Fri, 14 Nov 2025 02:00:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-14 22:53:22.961657
- Title: Global Solutions to Non-Convex Functional Constrained Problems with Hidden Convexity
- Title(参考訳): 隠れ凸を伴う非凸関数制約問題に対する大域的解法
- Authors: Ilyas Fatkhullin, Niao He, Guanghui Lan, Florian Wolf,
- Abstract要約: 証明不可能な複雑な問題を解くアルゴリズムを開発する。
まず、非滑らか空間における複素数$widetildemathcalO(varepsilon-1)$ oracle を用いて、大域的最終レート収束を保証する。
問題に対して,線形に制約された2次サブプロブレムに基づく新しいバンドルレベル型法を提案する。
- 参考スコア(独自算出の注目度): 26.72817687373639
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Constrained non-convex optimization is fundamentally challenging, as global solutions are generally intractable and constraint qualifications may not hold. However, in many applications, including safe policy optimization in control and reinforcement learning, such problems possess hidden convexity, meaning they can be reformulated as convex programs via a nonlinear invertible transformation. Typically such transformations are implicit or unknown, making the direct link with the convex program impossible. On the other hand, (sub-)gradients with respect to the original variables are often accessible or can be easily estimated, which motivates algorithms that operate directly in the original (non-convex) problem space using standard (sub-)gradient oracles. In this work, we develop the first algorithms to provably solve such non-convex problems to global minima. First, using a modified inexact proximal point method, we establish global last-iterate convergence guarantees with $\widetilde{\mathcal{O}}(\varepsilon^{-3})$ oracle complexity in non-smooth setting. For smooth problems, we propose a new bundle-level type method based on linearly constrained quadratic subproblems, improving the oracle complexity to $\widetilde{\mathcal{O}}(\varepsilon^{-1})$. Surprisingly, despite non-convexity, our methodology does not require any constraint qualifications, can handle hidden convex equality constraints, and achieves complexities matching those for solving unconstrained hidden convex optimization.
- Abstract(参考訳): 制約付き非凸最適化は、大域的解は一般に難解であり、制約付き資格が保持されないため、基本的には困難である。
しかし、制御と強化学習における安全なポリシー最適化を含む多くの応用において、そのような問題は隠れ凸性を持ち、非線型可逆変換によって凸プログラムとして再構成することができる。
典型的にはそのような変換は暗黙的あるいは未知であり、凸プログラムとの直接リンクは不可能である。
一方、元の変数に関する(部分)階数はしばしばアクセス可能であり、容易に推定可能であり、これは標準(部分)階数オーラクルを用いて元の(非凸)問題空間で直接動作するアルゴリズムを動機付けている。
本研究では,このような非凸問題を大域最小化に有効に解くアルゴリズムを開発した。
まず、修正された不正確な近点法を用いて、非滑らかな設定において、$\widetilde{\mathcal{O}}(\varepsilon^{-3})$ oracle complexity で大域的最終点収束を保証する。
滑らかな問題を解くため、線形に制約された二次部分確率に基づく新しいバンドルレベル型法を提案し、オラクルの複雑性を$\widetilde{\mathcal{O}}(\varepsilon^{-1})$に改善する。
非凸性にも拘わらず、我々の手法はいかなる制約条件も必要とせず、隠された凸等式制約を処理でき、制約のない隠された凸最適化の解法と一致する複雑さを達成できる。
関連論文リスト
- Universal Online Learning with Gradient Variations: A Multi-layer Online Ensemble Approach [57.92727189589498]
本稿では,2段階の適応性を持つオンライン凸最適化手法を提案する。
我々は$mathcalO(log V_T)$, $mathcalO(d log V_T)$, $hatmathcalO(sqrtV_T)$ regret bounds for strong convex, exp-concave and convex loss function。
論文 参考訳(メタデータ) (2023-07-17T09:55:35Z) - A Block Coordinate Descent Method for Nonsmooth Composite Optimization under Orthogonality Constraints [7.9047096855236125]
textbfOBCDは標準臨界点よりも高い最適性を示すことを示す。
また,textbfOBCDの非エルグ収束率を示す。
論文 参考訳(メタデータ) (2023-04-07T13:44:59Z) - Accelerated First-Order Optimization under Nonlinear Constraints [61.98523595657983]
我々は、制約付き最適化のための一階アルゴリズムと非滑らかなシステムの間で、新しい一階アルゴリズムのクラスを設計する。
これらのアルゴリズムの重要な性質は、制約がスパース変数の代わりに速度で表されることである。
論文 参考訳(メタデータ) (2023-02-01T08:50:48Z) - Oracle Complexity of Single-Loop Switching Subgradient Methods for
Non-Smooth Weakly Convex Functional Constrained Optimization [12.84152722535866]
目的関数が弱凸あるいは弱凸である非制約最適化問題を考える。
そこで本研究では,一階調律であり,実装が容易な段階的手法について考察する。
論文 参考訳(メタデータ) (2023-01-30T22:13:14Z) - A Constrained Optimization Approach to Bilevel Optimization with
Multiple Inner Minima [49.320758794766185]
そこで本研究では,両レベル問題を等価な制約付き最適化に変換する手法を提案する。
このようなアプローチには、(a)多重内極小問題への対処、(b)ジャコビアン計算のない完全一階効率など、いくつかの利点がある。
論文 参考訳(メタデータ) (2022-03-01T18:20:01Z) - Recent Theoretical Advances in Non-Convex Optimization [56.88981258425256]
近年、深層ネットワークにおける非最適化アルゴリズムの解析やデータ問題への関心が高まっており、非最適化のための理論的最適化アルゴリズムの最近の結果の概要を概説する。
論文 参考訳(メタデータ) (2020-12-11T08:28:51Z) - An efficient nonconvex reformulation of stagewise convex optimization
problems [21.61123565780424]
我々は、段階的構造問題を活用するために設計された非改革を開発する。
ニューラルネットワーク検証のアプローチでは、わずか数ステップで急激な局所的なギャップが得られます。
棚から取り出した問題や特殊な解法よりも早く解決できる。
論文 参考訳(メタデータ) (2020-10-27T14:30:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。