論文の概要: Nonconvex Composite Functional Constraints via First-Order Augmented Lagrangian Methods under Local Regularity
- arxiv url: http://arxiv.org/abs/2607.08954v1
- Date: Thu, 09 Jul 2026 21:28:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-13 14:47:12.743907
- Title: Nonconvex Composite Functional Constraints via First-Order Augmented Lagrangian Methods under Local Regularity
- Title（参考訳）: 局所規則性下での1次拡大ラグランジアン法による非凸複合機能制約
- Abstract要約: 一次非バランス性非コンケーブ最小値再構成の条件境界を均一に拡張した。
双対正則化では、大域的局所論はバイアスとともに議論される。
KKT。
- 参考スコア（独自算出の注目度）: 10.643433352418915
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study nonasymptotic convergence of primal-dual methods for a class of nonconvex constrained optimization problems with a convex-composite structure. In this class, both the objective and the functional inequality constraints are given by convex Lipschitz outer functions composed with smooth nonlinear inner mappings. The analysis is complicated by constraint violation in a nonconvex functional inequality system and by the lack of an a priori bound on the multipliers. To address these issues, we restrict the dual variable to an auxiliary compact set and analyze a smoothed prox-linear augmented Lagrangian method through a nonsmooth nonconvex-concave minimax reformulation. The main contribution is a finite-time mechanism for converting stationarity of the truncated minimax problem into a KKT certificate for the original constrained problem. We show that, for a sufficiently large penalty parameter, all but a controlled number of iterates enter a near-feasible region. On this region, a local conic regularity condition uniformly bounds the associated prox-linear multipliers and thereby makes the artificial dual truncation inactive at the selected iterates. Building on this mechanism, we establish explicit convergence rates for the proposed method in terms of the KKT residual. With dual regularization, a global dual error bound together with a bias-balancing argument gives an $O(K^{-1/3})$ rate. In the unregularized case, under additional local structural assumptions including piecewise linearity of the outer functions, a local dual error bound yields the sharper $O(K^{-1/2})$ rate.
- Abstract（参考訳）: 凸複合構造を持つ非凸制約最適化問題のクラスに対する原始双対法の漸近収束性について検討する。
このクラスでは、目的的および機能的不等式制約は、滑らかな非線形内部写像からなる凸リプシッツ函数によって与えられる。
この解析は、非凸関数不等式システムにおける制約違反と、乗算子に有界な a priori の欠如によって複雑である。
これらの問題に対処するため、双対変数をコンパクトなコンパクトな集合に制限し、非滑らかな非凸凹極小修正法により滑らかなプロックス線形拡張ラグランジアン法を解析する。
主な貢献は、縮小されたミニマックス問題の定常性を元の制約問題に対するKKT証明書に変換する有限時間機構である。
十分に大きなペナルティパラメータでは、制御された数の反復を除いて、ほぼ実現可能な領域に入ることが示される。
この領域では、局所円錐正則条件が関連する凸線型乗算器を均一に有界とし、それによって選択された反復点において人工的双対トランケーションを不活性にする。
この機構に基づいて提案手法の収束率をKKT残差の観点から明らかにする。
双対正則化では、大域的双対誤差とバイアスバランスの議論は、$O(K^{-1/3})$レートを与える。
非正規化の場合、外函数の分数次線型性を含む追加の局所構造仮定の下で、局所二重誤差境界はよりシャープな$O(K^{-1/2})$レートをもたらす。
関連論文リスト
- A proximal subgradient method for nonconvex stochastic optimization under the Kurdyka-Łojasiewicz condition [39.146761527401424]
本研究は,期待されるコストの和を最小化するための近位次法を導入する。
クルディカ・ロジャシエヴィチ(KL)特性を用いて、全軌道の1つの定常点への収束を保証する。
論文 参考訳（メタデータ） (2026-08-05T23:07:27Z) - Regularized Online RLHF with Generalized Bilinear Preferences [68.44113000390544]
一般的な嗜好を伴う文脈的オンラインRLHFの問題を考える。
一般化された双線形選好モデルを用いて、低ランクなスキュー対称行列による選好を捉える。
グリーディポリシーの双対ギャップは推定誤差の正方形によって有界であることを示す。
論文 参考訳（メタデータ） (2026-02-26T15:27:53Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳（メタデータ） (2026-02-24T05:32:03Z) - Stochastic Momentum Methods for Non-smooth Non-Convex Finite-Sum Coupled Compositional Optimization [68.22688819802622]
我々は、(ほぼ)$レベルのKKTソリューションを見つけるために、$O(/epsilon)$の最先端の複雑さを新たに提案する。
O(/epsilon)$ の(ほぼ) $ レベルの KKT ソリューションを見つけるための技術的複雑さを適用することで、(ほぼ) $ レベルの KKT ソリューションを見つけるための $O(/epsilon)$ の最先端の複雑さを新たに達成する。
論文 参考訳（メタデータ） (2025-06-03T06:31:59Z) - Inexact Moreau Envelope Lagrangian Method for Non-Convex Constrained Optimization under Local Error Bound Conditions on Constraint Functions [20.767753336718606]
最適化問題の解法として不正確なエンベロープグランジアン(iMELa)法を提案する。
iMELa法は、$tilde(-2)$ gradient complexity で $epsilon$-Karush-Kuhn-ilon 点を求めることができる。
論文 参考訳（メタデータ） (2025-02-27T05:04:27Z) - Alternating Iteratively Reweighted $\ell_1$ and Subspace Newton Algorithms for Nonconvex Sparse Optimization [11.56128809794923]
本稿では,可微分損失関数と非滑らか正規化関数の和を最小化する新しいハイブリッドアルゴリズムを提案する。
臨界点へのグローバル収束を証明し、適切な条件下では、アルゴリズムが既存の手法より優れていることを示す。
論文 参考訳（メタデータ） (2024-07-24T12:15:59Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳（メタデータ） (2023-10-20T12:45:12Z) - Decentralized Weakly Convex Optimization Over the Stiefel Manifold [28.427697270742947]
我々は分散環境でスティーフェル多様体に焦点をあて、$nMn log-1)$のエージェントの連結ネットワークをテストする。
そこで本研究では,nMn log-1 以下の自然ステーションを強制的に強制する分散下位段階法 (DRSM)$ という手法を提案する。
論文 参考訳（メタデータ） (2023-03-31T02:56:23Z) - Randomized Coordinate Subgradient Method for Nonsmooth Composite
Optimization [11.017632675093628]
非滑らかな問題に対処するコーディネート型劣階法は、リプシッツ型仮定の性質のセットのため、比較的過小評価されている。
論文 参考訳（メタデータ） (2022-06-30T02:17:11Z) - Faster Algorithm and Sharper Analysis for Constrained Markov Decision
Process [56.55075925645864]
制約付き意思決定プロセス (CMDP) の問題点について検討し, エージェントは, 複数の制約を条件として, 期待される累積割引報酬を最大化することを目的とする。
新しいユーティリティ・デュアル凸法は、正規化ポリシー、双対正則化、ネステロフの勾配降下双対という3つの要素の新たな統合によって提案される。
これは、凸制約を受ける全ての複雑性最適化に対して、非凸CMDP問題が$mathcal O (1/epsilon)$の低い境界に達する最初の実演である。
論文 参考訳（メタデータ） (2021-10-20T02:57:21Z) - Lifting the Convex Conjugate in Lagrangian Relaxations: A Tractable
Approach for Continuous Markov Random Fields [53.31927549039624]
断片的な離散化は既存の離散化問題と矛盾しないことを示す。
この理論を2つの画像のマッチング問題に適用する。
論文 参考訳（メタデータ） (2021-07-13T12:31:06Z) - Inexact and Stochastic Generalized Conditional Gradient with Augmented
Lagrangian and Proximal Step [2.0196229393131726]
我々は著者の以前の論文で開発されたCGALPアルゴリズムの不正確さとバージョンを分析した。
これにより、いくつかの勾配、項、および/または線形最小化オラクルを不正確な方法で計算することができる。
ラグランジアンのアフィン制約の最適性と実現可能性への収束を示す。
論文 参考訳（メタデータ） (2020-05-11T14:52:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。