論文の概要: Operational Regimes in Non-Convex Optimization: A Multiplier-Based Taxonomy
- arxiv url: http://arxiv.org/abs/2609.00471v1
- Date: Mon, 31 Aug 2026 23:22:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:36.128281
- Title: Operational Regimes in Non-Convex Optimization: A Multiplier-Based Taxonomy
- Title（参考訳）: 非凸最適化におけるオペレーショナルレジーム:乗算器に基づく分類法
- Abstract要約: 本稿では,KKT定常点におけるラグランジュ乗算器の符号に基づく制約付き非制約最適化のための構造的分類法を提案する。
ベクトルのない4つの形は、この二重空間を非制約、リソース制限、飽和、強い結合、ハイブリッドの5つの運用体制に分割する。
- 参考スコア（独自算出の注目度）: 1.1907026010541673
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper introduces a structural taxonomy for constrained non-convex optimization based on the signature of Lagrange multipliers at KKT stationary points. Leveraging a unified game-theoretic interpretation of eight classical algorithm families--including block coordinate descent, ADMM, generalized Benders decomposition, successive convex approximation, interior-point methods, mirror descent, Frank-Wolfe, and Riemannian gradient descent--we show that the normalized multiplier vector carries an algorithm-independent structural fingerprint. Four scale-free shape features of this vector partition the dual space into five operational regimes: Unconstrained, Resource-Limited, Saturation, Strongly-Coupled, and Hybrid. We establish four structural theorems characterizing the partition: invariance under natural KKT symmetries, local stability under data perturbation with explicit Lipschitz margins from Robinson's strong regularity, codimension-one regime transitions, and the topological identification of the Hybrid regime as the Lebesgue-null boundary of the core regimes. A linear-time classifier is proposed with provable guarantees on correctness, iteration stabilization, sample complexity, and online tracking under data drift. Numerical experiments on 104 mixed-integer nonlinear programs and a downlink beamforming instance validate the theoretical predictions. The framework provides a foundational tool for regime-aware algorithm design and robustness analysis in non-convex optimization.
- Abstract（参考訳）: 本稿では,KKT定常点におけるラグランジュ乗算器の符号に基づく制約付き非凸最適化のための構造的分類法を提案する。
ブロック座標降下, ADMM, 一般化ベンダー分解, 連続凸近似, インテリアポイント法, ミラー降下, フランク=ウルフ, リーマン勾配勾配を含む8種類の古典的アルゴリズム系列のゲーム理論的解釈を活用することにより, 正規化乗算ベクトルがアルゴリズムに依存しない構造指紋を持つことを示す。
このベクトルの4つのスケールフリーな形状特徴は、双対空間を非拘束、資源制限、飽和、強結合、ハイブリッドの5つの運用状態に分割する。
自然なKKT対称性の下での不変性、ロビンソンの強い正則性からの明示的なリプシッツマージンによるデータ摂動の下での局所安定性、余次元1の状態遷移、およびハイブリッド状態がコア状態のルベーグ・ヌル境界として位相的同定の4つの構造定理を定めている。
線形時間分類器は、データのドリフト下での正確性、反復安定化、サンプルの複雑さ、オンライン追跡を証明可能な保証とともに提案される。
104個の混合整数非線形プログラムとダウンリンクビームフォーミングインスタンスの数値実験により理論的予測が検証された。
このフレームワークは、非凸最適化におけるレシック・アウェア・アルゴリズム設計とロバストネス解析のための基礎的なツールを提供する。
関連論文リスト
- Second-Order KKT Guarantees for Bregman ADMM in Nonconvex and Non-Lipschitz Optimization [20.87701856262044]
非線型制約問題に対するBregman ADMMを両側の相対的滑らかさの下で解析する。
分散最適化のためのマルチブロック星コンセンサス定式化に解析を拡張した。
論文 参考訳（メタデータ） (2026-06-26T17:52:39Z) - Generalization in Nonlinear Least Squares via Learned Feature Geometry [15.966075413898336]
リッジ規則化非線形最小二乗モデルのオンアレージアルゴリズムによる一般化について検討する。
勾配モデルの幾何学を反映したデータ依存実効次元を用いて局所最小化器の誤差境界を導出する。
論文 参考訳（メタデータ） (2026-06-07T19:33:36Z) - A Mean Curvature Approach to Boundary Detection: Geometric Insights for Unsupervised Learning [52.452902154360565]
本稿では,幾何学的機械学習に基づく新しい幾何学的フレームワークであるMean Curvature Boundary Points (MCBP)を紹介する。
MCBPはデータ多様体の固有曲率を明示的にモデル化し、原理化された多様体のパラメトリゼーションを必要としない点平均曲率を計算する。
合成および実世界のデータセットの実験により、MCBPはクラスタリング性能を一貫して改善することを示した。
論文 参考訳（メタデータ） (2026-05-05T20:19:09Z) - Universal Smoothness via Bernstein Polynomials: A Constructive Approximation Approach for Activation Functions [16.856453018275467]
ディープニューラルネットワークの有効性は、非線形活性化関数の設計に大きく依存している。
提案手法は厳密な連続微分可能性と1の非拡張リプシッツ定数を保証する。
このアプローチは、標準画像分類ベンチマークにおける最先端のベースラインを一貫して上回る。
論文 参考訳（メタデータ） (2026-05-04T13:38:16Z) - BOOOM: Loss-Function-Agnostic Black-Box Optimization over Orthonormal Manifolds for Machine Learning and Statistical Inference [0.0]
我々は体系的な調査を行う。
対価のセット
直交円柱-直交円柱-直交円柱をaを通して脱出する。
データデータに適用されたノベル。
問題だ
対角最適化の枠組みを示す。
強力で低ランクな分解、独立的な分解分析。
環境下でのグローバルな収束です
論文 参考訳（メタデータ） (2026-04-23T19:32:27Z) - On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization [57.179679246370114]
既存の手法の潜在的な制限は、ステップサイズが提案されない限り、ほとんどの摂動推定器に固有のバイアスである。
本稿では, 良好な構成を維持しつつ, バイアスを排除した非バイアス勾配スケーリング推定器のファミリーを提案する。
論文 参考訳（メタデータ） (2025-10-22T18:25:43Z) - Graph-based Clustering Revisited: A Relaxation of Kernel $k$-Means Perspective [73.18641268511318]
本稿では,クラスタリング結果を導出するための正規制約のみを緩和するグラフベースのクラスタリングアルゴリズムを提案する。
二重制約を勾配に変換するために、非負の制約をクラス確率パラメータに変換する。
論文 参考訳（メタデータ） (2025-09-23T09:14:39Z) - An Accelerated Alternating Partial Bregman Algorithm for ReLU-based Matrix Decomposition [0.0]
本稿では,非負行列上に補正されたスパース低ランク特性について検討する。
本稿では,クラスタリングと圧縮タスクに有用な構造を取り入れた新しい正規化項を提案する。
我々は、任意の$Lge 1$に対して常に持つ$L$-smoothプロパティを維持しながら、対応する閉形式解を導出する。
論文 参考訳（メタデータ） (2025-03-04T08:20:34Z) - A Fresh Look at Generalized Category Discovery through Non-negative Matrix Factorization [83.12938977698988]
Generalized Category Discovery (GCD) は、ラベル付きベースデータを用いて、ベース画像と新規画像の両方を分類することを目的としている。
現在のアプローチでは、コサイン類似性に基づく共起行列 $barA$ の固有の最適化に不適切に対処している。
本稿では,これらの欠陥に対処するNon-Negative Generalized Category Discovery (NN-GCD) フレームワークを提案する。
論文 参考訳（メタデータ） (2024-10-29T07:24:11Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳（メタデータ） (2023-10-20T12:45:12Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳（メタデータ） (2021-09-10T07:01:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。