論文の概要: Generalized Geometry Block Proximal Linearized Method for Multiblock Nonconvex and Nonsmooth Optimization

• arxiv url: http://arxiv.org/abs/2609.39301v2
• Date: Sat, 03 Oct 2026 02:49:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 04:43:28.459396
• Title: Generalized Geometry Block Proximal Linearized Method for Multiblock Nonconvex and Nonsmooth Optimization
• Title（参考訳）: 多重ブロック非凸・非平滑最適化のための一般化幾何ブロック近似線形化法
• Abstract要約: 本稿では,多くのアプリケーションで発生するマルチブロック非非滑らかな最適化問題のクラスについて考察する。 本稿では,ブロック変数を更新するための一般幾何線形化演算子を提案し,この演算子に基づく一般化幾何ブロック近似(GGBPL)法を開発した。 既存の線形化演算子と比較して、提案演算子は任意の内部積のメトリクスを用いてブロック代理関数を構築することができる。
• 参考スコア（独自算出の注目度）: 0.701633634930651
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper considers a class of multiblock nonconvex and nonsmooth optimization problems arising in many applications. Existing methods construct proximal linearized operators or their variants within standard Euclidean geometry to solve this class of problems, forcing their block variable updates to rely on the standard inner product and its induced norm. Nevertheless, this construction fails to capture the geometric structure of the target problem, leading to low numerical efficiency. To overcome these drawbacks, we propose a generalized geometry proximal linearized operator for updating block variables, and develop the Generalized Geometry Block Proximal Linearized (GGBPL) method based on this operator. Compared with existing proximal linearized operators, the proposed operator allows the block surrogate functions to be constructed using arbitrary inner products and general admissible metrics, thereby enabling the GGBPL method to adapt its updates to the geometric structure of various problems. We also introduce the inertial version of GGBPL, named the inertial GGBPL (iGGBPL) method. We further establish a new unified convergence framework under this generalized geometry, within which we prove that our methods guarantee convergence of the objective function values, establish global convergence of the generated sequence to a critical point, and derive the convergence rate of our methods. We also establish an $\mathcal{O}(\varepsilon^{-2})$ iteration complexity bound for obtaining an $\varepsilon$-stationary point. We apply our methods to two nonconvex and nonsmooth problems: sparse nonnegative matrix factorization with $\ell_0$-constraints and sparse nonnegative CP decomposition with $\ell_0$-constraints. Numerical results demonstrate the superior numerical performance of our proposed methods over several state-of-the-art methods.
• Abstract（参考訳）: 本稿では,多くのアプリケーションで発生するマルチブロック非凸および非滑らかな最適化問題のクラスについて考察する。 既存の手法は、標準ユークリッド幾何の中で近距離線型化作用素またはそれらの変種を構築して、この問題のクラスを解決し、ブロック変数の更新を標準内積とその誘導ノルムに依存するように強制する。 しかし、この構造はターゲット問題の幾何学的構造を捉えることができず、数値効率は低い。 これらの欠点を克服するため、ブロック変数を更新するための一般化幾何近線形化演算子を提案し、この演算子に基づく一般化幾何ブロック近線形化(GGBPL)法を開発した。 既存の線形化演算子と比較して、提案演算子は任意の内部積と一般的な許容値を用いてブロック代理関数を構築できるので、GGBPL法はその更新を様々な問題の幾何学的構造に適応させることができる。 また, 慣性GGBPL (iGGBPL) 法として, 慣性GGBPL (iGGBPL) 法を導入した。 我々はさらに、この一般化幾何の下で新たな統合収束フレームワークを確立し、この手法が目的関数値の収束を保証することを証明し、生成したシーケンスの臨界点への大域的な収束を確立し、メソッドの収束率を導出する。 また、$\mathcal{O}(\varepsilon^{-2})$ iteration complexity bound for obtained a $\varepsilon$-stationary point。 我々は2つの非凸および非滑らかな問題に適用する:$\ell_0$-constraints のスパース非負行列分解と$\ell_0$-constraints のスパース非負CP分解である。 数値計算の結果,提案手法はいくつかの最先端手法よりも優れた数値性能を示した。

関連論文リスト

• GPU-friendly and Linearly Convergent First-order Methods for Certifying Optimal $k$-sparse GLMs [7.079949618914198]
  ブランチ・アンド・バウンド(BnB)フレームワークは、パースペクティブ・リラクゼーションを使って最適性を証明できる。 これらの緩和を解く既存の手法は計算集約的であり、スケーラビリティを制限している。 我々は線形収束性と計算効率の両立した近位フレームワークを開発する。
  論文  参考訳（メタデータ） (2026-03-01T22:26:09Z)
• Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
  本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。 最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
  論文  参考訳（メタデータ） (2023-10-20T12:45:12Z)
• Universal Online Learning with Gradient Variations: A Multi-layer Online Ensemble Approach [57.92727189589498]
  本稿では,2段階の適応性を持つオンライン凸最適化手法を提案する。 我々は$mathcalO(log V_T)$, $mathcalO(d log V_T)$, $hatmathcalO(sqrtV_T)$ regret bounds for strong convex, exp-concave and convex loss function。
  論文  参考訳（メタデータ） (2023-07-17T09:55:35Z)
• Cyclic Block Coordinate Descent With Variance Reduction for Composite Nonconvex Optimization [26.218670461973705]
  非漸近勾配ノルム保証を協調する問題の解法を提案する。 本研究は,ニューラルネットの深部学習における循環還元方式の有効性を実証するものである。
  論文  参考訳（メタデータ） (2022-12-09T19:17:39Z)
• Multiblock ADMM for nonsmooth nonconvex optimization with nonlinear coupling constraints [3.2815423235774634]
  非線形制約を伴う多重ブロック非平滑交互最適化問題のクラスを解くための乗算器の手法を提案する。 一次変数の各ブロックの更新に主要なシーケンス化手順を用いる。
  論文  参考訳（メタデータ） (2022-01-19T15:31:30Z)
• Leveraging Non-uniformity in First-order Non-convex Optimization [93.6817946818977]
  目的関数の非一様洗練は、emphNon-uniform Smoothness(NS)とemphNon-uniform Lojasiewicz inequality(NL)につながる 新しい定義は、古典的な$Omega (1/t2)$下界よりも早く大域的最適性に収束する新しい幾何学的一階法を刺激する。
  論文  参考訳（メタデータ） (2021-05-13T04:23:07Z)
• Cyclic Coordinate Dual Averaging with Extrapolation [22.234715500748074]
  単調作用素を用いた変分不等式(VI)問題の一般クラスに適用可能な新しいブロック座標法を提案する。 得られた収束境界は、全勾配法の最適収束境界と一致する。 座標ブロックが$m$の場合、我々の境界における勾配リプシッツ定数は、従来のユークリッドのリプシッツ定数と比較して$sqrtm$よりも大きくなることはない。
  論文  参考訳（メタデータ） (2021-02-26T00:28:58Z)
• Hybrid Trilinear and Bilinear Programming for Aligning Partially Overlapping Point Sets [85.71360365315128]
  多くの応用において、部分重なり合う点集合が対応するRPMアルゴリズムに不変であるようなアルゴリズムが必要である。 まず、目的が立方体有界関数であることを示し、次に、三線型および双線型単相変換の凸エンベロープを用いて、その下界を導出する。 次に、変換変数上の分岐のみを効率よく実行するブランチ・アンド・バウンド(BnB)アルゴリズムを開発する。
  論文  参考訳（メタデータ） (2021-01-19T04:24:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。