論文の概要: An Inertial Block Proximal Linearized Method with Adaptive Momentum for Nonconvex and Nonsmooth Optimization

• arxiv url: http://arxiv.org/abs/2608.05502v1
• Date: Thu, 06 Aug 2026 01:11:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-07 15:25:20.809162
• Title: An Inertial Block Proximal Linearized Method with Adaptive Momentum for Nonconvex and Nonsmooth Optimization
• Title（参考訳）: 非凸・非平滑最適化のための適応モーメントを用いた慣性ブロック近似線形化法
• Abstract要約: 本稿では,異常解析や機械学習など多くの応用を網羅するマルチブロック非線形非滑らかな最適化問題について考察する。 この問題のクラスを解くために,本手法を提案する。 inertial blockized method with $ell$-I これらの問題に対する数値実験の結果,提案手法はいくつかの最先端手法よりも優れていた。
• 参考スコア（独自算出の注目度）: 0.701633634930651
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we consider a class of multiblock nonconvex nonsmooth optimization problems, which covers many applications such as the analysis of pre-earthquake anomalies and machine learning. To solve this class of problems, we propose the inertial block proximal linearized method with two-phase adaptive momentum (IBPL$^+$-TP). Compared to the current methods, our method possesses three main advantages: (1) it introduces a two-phase adaptive momentum strategy to effectively update the extrapolation parameters, (2) it allows using two different extrapolation points to accelerate the convergence, (3) it allows the extrapolation parameters of these two extrapolation points to be independent of and unconstrained by all other parameters. While maintaining the above advantages, we prove that our method ensures the monotonic convergence of the objective function of this class of problems, and we also prove that the sequence generated by our method globally converges to a critical point, as well as establish the convergence rate of our method. To demonstrate the effectiveness of our method, we apply it to solve two nonconvex and nonsmooth machine learning problems, namely sparse nonnegative matrix factorization with $\ell_0$-constraints and sparse nonnegative CP decomposition with $\ell_0$-constraints. The numerical experimental results on solving these problems show that our method outperforms several state-of-the-art methods.
• Abstract（参考訳）: 本稿では,地震前異常の解析や機械学習など,多ブロック非凸非平滑な最適化問題のクラスについて考察する。 そこで本研究では,二相適応運動量(IBPL$^+$-TP)を持つ慣性ブロック近似線形化法を提案する。 現在の手法と比較すると,(1)外挿パラメータを効果的に更新するための2相適応運動量戦略を導入し,(2)外挿点を2つ組み合わせて収束を加速させ,(3)外挿点の外挿パラメータを他の全てのパラメータから独立して非制約にすること,の3つの利点がある。 上記の利点を維持しながら,本手法がこの問題のクラスにおける目的関数の単調収束を保証することを証明し,また,本手法が生成したシーケンスが臨界点にグローバルに収束することを示すとともに,本手法の収束率を確立する。 提案手法の有効性を実証するため,2つの非凸および非滑らかな機械学習問題,すなわち,$\ell_0$-制約付きスパース非負行列分解と$\ell_0$-制約付きスパース非負行列分解に応用した。 これらの問題を解くための数値実験結果から,本手法はいくつかの最先端手法よりも優れていることが示された。

関連論文リスト

• Primal-Dual Methods for Nonsmooth Nonconvex Optimization with Orthogonality Constraints [18.943465155749003]
  非線形および非最適化問題に特化して設計した線形化平滑化ラグランジアン法を提案する。 標準の Kurdyka-LojasiewiczKL 特性の呼び出しにより,提案アルゴリズムの逐次収束を示す。 平滑な制約問題と非滑らかな制約問題の両方の数値実験により、提案手法の計算効率とスケーラビリティが最先端のアルゴリズムと比較して優れていることを示した。
  論文  参考訳（メタデータ） (2026-04-05T14:27:12Z)
• A Framework for Combining Optimization-Based and Analytic Inverse Kinematics [53.66628333687382]
  逆運動学(IK)問題の解法と最適化法はロボティクスの歴史において深く研究されている。 IK回避のための新しい定式化を提案する。
  論文  参考訳（メタデータ） (2026-02-04T22:23:32Z)
• Online Inference of Constrained Optimization: Primal-Dual Optimality and Sequential Quadratic Programming [55.848340925419286]
  等式制約と不等式制約を持つ2次最適化問題の解に対するオンライン統計的推測について検討した。 これらの問題を解決するための逐次プログラミング(SSQP)手法を開発し、目的の近似と制約の線形近似を逐次実行することでステップ方向を計算する。 本手法は,Hjek と Le Cam の意味での最適原始双対制限行列を用いて局所正規性を示す。
  論文  参考訳（メタデータ） (2025-11-27T06:16:17Z)
• Bridging Constraints and Stochasticity: A Fully First-Order Method for Stochastic Bilevel Optimization with Linear Constraints [3.567855687957749]
  この研究は、一階法のみを用いた線形制約付き双レベル最適化に対する最初の有限時間収束保証を提供する。 線形制約、雑音、有限時間解析を両レベル最適化において同時に扱うという前例のない課題に対処する。
  論文  参考訳（メタデータ） (2025-11-13T00:59:20Z)
• Trust-Region Sequential Quadratic Programming for Stochastic Optimization with Random Models [57.52124921268249]
  本稿では,1次と2次の両方の定常点を見つけるための信頼逐次準計画法を提案する。 本手法は, 1次定常点に収束するため, 対象対象の近似を最小化して定義された各イテレーションの勾配ステップを計算する。 2階定常点に収束するため,本手法は負曲率を減少するヘッセン行列を探索する固有ステップも計算する。
  論文  参考訳（メタデータ） (2024-09-24T04:39:47Z)
• Alternating Iteratively Reweighted $\ell_1$ and Subspace Newton Algorithms for Nonconvex Sparse Optimization [11.56128809794923]
  本稿では,可微分損失関数と非滑らか正規化関数の和を最小化する新しいハイブリッドアルゴリズムを提案する。 臨界点へのグローバル収束を証明し、適切な条件下では、アルゴリズムが既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2024-07-24T12:15:59Z)
• A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
  近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。 本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
  論文  参考訳（メタデータ） (2024-05-24T21:09:19Z)
• A Discrete Variational Derivation of Accelerated Methods in Optimization [68.8204255655161]
  最適化のための異なる手法を導出できる変分法を導入する。 我々は1対1の対応において最適化手法の2つのファミリを導出する。 自律システムのシンプレクティシティの保存は、ここでは繊維のみに行われる。
  論文  参考訳（メタデータ） (2021-06-04T20:21:53Z)
• Proximal Causal Learning with Kernels: Two-Stage Estimation and Moment Restriction [39.51144507601913]
  我々は近位因果学習の設定に焦点をあてるが、本手法はフレドホルム積分方程式によって特徴づけられるより広い逆問題のクラスを解くのに使うことができる。 我々は,各アルゴリズムに一貫性の保証を提供し,これらの手法が合成データと実世界のタスクをシミュレートしたデータにおいて競争的な結果をもたらすことを示す。
  論文  参考訳（メタデータ） (2021-05-10T17:52:48Z)
• Conditional gradient methods for stochastically constrained convex minimization [54.53786593679331]
  構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。 私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。 提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
  論文  参考訳（メタデータ） (2020-07-07T21:26:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。