論文の概要: A dual semismooth Newton based augmented Lagrangian method for
large-scale linearly constrained sparse group square-root Lasso problems
- arxiv url: http://arxiv.org/abs/2111.13878v1
- Date: Sat, 27 Nov 2021 12:20:43 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-03 10:56:37.782068
- Title: A dual semismooth Newton based augmented Lagrangian method for
large-scale linearly constrained sparse group square-root Lasso problems
- Title(参考訳): 2次元ニュートン法に基づく大規模線形制約群スパース群ラッソ問題に対する拡張ラグランジアン法
- Authors: Chengjing Wang and Peipei Tang
- Abstract要約: 本稿では,大規模線形制約付きスパース群正方根ラッソ問題の数値計算に着目する。
本稿では,2つの半平板ニュートン(SSN)をベースとした拡張ラグランジアン法(ALM)を提案する。
数値実験により提案アルゴリズムの有効性が示された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Square-root Lasso problems are proven robust regression problems.
Furthermore, square-root regression problems with structured sparsity also
plays an important role in statistics and machine learning. In this paper, we
focus on the numerical computation of large-scale linearly constrained sparse
group square-root Lasso problems. In order to overcome the difficulty that
there are two nonsmooth terms in the objective function, we propose a dual
semismooth Newton (SSN) based augmented Lagrangian method (ALM) for it. That
is, we apply the ALM to the dual problem with the subproblem solved by the SSN
method. To apply the SSN method, the positive definiteness of the generalized
Jacobian is very important. Hence we characterize the equivalence of its
positive definiteness and the constraint nondegeneracy condition of the
corresponding primal problem. In numerical implementation, we fully employ the
second order sparsity so that the Newton direction can be efficiently obtained.
Numerical experiments demonstrate the efficiency of the proposed algorithm.
- Abstract(参考訳): 平方根ラッソ問題は頑健な回帰問題である。
さらに、構造化スパーシティを持つ二乗根回帰問題もまた、統計と機械学習において重要な役割を果たす。
本稿では,大規模線形制約付きスパース群二乗根ラッソ問題の数値計算に着目する。
目的関数に2つの非平滑項が存在することの難しさを克服するために,2つの半平滑ニュートン(SSN)に基づく拡張ラグランジアン法(ALM)を提案する。
すなわち、サブプロブレムをSSN法で解いた双対問題にALMを適用する。
SSN法を適用するためには、一般化されたヤコビアンの正の定性が非常に重要である。
したがって、その正定値性の同値性と対応する主問題の制約非退化条件を特徴付ける。
数値計算では,ニュートン方向を効率よく得られるように,第2次空間を十分に活用する。
数値実験により提案アルゴリズムの有効性が示された。
関連論文リスト
- Trust-Region Sequential Quadratic Programming for Stochastic Optimization with Random Models [57.52124921268249]
本稿では,1次と2次の両方の定常点を見つけるための信頼逐次準計画法を提案する。
本手法は, 1次定常点に収束するため, 対象対象の近似を最小化して定義された各イテレーションの勾配ステップを計算する。
2階定常点に収束するため,本手法は負曲率を減少するヘッセン行列を探索する固有ステップも計算する。
論文 参考訳(メタデータ) (2024-09-24T04:39:47Z) - A Sample Efficient Alternating Minimization-based Algorithm For Robust Phase Retrieval [56.67706781191521]
そこで本研究では,未知の信号の復元を課題とする,ロバストな位相探索問題を提案する。
提案するオラクルは、単純な勾配ステップと外れ値を用いて、計算学的スペクトル降下を回避している。
論文 参考訳(メタデータ) (2024-09-07T06:37:23Z) - Constrained Optimization via Exact Augmented Lagrangian and Randomized
Iterative Sketching [55.28394191394675]
等式制約付き非線形非IBS最適化問題に対する適応的不正確なニュートン法を開発した。
ベンチマーク非線形問題,LVMのデータによる制約付きロジスティック回帰,PDE制約問題において,本手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-05-28T06:33:37Z) - Stochastic Inexact Augmented Lagrangian Method for Nonconvex Expectation
Constrained Optimization [88.0031283949404]
多くの実世界の問題は複雑な非機能的制約を持ち、多くのデータポイントを使用する。
提案手法は,従来最もよく知られた結果で既存手法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-12-19T14:48:54Z) - Symmetrized Robust Procrustes: Constant-Factor Approximation and Exact
Recovery [6.157087562708549]
本稿では,ロバスト・プロクリストス問題に対する新しい凸緩和法を提案する。
提案手法は,標準の反復重み付き最小広場と同様の動作を示す。
論文 参考訳(メタデータ) (2022-07-18T13:32:20Z) - Smooth Bilevel Programming for Sparse Regularization [5.177947445379688]
反復再重み付き最小二乗法(IRLS)は、機械学習における空間的回帰問題を解くための一般的な手法である。
両レベルスキームが組み合わさって、IRLSの驚くほど再パラメータ化が、いかにスパーシティの上位化を実現するかを示す。
論文 参考訳(メタデータ) (2021-06-02T19:18:22Z) - A Stochastic Composite Augmented Lagrangian Method For Reinforcement
Learning [9.204659134755795]
深層強化学習のための線形プログラミング(LP)の定式化について検討する。
拡張ラグランジアン法は、LPの解法において二重サンプリング障害に悩まされる。
深層パラメタライズされたラグランジアン法を提案する。
論文 参考訳(メタデータ) (2021-05-20T13:08:06Z) - Hybrid Trilinear and Bilinear Programming for Aligning Partially
Overlapping Point Sets [85.71360365315128]
多くの応用において、部分重なり合う点集合が対応するRPMアルゴリズムに不変であるようなアルゴリズムが必要である。
まず、目的が立方体有界関数であることを示し、次に、三線型および双線型単相変換の凸エンベロープを用いて、その下界を導出する。
次に、変換変数上の分岐のみを効率よく実行するブランチ・アンド・バウンド(BnB)アルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-01-19T04:24:23Z) - Matrix-wise $\ell_0$-constrained Sparse Nonnegative Least Squares [22.679160149512377]
多重右辺 (MNNLS) を持つ非負の最小二乗問題は、加法線形結合に依存するモデルに現れる。
本稿では,行列幅制約を用いたスパースMNNLSの新しい定式化を提案する。
提案した2段階の手法は,カラムワイドおよびグローバルの両方に適用された最先端のスパース符号よりも精度の高い結果が得られることを示す。
論文 参考訳(メタデータ) (2020-11-22T17:21:16Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。