論文の概要: An Exact Solution Path Algorithm for SLOPE and Quasi-Spherical OSCAR
- arxiv url: http://arxiv.org/abs/2010.15511v1
- Date: Thu, 29 Oct 2020 12:03:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-02 00:04:34.616725
- Title: An Exact Solution Path Algorithm for SLOPE and Quasi-Spherical OSCAR
- Title(参考訳): SLOPEと準球形OSCARのための厳密解パスアルゴリズム
- Authors: Shunichi Nomura
- Abstract要約: そこで本研究では,SLOPEの最適化重み付けにおける解の完全かつ正確な経路を提供する解経路アルゴリズムを提案する。
また、機能クラスタリングのための正規化シーケンス$lambda$の新しい設計を提案し、これは、回帰(QS-OSCAR)のための準球面および八角形収縮およびクラスタリングアルゴリズムと呼ばれる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sorted $L_1$ penalization estimator (SLOPE) is a regularization technique for
sorted absolute coefficients in high-dimensional regression. By arbitrarily
setting its regularization weights $\lambda$ under the monotonicity constraint,
SLOPE can have various feature selection and clustering properties. On weight
tuning, the selected features and their clusters are very sensitive to the
tuning parameters. Moreover, the exhaustive tracking of their changes is
difficult using grid search methods. This study presents a solution path
algorithm that provides the complete and exact path of solutions for SLOPE in
fine-tuning regularization weights. A simple optimality condition for SLOPE is
derived and used to specify the next splitting point of the solution path. This
study also proposes a new design of a regularization sequence $\lambda$ for
feature clustering, which is called the quasi-spherical and octagonal shrinkage
and clustering algorithm for regression (QS-OSCAR). QS-OSCAR is designed with a
contour surface of the regularization terms most similar to a sphere. Among
several regularization sequence designs, sparsity and clustering performance
are compared through simulation studies. The numerical observations show that
QS-OSCAR performs feature clustering more efficiently than other designs.
- Abstract(参考訳): SLOPE(Sorted $L_1$ Penalization estimator)は、高次元回帰における絶対係数の正則化手法である。
単調性制約の下で正規化重みを$\lambda$で任意に設定することで、SLOPEは様々な特徴選択とクラスタリング特性を持つことができる。
ウェイトチューニングでは、選択された特徴とそのクラスタはチューニングパラメータに非常に敏感である。
さらに, グリッド探索法では, 網羅的な変化追跡が困難である。
本研究では,微調整正規化重みの勾配に対する解の完全かつ正確な経路を提供する解経路アルゴリズムを提案する。
SLOPEの簡単な最適条件が導出され、解経路の次の分裂点を特定するために使用される。
そこで本研究では,正則化シーケンス$\lambda$ for feature clusteringを新たに設計し,これを準球面および八角形縮退法,回帰法(QS-OSCAR)と呼ぶ。
QS-OSCARは球面と最もよく似た正規化項の輪郭面で設計されている。
いくつかの正規化シーケンス設計のうち、疎度とクラスタリング性能はシミュレーション研究によって比較される。
数値観測により,QS-OSCARは他の設計よりも効率的に特徴クラスタリングを行うことが示された。
関連論文リスト
- Shuffled Linear Regression via Spectral Matching [6.24954299842136]
シャッフル線形回帰は線形変換を通じて潜在特徴を推定しようとする。
この問題は、従来の最小二乗法(LS)とLast Absolute Shrinkage and Selection Operator(LASSO)アプローチを拡張している。
置換を効率的に解決するスペクトルマッチング法を提案する。
論文 参考訳(メタデータ) (2024-09-30T16:26:40Z) - Instance-Optimal Cluster Recovery in the Labeled Stochastic Block Model [79.46465138631592]
観測されたラベルを用いてクラスタを復元する効率的なアルゴリズムを考案する。
本稿では,期待値と高い確率でこれらの下位境界との性能を一致させる最初のアルゴリズムであるIACを提案する。
論文 参考訳(メタデータ) (2023-06-18T08:46:06Z) - Constrained Optimization via Exact Augmented Lagrangian and Randomized
Iterative Sketching [55.28394191394675]
等式制約付き非線形非IBS最適化問題に対する適応的不正確なニュートン法を開発した。
ベンチマーク非線形問題,LVMのデータによる制約付きロジスティック回帰,PDE制約問題において,本手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-05-28T06:33:37Z) - Personalized Federated Learning via Convex Clustering [72.15857783681658]
本稿では,局所凸型ユーザコストを用いた個人化フェデレーション学習のためのアルゴリズム群を提案する。
提案するフレームワークは,異なるユーザのモデルの違いをペナル化する凸クラスタリングの一般化に基づいている。
論文 参考訳(メタデータ) (2022-02-01T19:25:31Z) - Adaptive Sequential SAA for Solving Two-stage Stochastic Linear Programs [1.6181085766811525]
大規模2段階線形プログラムを解くための適応的逐次SAA(sample average approximation)アルゴリズムを提案する。
提案アルゴリズムは,品質の確率論的保証が与えられた解を返すために,有限時間で停止することができる。
論文 参考訳(メタデータ) (2020-12-07T14:58:16Z) - Bayesian Sparse learning with preconditioned stochastic gradient MCMC
and its applications [5.660384137948734]
提案アルゴリズムは, 温和な条件下で, 制御可能なバイアスで正しい分布に収束する。
提案アルゴリズムは, 温和な条件下で, 制御可能なバイアスで正しい分布に収束可能であることを示す。
論文 参考訳(メタデータ) (2020-06-29T20:57:20Z) - Certifying clusters from sum-of-norms clustering [13.747619681451875]
本稿では,近似解から正しいクラスタ割り当てを同定し,証明するクラスタリングテストを提案する。
提案手法では, クラスタ割り当てが, 十分に多くの繰り返しを経て, 原始二重経路追従アルゴリズムによって保証されることが保証されていることを示す。
論文 参考訳(メタデータ) (2020-06-19T20:26:26Z) - Efficient Path Algorithms for Clustered Lasso and OSCAR [0.0]
本稿では,クラスタリングされたLassoとOSCARのための効率的な経路アルゴリズムを提案する。
提案アルゴリズムは数値実験において既存のアルゴリズムよりも効率的であることが示されている。
論文 参考訳(メタデータ) (2020-06-16T07:43:57Z) - Convergence of adaptive algorithms for weakly convex constrained
optimization [59.36386973876765]
モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。
我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
論文 参考訳(メタデータ) (2020-06-11T17:43:19Z) - Local Graph Clustering with Network Lasso [90.66817876491052]
局所グラフクラスタリングのためのネットワークLasso法の統計的および計算的性質について検討する。
nLassoによって提供されるクラスタは、クラスタ境界とシードノードの間のネットワークフローを通じて、エレガントに特徴付けられる。
論文 参考訳(メタデータ) (2020-04-25T17:52:05Z) - Non-Adaptive Adaptive Sampling on Turnstile Streams [57.619901304728366]
カラムサブセット選択、部分空間近似、射影クラスタリング、および空間サブリニアを$n$で使用するターンタイルストリームのボリュームに対する最初の相対エラーアルゴリズムを提供する。
我々の適応的なサンプリング手法は、様々なデータ要約問題に多くの応用をもたらしており、これは最先端を改善するか、より緩和された行列列モデルで以前に研究されただけである。
論文 参考訳(メタデータ) (2020-04-23T05:00:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。