論文の概要: A Data-Driven Line Search Rule for Support Recovery in High-dimensional
Data Analysis
- arxiv url: http://arxiv.org/abs/2111.10806v1
- Date: Sun, 21 Nov 2021 12:18:18 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-23 14:56:36.839733
- Title: A Data-Driven Line Search Rule for Support Recovery in High-dimensional
Data Analysis
- Title(参考訳): 高次元データ解析におけるリカバリ支援のためのデータ駆動線探索ルール
- Authors: Peili Li, Yuling Jiao, Xiliang Lu, Lican Kang
- Abstract要約: 適切なステップサイズを適応的に決定する新しい,効率的なデータ駆動行探索法を提案する。
線形回帰問題とロジスティック回帰問題における最先端アルゴリズムとの比較は,提案アルゴリズムの安定性,有効性,優越性を示す。
- 参考スコア(独自算出の注目度): 5.180648702293017
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we consider the algorithm to the (nonlinear) regression
problems with $\ell_0$ penalty. The existing algorithms for $\ell_0$ based
optimization problem are often carried out with a fixed step size, and the
selection of an appropriate step size depends on the restricted strong
convexity and smoothness for the loss function, hence it is difficult to
compute in practical calculation. In sprite of the ideas of support detection
and root finding \cite{HJK2020}, we proposes a novel and efficient data-driven
line search rule to adaptively determine the appropriate step size. We prove
the $\ell_2$ error bound to the proposed algorithm without much restrictions
for the cost functional. A large number of numerical comparisons with
state-of-the-art algorithms in linear and logistic regression problems show the
stability, effectiveness and superiority of the proposed algorithms.
- Abstract(参考訳): 本研究では,このアルゴリズムを$\ell_0$ペナルティを持つ(非線形)回帰問題に適用する。
既存の$\ell_0$の最適化問題に対するアルゴリズムは、しばしば一定のステップサイズで実行され、適切なステップサイズの選択は、損失関数の厳密な凸性と滑らかさに依存するため、実用的な計算では計算が困難である。
支援検出とルート探索のアイデアのスプライトにおいて,適切なステップサイズを適応的に決定するための新しい効率的なデータ駆動行探索ルールを提案する。
提案アルゴリズムに結合する$\ell_2$エラーを,コスト関数の制約を伴わずに証明する。
線形回帰問題とロジスティック回帰問題における最先端アルゴリズムとの比較は,提案アルゴリズムの安定性,有効性,優越性を示す。
関連論文リスト
- A Pathwise Coordinate Descent Algorithm for LASSO Penalized Quantile Regression [0.6445605125467572]
我々は,高次元データに対する正確なペナル化量子レグレッション推定を計算するために,高速でパスワイズな座標降下アルゴリズムを開発した。
本アルゴリズムは, 近似CDと線形プログラムに基づいて, 既存の代替手段よりも大幅に高速に動作する。
論文 参考訳(メタデータ) (2025-02-17T22:57:41Z) - Pathwise optimization for bridge-type estimators and its applications [49.1574468325115]
パスワイズ法は、ペナライズされた推定器の完全な経路を効率的に計算することができる。
これらのアルゴリズムを離散時間で観測されたプロセスのペナル化推定に適用する。
論文 参考訳(メタデータ) (2024-12-05T10:38:29Z) - A Sample Efficient Alternating Minimization-based Algorithm For Robust Phase Retrieval [56.67706781191521]
そこで本研究では,未知の信号の復元を課題とする,ロバストな位相探索問題を提案する。
提案するオラクルは、単純な勾配ステップと外れ値を用いて、計算学的スペクトル降下を回避している。
論文 参考訳(メタデータ) (2024-09-07T06:37:23Z) - Fast Screening Rules for Optimal Design via Quadratic Lasso
Reformulation [0.135975510645475]
本研究は, 安全スクリーニングのルールを導出し, インテリジェンスサンプルを廃棄する。
新しいテストは、特に高次元のパラメータ空間に関わる問題に対して、より高速に計算できる。
本稿では,ラッソ法の正規化経路を計算するホモトピーアルゴリズムを,正方形 $ell_$-penalty に対して再パラメータ化する方法を示す。
論文 参考訳(メタデータ) (2023-10-13T08:10:46Z) - An efficient, provably exact, practical algorithm for the 0-1 loss
linear classification problem [4.418462313508022]
インクリメンタルセル(ICE)は,0-1損失分類問題を正確に時間内に解くことができることを示す。
この長年の問題に対する、厳格に証明された実用的なアルゴリズムとしては、これが初めてだ。
論文 参考訳(メタデータ) (2023-06-21T15:41:34Z) - A New Inexact Proximal Linear Algorithm with Adaptive Stopping Criteria
for Robust Phase Retrieval [6.407536646154451]
本稿では,非平滑かつ非最適化問題であるロバスト検索問題を考察する。
本稿では,2つのコントリビューションでサブプロブレムを解くことを目的とした,新しい不正確な近位線形アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-04-25T02:29:33Z) - Online Model Selection for Reinforcement Learning with Function
Approximation [50.008542459050155]
我々は、$tildeO(L5/6 T2/3)$ regretで最適な複雑性に適応するメタアルゴリズムを提案する。
また、メタアルゴリズムは、インスタンス依存の後悔境界を著しく改善することを示す。
論文 参考訳(メタデータ) (2020-11-19T10:00:54Z) - An Asymptotically Optimal Primal-Dual Incremental Algorithm for
Contextual Linear Bandits [129.1029690825929]
複数の次元に沿った最先端技術を改善する新しいアルゴリズムを提案する。
非文脈線形帯域の特別な場合において、学習地平線に対して最小限の最適性を確立する。
論文 参考訳(メタデータ) (2020-10-23T09:12:47Z) - A Two-Timescale Framework for Bilevel Optimization: Complexity Analysis
and Application to Actor-Critic [142.1492359556374]
双レベル最適化は、2レベル構造を示す問題のクラスである。
このような二段階問題に対処するための2段階近似(TTSA)アルゴリズムを提案する。
本稿では,TTSAフレームワークの特殊な事例として,2段階の自然なアクター・クリティカルポリシー最適化アルゴリズムが有用であることを示す。
論文 参考訳(メタデータ) (2020-07-10T05:20:02Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z) - Efficient Algorithms for Multidimensional Segmented Regression [42.046881924063044]
多次元回帰を用いた固定設計の基本問題について検討する。
我々は任意の固定次元におけるこの問題に対する最初のサンプルと計算効率のよいアルゴリズムを提供する。
提案アルゴリズムは,多次元的条件下では新規な,単純なマージ反復手法に依存している。
論文 参考訳(メタデータ) (2020-03-24T19:39:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。