論文の概要: Efficient Group Lasso Regularized Rank Regression with Data-Driven Parameter Determination
- arxiv url: http://arxiv.org/abs/2510.11546v1
- Date: Mon, 13 Oct 2025 15:45:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-14 18:06:30.43962
- Title: Efficient Group Lasso Regularized Rank Regression with Data-Driven Parameter Determination
- Title(参考訳): データ駆動パラメータ決定による効率的なグループラッソ正規化ランク回帰
- Authors: Meixia Lin, Meijiao Shi, Yunhai Xiao, Qian Zhang,
- Abstract要約: 高次元回帰は、しばしば重み付きノイズと外れ値に悩まされ、最小二乗法の信頼性を著しく損なう。
頑健性を改善するため、非滑らかなウィルコクソンスコアに基づくランク目標を採用し、構造化群空間正規化を取り入れた。
また、データ駆動のシミュレーションに基づくチューニングルールを導入し、その結果の予測値に有限サンプル誤差を限定する。
- 参考スコア(独自算出の注目度): 2.847099287022546
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: High-dimensional regression often suffers from heavy-tailed noise and outliers, which can severely undermine the reliability of least-squares based methods. To improve robustness, we adopt a non-smooth Wilcoxon score based rank objective and incorporate structured group sparsity regularization, a natural generalization of the lasso, yielding a group lasso regularized rank regression method. By extending the tuning-free parameter selection scheme originally developed for the lasso, we introduce a data-driven, simulation-based tuning rule and further establish a finite-sample error bound for the resulting estimator. On the computational side, we develop a proximal augmented Lagrangian method for solving the associated optimization problem, which eliminates the singularity issues encountered in existing methods, thereby enabling efficient semismooth Newton updates for the subproblems. Extensive numerical experiments demonstrate the robustness and effectiveness of our proposed estimator against alternatives, and showcase the scalability of the algorithm across both simulated and real-data settings.
- Abstract(参考訳): 高次元回帰は、しばしば重み付きノイズと外れ値に悩まされ、最小二乗法の信頼性を著しく損なう。
頑健性を向上させるため、非滑らかなウィルコクソンスコアに基づくランク目標を採用し、ラッソの自然な一般化である構造付き群空間正規化を取り入れ、グループラッソ正規化ランク回帰法を導出する。
もともとラッソのために開発されたチューニング不要パラメータ選択スキームを拡張して、データ駆動型シミュレーションベースのチューニングルールを導入し、その結果の推定値に有限サンプル誤差を限定する。
計算面では、関連する最適化問題を解くための近似拡張ラグランジアン法を開発し、既存の手法で発生する特異性問題を排除し、サブプロブレムに対する半平滑なニュートン更新を可能にする。
大規模数値実験では,提案した推定器の代替品に対する堅牢性と有効性を示し,シミュレーションと実データの両方でアルゴリズムのスケーラビリティを示す。
関連論文リスト
- Trust-Region Sequential Quadratic Programming for Stochastic Optimization with Random Models [57.52124921268249]
本稿では,1次と2次の両方の定常点を見つけるための信頼逐次準計画法を提案する。
本手法は, 1次定常点に収束するため, 対象対象の近似を最小化して定義された各イテレーションの勾配ステップを計算する。
2階定常点に収束するため,本手法は負曲率を減少するヘッセン行列を探索する固有ステップも計算する。
論文 参考訳(メタデータ) (2024-09-24T04:39:47Z) - Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。
我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。
車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
論文 参考訳(メタデータ) (2024-07-24T12:00:30Z) - Bayesian Nonparametrics Meets Data-Driven Distributionally Robust Optimization [29.24821214671497]
機械学習と統計モデルのトレーニングは、しばしばデータ駆動型リスク基準の最適化を伴う。
ベイズ的非パラメトリック(ディリクレ過程)理論と、スムーズなあいまいさ-逆選好の最近の決定論的モデルを組み合わせた、新しいロバストな基準を提案する。
実用的な実装として、よく知られたディリクレプロセスの表現に基づいて、評価基準の抽出可能な近似を提案し、研究する。
論文 参考訳(メタデータ) (2024-01-28T21:19:15Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - Online Statistical Inference for Contextual Bandits via Stochastic
Gradient Descent [10.108468796986074]
意思決定の文脈的包括的枠組みにおけるモデルパラメータのオンライン統計的推測について検討する。
本稿では,重み付き勾配勾配による決定規則の更新が可能な,オンラインおよび適応型データ収集環境のための汎用フレームワークを提案する。
論文 参考訳(メタデータ) (2022-12-30T18:57:08Z) - Slice Sampling for General Completely Random Measures [74.24975039689893]
本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。
提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
論文 参考訳(メタデータ) (2020-06-24T17:53:53Z) - Support recovery and sup-norm convergence rates for sparse pivotal
estimation [79.13844065776928]
高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。
非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
論文 参考訳(メタデータ) (2020-01-15T16:11:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。