論文の概要: Robust Variable Selection and Estimation Via Adaptive Elastic Net
S-Estimators for Linear Regression
- arxiv url: http://arxiv.org/abs/2107.03325v1
- Date: Wed, 7 Jul 2021 16:04:08 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-08 15:54:02.183880
- Title: Robust Variable Selection and Estimation Via Adaptive Elastic Net
S-Estimators for Linear Regression
- Title(参考訳): 線形回帰に対する適応型弾性ネットS推定器によるロバスト可変選択と推定
- Authors: David Kepplinger
- Abstract要約: 同時変数選択と係数推定のための新しい頑健な正規化推定器を提案する。
適応PENSEは、残基のスケールに関する事前の知識のないオラクル特性を持つ。
シミュレーションおよび実データ集合に関する数値的研究は、広範囲な設定において優れた有限サンプル性能を示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Heavy-tailed error distributions and predictors with anomalous values are
ubiquitous in high-dimensional regression problems and can seriously jeopardize
the validity of statistical analyses if not properly addressed. For more
reliable estimation under these adverse conditions, we propose a new robust
regularized estimator for simultaneous variable selection and coefficient
estimation. This estimator, called adaptive PENSE, possesses the oracle
property without prior knowledge of the scale of the residuals and without any
moment conditions on the error distribution. The proposed estimator gives
reliable results even under very heavy-tailed error distributions and aberrant
contamination in the predictors or residuals. Importantly, even in these
challenging settings variable selection by adaptive PENSE remains stable.
Numerical studies on simulated and real data sets highlight superior
finite-sample performance in a vast range of settings compared to other robust
regularized estimators in the case of contaminated samples and competitiveness
compared to classical regularized estimators in clean samples.
- Abstract(参考訳): 重み付き誤差分布と異常値予測器は高次元回帰問題においてユビキタスであり、適切に対処しなければ統計的解析の妥当性を著しく損なうことができる。
これらの悪条件下でのより信頼性の高い推定のために,変数選択と係数推定を同時に行う新しいロバスト正規化推定器を提案する。
この推定器は適応PENSEと呼ばれ、残差のスケールに関する事前の知識がなく、誤差分布に関するモーメント条件も持たない。
提案した推定器は、非常に重み付き誤差分布や予測器や残余の異常な汚染の下でも信頼性の高い結果を与える。
重要なことは、これらの困難な設定においても適応PENSEによる変数選択は安定である。
シミュレーションおよび実データ集合の数値的研究は, 汚染試料における他の頑健な正規化推定器と比較して, クリーンサンプルにおける古典的正規化推定器と比較して, より優れた有限サンプル性能を示す。
関連論文リスト
- Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - Variational Imbalanced Regression: Fair Uncertainty Quantification via
Probabilistic Smoothing [13.339286071690394]
既存の回帰モデルは、ラベル分布が不均衡である場合、精度と不確実性の推定の両方において不足する傾向にある。
変分不均衡回帰(VIR)と呼ばれる確率的深層学習モデルを提案する。
VIRは不均衡回帰において良好に機能するが、自然に副産物として妥当な不確かさを推定する。
論文 参考訳(メタデータ) (2023-06-11T06:27:06Z) - The Adaptive $\tau$-Lasso: Robustness and Oracle Properties [14.250233515645782]
本稿では,高次元データセット解析のためのロバストな$tau$-regression推定器の正規化版を紹介する。
得られた推定器はアダプティブ $tau$-Lasso と呼ばれ、外れ値や高平均点に対して堅牢である。
外れ値と高平均点に直面して、適応 $tau$-Lasso と $tau$-Lasso 推定器は、最高のパフォーマンスまたは最も近いパフォーマンスを達成する。
論文 参考訳(メタデータ) (2023-04-18T21:34:14Z) - Improving Adaptive Conformal Prediction Using Self-Supervised Learning [72.2614468437919]
我々は、既存の予測モデルの上に自己教師付きプレテキストタスクを持つ補助モデルを訓練し、自己教師付きエラーを付加的な特徴として用いて、非整合性スコアを推定する。
合成データと実データの両方を用いて、効率(幅)、欠陥、共形予測間隔の超過といった付加情報の利点を実証的に実証する。
論文 参考訳(メタデータ) (2023-02-23T18:57:14Z) - Selective Regression Under Fairness Criteria [30.672082160544996]
少数派集団のパフォーマンスは、カバー範囲を減らしながら低下する場合もある。
満足度基準を満たす特徴を構築できれば、そのような望ましくない行動は避けられることを示す。
論文 参考訳(メタデータ) (2021-10-28T19:05:12Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z) - Increasing the efficiency of randomized trial estimates via linear
adjustment for a prognostic score [59.75318183140857]
ランダム化実験による因果効果の推定は臨床研究の中心である。
歴史的借用法のほとんどは、厳格なタイプiエラー率制御を犠牲にして分散の削減を達成する。
論文 参考訳(メタデータ) (2020-12-17T21:10:10Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - Distributional robustness of K-class estimators and the PULSE [4.56877715768796]
古典的Kクラス推定器は、Kクラス推定器とアンカー回帰との接続を確立することにより、そのような最適性を満たすことを証明する。
データ駆動型シミュレーションKクラス推定器として効率的に計算できることを示す。
弱い楽器の設定を含むいくつかの設定があり、他の推定値よりも優れています。
論文 参考訳(メタデータ) (2020-05-07T09:39:07Z) - Estimating Gradients for Discrete Random Variables by Sampling without
Replacement [93.09326095997336]
我々は、置換のないサンプリングに基づいて、離散確率変数に対する期待値の偏りのない推定器を導出する。
推定器は3つの異なる推定器のラオ・ブラックウェル化として導出可能であることを示す。
論文 参考訳(メタデータ) (2020-02-14T14:15:18Z) - On Low-rank Trace Regression under General Sampling Distribution [9.699586426043885]
クロスバリデード推定器は一般仮定でほぼ最適誤差境界を満たすことを示す。
また, クロスバリデーション推定器はパラメータ選択理論に着想を得た手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2019-04-18T02:56:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。