論文の概要: Support estimation in high-dimensional heteroscedastic mean regression
- arxiv url: http://arxiv.org/abs/2011.01591v1
- Date: Tue, 3 Nov 2020 09:46:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-30 06:04:55.642933
- Title: Support estimation in high-dimensional heteroscedastic mean regression
- Title(参考訳): 高次元ヘテロシドスティック平均回帰における支援推定
- Authors: Philipp Hermann and Hajo Holzmann
- Abstract要約: ランダムな設計と、潜在的にヘテロセダスティックで重み付きエラーを伴う線形平均回帰モデルを考える。
我々は,問題のパラメータに依存するチューニングパラメータを備えた,厳密な凸・滑らかなHuber損失関数の変種を用いる。
得られた推定器に対して、$ell_infty$ノルムにおける符号一貫性と最適収束率を示す。
- 参考スコア(独自算出の注目度): 2.28438857884398
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A current strand of research in high-dimensional statistics deals with
robustifying the available methodology with respect to deviations from the
pervasive light-tail assumptions. In this paper we consider a linear mean
regression model with random design and potentially heteroscedastic,
heavy-tailed errors, and investigate support estimation in this framework. We
use a strictly convex, smooth variant of the Huber loss function with tuning
parameter depending on the parameters of the problem, as well as the adaptive
LASSO penalty for computational efficiency. For the resulting estimator we show
sign-consistency and optimal rates of convergence in the $\ell_\infty$ norm as
in the homoscedastic, light-tailed setting. In our analysis, we have to deal
with the issue that the support of the target parameter in the linear mean
regression model and its robustified version may differ substantially even for
small values of the tuning parameter of the Huber loss function. Simulations
illustrate the favorable numerical performance of the proposed methodology.
- Abstract(参考訳): 現在の高次元統計学の研究は、広範に広がる光尾仮定からの逸脱に関して利用可能な方法論を強固にすることを扱う。
本稿では,ランダムな設計と潜在的にヘテロシドスティックな重み付き誤差を伴う線形平均回帰モデルを検討し,このフレームワークにおける支援推定について検討する。
我々は,問題のパラメータに依存するチューニングパラメータを持つハマー損失関数の厳密な凸・滑らかな変形と,計算効率の適応LASSOペナルティを用いる。
結果として得られる推定値は、ホモシデスティックでライトテールな設定のように、$\ell_\infty$ のノルムにおける符号一貫性と最適収束率を示す。
解析では,フーバー損失関数のチューニングパラメータの小さい値であっても,線形平均回帰モデルとそのロバスト化バージョンにおける目標パラメータのサポートが著しく異なる可能性があるという問題に対処する必要がある。
シミュレーションは提案手法の良好な数値性能を示す。
関連論文リスト
- Consistent support recovery for high-dimensional diffusions [0.0]
本稿では,適応型ラッソ推定器に着目し,空間的制約下でのD次元エルゴード拡散過程を解析する。
適応ラッソがドリフトパラメータの回復特性と正規性を達成する条件を線形モデルに焦点をあてて導出する。
論文 参考訳(メタデータ) (2025-01-28T04:44:00Z) - RieszBoost: Gradient Boosting for Riesz Regression [49.737777802061984]
本稿では,Riesz表現子を直接推定するために,その明示的な解析形式を必要とせず,新たな勾配向上アルゴリズムを提案する。
提案アルゴリズムは,様々な関数を対象とした間接推定手法と同等以上の性能を示す。
論文 参考訳(メタデータ) (2025-01-08T23:04:32Z) - Adaptive Conformal Inference by Betting [51.272991377903274]
データ生成プロセスについて仮定することなく適応型共形推論の問題を考察する。
適応型共形推論のための既存のアプローチは、オンライン勾配勾配の変種を用いたピンボール損失の最適化に基づいている。
本稿では,パラメータフリーなオンライン凸最適化手法を利用した適応型共形推論手法を提案する。
論文 参考訳(メタデータ) (2024-12-26T18:42:08Z) - Asymptotics of Linear Regression with Linearly Dependent Data [28.005935031887038]
非ガウス共変量の設定における線形回帰の計算について検討する。
本稿では,依存性が推定誤差と正規化パラメータの選択にどのように影響するかを示す。
論文 参考訳(メタデータ) (2024-12-04T20:31:47Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - A variational Bayes approach to debiased inference for low-dimensional parameters in high-dimensional linear regression [2.7498981662768536]
疎線形回帰における統計的推測のためのスケーラブルな変分ベイズ法を提案する。
我々のアプローチは、平均場近似をニュアンス座標に割り当てることに依存している。
これは前処理のステップに過ぎず、平均場変動ベイズの計算上の優位性を保っている。
論文 参考訳(メタデータ) (2024-06-18T14:27:44Z) - Variational Bayesian surrogate modelling with application to robust design optimisation [0.9626666671366836]
サロゲートモデルは複雑な計算モデルに対して素早く評価できる近似を提供する。
入力の不確かさと次元減少を伴う統計的代理を構築するためのベイズ推定について考察する。
コスト関数がモデル出力の平均および標準偏差の重み付け和に依存するような本質的で頑健な構造最適化問題を示す。
論文 参考訳(メタデータ) (2024-04-23T09:22:35Z) - Model-Based Reparameterization Policy Gradient Methods: Theory and
Practical Algorithms [88.74308282658133]
Reization (RP) Policy Gradient Methods (PGM) は、ロボット工学やコンピュータグラフィックスにおける連続的な制御タスクに広く採用されている。
近年の研究では、長期強化学習問題に適用した場合、モデルベースRP PGMはカオス的かつ非滑らかな最適化環境を経験する可能性があることが示されている。
本稿では,長期モデルアンロールによる爆発的分散問題を緩和するスペクトル正規化法を提案する。
論文 参考訳(メタデータ) (2023-10-30T18:43:21Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Support recovery and sup-norm convergence rates for sparse pivotal
estimation [79.13844065776928]
高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。
非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
論文 参考訳(メタデータ) (2020-01-15T16:11:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。