論文の概要: Outlier Robust and Sparse Estimation of Linear Regression Coefficients
- arxiv url: http://arxiv.org/abs/2208.11592v1
- Date: Wed, 24 Aug 2022 14:56:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-25 13:22:09.715499
- Title: Outlier Robust and Sparse Estimation of Linear Regression Coefficients
- Title(参考訳): 線形回帰係数の外部ロバストとスパース推定
- Authors: Takeyuki Sasai and Hironori Fujisawa
- Abstract要約: 共変量と雑音をそれぞれサンプリングした場合の線形回帰係数のロバストおよびスパース推定を$mathfrakL$-subGaussian分布と重み付き分布から検討する。
我々の推定器は、ほぼ情報理論上の最適誤差境界に達し、我々の誤差境界は、類似した状況を扱う以前の研究よりもシャープである。
- 参考スコア(独自算出の注目度): 4.7210697296108926
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider outlier robust and sparse estimation of linear regression
coefficients when covariates and noise are sampled, respectively, from an
$\mathfrak{L}$-subGaussian distribution and a heavy-tailed distribution, and
additionally, the covariates and noise are contaminated by adversarial
outliers. We deal with two cases: known or unknown covariance of the
covariates. Particularly, in the former case, our estimator attains nearly
information theoretical optimal error bound, and our error bound is sharper
than that of earlier studies dealing with similar situations. Our estimator
analysis relies heavily on Generic Chaining to derive sharp error bounds.
- Abstract(参考訳): 共変量と雑音をそれぞれサンプルとした場合の線形回帰係数は,それぞれ$\mathfrak{L}$-subGaussian分布とヘビーテール分布から,それぞれ外変量とスパース推定を考察し,逆数外変量によって共変量とノイズが汚染されることを示した。
共変量の未知あるいは未知の共変の2つのケースを扱う。
特に, 前者の場合, 推定器はほぼ情報理論上の最適誤差境界に達し, 同様の状況を扱う以前の研究よりも誤差境界が鋭い。
我々の推定器解析は、鋭い誤差境界を導出するためにジェネリックチェインに大きく依存している。
関連論文リスト
- Risk and cross validation in ridge regression with correlated samples [72.59731158970894]
我々は,データポイントが任意の相関関係を持つ場合,リッジ回帰のイン・オブ・サンプルリスクのトレーニング例を提供する。
さらに、テストポイントがトレーニングセットと非自明な相関を持ち、時系列予測で頻繁に発生するような場合まで分析を拡張します。
我々は多種多様な高次元データにまたがって理論を検証する。
論文 参考訳(メタデータ) (2024-08-08T17:27:29Z) - Sparse Linear Regression when Noises and Covariates are Heavy-Tailed and Contaminated by Outliers [2.0257616108612373]
本研究では,線形回帰係数を空間的仮定で推定する問題について検討する。
重尾分布から共変量やノイズを採取するだけでなく, オフレーヤによって汚染される状況も考慮する。
我々の推定器は効率的に計算でき、鋭い誤差境界を示すことができる。
論文 参考訳(メタデータ) (2024-08-02T15:33:04Z) - Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - Robust and Sparse Estimation of Linear Regression Coefficients with
Heavy-tailed Noises and Covariates [0.0]
我々の推定器は効率的に計算でき、さらに推定誤差は鋭い。
本稿では, 重み付き分布から共変数とノイズを抽出し, 悪質な外乱によって共変数とノイズが汚染されることを論じる。
論文 参考訳(メタデータ) (2022-06-15T15:23:24Z) - The Interplay Between Implicit Bias and Benign Overfitting in Two-Layer
Linear Networks [51.1848572349154]
ノイズの多いデータに完全に適合するニューラルネットワークモデルは、見当たらないテストデータにうまく一般化できる。
我々は,2層線形ニューラルネットワークを2乗損失の勾配流で補間し,余剰リスクを導出する。
論文 参考訳(メタデータ) (2021-08-25T22:01:01Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Adversarial robust weighted Huber regression [2.0257616108612373]
線形回帰係数のロバストな推定を考察する。
安定な階数と共分散行列の条件数に依存する推定誤差境界を導出する。
論文 参考訳(メタデータ) (2021-02-22T15:50:34Z) - Outlier Robust Mean Estimation with Subgaussian Rates via Stability [46.03021473600576]
本研究では,ロバストなアウトリール高次元平均推定問題について検討する。
外乱平均推定のために, ガウス平均を用いた第1次計算効率を得る。
論文 参考訳(メタデータ) (2020-07-30T17:33:03Z) - Nonparametric Score Estimators [49.42469547970041]
未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
論文 参考訳(メタデータ) (2020-05-20T15:01:03Z) - Compressing Large Sample Data for Discriminant Analysis [78.12073412066698]
判別分析フレームワーク内での大きなサンプルサイズに起因する計算問題を考察する。
線形および二次判別分析のためのトレーニングサンプル数を削減するための新しい圧縮手法を提案する。
論文 参考訳(メタデータ) (2020-05-08T05:09:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。