論文の概要: Adversarial robust weighted Huber regression
- arxiv url: http://arxiv.org/abs/2102.11120v1
- Date: Mon, 22 Feb 2021 15:50:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-23 14:39:02.371812
- Title: Adversarial robust weighted Huber regression
- Title(参考訳): 対向ロバスト重み付きフーバー回帰
- Authors: Takeyuki Sasai and Hironori Fujisawa
- Abstract要約: 出力と入力が悪意のある外れ値によって汚染された場合の線形回帰係数を推定する新しい手法を提案する。
我々の結果は最小値から定数係数まで最適である。
- 参考スコア(独自算出の注目度): 6.09170287691728
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a novel method to estimate the coefficients of linear regression
when outputs and inputs are contaminated by malicious outliers. Our method
consists of two-step: (i) Make appropriate weights
$\left\{\hat{w}_i\right\}_{i=1}^n$ such that the weighted sample mean of
regression covariates robustly estimates the population mean of the regression
covariate, (ii) Process Huber regression using
$\left\{\hat{w}_i\right\}_{i=1}^n$. When (a) the regression covariate is a
sequence with i.i.d. random vectors drawn from sub-Gaussian distribution with
unknown mean and known identity covariance and (b) the absolute moment of the
random noise is finite, our method attains a faster convergence rate than
Diakonikolas, Kong and Stewart (2019) and Cherapanamjeri et al. (2020).
Furthermore, our result is minimax optimal up to constant factor. When (a) the
regression covariate is a sequence with i.i.d. random vectors drawn from heavy
tailed distribution with unknown mean and bounded kurtosis and (b) the absolute
moment of the random noise is finite, our method attains a convergence rate,
which is minimax optimal up to constant factor.
- Abstract(参考訳): 出力と入力が悪意のある外れ値によって汚染された場合の線形回帰係数を推定する新しい手法を提案する。
i) 適切な重みを$\left\{\hat{w}_i\right\}_{i=1}^n$とすることで、回帰共変の重み付き標本平均が、回帰共変の人口平均を堅牢に推定し、(ii) プロセスフーバー回帰を $\left\{\hat{w}_i\right\}_{i=1}^n$ で推定する。
a) 回帰共変体が i.i.d の列であるとき
非ガウス分布から引き出された非ガウス分布と既知の同一性共分散と(b)ランダムノイズの絶対モーメントは有限であり、我々の手法はダイアコニコラス、コング、スチュワート (2019) やチェラパナムジェリらよりも高速な収束速度に達する。
(2020).
さらに、この結果は、定数係数まで極小最適である。
a) 回帰共変体が i.i.d の列であるとき
未知の平均値と有界カルト症の重尾分布から引き出されたランダムベクトルと(b)ランダムノイズの絶対モーメントは有限であり、この手法は収束速度を達成し、定数係数まで最適である。
関連論文リスト
- Risk and cross validation in ridge regression with correlated samples [72.59731158970894]
我々は,データポイントが任意の相関関係を持つ場合,リッジ回帰のイン・オブ・サンプルリスクのトレーニング例を提供する。
さらに、テストポイントがトレーニングセットと非自明な相関を持ち、時系列予測で頻繁に発生するような場合まで分析を拡張します。
我々は多種多様な高次元データにまたがって理論を検証する。
論文 参考訳(メタデータ) (2024-08-08T17:27:29Z) - Sparse Linear Regression when Noises and Covariates are Heavy-Tailed and Contaminated by Outliers [2.0257616108612373]
本研究では,線形回帰係数を空間的仮定で推定する問題について検討する。
重尾分布から共変量やノイズを採取するだけでなく, オフレーヤによって汚染される状況も考慮する。
我々の推定器は効率的に計算でき、鋭い誤差境界を示すことができる。
論文 参考訳(メタデータ) (2024-08-02T15:33:04Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - A Geometric Unification of Distributionally Robust Covariance Estimators: Shrinking the Spectrum by Inflating the Ambiguity Set [20.166217494056916]
制約的な仮定を課さずに共分散推定器を構築するための原理的手法を提案する。
頑健な推定器は効率的に計算可能で一貫したものであることを示す。
合成および実データに基づく数値実験により、我々の頑健な推定器は最先端の推定器と競合していることが示された。
論文 参考訳(メタデータ) (2024-05-30T15:01:18Z) - Concentration inequalities for leave-one-out cross validation [1.90365714903665]
評価器の安定性が十分であることを示すことで,残余のクロスバリデーションが健全な手順であることを示す。
対数的ソボレフの不等式を満たす分布を持つ確率変数に頼って結果を得る。
論文 参考訳(メタデータ) (2022-11-04T14:08:53Z) - Outlier Robust and Sparse Estimation of Linear Regression Coefficients [2.0257616108612373]
線形回帰係数のアウトリー・ロバストとスパース推定について考察する。
本研究は,本研究と類似の関心を共有できる先行研究よりも,仮説の弱い誤差境界を示す。
論文 参考訳(メタデータ) (2022-08-24T14:56:52Z) - Robust and Sparse Estimation of Linear Regression Coefficients with
Heavy-tailed Noises and Covariates [0.0]
我々の推定器は効率的に計算でき、さらに推定誤差は鋭い。
本稿では, 重み付き分布から共変数とノイズを抽出し, 悪質な外乱によって共変数とノイズが汚染されることを論じる。
論文 参考訳(メタデータ) (2022-06-15T15:23:24Z) - Optimal variance-reduced stochastic approximation in Banach spaces [114.8734960258221]
可分バナッハ空間上で定義された収縮作用素の定点を推定する問題について検討する。
演算子欠陥と推定誤差の両方に対して漸近的でない境界を確立する。
論文 参考訳(メタデータ) (2022-01-21T02:46:57Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Minimax Optimal Estimation of KL Divergence for Continuous Distributions [56.29748742084386]
Kullback-Leibler の同一および独立に分布するサンプルからの発散は、様々な領域において重要な問題である。
単純で効果的な推定器の1つは、これらのサンプル間の近辺 k に基づいている。
論文 参考訳(メタデータ) (2020-02-26T16:37:37Z) - Estimating Gradients for Discrete Random Variables by Sampling without
Replacement [93.09326095997336]
我々は、置換のないサンプリングに基づいて、離散確率変数に対する期待値の偏りのない推定器を導出する。
推定器は3つの異なる推定器のラオ・ブラックウェル化として導出可能であることを示す。
論文 参考訳(メタデータ) (2020-02-14T14:15:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。