論文の概要: Robust Regression with Adaptive Contamination in Response: Optimal Rates and Computational Barriers
- arxiv url: http://arxiv.org/abs/2604.04228v1
- Date: Sun, 05 Apr 2026 19:07:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:18.993699
- Title: Robust Regression with Adaptive Contamination in Response: Optimal Rates and Computational Barriers
- Title(参考訳): 適応汚染を伴うロバスト回帰--最適速度と計算障壁
- Authors: Ilias Diakonikolas, Chao Gao, Daniel M. Kane, Ankit Pensia, Dong Xie,
- Abstract要約: 本研究では, 共変剤を清潔にし, 応答を適応的に劣化させる汚染モデルの下で, 頑健な回帰について検討する。
本研究では,ハマー汚染下で達成可能なものよりも優れた推定率を持つ推定器を構築するために,追加情報を慎重に活用できることを示す。
情報理論の観点からは、ハマーモデルよりも改善されているにもかかわらず、この問題が強い情報計算ギャップを示すという公式な証拠を提供する。
- 参考スコア(独自算出の注目度): 65.58071581164043
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study robust regression under a contamination model in which covariates are clean while the responses may be corrupted in an adaptive manner. Unlike the classical Huber's contamination model, where both covariates and responses may be contaminated and consistent estimation is impossible when the contamination proportion is a non-vanishing constant, it turns out that the clean-covariate setting admits strictly improved statistical guarantees. Specifically, we show that the additional information in the clean covariates can be carefully exploited to construct an estimator that achieves a better estimation rate than that attainable under Huber contamination. In contrast to the Huber model, this improved rate implies consistency even when the contamination is a constant. A matching minimax lower bound is established using Fano's inequality together with the construction of contamination processes that match $m> 2$ distributions simultaneously, extending the previous two-point lower bound argument in Huber's setting. Despite the improvement over the Huber model from an information-theoretic perspective, we provide formal evidence -- in the form of Statistical Query and Low-Degree Polynomial lower bounds -- that the problem exhibits strong information-computation gaps. Our results strongly suggest that the information-theoretic improvements cannot be achieved by polynomial-time algorithms, revealing a fundamental gap between information-theoretic and computational limits in robust regression with clean covariates.
- Abstract(参考訳): 本研究では, 共変剤を清潔にし, 応答を適応的に劣化させる汚染モデルの下で, 頑健な回帰について検討する。
古典的なフーバーの汚染モデルとは異なり、共変量と応答の両方が汚染され、汚染比率が非消滅定数である場合、一貫した推定は不可能である。
具体的には、クリーンな共変量体に含まれる付加情報を慎重に利用して、ハマー汚染下で達成できるものよりも優れた推定率を達成する推定器を構築することができることを示す。
ハマーモデルとは対照的に、この改善速度は汚染が一定である場合でも一貫性を示す。
一致するミニマックス下界はファノの不等式と、$m> 2$の分布に同時に一致する汚染過程の構築によって確立され、ハマーの設定における以前の2点下界の議論を延長する。
情報理論の観点からは、フーバーモデルよりも改善されているにもかかわらず、統計クエリーと低Degreeポリノミアルローバウンドという形で、この問題が強い情報計算ギャップを示すという公式な証拠を提供する。
この結果から,情報理論的改善は多項式時間アルゴリズムでは達成できないことが強く示唆され,クリーンな共変量をもつ頑健な回帰における情報理論的限界と計算的限界の根本的なギャップが明らかとなった。
関連論文リスト
- Beyond Consistency: Inference for the Relative risk functional in Deep Nonparametric Cox Models [7.2275111013288535]
Coxをベースとした最適化誤差が、部分的可能性の下で集団リスクにどのように伝播するかは明らかでない。
また、ポイントワイドバイアスがどのように制御できるのか、またアンサンブルに基づく不確実性が現実的な分散体制の下でどのように振る舞うのかも不明である。
これらの問題に対処するディープコックス推定器の分布理論を開発する。
論文 参考訳(メタデータ) (2026-03-25T01:43:12Z) - Sharp Convergence Rates for Masked Diffusion Models [53.117058231393834]
制約を克服するオイラー法に対する全変分に基づく解析法を開発した。
その結果、スコア推定の仮定を緩和し、パラメータ依存性を改善し、収束保証を確立する。
全体としては,CTMC軌道に沿った直接テレビによる誤り分解と,FHSのためのデカップリングに基づく経路解析を導入している。
論文 参考訳(メタデータ) (2026-02-26T00:47:51Z) - Penalized Empirical Likelihood for Doubly Robust Causal Inference under Contamination in High Dimensions [0.720409153108429]
低サンプルサイズ方程式における平均処理効果を2倍頑健に推定する手法を提案する。
提案した信頼区間は, 競合する推定値と比較して効率がよいことを示す。
論文 参考訳(メタデータ) (2025-07-23T11:58:54Z) - Robust Score Matching [1.2835555561822447]
本研究では,観測データが汚染された状況下で,一貫したパラメータ推定値が得られるロバストなスコアマッチング手法を開発した。
提案手法の特長は指数関数モデルにおける凸性を維持することである。
数値実験および降水データセットで支援回復について検討した。
論文 参考訳(メタデータ) (2025-01-09T09:46:27Z) - Mutual Wasserstein Discrepancy Minimization for Sequential
Recommendation [82.0801585843835]
逐次リコメンデーションのためのMutual WasserStein差分最小化MSteinに基づく新しい自己教師型学習フレームワークを提案する。
また,ワッサーシュタイン離散度測定に基づく新しい学習損失を提案する。
論文 参考訳(メタデータ) (2023-01-28T13:38:48Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z) - Robust regression with covariate filtering: Heavy tails and adversarial
contamination [6.939768185086755]
より強い汚染モデルにおいて,ハマー回帰,最小トリミング正方形,最小絶対偏差推定器を同時に計算および統計的に効率的に推定する方法を示す。
この設定では、ハマー回帰推定器がほぼ最適誤差率を達成するのに対し、最小のトリミング正方形と最小の絶対偏差推定器は、後処理ステップを適用した後、ほぼ最適誤差を達成することができる。
論文 参考訳(メタデータ) (2020-09-27T22:48:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。