論文の概要: Debiased Estimators in High-Dimensional Regression: A Review and Replication of Javanmard and Montanari (2014)

• arxiv url: http://arxiv.org/abs/2604.00848v2
• Date: Mon, 06 Apr 2026 03:25:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.45541
• Title: Debiased Estimators in High-Dimensional Regression: A Review and Replication of Javanmard and Montanari (2014)
• Title（参考訳）: 高次元回帰におけるデバイアスド推定器: Javanmard と Montanari (2014)
• Authors: Benjamin Smith,
• Abstract要約: 高次元統計設定は古典的推論に根本的な課題をもたらす。 Javanmard と Montanari (2014) は、有効な仮説テストと信頼区間構築を可能にする偏り推定器を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: High-dimensional statistical settings ($p \gg n$) pose fundamental challenges for classical inference, largely due to bias introduced by regularized estimators such as the LASSO. To address this, Javanmard and Montanari (2014) propose a debiased estimator that enables valid hypothesis testing and confidence interval construction. This report examines their debiased LASSO framework, which yields asymptotically normal estimators in high-dimensional settings. The key theoretical results underlying this approach are presented. Specifically, the construction of an optimized debiased estimator that restores asymptotic normality, which enables the computation of valid confidence intervals and $p$-values. To evaluate the claims of Javanmard and Montanari, a subset of the original simulation study and the real-data analysis is presented. The original empirical analysis is extended to the desparsified LASSO, which is referenced but not implemented in the original study. The results demonstrate that while the debiased LASSO achieves reliable coverage and controls Type I error, the LASSO projection estimator can offer improved power in idealized low-signal settings without compromising error rates. The results reveal a trade-off: the LASSO projection estimator performs well in low-signal settings, while Javanmard and Montanari's method is more robust to complex correlations, improving precision and signal detection in real data.
• Abstract（参考訳）: 高次元統計設定 (p \gg n$) は古典的推論に根本的な課題をもたらすが、これは主にLASSOのような正規化推定器によって導入されたバイアスによるものである。 これを解決するために、Javanmard と Montanari (2014) は、有効な仮説テストと信頼区間構築を可能にするバイアス付き推定器を提案する。 本稿では,高次元環境下での漸近的に正常な推定を行うLASSOフレームワークについて検討する。 このアプローチの根底にある重要な理論的結果が提示される。 具体的には、漸近正規性を復元する最適化された縮退推定器を構築し、有効信頼区間と$p$-値の計算を可能にする。 JavanmardとMontanariの主張を評価するため、元のシミュレーション研究のサブセットと実データ解析について述べる。 元々の実証分析は脱分級LASSOにまで拡張され、これは参照されるが、元の研究では実装されていない。 その結果, 遅延したLASSOは信頼性の高いカバレッジを実現し, Type Iエラーを制御する一方, LASSOプロジェクション推定器は, 誤り率を損なうことなく, 理想化された低信号設定でのパワー向上を実現することができた。 LASSOプロジェクション推定器は低信号環境では良好に動作し、一方JavanmardとMontanariの手法は複雑な相関に対してより堅牢であり、実データにおける精度と信号検出を改善している。

関連論文リスト

• Evaluating LLMs When They Do Not Know the Answer: Statistical Evaluation of Mathematical Reasoning via Comparative Signals [18.612081365101464]
  我々は,標準ラベル付き結果と,モデルが補助的推論連鎖を判断することで得られるペアワイズ比較信号とを組み合わせたフレームワークを開発する。 シミュレーション全体では, モデル出力ノイズの増加に伴い, 評価精度が大幅に向上し, ゲインが増大する。 GPQA Diamond、AIME 2025、GSM8Kの実験では、より正確な性能推定とより信頼性の高いモデルランキングが示されている。
  論文  参考訳（メタデータ） (2026-02-03T03:40:01Z)
• Bayesian Semiparametric Causal Inference: Targeted Doubly Robust Estimation of Treatment Effects [1.2833734915643464]
  本稿では,平均治療効果(ATE)を推定するための半パラメトリックベイズ手法を提案する。 本手法では,ニュアンス推定によるバイアスを補正するベイズ偏差補正法を提案する。 広範囲なシミュレーションにより理論結果が確認され、正確な点推定と信頼区間が明確化される。
  論文  参考訳（メタデータ） (2025-11-19T22:15:04Z)
• On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization [57.179679246370114]
  既存の手法の潜在的な制限は、ステップサイズが提案されない限り、ほとんどの摂動推定器に固有のバイアスである。 本稿では, 良好な構成を維持しつつ, バイアスを排除した非バイアス勾配スケーリング推定器のファミリーを提案する。
  論文  参考訳（メタデータ） (2025-10-22T18:25:43Z)
• TULiP: Test-time Uncertainty Estimation via Linearization and Weight Perturbation [11.334867025651233]
  OOD検出のための理論駆動型不確実性推定器TULiPを提案する。 本手法では,収束前にネットワークに適用される仮説的摂動を考察する。 提案手法は,特に近分布試料について,最先端の性能を示す。
  論文  参考訳（メタデータ） (2025-05-22T17:16:41Z)
• Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
  独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。 本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。 我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
  論文  参考訳（メタデータ） (2025-05-21T07:16:44Z)
• Learning to Estimate Without Bias [57.82628598276623]
  ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。 本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
  論文  参考訳（メタデータ） (2021-10-24T10:23:51Z)
• Near-optimal inference in adaptive linear regression [60.08422051718195]
  最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。 我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。 我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
  論文  参考訳（メタデータ） (2021-07-05T21:05:11Z)
• SLOE: A Faster Method for Statistical Inference in High-Dimensional Logistic Regression [68.66245730450915]
  実用データセットに対する予測の偏見を回避し、頻繁な不確実性を推定する改善された手法を開発している。 私たちの主な貢献は、推定と推論の計算時間をマグニチュードの順序で短縮する収束保証付き信号強度の推定器SLOEです。
  論文  参考訳（メタデータ） (2021-03-23T17:48:56Z)
• On Low-rank Trace Regression under General Sampling Distribution [9.699586426043885]
  クロスバリデード推定器は一般仮定でほぼ最適誤差境界を満たすことを示す。 また, クロスバリデーション推定器はパラメータ選択理論に着想を得た手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2019-04-18T02:56:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。