論文の概要: Debiased Estimators in High-Dimensional Regression: A Review and Replication of Javanmard and Montanari (2014)

• arxiv url: http://arxiv.org/abs/2604.00848v1
• Date: Wed, 01 Apr 2026 13:01:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-02 16:44:31.992342
• Title: Debiased Estimators in High-Dimensional Regression: A Review and Replication of Javanmard and Montanari (2014)
• Title（参考訳）: 高次元回帰におけるデバイアスド推定器: Javanmard と Montanari (2014)
• Authors: Benjamin Smith,
• Abstract要約: Javanmard と Montanari (2014) は、有効な仮説テストと信頼区間構築を可能にする偏り推定器を提案する。 本報告では, 正常な正規分布推定器を高次元環境下で生成するLASSOフレームワークについて検討する。 LASSOプロジェクション推定器は、理想化されたシミュレートされた低信号設定において優れた統計的パワーを示す一方で、JavanmardとMontanariによる推定手順は複雑な相関ネットワークにより堅牢に適応する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: High-dimensional statistical settings ($p \gg n$) pose fundamental challenges for classical inference, largely due to bias introduced by regularized estimators such as the LASSO. To address this, Javanmard and Montanari (2014) propose a debiased estimator that enables valid hypothesis testing and confidence interval construction. This report examines their debiased LASSO framework, which yields asymptotically normal estimators in high-dimensional settings. We present the key theoretical results underlying this approach, specifically, the construction of an optimized debiased estimator that restores asymptotic normality, which enables the computation of valid confidence intervals and $p$-values. To evaluate the claims of Javanmard and Montanari, a subset of the original simulation study and a re-examination of their real-data analysis are presented. Building on this baseline, we extend the empirical analysis to include the desparsified LASSO, a closely related method referenced but not implemented in the original study. The results demonstrate that while the debiased LASSO achieves reliable coverage and controls Type I error, the LASSO projection estimator can offer improved power in low-signal settings without compromising error rates. Our findings highlight a critical practical trade-off: while the LASSO projection estimator demonstrates superior statistical power in an idealized simulated low-signal setting, the estimation procedure employed by Javanmard and Montanari adapts more robustly to complex correlation networks, yielding superior precision and signal detection in real-world genomic data.
• Abstract（参考訳）: 高次元統計設定 (p \gg n$) は古典的推論に根本的な課題をもたらすが、これは主にLASSOのような正規化推定器によって導入されたバイアスによるものである。 これを解決するために、Javanmard と Montanari (2014) は、有効な仮説テストと信頼区間構築を可能にするバイアス付き推定器を提案する。 本稿では,高次元環境下での漸近的に正常な推定を行うLASSOフレームワークについて検討する。 提案手法の重要な理論的結果,特に漸近的正規性を復元する最適化された縮退推定器の構築について述べる。 Javanmard と Montanari の主張を評価するため,元のシミュレーション研究のサブセットと実データ解析の再検討を行った。 このベースライン上に構築された実験解析は,従来の研究では実装されていない,近縁な手法であるLASSOを含むように拡張する。 その結果, 遅延したLASSOは信頼性の高いカバレッジを実現し, Type Iエラーを制御する一方で, LASSO投影推定器は誤り率を損なうことなく低信号設定で性能を向上できることを示した。 LASSOプロジェクション推定器は、理想化されたシミュレートされた低信号設定において優れた統計的パワーを示す一方で、JavanmardとMontanariが採用した推定手順は複雑な相関ネットワークにより頑健に適応し、実世界のゲノムデータにおいて優れた精度と信号検出をもたらす。

関連論文リスト

• Evaluating LLMs When They Do Not Know the Answer: Statistical Evaluation of Mathematical Reasoning via Comparative Signals [18.612081365101464]
  我々は,標準ラベル付き結果と,モデルが補助的推論連鎖を判断することで得られるペアワイズ比較信号とを組み合わせたフレームワークを開発する。 シミュレーション全体では, モデル出力ノイズの増加に伴い, 評価精度が大幅に向上し, ゲインが増大する。 GPQA Diamond、AIME 2025、GSM8Kの実験では、より正確な性能推定とより信頼性の高いモデルランキングが示されている。
  論文  参考訳（メタデータ） (2026-02-03T03:40:01Z)
• Bayesian Semiparametric Causal Inference: Targeted Doubly Robust Estimation of Treatment Effects [1.2833734915643464]
  本稿では,平均治療効果(ATE)を推定するための半パラメトリックベイズ手法を提案する。 本手法では,ニュアンス推定によるバイアスを補正するベイズ偏差補正法を提案する。 広範囲なシミュレーションにより理論結果が確認され、正確な点推定と信頼区間が明確化される。
  論文  参考訳（メタデータ） (2025-11-19T22:15:04Z)
• On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization [57.179679246370114]
  既存の手法の潜在的な制限は、ステップサイズが提案されない限り、ほとんどの摂動推定器に固有のバイアスである。 本稿では, 良好な構成を維持しつつ, バイアスを排除した非バイアス勾配スケーリング推定器のファミリーを提案する。
  論文  参考訳（メタデータ） (2025-10-22T18:25:43Z)
• TULiP: Test-time Uncertainty Estimation via Linearization and Weight Perturbation [11.334867025651233]
  OOD検出のための理論駆動型不確実性推定器TULiPを提案する。 本手法では,収束前にネットワークに適用される仮説的摂動を考察する。 提案手法は,特に近分布試料について,最先端の性能を示す。
  論文  参考訳（メタデータ） (2025-05-22T17:16:41Z)
• Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
  独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。 本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。 我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
  論文  参考訳（メタデータ） (2025-05-21T07:16:44Z)
• Learning to Estimate Without Bias [57.82628598276623]
  ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。 本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
  論文  参考訳（メタデータ） (2021-10-24T10:23:51Z)
• Near-optimal inference in adaptive linear regression [60.08422051718195]
  最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。 我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。 我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
  論文  参考訳（メタデータ） (2021-07-05T21:05:11Z)
• SLOE: A Faster Method for Statistical Inference in High-Dimensional Logistic Regression [68.66245730450915]
  実用データセットに対する予測の偏見を回避し、頻繁な不確実性を推定する改善された手法を開発している。 私たちの主な貢献は、推定と推論の計算時間をマグニチュードの順序で短縮する収束保証付き信号強度の推定器SLOEです。
  論文  参考訳（メタデータ） (2021-03-23T17:48:56Z)
• On Low-rank Trace Regression under General Sampling Distribution [9.699586426043885]
  クロスバリデード推定器は一般仮定でほぼ最適誤差境界を満たすことを示す。 また, クロスバリデーション推定器はパラメータ選択理論に着想を得た手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2019-04-18T02:56:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。