論文の概要: On Model Identification and Out-of-Sample Prediction of Principal
Component Regression: Applications to Synthetic Controls
- arxiv url: http://arxiv.org/abs/2010.14449v5
- Date: Fri, 25 Aug 2023 17:33:22 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-28 18:39:01.735927
- Title: On Model Identification and Out-of-Sample Prediction of Principal
Component Regression: Applications to Synthetic Controls
- Title(参考訳): 主成分回帰のモデル同定とアウト・オブ・サンプル予測:合成制御への応用
- Authors: Anish Agarwal, Devavrat Shah, Dennis Shen
- Abstract要約: 固定設計による高次元誤差変数設定における主成分回帰(PCR)の解析を行う。
我々は、最もよく知られたレートで改善される非漸近的なアウト・オブ・サンプル予測の保証を確立する。
- 参考スコア(独自算出の注目度): 20.96904429337912
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We analyze principal component regression (PCR) in a high-dimensional
error-in-variables setting with fixed design. Under suitable conditions, we
show that PCR consistently identifies the unique model with minimum
$\ell_2$-norm. These results enable us to establish non-asymptotic
out-of-sample prediction guarantees that improve upon the best known rates. In
the course of our analysis, we introduce a natural linear algebraic condition
between the in- and out-of-sample covariates, which allows us to avoid
distributional assumptions for out-of-sample predictions. Our simulations
illustrate the importance of this condition for generalization, even under
covariate shifts. Accordingly, we construct a hypothesis test to check when
this conditions holds in practice. As a byproduct, our results also lead to
novel results for the synthetic controls literature, a leading approach for
policy evaluation. To the best of our knowledge, our prediction guarantees for
the fixed design setting have been elusive in both the high-dimensional
error-in-variables and synthetic controls literatures.
- Abstract(参考訳): 固定設計による高次元誤差変数設定における主成分回帰(PCR)の解析を行う。
適切な条件下では、PCRは最小$\ell_2$-normで一貫したユニークなモデルを同定する。
これらの結果により,非漸近的なサンプル外予測の確立が可能となり,既知の精度が向上した。
本解析では,試料内および試料外共変量間の自然線形代数条件を導入することにより,試料外予測の分布的仮定を回避できる。
我々のシミュレーションは、共変量シフトの下でも、一般化におけるこの条件の重要性を示している。
したがって、この条件が実際に成り立つかどうかを確認するための仮説テストを構築する。
また, 副産物として, 政策評価の先駆的アプローチである合成制御文学の新たな結果も得られた。
我々の知る限り、固定設計設定の予測は、高次元誤差変数と合成制御文献の両方において解明されている。
関連論文リスト
- Conformal Generative Modeling with Improved Sample Efficiency through Sequential Greedy Filtering [55.15192437680943]
生成モデルは出力に対する厳密な統計的保証を欠いている。
厳密な統計的保証を満たす予測セットを生成する逐次共形予測法を提案する。
このことは、高い確率で予測セットが少なくとも1つの許容可能な(または有効な)例を含むことを保証している。
論文 参考訳(メタデータ) (2024-10-02T15:26:52Z) - Risk and cross validation in ridge regression with correlated samples [72.59731158970894]
我々は,データポイントが任意の相関関係を持つ場合,リッジ回帰のイン・オブ・サンプルリスクのトレーニング例を提供する。
さらに、テストポイントがトレーニングセットと非自明な相関を持ち、時系列予測で頻繁に発生するような場合まで分析を拡張します。
我々は多種多様な高次元データにまたがって理論を検証する。
論文 参考訳(メタデータ) (2024-08-08T17:27:29Z) - Semi-supervised Regression Analysis with Model Misspecification and High-dimensional Data [8.619243141968886]
条件付き平均モデルにおける回帰係数を推定するための推論フレームワークを提案する。
提案手法は,正規化推定器を適応度スコア(PS)と結果回帰(OR)モデルの両方に用い,拡張逆確率重み付き(AIPW)法を開発した。
我々の理論的な知見は、広範囲なシミュレーション研究と実世界のデータ応用を通して検証される。
論文 参考訳(メタデータ) (2024-06-20T00:34:54Z) - ROTI-GCV: Generalized Cross-Validation for right-ROTationally Invariant Data [1.194799054956877]
高次元正規化回帰における2つの重要なタスクは、正確な予測のために正規化強度を調整し、サンプル外リスクを推定することである。
問題のある条件下でクロスバリデーションを確実に行うための新しいフレームワーク ROTI-GCV を導入する。
論文 参考訳(メタデータ) (2024-06-17T15:50:00Z) - Prognostic Covariate Adjustment for Logistic Regression in Randomized
Controlled Trials [1.5020330976600735]
本研究では, 確率的スコア調整により, 条件付オッズ比のウォルド試験のパワーを一定のサンプルサイズで向上させることができることを示す。
我々はg-computationを用いて、確率的スコア調整の範囲を、限界リスク差、相対リスク、確率比推定に基づいて拡張する。
論文 参考訳(メタデータ) (2024-02-29T06:53:16Z) - Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - Adaptive Principal Component Regression with Applications to Panel Data [29.295938927701396]
我々は、(正規化)主成分回帰に対する最初の時間一様有限標本保証を提供する。
結果は,現代のマルティンゲール濃度から変量設定への適応ツールに頼っている。
提案手法は,エラー・イン・変数の回帰を利用していないベースラインを経験的に上回ることを示す。
論文 参考訳(メタデータ) (2023-07-03T21:13:40Z) - Mitigating multiple descents: A model-agnostic framework for risk
monotonization [84.6382406922369]
クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。
本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
論文 参考訳(メタデータ) (2022-05-25T17:41:40Z) - On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。
本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。
理論的にも経験的にも二重降下現象を観察する。
論文 参考訳(メタデータ) (2021-10-13T17:47:39Z) - Balance-Subsampled Stable Prediction [55.13512328954456]
本稿では, 分数分解設計理論に基づく新しいバランスサブサンプル安定予測法を提案する。
設計理論解析により,提案手法は分布シフトによって誘導される予測器間の共起効果を低減できることを示した。
合成および実世界の両方のデータセットに関する数値実験により、BSSPアルゴリズムは未知のテストデータ間で安定した予測を行うためのベースライン法を著しく上回っていることが示された。
論文 参考訳(メタデータ) (2020-06-08T07:01:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。