論文の概要: Calibrated Principal Component Regression

• arxiv url: http://arxiv.org/abs/2510.19020v1
• Date: Tue, 21 Oct 2025 19:01:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-25 03:08:14.523088
• Title: Calibrated Principal Component Regression
• Title（参考訳）: 校正主成分回帰
• Authors: Yixuan Florence Wu, Yilun Zhu, Lei Cao and, Naichen Shi,
• Abstract要約: 主成分回帰(PCR)は、真の回帰ベクトルが保持主成分(PC)の外側の質量を持つとき、乱れバイアスを引き起こす そこで我々は,PCサブスペースに先立って低分散を学習し,まず中心となるTikhonovステップを通じて,元の特徴空間のモデルを校正する校正主成分回帰(CPCR)を提案する。
• 参考スコア（独自算出の注目度）: 5.890015449615021
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a new method for statistical inference in generalized linear models. In the overparameterized regime, Principal Component Regression (PCR) reduces variance by projecting high-dimensional data to a low-dimensional principal subspace before fitting. However, PCR incurs truncation bias whenever the true regression vector has mass outside the retained principal components (PC). To mitigate the bias, we propose Calibrated Principal Component Regression (CPCR), which first learns a low-variance prior in the PC subspace and then calibrates the model in the original feature space via a centered Tikhonov step. CPCR leverages cross-fitting and controls the truncation bias by softening PCR's hard cutoff. Theoretically, we calculate the out-of-sample risk in the random matrix regime, which shows that CPCR outperforms standard PCR when the regression signal has non-negligible components in low-variance directions. Empirically, CPCR consistently improves prediction across multiple overparameterized problems. The results highlight CPCR's stability and flexibility in modern overparameterized settings.
• Abstract（参考訳）: 一般化線形モデルにおける統計的推論の新しい手法を提案する。 過度にパラメータ化された状態において、プリンシパル成分回帰(PCR)は、適合する前に高次元データを低次元プリンシパル部分空間に投影することで分散を減少させる。 しかし、PCRは、真の回帰ベクトルが保持主成分(PC)の外側の質量を持つ場合、乱数バイアスを引き起こす。 バイアスを軽減するために,PCサブスペースに先立って低分散を学習し,中心となるTikhonovステップを通じて元の特徴空間のモデルをキャリブレーションするキャリブレーション主成分回帰(CPCR)を提案する。 CPCRは、クロスフィッティングを活用し、PCRのハードカットを軟化することにより、切り離しバイアスを制御する。 理論的には, ランダム行列系における異常リスクを計算し, 回帰信号が低分散方向の非無視成分を持つ場合, CPCRは標準PCRより優れていることを示す。 経験的に、CPCRは複数の過パラメータ化問題にわたる予測を一貫して改善する。 結果はCPCRの安定性と近代的な過パラメータ設定の柔軟性を強調した。

関連論文リスト

• One Sample is Enough to Make Conformal Prediction Robust [53.78604391939934]
  共形予測は, 1つのランダムな摂動入力に対して前方通過しても, ある程度の堅牢性が得られることを示す。 提案手法は,入力毎に多数のパス(例えば100回程度)を使用するSOTA法と比較して,平均セットサイズが小さいロバストな集合を返す。
  論文  参考訳（メタデータ） (2025-06-19T19:14:25Z)
• A Simplified Analysis of SGD for Linear Regression with Weight Averaging [64.2393952273612]
  最近の研究は、定常学習率を用いた線形回帰におけるSGD最適化のためのシャープレートを提供する。 簡単な線形代数ツールを用いて,2021ベニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグナグニグニグニグニグニグニグニグニグニグニグネグニグニグニグニグネグニグニグネグニ 我々の研究は線形回帰の勾配勾配を非常に容易に解析し、ミニバッチと学習率のスケジューリングのさらなる分析に役立てることができると信じている。
  論文  参考訳（メタデータ） (2025-06-18T15:10:38Z)
• Adaptive Multi-step Refinement Network for Robust Point Cloud Registration [82.64560249066734]
  ポイントクラウド登録は、同じシーンの2つのポイントクラウド間の相対的な厳密な変換を推定する。 本稿では,前ステップからの情報を活用することで,各ステップの登録品質を向上する適応型多段階改良ネットワークを提案する。 本手法は3DMatch/3DLoMatchベンチマークとKITTIベンチマークの両方で最先端の性能を実現する。
  論文  参考訳（メタデータ） (2023-12-05T18:59:41Z)
• Model-Based Reparameterization Policy Gradient Methods: Theory and Practical Algorithms [88.74308282658133]
  Reization (RP) Policy Gradient Methods (PGM) は、ロボット工学やコンピュータグラフィックスにおける連続的な制御タスクに広く採用されている。 近年の研究では、長期強化学習問題に適用した場合、モデルベースRP PGMはカオス的かつ非滑らかな最適化環境を経験する可能性があることが示されている。 本稿では,長期モデルアンロールによる爆発的分散問題を緩和するスペクトル正規化法を提案する。
  論文  参考訳（メタデータ） (2023-10-30T18:43:21Z)
• Adaptive Principal Component Regression with Applications to Panel Data [29.295938927701396]
  我々は、(正規化)主成分回帰に対する最初の時間一様有限標本保証を提供する。 結果は,現代のマルティンゲール濃度から変量設定への適応ツールに頼っている。 提案手法は,エラー・イン・変数の回帰を利用していないベースラインを経験的に上回ることを示す。
  論文  参考訳（メタデータ） (2023-07-03T21:13:40Z)
• Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
  帰納バイアスは 経験的に過剰フィットを防げる中心的存在です この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。 我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
  論文  参考訳（メタデータ） (2021-03-23T17:15:53Z)
• Gaussian Process-based Min-norm Stabilizing Controller for Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
  本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。 この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
  論文  参考訳（メタデータ） (2020-11-14T01:27:32Z)
• On Model Identification and Out-of-Sample Prediction of Principal Component Regression: Applications to Synthetic Controls [20.96904429337912]
  固定設計による高次元誤差変数設定における主成分回帰(PCR)の解析を行う。 我々は、最もよく知られたレートで改善される非漸近的なアウト・オブ・サンプル予測の保証を確立する。
  論文  参考訳（メタデータ） (2020-10-27T17:07:36Z)
• Sparse principal component regression via singular value decomposition approach [0.0]
  主成分レグレッション(プライマリコンポーネントレグレッション)は2段階のプロシージャである。 PCAは説明変数のみを用いて実行されるため、主成分は応答変数に関する情報を持たない。 特異値分解法を応用した一段階PCR法を提案する。
  論文  参考訳（メタデータ） (2020-02-21T09:03:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。