論文の概要: From Cross-Validation to SURE: Asymptotic Risk of Tuned Regularized Estimators

• arxiv url: http://arxiv.org/abs/2603.20388v1
• Date: Fri, 20 Mar 2026 18:05:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:38.879071
• Title: From Cross-Validation to SURE: Asymptotic Risk of Tuned Regularized Estimators
• Title（参考訳）: クロスバリデーションからSUREへ:修正正規化推定器の漸近リスク
• Authors: Karun Adusumilli, Maximilian Kasy, Ashia Wilson,
• Abstract要約: CV($n$-fold cross-validation)で調整した正規化経験的リスク最小化推定器のリスク関数を導出する。 アウト・オブ・サンプル予測損失は、スタインの非バイアスリスク推定(SURE)によって調整された収縮推定器の2乗誤差損失(リスク関数)の分布に収束する。
• 参考スコア（独自算出の注目度）: 0.3058685580689604
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: We derive the asymptotic risk function of regularized empirical risk minimization (ERM) estimators tuned by $n$-fold cross-validation (CV). The out-of-sample prediction loss of such estimators converges in distribution to the squared-error loss (risk function) of shrinkage estimators in the normal means model, tuned by Stein's unbiased risk estimate (SURE). This risk function provides a more fine-grained picture of predictive performance than uniform bounds on worst-case regret, which are common in learning theory: it quantifies how risk varies with the true parameter. As key intermediate steps, we show that (i) $n$-fold CV converges uniformly to SURE, and (ii) while SURE typically has multiple local minima, its global minimum is generically well separated. Well-separation ensures that uniform convergence of CV to SURE translates into convergence of the tuning parameter chosen by CV to that chosen by SURE.
• Abstract（参考訳）: 我々は,正規化経験的リスク最小化 (ERM) 推定器を$n$-fold cross-validation (CV) で調整した漸近的リスク関数を導出した。 このような推定器のアウト・オブ・サンプル予測損失は、スタインの非バイアスリスク推定(SURE)によって調整された正規平均モデルにおける収縮推定器の2乗誤差損失(リスク関数)に分布に収束する。 このリスク関数は、最悪のケースの後悔に対する一様境界よりも、予測性能のよりきめ細かい図形を提供する。 重要な中間段階として、私たちはそれを示します。 i)$n$-fold CVはSUREに一様収束し、 (ii) SURE は通常複数の局所ミニマを持つが、その大域的最小度は総称的に十分に分離されている。 十分に分離することで、CVからSUREへの均一収束は、CVが選択したチューニングパラメータとSUREが選択したパラメータの収束に変換される。

関連論文リスト

• Risk and cross validation in ridge regression with correlated samples [72.59731158970894]
  我々は,データポイントが任意の相関関係を持つ場合,リッジ回帰のイン・オブ・サンプルリスクのトレーニング例を提供する。 この設定では、一般化されたクロスバリデーション推定器(GCV)がサンプル外リスクを正確に予測できないことを示す。 さらに、テストポイントがトレーニングセットと非自明な相関を持つ場合、時系列予測でしばしば発生する設定にまで分析を拡張します。
  論文  参考訳（メタデータ） (2024-08-08T17:27:29Z)
• Asymptotically free sketched ridge ensembles: Risks, cross-validation, and tuning [5.293069542318491]
  我々は、スケッチされたリッジ回帰アンサンブルの予測リスクを推定するために、ランダム行列理論を用いて、一般化されたクロスバリデーション(GCV)の整合性を確立する。 正方形の予測リスクに対して,無作為な等価な暗黙のリッジバイアスとスケッチに基づく分散を分解し,無限アンサンブルにおけるスケッチサイズのみによるグローバルなチューニングが可能であることを証明した。 また,小型のスケッチ付きリッジ・アンサンブルを用いて,GCVを用いて非ケッチ・リッジ・レグレッションのリスクを効率的に推定できるアンサンブル・トリックを提案する。
  論文  参考訳（メタデータ） (2023-10-06T16:27:43Z)
• Corrected generalized cross-validation for finite ensembles of penalized estimators [5.165142221427927]
  Generalized Cross-Vidation (GCV) は、正方形外乱予測リスクを推定するための広く使われている手法である。 GCV は 1 以上の大きさの有限アンサンブルに対して不整合であることを示す。
  論文  参考訳（メタデータ） (2023-10-02T17:38:54Z)
• Subsample Ridge Ensembles: Equivalences and Generalized Cross-Validation [4.87717454493713]
  サブサンプリングに基づくリッジアンサンブルを比例法で検討した。 最適尾根なしアンサンブルのリスクが最適尾根予測器のリスクと一致することを証明した。
  論文  参考訳（メタデータ） (2023-04-25T17:43:27Z)
• Mitigating multiple descents: A model-agnostic framework for risk monotonization [84.6382406922369]
  クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。 本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
  論文  参考訳（メタデータ） (2022-05-25T17:41:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。