論文の概要: Generalisation and benign over-fitting for linear regression onto random functional covariates

• arxiv url: http://arxiv.org/abs/2508.13895v1
• Date: Tue, 19 Aug 2025 15:01:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-20 15:36:31.967483
• Title: Generalisation and benign over-fitting for linear regression onto random functional covariates
• Title（参考訳）: ランダム関数共変体への線形回帰に対する一般化と良性オーバーフィッティング
• Authors: Andrew Jones, Nick Whiteley,
• Abstract要約: リッジレス最小二乗回帰法とリッジレス最小二乗回帰法の理論的予測性能について検討した。 我々は、$p$が$n$に対して急速に成長する体制における収束率を導出する。
• 参考スコア（独自算出の注目度）: 4.344644788142548
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study theoretical predictive performance of ridge and ridge-less least-squares regression when covariate vectors arise from evaluating $p$ random, means-square continuous functions over a latent metric space at $n$ random and unobserved locations, subject to additive noise. This leads us away from the standard assumption of i.i.d. data to a setting in which the $n$ covariate vectors are exchangeable but not independent in general. Under an assumption of independence across dimensions, $4$-th order moment, and other regularity conditions, we obtain probabilistic bounds on a notion of predictive excess risk adapted to our random functional covariate setting, making use of recent results of Barzilai and Shamir. We derive convergence rates in regimes where $p$ grows suitably fast relative to $n$, illustrating interplay between ingredients of the model in determining convergence behaviour and the role of additive covariate noise in benign-overfitting.
• Abstract（参考訳）: 付値付き距離空間上の平均二乗連続関数をn$ランダムかつ観測不能な位置で評価し、加法雑音を受ける場合、リッジとリッジなしの最小二乗回帰の理論的予測性能について検討する。 これにより、i.d.データの標準的な仮定から、$n$共変ベクトルが交換可能であるが一般には独立でないような設定へと導かれる。 次元の独立性, 4$-次モーメント, その他の正則性条件の仮定の下で, ランダムな機能的共変量設定に適応した予測過剰リスクの概念の確率的境界を求め, バルジライとシャミールの最近の結果を利用する。 我々は、$p$が$n$に対して好適に速く成長する体制における収束率を導出し、収束挙動の決定におけるモデルの要素間の相互作用と、良性オーバーフィッティングにおける加法的共変音の役割を図示する。

関連論文リスト

• Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
  我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。 我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
  論文  参考訳（メタデータ） (2024-07-11T13:28:34Z)
• Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
  量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。 本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。 これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
  論文  参考訳（メタデータ） (2024-06-05T13:36:38Z)
• Sparsified Simultaneous Confidence Intervals for High-Dimensional Linear Models [4.675899216825188]
  本稿では,間隔化同時信頼区間という,同時信頼区間の概念を提案する。 我々の区間は、区間の上と下の境界の一部が 0 に切り替わるという意味でスパースである。 提案手法は様々な選択手順と組み合わせることができるため,不確実性を比較するのに最適である。
  論文  参考訳（メタデータ） (2023-07-14T18:37:57Z)
• Generalized equivalences between subsampling and ridge regularization [3.1346887720803505]
  アンサンブルリッジ推定器におけるサブサンプリングとリッジ正則化の間の構造的およびリスク等価性を証明した。 我々の同値性の間接的な意味は、最適に調整されたリッジ回帰は、データアスペクト比において単調な予測リスクを示すことである。
  論文  参考訳（メタデータ） (2023-05-29T14:05:51Z)
• Counterfactual inference in sequential experiments [17.817769460838665]
  複数の単位に複数の時間点に対する処理を割り当てるシーケンシャルな設計実験のアフタースタディ統計的推測を考察する。 我々のゴールは、最小限のスケールで、カウンターファクト平均に対する推論保証を提供することです。 我々は,いくつかのシミュレーションと,モバイル医療臨床試験HeartStepsのデータを含むケーススタディを通して,我々の理論を解説する。
  論文  参考訳（メタデータ） (2022-02-14T17:24:27Z)
• On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
  勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。 本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。 理論的にも経験的にも二重降下現象を観察する。
  論文  参考訳（メタデータ） (2021-10-13T17:47:39Z)
• Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
  多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。 提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
  論文  参考訳（メタデータ） (2021-06-07T17:44:49Z)
• Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
  帰納バイアスは 経験的に過剰フィットを防げる中心的存在です この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。 我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
  論文  参考訳（メタデータ） (2021-03-23T17:15:53Z)
• Distribution-Free Robust Linear Regression [5.532477732693]
  共変体の分布を仮定せずにランダムな設計線形回帰を研究する。 最適部分指数尾を持つオーダー$d/n$の過大なリスクを達成する非線形推定器を構築する。 我々は、Gy"orfi, Kohler, Krzyzak, Walk が原因で、truncated least squares 推定器の古典的境界の最適版を証明した。
  論文  参考訳（メタデータ） (2021-02-25T15:10:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。