論文の概要: Principal Component Regression Dominates all Monotone Spectral Filters for Linear Regression

• arxiv url: http://arxiv.org/abs/2609.39440v1
• Date: Wed, 30 Sep 2026 10:15:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.568626
• Title: Principal Component Regression Dominates all Monotone Spectral Filters for Linear Regression
• Title（参考訳）: 主成分回帰は、線形回帰のための全単トンスペクトルフィルタを支配している
• Abstract要約: 主成分回帰が全ての単調スペクトルフィルタを支配していることを示す。 フィルタがステップ関数から分離された場合、支配は強い。 我々は、一般スペクトルフィルタのための新しい上と下の境界を確立する。
• 参考スコア（独自算出の注目度）: 58.16677767938146
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We compare the instance-wise, finite-sample risks of monotone spectral filters for linear regression, a broad class of estimators including principal component regression (PCR), gradient descent (GD), and ridge regression. We show that PCR dominates all monotone spectral filters: compared to any such filter, the risk of optimally tuned PCR is no bigger by a constant factor for all problems. Furthermore, the dominance is strong if the filter is separated from step functions (e.g., GD and ridge): there exist problem instances for which the risk of PCR is smaller by a polynomial factor in sample size dependence. Our comparison results show that PCR is optimal and thus admissible among monotone filters, significantly extending Wu et al. (2026)'s result that GD strongly dominates ridge. From a technical perspective, we establish new upper and lower bounds for general spectral filters, which are instance-wise sharp when specialized to ridge or GD, recovering or improving the best-known bounds.
• Abstract（参考訳）: 線形回帰に対する単調スペクトルフィルタのケースワイド有限サンプルリスク, 主成分回帰(PCR), 勾配降下(GD), 隆起回帰(リッジ回帰)を含む広い種類の推定器の比較を行った。 PCRが全ての単調スペクトルフィルタを支配していることを示す。このようなフィルタと比較して、最適に調整されたPCRのリスクは、全ての問題に対して一定の因子によって大きくはならない。 さらに、フィルタがステップ関数(例えば、GD、リッジ)から分離された場合、その優位性は強く、サンプルサイズ依存の多項式因子によってPCRのリスクが小さくなる問題もある。 以上の結果から, PCRはモノトーンフィルタにおいて最適であり, GDが隆起部を強く支配するWu et al (2026) の結果を大きく延長することが明らかとなった。 技術的観点からは、一般的なスペクトルフィルタに対する新しい上および下限を確立し、リッジやGDに特化して、最もよく知られた境界を回復または改善する。

関連論文リスト

• Spectral-Aware Analytic Class-Incremental Learning for Long-Tailed Distributions [17.58096703161218]
  解析的連続学習は、勾配に基づくアプローチに対する計算的に効率的な代替手段を提供する。 近年のACL法は, 長期分布を特徴とする授業増進学習のシナリオにおいて, 大きく変化している。 本稿では,長期学習をスペクトル正則化問題として扱う理論的基盤の枠組みである幾何スペクトル整流法(GSR)を提案する。
  論文  参考訳（メタデータ） (2026-07-24T22:12:15Z)
• De-floored Principal Component Regression: When Rank Selection Alone Is Insufficient for Prediction [11.327284468812948]
  主成分回帰はスペクトルカットオフを選択して高次元予測を正則化する。 本研究は,全位階の通常のPCR予測リスクの低い一様構造と高確率dPCR上界を証明した。 分母のインフレーションは第一のスペクトル質量で制御されるのに対し、補正のクリーンな予測コストは二乗スペクトル質量で制御される。
  論文  参考訳（メタデータ） (2026-07-18T04:50:59Z)
• Risk Comparisons in Linear Regression: Implicit Regularization Dominates Explicit Regularization [96.97196425604893]
  既存の理論では、キャパシティとソース条件によって分類された線形回帰問題に対して、勾配降下(GD)は常に極小極小である。 この研究は、よく特定された線形回帰問題に対して、これらのアルゴリズムに対する有限サンプルリスクのインスタンスワイズ比較を提供する。
  論文  参考訳（メタデータ） (2025-09-21T22:02:38Z)
• Improving Expressive Power of Spectral Graph Neural Networks with Eigenvalue Correction [55.57072563835959]
  本稿では,繰り返し入力される固有値の制約からフィルタを解放する固有値補正手法を提案する。 具体的には、提案した固有値補正戦略により、固有値の均一分布が向上し、フィルタの適合能力と表現力が向上する。
  論文  参考訳（メタデータ） (2024-01-28T08:12:00Z)
• PLPCA: Persistent Laplacian Enhanced-PCA for Microarray Data Analysis [5.992724190105578]
  永続ラプラシアン強化主成分分析(PLPCA)を提案する。 PLPCAは、パーシステンシャルスペクトルグラフ理論を用いた初期の正規化PCA法の利点を生かしている。 グラフラプラシアンとは対照的に、永続ラプラシアンは濾過によるマルチスケール解析を可能にし、高次単純錯体を包含する。
  論文  参考訳（メタデータ） (2023-06-09T22:48:14Z)
• Finite-Sample Analysis of Learning High-Dimensional Single ReLU Neuron [121.10338065441417]
  我々は、GLM-tronと呼ばれるパーセプトロン型アルゴリズムを解析し、その次元自由リスク上限を高次元ReLU回帰のために提供する。 以上の結果から,GLM-tronは高次元ReLU回帰においてSGDよりも好ましい可能性が示唆された。
  論文  参考訳（メタデータ） (2023-03-03T23:02:23Z)
• Retrieval of Coloured Dissolved Organic Matter with Machine Learning Methods [6.362764375279861]
  色付きの溶存有機物(CDOM)濃度は、天然水中の湿度物質の標準測定値です。 本稿では,リモートセンシング信号からCDOMを抽出するための4つの機械学習手法の比較を行う。
  論文  参考訳（メタデータ） (2021-01-07T11:50:38Z)
• On Model Identification and Out-of-Sample Prediction of Principal Component Regression: Applications to Synthetic Controls [20.96904429337912]
  固定設計による高次元誤差変数設定における主成分回帰(PCR)の解析を行う。 我々は、最もよく知られたレートで改善される非漸近的なアウト・オブ・サンプル予測の保証を確立する。
  論文  参考訳（メタデータ） (2020-10-27T17:07:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。