論文の概要: Spectral-Transport Stability and Benign Overfitting in Interpolating Learning
- arxiv url: http://arxiv.org/abs/2604.08625v1
- Date: Thu, 09 Apr 2026 15:19:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-13 17:57:53.501243
- Title: Spectral-Transport Stability and Benign Overfitting in Interpolating Learning
- Title（参考訳）: 補間学習におけるスペクトル変換安定性と配向オーバーフィッティング
- Authors: Gustav Olaf Yunus Laitinen-Lundström Fredriksson-Imanov,
- Abstract要約: 統計的学習の補間体制における一般化のための理論的枠組みを開発する。
我々は、有限サンプルリスク境界を証明し、鋭い良性オーバーフィッティング指数を確立し、スペクトル崩壊下での明示的な位相遷移速度を導出する。
このフレームワークはまた、最小スペクトル輸送エネルギーの補間解をどのように選択できるかを示すことによって暗黙の正則化を明確化する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We develop a theoretical framework for generalization in the interpolating regime of statistical learning. The central question is why highly overparameterized estimators can attain zero empirical risk while still achieving nontrivial predictive accuracy, and how to characterize the boundary between benign and destructive overfitting. We introduce a spectral-transport stability framework in which excess risk is controlled jointly by the spectral geometry of the data distribution, the sensitivity of the learning rule under single-sample replacement, and the alignment structure of label noise. This leads to a scale-dependent Fredriksson index that combines effective dimension, transport stability, and noise alignment into a single complexity parameter for interpolating estimators. We prove finite-sample risk bounds, establish a sharp benign-overfitting criterion through the vanishing of the index along admissible spectral scales, and derive explicit phase-transition rates under polynomial spectral decay. For a model-specific specialization, we obtain an explicit theorem for polynomial-spectrum linear interpolation, together with a proof of the resulting rate. The framework also clarifies implicit regularization by showing how optimization dynamics can select interpolating solutions of minimal spectral-transport energy. These results connect algorithmic stability, double descent, benign overfitting, operator-theoretic learning theory, and implicit bias within a unified structural account of modern interpolation.
- Abstract（参考訳）: 統計的学習の補間体制における一般化のための理論的枠組みを開発する。
中心的な疑問は、高パラメータ化推定器が非自明な予測精度を保ちながら経験的リスクをゼロにできる理由と、良心と破壊的なオーバーフィッティングの境界をどう特徴づけるかである。
本稿では,データ分布のスペクトル幾何学,単一サンプル置換時の学習規則の感度,ラベルノイズのアライメント構造によって,余剰リスクを協調的に制御するスペクトル輸送安定性フレームワークを提案する。
これにより、有効次元、輸送安定性、ノイズアライメントを組み合わせたスケール依存のフレドリクソン指数が、推定器を補間するための単一の複雑性パラメータへと導かれる。
有限サンプルリスク境界を証明し、許容スペクトルスケールに沿って指数を消滅させることにより、鋭く良性な過度な基準を確立し、多項式スペクトル崩壊下での明示的な位相遷移速度を導出する。
モデル固有の特殊化のために、多項式スペクトル線形補間に対する明示的な定理と結果の確率の証明を得る。
このフレームワークはまた、最適化力学が最小スペクトル輸送エネルギーの補間解をいかに選択できるかを示すことで暗黙の正則化を明確化する。
これらの結果は、アルゴリズムの安定性、二重降下、良性過剰適合、演算子理論の学習理論、現代の補間を統一した構造的記述における暗黙のバイアスを結びつけている。
関連論文リスト
- Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳（メタデータ） (2026-02-24T05:32:03Z) - Stabilized Maximum-Likelihood Iterative Quantum Amplitude Estimation for Structural CVaR under Correlated Random Fields [0.0]
Conditional Value-at-Risk (CVaR) は構造力学における中心的なテールリスク尺度である。
本研究では,CVaR評価を信頼性制約付き最大形振幅推定問題として用いた量子強化推論フレームワークを開発した。
論文 参考訳（メタデータ） (2026-02-10T14:53:26Z) - Universality of General Spiked Tensor Models [9.454986540713655]
高次元状態におけるランクワンスパイクテンソルモデルについて検討する。
本研究では,その高次元スペクトル挙動と統計的限界が非ガウス雑音に対して頑健であることを示す。
論文 参考訳（メタデータ） (2026-02-04T11:59:30Z) - FlexCausal: Flexible Causal Disentanglement via Structural Flow Priors and Manifold-Aware Interventions [1.7114074082429929]
因果解離表現学習(Causal Disentangled Representation Learning)は、観測から低次元表現を学習し、解離することを目的とする。
本稿では,ブロック対角共分散VAEに基づく新しいCDRLフレームワークFlexCausalを提案する。
本フレームワークは,学習した潜在部分空間と基底-真理因果関係の正確な構造的対応を保証する。
論文 参考訳（メタデータ） (2026-01-29T11:30:53Z) - Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。
以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
論文 参考訳（メタデータ） (2025-10-22T19:06:39Z) - Low-Rank Tensor Recovery via Variational Schatten-p Quasi-Norm and Jacobian Regularization [49.85875869048434]
暗黙的神経表現のためのニューラルネットワークによりパラメータ化されたCPベースの低ランクテンソル関数を提案する。
本研究では、スペーサーCP分解を実現するために、冗長なランク1成分に変分Schatten-p quasi-normを導入する。
滑らか性のために、ヤコビアンとハッチンソンのトレース推定器のスペクトルノルムに基づく正規化項を提案する。
論文 参考訳（メタデータ） (2025-06-27T11:23:10Z) - Spectral Algorithms under Covariate Shift [4.349399061959293]
スペクトルアルゴリズムはスペクトル正則化技術を利用してデータを分析・処理する。
トレーニングデータとテストデータの分布が異なる場合のスペクトルアルゴリズムの収束挙動について検討する。
本稿では,密度比情報を学習プロセスに組み込んだ正規化重み付き新しい重み付きスペクトルアルゴリズムを提案する。
論文 参考訳（メタデータ） (2025-04-17T04:02:06Z) - Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。
我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。
車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
論文 参考訳（メタデータ） (2024-07-24T12:00:30Z) - A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳（メタデータ） (2024-05-24T21:09:19Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳（メタデータ） (2023-10-20T12:45:12Z) - Towards Understanding Generalization via Decomposing Excess Risk
Dynamics [13.4379473119565]
一般化力学を解析してアルゴリズム依存境界(安定性など)を導出する。
ニューラルネットは、ノイズの嵌合時に緩やかな収束率を示すという観測から着想を得て、余剰リスクダイナミクスを分解することを提案する。
分解の枠組みの下では、新しい境界は安定性に基づく境界と一様収束境界よりも理論的および経験的証拠とよく一致している。
論文 参考訳（メタデータ） (2021-06-11T03:42:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。