論文の概要: Minimum Norm Interpolation via The Local Theory of Banach Spaces: The Role of $2$-Uniform Convexity

• arxiv url: http://arxiv.org/abs/2603.28956v1
• Date: Mon, 30 Mar 2026 19:59:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-01 15:25:02.759208
• Title: Minimum Norm Interpolation via The Local Theory of Banach Spaces: The Role of $2$-Uniform Convexity
• Title（参考訳）: バナッハ空間の局所理論を通した最小ノルム補間 : 2$Uniform Convexityの役割
• Authors: Gil Kur, Pierre Bizeul,
• Abstract要約: 我々は一様凸性仮定の下で最小ノルム補間器(MNI)について検討する。 我々は、$p in bigl (1 + C/log d, 2bigr)$ のとき、$ell_p$-MNI に対して鋭い一般化境界を証明している。
• 参考スコア（独自算出の注目度）: 4.234046389084922
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The minimum-norm interpolator (MNI) framework has recently attracted considerable attention as a tool for understanding generalization in overparameterized models, such as neural networks. In this work, we study the MNI under a $2$-uniform convexity assumption, which is weaker than requiring the norm to be induced by an inner product, and it typically does not admit a closed-form solution. At a high level, we show that this condition yields an upper bound on the MNI bias in both linear and nonlinear models. We further show that this bound is sharp for overparameterized linear regression when the unit ball of the norm is in isotropic (or John's) position, and the covariates are isotropic, symmetric, i.i.d. sub-Gaussian, such as vectors with i.i.d. Bernoulli entries. Finally, under the same assumption on the covariates, we prove sharp generalization bounds for the $\ell_p$-MNI when $p \in \bigl(1 + C/\log d, 2\bigr]$. To the best of our knowledge, this is the first work to establish sharp bounds for non-Gaussian covariates in linear models when the norm is not induced by an inner product. This work is deeply inspired by classical works on $K$-convexity, and more modern work on the geometry of 2-uniform and isotropic convex bodies.
• Abstract（参考訳）: MNI(Minimum-norm Interpolator)フレームワークは、ニューラルネットワークのような過パラメータ化モデルの一般化を理解するツールとして、最近注目されている。 この研究では、MNIは内部積によって誘導されるノルムよりも弱い2$1の凸性仮定の下で研究し、通常閉形式解は認めない。 高いレベルでは、この条件は線形モデルと非線形モデルの両方において、MNIバイアスの上限となることを示す。 さらに、ノルムの単位球が等方的(またはジョンの)位置にあるとき、この境界は過度にパラメータ化された線型回帰に対して鋭く、共変体は等方的、対称、すなわち、ベルヌーイ成分を持つベクトルのような準ガウス的であることを示す。 最後に、共変量について同じ仮定の下で、$p \in \bigl(1 + C/\log d, 2\bigr]$ のとき、$\ell_p$-MNI に対して鋭い一般化境界を証明する。 我々の知る限りでは、ノルムが内積によって誘導されないとき、線型モデルにおいて非ガウス共変量に対する鋭い境界を確立する最初の研究である。 この研究は、K$-凸性に関する古典的な研究や、2-一様体と等方的凸体の幾何学に関するより近代的な研究に深くインスピレーションを受けている。

関連論文リスト

• Hardness of High-Dimensional Linear Classification [58.29089693778071]
  我々は、最大半空間離散性問題に対する次元下界の新たな指数関数を確立する。 どちらも計算幾何学と機械学習の基本的問題であり、その正確で近似的な形式である。
  論文  参考訳（メタデータ） (2026-03-19T15:53:41Z)
• Regularized Online RLHF with Generalized Bilinear Preferences [68.44113000390544]
  一般的な嗜好を伴う文脈的オンラインRLHFの問題を考える。 一般化された双線形選好モデルを用いて、低ランクなスキュー対称行列による選好を捉える。 グリーディポリシーの双対ギャップは推定誤差の正方形によって有界であることを示す。
  論文  参考訳（メタデータ） (2026-02-26T15:27:53Z)
• Shrinkage to Infinity: Reducing Test Error by Inflating the Minimum Norm Interpolator in Linear Models [0.0]
  Hastie et al. (2022) は高次元線形回帰 $y=betaTx + epsilon$ においてリッジ正則化が必須であることを発見した。 高い異方性共分散と$d/n$の線形回帰を正確に観測する。 最小$ell$補間器を1より大きい定数でスケールアップ(または膨らませる)するだけで一般化誤差が改善できることが分かる。
  論文  参考訳（メタデータ） (2025-10-22T03:30:27Z)
• Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
  近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。 本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
  論文  参考訳（メタデータ） (2024-04-29T15:04:07Z)
• Near-Interpolators: Rapid Norm Growth and the Trade-Off between Interpolation and Generalization [28.02367842438021]
  ほぼ補間された線形回帰器の一般化能力について検討する。 for $tau$ fixed, $boldsymbolbeta$ has squared $ell$-norm $bbE[|boldsymbolbeta|_22]. 我々は、同様の現象が、ほぼ補間された浅いニューラルネットワークに現れることを実証的に証明した。
  論文  参考訳（メタデータ） (2024-03-12T02:47:00Z)
• A Unified Framework for Uniform Signal Recovery in Nonlinear Generative Compressed Sensing [68.80803866919123]
  非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。 本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。 また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
  論文  参考訳（メタデータ） (2023-09-25T17:54:19Z)
• Minimum complexity interpolation in random features models [16.823029377470366]
  カーネルメソッドは 次元の呪いの影響を強く受けています 我々は,$mathcalF_p$ノルムを用いた学習が無限次元凸問題において抽出可能であることを示す。 双対における一様濃度に基づく証明手法を提案する。
  論文  参考訳（メタデータ） (2021-03-30T00:00:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。