論文の概要: Lifting Finite-Sample Gaussian Approximation of Wide Neural Networks to Functional Convergence
- arxiv url: http://arxiv.org/abs/2610.18166v1
- Date: Tue, 13 Oct 2026 11:10:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.600234
- Title: Lifting Finite-Sample Gaussian Approximation of Wide Neural Networks to Functional Convergence
- Title（参考訳）: 関数収束に対するワイドニューラルネットワークの有限サンプルガウス近似の解法
- Abstract要約: 幅$m$のランダムに初期化されたニューラルネットワークはガウス過程に$m to infty$として収束し、この収束を特徴づける2種類の量的境界を持つ。
有限サンプル境界は、ネットワークを任意の領域上の固定有限標本集合におけるガウス極限と比較し、二次ワッサーシュタイン距離$mathcal W$で、明示定数を持つ$m-1/2$の収束率を達成する。
関数境界は、2つの関数を$mathcal W$またはより遅いレートよりも弱いランダムなメトリクスとして比較することによって、その依存を取り除く。
- 参考スコア（独自算出の注目度）: 7.277122777390684
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Randomly initialised neural networks of width $m$ converge to Gaussian processes as $m \to \infty$, with two types of quantitative bounds characterising this convergence. Finite-sample bounds compare the network with its Gaussian limit at a fixed finite sample set, on an arbitrary domain, in the quadratic Wasserstein distance $\mathcal W_2$, achieving a convergence rate of $m^{-1/2}$ with explicit constants. However, these constants grow with the number of samples, so the bound becomes uninformative as the sample set is refined. Functional bounds remove that dependence by comparing the two as random functions, at the price of spherical input, metrics weaker than $\mathcal W_2$, or slower rates. In this paper, we therefore lift a finite-sample bound to a functional one. The lifting refines the sample set until it is dense in the domain, so the bound must first be made independent of the number of samples. We achieve this by measuring the error per sample, which makes the constant uniform. For a polynomial activation and any compact input set, this gives a rate of $m^{-1/2}$ in the supremum norm, with an explicit constant.
- Abstract（参考訳）: 幅$m$のランダムに初期化されたニューラルネットワークはガウス過程に$m \to \infty$として収束し、この収束を特徴づける2種類の量的境界を持つ。
有限サンプル境界は、任意の領域において、二次ワッサーシュタイン距離$\mathcal W_2$において、ネットワークとガウス極限を固定有限標本集合で比較し、明示定数を持つ$m^{-1/2}$の収束率を達成する。
しかし、これらの定数はサンプルの数とともに増加するため、サンプル集合が洗練されるにつれて境界は非形式的になる。
関数境界は、2つの関数をランダムな関数として、球面入力の価格で比較することで依存を除去し、計量は$\mathcal W_2$よりも弱い。
そこで本論文では,汎函数に束縛された有限サンプルを持ち上げる。
持ち上げは、ドメイン内の密度が高くなるまでサンプル集合を洗練させるので、境界はまずサンプルの数に独立にしなければならない。
サンプルあたりの誤差を計測することで、定数を均一にすることができる。
多項式の活性化と任意のコンパクトな入力集合に対して、これは極値ノルムにおける$m^{-1/2}$の値を明示定数で与える。
関連論文リスト
- Sample Complexity of Multicalibration for Multilevel Properties [52.27687531970317]
我々は、前のプロパティが固定されたときに各プロパティが識別可能な$k$プロパティの列に対する多重校正について検討する。
多対数的に多くの二元群が存在するにもかかわらず、多重校正誤差$varepsilon$を達成するには$widetilde(varepsilon-(k+2))$サンプルが必要である。
論文 参考訳（メタデータ） (2026-08-04T23:38:54Z) - Research Report on Noise-Shaped One-Bit Coefficients in Discrete Polynomial Fourier Extension [0.0]
本報告では、正規化離散フーリエ展開におけるノイズ形状の1ビット係数について検討する。
一階のシグマ量子化の場合、誤差は$e_k=u_k-q_k=v_k$と書かれ、一様有界である。
パラボリックな$_x,t()=x+t2$の場合、境界は$J(x,t)=int_01 |x+2t|d$で表され、均一な$N-1$レートはシャープである。
論文 参考訳（メタデータ） (2026-07-26T21:51:41Z) - Optimal Dimension-Free Sampling for Regularized Classification [56.72526267755301]
我々は、リプシッツ連続分類損失関数の幅広いクラスに対して、$(1pmvarepsilon)$-relativeエラーを達成する最適サンプリング境界を証明した。
これにはロジスティックやシグモイドの損失、ヒンジの損失、ReLUの損失といった重要な機能が含まれており、顕著で一般的な例である。
論文 参考訳（メタデータ） (2026-05-22T15:05:33Z) - Poisson Midpoint Method for Log Concave Sampling: Beyond the Strong Error Lower Bounds [7.350138378074856]
過度に損傷/破壊されたランゲヴィン力学の中間点離散化を用いた$mathbbRd$上の強対数分布からのサンプリング問題について検討する。
2-ワッサーシュタイン距離(W$)における収束性を証明し、オイラー・丸山離散化に対する目標精度(epsilon$)に依存して立方体スピードアップを達成する。
特に、アンダーダムングランゲヴィン力学の場合、$W$収束の複雑さは$L2$の収束の複雑さの下限よりもはるかに小さいことを示す。
論文 参考訳（メタデータ） (2025-06-09T10:27:15Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳（メタデータ） (2024-04-29T15:04:07Z) - The Sample Complexity of Robust Covariance Testing [56.98280399449707]
i. i. d.
形式 $Z = (1-epsilon) X + epsilon B$ の分布からのサンプル。ここで $X$ はゼロ平均で未知の共分散である Gaussian $mathcalN(0, Sigma)$ である。
汚染がない場合、事前の研究は、$O(d)$サンプルを使用するこの仮説テストタスクの単純なテスターを与えた。
サンプル複雑性の上限が $omega(d2)$ for $epsilon$ an arbitrarily small constant and $gamma であることを証明します。
論文 参考訳（メタデータ） (2020-12-31T18:24:41Z) - Sample Complexity of Asynchronous Q-Learning: Sharper Analysis and
Variance Reduction [63.41789556777387]
非同期Q-ラーニングはマルコフ決定過程(MDP)の最適行動値関数(またはQ-関数)を学習することを目的としている。
Q-関数の入出力$varepsilon$-正確な推定に必要なサンプルの数は、少なくとも$frac1mu_min (1-gamma)5varepsilon2+ fract_mixmu_min (1-gamma)$の順である。
論文 参考訳（メタデータ） (2020-06-04T17:51:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。