論文の概要: Optimal Non-Asymptotic Edgeworth Expansions for Multivariate Neural Network Outputs

• arxiv url: http://arxiv.org/abs/2605.24072v1
• Date: Fri, 22 May 2026 12:45:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:17.577001
• Title: Optimal Non-Asymptotic Edgeworth Expansions for Multivariate Neural Network Outputs
• Title（参考訳）: 多変量ニューラルネットワーク出力のための最適非漸近エッジワース展開
• Authors: Lucia Celli,
• Abstract要約: 有限個の入力で評価されたニューラルネットワークの偏差を近似した。 応用として、前者がエッジワース展開に置き換えられたときのベイズ後部分布の誤差を定量化する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Finite-width fully connected neural networks with Gaussian-initialized weights deviate from their infinite-width Gaussian limit, exhibiting non-vanishing higher-order cumulants. We approximate these deviations, for a neural network evaluated in a finite number of inputs, using multidimensional Edgeworth expansions of arbitrary order $4m-1$, with $m\in\mathbb{N}$. Assuming that the corresponding Gaussian limit has an invertible covariance matrix and that the activation function is polynomially bounded, we establish a bound of order $n^{-m}$ on the total variation distance between the law of the true network output and its Edgeworth approximation, with matching lower bounds. As an application, we quantify the error in Bayesian posterior distributions when the prior is replaced by its Edgeworth expansion. Our results are more general and also apply to sequences of conditionally Gaussian vectors converging to a Gaussian vector with invertible covariance.
• Abstract（参考訳）: ガウス初期化重み付き有限幅完全連結ニューラルネットワークは、無限幅ガウス限界から逸脱し、非消滅的な高次累積体を示す。 有限個の入力で評価されたニューラルネットワークに対して、任意の階数4m-1$,$m\in\mathbb{N}$の多次元エッジワース展開を用いて、これらの偏差を近似する。 対応するガウス極限が可逆共分散行列を持ち、活性化関数が多項式的に有界であることを仮定すると、真のネットワーク出力の法則とエッジワース近似の間の全変動距離上の有界次数$n^{-m}$を確立する。 応用として、前者がエッジワース展開に置き換えられたときのベイズ後部分布の誤差を定量化する。 我々の結果はより一般的であり、また、非可逆共分散を持つガウスベクトルに収束する条件付きガウスベクトルの列にも適用できる。

関連論文リスト

• Approximation Bounds for Transformer Networks with Application to Regression [9.549045683389085]
  H"older 関数と Sobolev 関数に対する Transformer ネットワークの近似機能について検討する。 シーケンス・ツー・シーケンス・マッピングを近似した標準トランスフォーマー・ネットワークのための新しい上限を確立する。 トランスフォーマーの自己アテンション層がカラム平均化を行うことができれば,ネットワークはシーケンス・ツー・シーケンスのH"older関数を近似することができることを示す。
  論文  参考訳（メタデータ） (2025-04-16T15:25:58Z)
• Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
  近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。 本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
  論文  参考訳（メタデータ） (2024-04-29T15:04:07Z)
• Tensor cumulants for statistical inference on invariant distributions [49.80012009682584]
  我々は,PCAが信号の大きさの臨界値で計算的に困難になることを示す。 我々は、与えられた次数の不変量に対して明示的でほぼ直交的な基底を与える新しい対象の集合を定義する。 また、異なるアンサンブルを区別する新しい問題も分析できます。
  論文  参考訳（メタデータ） (2024-04-29T14:33:24Z)
• Wide Deep Neural Networks with Gaussian Weights are Very Close to Gaussian Processes [1.0878040851638]
  ネットワーク出力と対応するガウス近似との距離は、ネットワークの幅と逆向きにスケールし、中心極限定理によって提案されるネーブよりも高速な収束を示すことを示す。 また、(有限)トレーニングセットで評価されたネットワーク出力の有界リプシッツ関数である場合、ネットワークの正確な後部分布の理論的近似を求めるために境界を適用した。
  論文  参考訳（メタデータ） (2023-12-18T22:29:40Z)
• Quantitative CLTs in Deep Neural Networks [12.845031126178593]
  ランダムなガウス重みとバイアスを持つ完全連結ニューラルネットワークの分布について検討する。 我々は、大まかではあるが有限の$n$および任意の固定されたネットワーク深さで有効な正規近似の量的境界を得る。 我々の境界は、それまでの文献で利用できたものよりも、ネットワーク幅に依存しているという点で厳格に強い。
  論文  参考訳（メタデータ） (2023-07-12T11:35:37Z)
• Gaussian random field approximation via Stein's method with applications to wide random neural networks [20.554836643156726]
  我々は、よりスムーズな計量のバウンドを$W_$距離に転送できる新しいガウススムージング手法を開発した。 広帯域乱数ニューラルネットワークのガウス確率場近似の第一境界を求める。 我々の境界は、ネットワークの幅とランダムな重みのモーメントで明示的に表現される。
  論文  参考訳（メタデータ） (2023-06-28T15:35:10Z)
• On the Effective Number of Linear Regions in Shallow Univariate ReLU Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
  我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。 我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
  論文  参考訳（メタデータ） (2022-05-18T16:57:10Z)
• Spectral clustering under degree heterogeneity: a case for the random walk Laplacian [83.79286663107845]
  本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。 次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
  論文  参考訳（メタデータ） (2021-05-03T16:36:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。