論文の概要: Universality in Deep Neural Networks: An approach via the Lindeberg exchange principle

• arxiv url: http://arxiv.org/abs/2605.02771v1
• Date: Mon, 04 May 2026 16:14:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-05 20:33:50.399318
• Title: Universality in Deep Neural Networks: An approach via the Lindeberg exchange principle
• Title（参考訳）: ディープニューラルネットワークにおける普遍性:リンデベルク交換原理によるアプローチ
• Authors: Filippo Giovagnini, Sotirios Kotitsas, Marco Romito,
• Abstract要約: 一般重み付き完全連結ディープニューラルネットワークの無限幅限界を考察する。 我々は、ネットワークと無限幅ガウス極限の間の2ドルワッサーシュタイン距離の量的一般境界を証明した。
• 参考スコア（独自算出の注目度）: 1.2744523252873352
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We consider the infinite-width limit of a fully connected deep neural network with general weights, and we prove quantitative general bounds on the $2$-Wasserstein distance between the network and its infinite-width Gaussian limit, under appropriate regularity assumptions on the activation function. Our main tool is a Lindeberg principle for Deep Neural Networks, which we use to successively replace the weights on each layer by Gaussian random variables.
• Abstract（参考訳）: 一般化重み付き完全連結深部ニューラルネットワークの無限幅限界を考察し、活性化関数の適切な正則性仮定の下で、ネットワークとその無限幅ガウス極限の間の2ドルワッサーシュタイン距離の定量的一般境界を証明した。 我々の主なツールはディープニューラルネットワークのリンデバーグの原理であり、各層の重みをガウス確率変数で逐次置き換えるために使用します。

関連論文リスト

• Dense Neural Networks are not Universal Approximators [53.27010448621372]
  ニューラルネットワークは任意の連続関数の普遍性を持たないことを示す。 ReLUニューラルネットワークは、重みと入出力次元の自然な制約を受ける。
  論文  参考訳（メタデータ） (2026-02-07T16:52:38Z)
• Generalization of Scaled Deep ResNets in the Mean-Field Regime [55.77054255101667]
  無限深度および広帯域ニューラルネットワークの限界におけるエンスケールResNetについて検討する。 この結果から,遅延学習体制を超えた深層ResNetの一般化能力に関する新たな知見が得られた。
  論文  参考訳（メタデータ） (2024-03-14T21:48:00Z)
• Quantitative CLTs in Deep Neural Networks [12.845031126178593]
  ランダムなガウス重みとバイアスを持つ完全連結ニューラルネットワークの分布について検討する。 我々は、大まかではあるが有限の$n$および任意の固定されたネットワーク深さで有効な正規近似の量的境界を得る。 我々の境界は、それまでの文献で利用できたものよりも、ネットワーク幅に依存しているという点で厳格に強い。
  論文  参考訳（メタデータ） (2023-07-12T11:35:37Z)
• Bayesian Deep Ensembles via the Neural Tangent Kernel [49.569912265882124]
  我々は、ニューラルタンジェントカーネル(NTK)のレンズを通して、ディープアンサンブルとガウス過程(GP)の関連を探索する。 そこで本研究では,各アンサンブルメンバーに対して,計算可能でランダム化され,訓練不能な関数を追加することで,標準的なディープアンサンブルトレーニングに簡単な修正を加える。 我々はベイズ深部アンサンブルが無限幅極限における標準深部アンサンブルよりも保守的な予測を行うことを証明した。
  論文  参考訳（メタデータ） (2020-07-11T22:10:52Z)
• Generalization bound of globally optimal non-convex neural network training: Transportation map estimation by infinite dimensional Langevin dynamics [50.83356836818667]
  本稿では,ディープラーニングの最適化を一般化誤差と関連づけて解析する理論フレームワークを提案する。 ニューラルネットワーク最適化分析のための平均場理論やニューラル・タンジェント・カーネル理論のような既存のフレームワークは、そのグローバル収束を示すために、ネットワークの無限幅の限界を取る必要がある。
  論文  参考訳（メタデータ） (2020-07-11T18:19:50Z)
• On Random Kernels of Residual Architectures [93.94469470368988]
  ResNets と DenseNets のニューラルタンジェントカーネル (NTK) に対して有限幅および深さ補正を導出する。 その結果,ResNetsでは,深さと幅が同時に無限大となるとNTKへの収束が生じる可能性が示唆された。 しかし、DenseNetsでは、NTKの幅が無限大になる傾向があるため、その限界への収束が保証されている。
  論文  参考訳（メタデータ） (2020-01-28T16:47:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。