論文の概要: Minimax rates for learning spectral Barron functions by deep ReLU neural networks

• arxiv url: http://arxiv.org/abs/2609.39020v1
• Date: Wed, 30 Sep 2026 05:25:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.230946
• Title: Minimax rates for learning spectral Barron functions by deep ReLU neural networks
• Title（参考訳）: 深部ReLUニューラルネットワークによるスペクトルバロン関数の最小値
• Abstract要約: 我々は、ディープニューラルネットワークがいかによく近似し、スペクトルバロン関数を学習するかを示す。 本稿では,ReLUをアクティベートしたディープネットワークに対する新しい近似バウンダリを提案し,これらの関数クラスを学習するためのミニマックスレートを確立する。
• 参考スコア（独自算出の注目度）: 1.5549027673041529
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study how well deep neural networks approximate and learn spectral Barron functions. Recent studies have shown that these function classes can be efficiently approximated by shallow neural networks without suffering from the curse of dimensionality. We complement these results by providing new approximation bounds for deep networks with ReLU activation and establishing the minimax rates for learning these function classes. Specifically, we show that $d$-dimensional spectral Barron functions with smoothness index $s>0$ can be approximated by deep ReLU neural networks with approximation rate $\widetilde{\mathcal{O}} (S^{-\frac{1}{2}-\frac{s}{d}})$, where $S$ denotes the number of nonzero parameters in the network. Using this approximation result, we further show that deep ReLU neural networks can learn spectral Barron functions in a fast rate $n^{-\frac{d+2s}{2d+2s}}$ with $n$ training samples. Finally, we prove that this convergence rate is minimax optimal up to logarithmic factors.
• Abstract（参考訳）: 我々は、ディープニューラルネットワークの近似とスペクトルバロン関数の学習について研究する。 近年の研究では、これらの関数クラスは、次元の呪いに苦しむことなく、浅いニューラルネットワークによって効率的に近似できることが示されている。 本稿では、ReLUアクティベーションを持つディープネットワークに対して新しい近似境界を提供し、これらの関数クラスを学習するためのミニマックスレートを確立することで、これらの結果を補完する。 具体的には、$d$ 次元スペクトルバロン関数の滑らか度指数 $s>0$ は近似速度 $\widetilde{\mathcal{O}} (S^{-\frac{1}{2}-\frac{s}{d}})$ で近似できることを示す。 この近似結果を用いて、深いReLUニューラルネットワークは、$n$のトレーニングサンプルを用いて、$n^{-\frac{d+2s}{2d+2s}}$でスペクトルバロン関数を高速に学習できることを示す。 最後に、この収束速度が対数係数まで極小であることを示す。

関連論文リスト

• Neural Networks Learn Generic Multi-Index Models Near Information-Theoretic Limit [66.20349460098275]
  一般ガウス多次元モデル $f(boldsymbolx)=g(boldsymbolUboldsymbolx)$ の勾配降下学習を隠蔽部分空間 $boldsymbolUin mathbbRrtimes d$ で研究する。 リンク関数上の一般的な非退化仮定の下では、層次勾配勾配勾配によって訓練された標準的な2層ニューラルネットワークは、$o_d(1)$テスト誤差でターゲットを不可知的に学習できることを示す。
  論文  参考訳（メタデータ） (2025-11-19T04:46:47Z)
• Nonlocal techniques for the analysis of deep ReLU neural network approximations [0.0]
  最近、Daubechies, DeVore, Foucart, Hanin, Petrova は、ピースワイド線型関数の体系を導入した。 このシステムは、ソボレフ空間やバロン類に対してもリース基底として機能することを示す。
  論文  参考訳（メタデータ） (2025-04-07T09:00:22Z)
• Optimal Approximation and Learning Rates for Deep Convolutional Neural Networks [17.075804626858748]
  本稿では,ゼロパディングと最大プーリングを併用した深部畳み込みニューラルネットワークの近似と学習性能解析に着目する。 近似関数として,深度$L$の深部畳み込みニューラルネットワークの近似速度が,対数係数に最適化された次数$ (L2/log L)-2r/d $であることが証明された。
  論文  参考訳（メタデータ） (2023-08-07T02:37:02Z)
• Rates of Approximation by ReLU Shallow Neural Networks [8.22379888383833]
  隠れたニューロンが$m$のReLU浅部ニューラルネットワークは、H"古い空間からの関数を均一に近似できることを示す。 そのようなレートは$O(m-fracrd)$に非常に近いが、$fracd+2d+4d+4$は、$d$が大きければ1ドルに近いという意味では$O(m-fracrd)$である。
  論文  参考訳（メタデータ） (2023-07-24T00:16:50Z)
• Optimal Approximation Rates for Deep ReLU Neural Networks on Sobolev and Besov Spaces [2.7195102129095003]
  ReLU活性化関数を持つディープニューラルネットワークは、ソボレフ空間$Ws(L_q(Omega))$とBesov空間$Bs_r(L_q(Omega))$の関数を近似することができる。 この問題は、様々な分野におけるニューラルネットワークの適用を研究する際に重要である。
  論文  参考訳（メタデータ） (2022-11-25T23:32:26Z)
• Understanding Deep Neural Function Approximation in Reinforcement Learning via $\epsilon$-Greedy Exploration [53.90873926758026]
  本稿では、強化学習(RL)における深部神経機能近似の理論的研究について述べる。 我々は、Besov(およびBarron)関数空間によって与えられるディープ(および2層)ニューラルネットワークによる$epsilon$-greedy探索により、バリューベースのアルゴリズムに焦点を当てる。 我々の解析は、ある平均測度$mu$の上の$L2(mathrmdmu)$-integrable空間における時間差誤差を再構成し、非イド設定の下で一般化問題に変換する。
  論文  参考訳（メタデータ） (2022-09-15T15:42:47Z)
• The Rate of Convergence of Variation-Constrained Deep Neural Networks [35.393855471751756]
  変動制約のあるニューラルネットワークのクラスは、任意に小さな定数$delta$に対して、ほぼパラメトリックレート$n-1/2+delta$を達成することができることを示す。 その結果、滑らかな関数の近似に必要な神経機能空間は、しばしば知覚されるものほど大きくない可能性が示唆された。
  論文  参考訳（メタデータ） (2021-06-22T21:28:00Z)
• Deep neural network approximation of analytic functions [91.3755431537592]
  ニューラルネットワークの空間に エントロピーバウンド 片方向の線形活性化関数を持つ 我々は、ペナル化深部ニューラルネットワーク推定器の予測誤差に対するオラクルの不等式を導出する。
  論文  参考訳（メタデータ） (2021-04-05T18:02:04Z)
• Function approximation by deep neural networks with parameters $\{0,\pm \frac{1}{2}, \pm 1, 2\}$ [91.3755431537592]
  C_beta$-smooth関数は、パラメータ$0,pm frac12, pm 1, 2$のニューラルネットワークによって近似できることが示されている。 構築されたネットワークの深さ、幅、およびアクティブパラメータの数は、対数係数まで、$[-1,1]$のパラメータを持つネットワークと同じ近似誤差に依存します。
  論文  参考訳（メタデータ） (2021-03-15T19:10:02Z)
• The Connection Between Approximation, Depth Separation and Learnability in Neural Networks [70.55686685872008]
  学習可能性と近似能力の関係について検討する。 対象関数の深いネットワークでの学習性は、より単純なクラスがターゲットを近似する能力に依存することを示す。
  論文  参考訳（メタデータ） (2021-01-31T11:32:30Z)
• Backward Feature Correction: How Deep Learning Performs Deep (Hierarchical) Learning [66.05472746340142]
  本稿では,SGD による階層的学習 _efficiently_ と _automatically_ を学習目標として,多層ニューラルネットワークがどのように行うかを分析する。 我々は、下位機能のエラーを上位層と共にトレーニングする際に自動的に修正できる"後方特徴補正"と呼ばれる新しい原則を確立する。
  論文  参考訳（メタデータ） (2020-01-13T17:28:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。