論文の概要: Shallow neural network approximation in mixed Sobolev spaces

• arxiv url: http://arxiv.org/abs/2609.05263v1
• Date: Fri, 04 Sep 2026 15:23:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-07 18:15:24.102329
• Title: Shallow neural network approximation in mixed Sobolev spaces
• Title（参考訳）: 混合ソボレフ空間における浅部ニューラルネットワーク近似
• Abstract要約: 浅いニューラルネットワークと$n$ニューロンと一般活性化関数による混合ソボレフ空間の最適近似について検討する。 まず、アクティベーション非依存なフーリエブロック原理を確立する。 このフレームワークはまた、基数 B-スプラインに対して$min,k+1$、ソフト-$mathrmReLUk$に対して$min,k+1$、ELUとコサインアクティベーションに対して完全な混合平滑指数$$を出力する。
• 参考スコア（独自算出の注目度）: 2.5603375915051747
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We investigate the best $L_2$ approximation of mixed Sobolev spaces by shallow neural networks with $n$ neurons and general activation functions. We first establish an activation-independent Fourier-block principle: if an activation has univariate approximation order $ρ$ in the sense of the Fourier-block property, then the global approximation rate has algebraic order $\min\{α,ρ\}$ for target functions of mixed smoothness $α$, up to explicit logarithmic factors. To verify this property for concrete activations, we introduce a structured univariate approximation condition that implies the Fourier-block property with explicit parameters. For $\mathrm{ReLU}^k$, a matching algebraic lower bound identifies $\min\{α,k+1\}$ as the optimal algebraic approximation exponent in any dimension, up to logarithmic factors in the upper bound. The framework also yields the exponent $\min\{α,k+1\}$ for cardinal B-splines and soft-$\mathrm{ReLU}^k$, and the full mixed-smoothness exponent $α$ for ELU and cosine activations, again up to logarithmic~factors.
• Abstract（参考訳）: 浅いニューラルネットワークと$n$ニューロンと一般活性化関数による混合ソボレフ空間の最適近似について検討する。 まず、アクティベーションがフーリエブロック特性の意味で単変量近似次数$ρ$を持つなら、大域近似率は代数次数$\min\{α,ρ\}$を持つ。 具体的アクティベーションのこの特性を検証するために,明示的なパラメータを持つフーリエブロック特性を示す一変量近似条件を導入する。 $\mathrm{ReLU}^k$ に対して、一致する代数的下界は、任意の次元における最適代数近似指数として $\min\{α,k+1\}$ を上界の対数係数まで特定する。 このフレームワークはまた、基数 B-スプラインとソフト-$\mathrm{ReLU}^k$に対して指数 $\min\{α,k+1\}$ と ELU とコサインの活性化に対して完全な混合平滑指数 $α$ を得る。

関連論文リスト

• Approximation of Analytic Functions by ReLU Neural Networks with Adjustable Depth and Width [10.609056138359751]
  citeshen 2020deepは幅パラメータ$N$と深さパラメータ$Lの結合関数として近似率の特性を開拓した。 解析関数近似の文脈では,深さが幅よりも重要な役割を担っていることが明らかとなった。
  論文  参考訳（メタデータ） (2026-07-12T05:59:12Z)
• On best approximation by multivariate ridge functions with applications to generalized translation networks [0.0]
  近似の順序は$nr/(ell)$として振る舞うが、$r$はソボレフ関数のニューラル正則性(微分可能性の順序)である。 我々の下限は、$Lp$-Sobolev関数を$L1$の誤差で$r$の近似を行うときにさえ成り立つが、上限は$Lp$-Sobolev関数を$Lp$の近似に1leq p leq infty$で適用する。
  論文  参考訳（メタデータ） (2024-12-11T15:16:16Z)
• Approximation Rates for Shallow ReLU$^k$ Neural Networks on Sobolev Spaces via the Radon Transform [12.171849953316192]
  我々は,ReLU$k$アクティベーション関数がソボレフ空間からの関数をいかに効率的に近似できるかという問題を考察する。 例えば、$qleq p$, $pgeq 2$, $s leq k + (d+1)/2$ などである。
  論文  参考訳（メタデータ） (2024-08-20T16:43:45Z)
• Learning a Single Neuron with Adversarial Label Noise via Gradient Descent [50.659479930171585]
  モノトン活性化に対する $mathbfxmapstosigma(mathbfwcdotmathbfx)$ の関数について検討する。 学習者の目標は仮説ベクトル $mathbfw$ that $F(mathbbw)=C, epsilon$ を高い確率で出力することである。
  論文  参考訳（メタデータ） (2022-06-17T17:55:43Z)
• A Law of Robustness beyond Isoperimetry [84.33752026418045]
  我々は、任意の分布上でニューラルネットワークパラメータを補間する頑健性の低い$Omega(sqrtn/p)$を証明した。 次に、$n=mathrmpoly(d)$のとき、スムーズなデータに対する過度なパラメータ化の利点を示す。 我々は、$n=exp(omega(d))$ のとき、$O(1)$-Lipschitz の頑健な補間関数の存在を否定する。
  論文  参考訳（メタデータ） (2022-02-23T16:10:23Z)
• Nearly Optimal Regret for Learning Adversarial MDPs with Linear Function Approximation [92.3161051419884]
  我々は、敵対的な報酬と完全な情報フィードバックで有限正方体エピソディックマルコフ決定プロセスのための強化学習を研究します。 我々は、$tildeO(dHsqrtT)$ regretを達成できることを示し、$H$はエピソードの長さである。 また、対数因子までの$tildeOmega(dHsqrtT)$の値が一致することを証明する。
  論文  参考訳（メタデータ） (2021-02-17T18:54:08Z)
• Optimal Approximation Rates and Metric Entropy of ReLU$^k$ and Cosine Networks [0.0]
  対応する浅層ニューラルネットワークによって効率的に近似できる関数の最大のバナッハ空間は、集合 $pmsigma(omegacdot x + b)$ の閉凸包のゲージによってノルムが与えられる空間であることを示す。 これらのゲージ空間の単位球の$L2$-metricエントロピーの精度を確立し、その結果、浅いReLU$k$ネットワークに対する最適近似速度を導出する。
  論文  参考訳（メタデータ） (2021-01-29T02:29:48Z)
• Finding Global Minima via Kernel Approximations [90.42048080064849]
  関数評価のみに基づく滑らかな関数のグローバル最小化を考える。 本稿では,近似関数を共同でモデル化し,大域的最小値を求める手法を検討する。
  論文  参考訳（メタデータ） (2020-12-22T12:59:30Z)
• Agnostic Learning of a Single Neuron with Gradient Descent [92.7662890047311]
  期待される正方形損失から、最も適合した単一ニューロンを学習することの問題点を考察する。 ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。 ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
  論文  参考訳（メタデータ） (2020-05-29T07:20:35Z)
• Reinforcement Learning with General Value Function Approximation: Provably Efficient Approach via Bounded Eluder Dimension [124.7752517531109]
  一般値関数近似を用いた効率の良い強化学習アルゴリズムを確立する。 我々のアルゴリズムは、$d$が複雑性測度である場合、$widetildeO(mathrmpoly(dH)sqrtT)$の後悔の限界を達成することを示す。 我々の理論は線形値関数近似によるRLの最近の進歩を一般化し、環境モデルに対する明示的な仮定をしない。
  論文  参考訳（メタデータ） (2020-05-21T17:36:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。