論文の概要: Sobolev Approximation by Fixed-Size Neural Networks with Arbitrary Accuracy

• arxiv url: http://arxiv.org/abs/2606.16975v1
• Date: Mon, 15 Jun 2026 17:12:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 18:36:05.092772
• Title: Sobolev Approximation by Fixed-Size Neural Networks with Arbitrary Accuracy
• Title（参考訳）: 任意精度を有する固定サイズニューラルネットワークによるソボレフ近似
• Authors: Baicheng Li, Haizhao Yang, Shijun Zhang,
• Abstract要約: W2,infty((a,b)d)$の任意の関数は、固定サイズ$mathrmDUAF_infty$-activatedネットワークによって任意の精度で近似できることを示す。 1leq sleq n$, fixed-size $widetildemathrmDUAF_n$-activated networks has almost any $fin Ws,infty((a,b)d)$ with any accuracy in the $Ws-1.
• 参考スコア（独自算出の注目度）: 11.112131888798174
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this work, we investigate new activation functions for achieving arbitrary-accuracy Sobolev approximation by fixed-size neural networks. We first show that any function in $W^{2,\infty}((a,b)^d)$ can be approximated with arbitrary accuracy, measured in the $W^{1,\infty}$-norm, by a fixed-size neural network using the Elementary Universal Activation Function ($\mathrm{EUAF}$). To extend this result to $W^{s,\infty}((a,b)^d)$ for $s\in\mathbb{N}$, we introduce a smooth activation $\mathrm{DUAF}_{\infty}$ from the family of Differentiable Universal Activation Functions ($\mathrm{DUAF}_n$). We prove that any function in $W^{s,\infty}((a,b)^d)$ can be approximated with arbitrary accuracy in the $W^{s-1,\infty}$-norm by a fixed-size $\mathrm{DUAF}_{\infty}$-activated network. We further construct sigmoidal variants $\widetilde{\mathrm{DUAF}}_n$ and show that, for every $1\leq s\leq n$, fixed-size $\widetilde{\mathrm{DUAF}}_n$-activated networks still approximate any $f\in W^{s,\infty}((a,b)^d)$ with arbitrary accuracy in the $W^{s-1,\infty}$-norm. In all these results, the width and depth bounds are computed explicitly, and the proposed activations are elementary.
• Abstract（参考訳）: 本研究では,固定サイズニューラルネットワークによる任意の精度のソボレフ近似を実現するための新しいアクティベーション関数について検討する。 最初に、$W^{2,\infty}((a,b)^d)$の任意の関数が任意の精度で近似できることを示し、$W^{1,\infty}$-normで測定される。 この結果を$W^{s,\infty}((a,b)^d)$ for $s\in\mathbb{N}$に拡張するために、微分可能なユニバーサル活性化関数群(\mathrm{DUAF}_n$)から滑らかなアクティベーション$\mathrm{DUAF}_{\infty}$を導入する。 W^{s,\infty}((a,b)^d)$ の任意の関数は、固定サイズの $\mathrm{DUAF}_{\infty}$-activated ネットワークにより、$W^{s-1,\infty}$-norm の任意の精度で近似できることを示す。 さらに、Sigmoidal variants $\widetilde{\mathrm{DUAF}}_n$ を構築し、すべての $1\leq s\leq n$, fixed-size $\widetilde{\mathrm{DUAF}}_n$-activated networks に対して、W^{s-1,\infty}$-norm の任意の精度で f\in W^{s,\infty}((a,b)^d)$ を近似することを示す。 これらすべての結果において、幅と深さの境界は明示的に計算され、提案された活性化は初等的である。

関連論文リスト

• On the optimal approximation of Sobolev and Besov functions using deep ReLU neural networks [2.4112990554464235]
  我々は、$mathcalO((WL)-2s/d)$が実際にソボレフ埋め込み条件の下で成り立つことを示す。 我々の証明の鍵となるツールは、幅と深さの異なる深部ReLUニューラルネットワークを用いてスパースベクトルを符号化することである。
  論文  参考訳（メタデータ） (2024-09-02T02:26:01Z)
• A Unified Framework for Uniform Signal Recovery in Nonlinear Generative Compressed Sensing [68.80803866919123]
  非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。 本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。 また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
  論文  参考訳（メタデータ） (2023-09-25T17:54:19Z)
• Minimum width for universal approximation using ReLU networks on compact domain [8.839687029212673]
  活性化関数が ReLU-like (ReLU, GELU, Softplus) であれば、$Lp$関数の近似の最小幅は正確に$maxd_x,d_y,2$であることを示す。 ReLUネットワークの既知の結果と比較すると、$w_min=maxd_x+1,d_y$ ドメインが $smashmathbb Rd_x$ の場合、まず、コンパクトなドメインでの近似はそれよりも小さい幅を必要とすることを示す。
  論文  参考訳（メタデータ） (2023-09-19T08:04:48Z)
• Fast $(1+\varepsilon)$-Approximation Algorithms for Binary Matrix Factorization [54.29685789885059]
  本稿では, 2次行列分解(BMF)問題に対する効率的な$(1+varepsilon)$-approximationアルゴリズムを提案する。 目標は、低ランク因子の積として$mathbfA$を近似することである。 我々の手法はBMF問題の他の一般的な変種に一般化する。
  論文  参考訳（メタデータ） (2023-06-02T18:55:27Z)
• Near-Linear Time and Fixed-Parameter Tractable Algorithms for Tensor Decompositions [51.19236668224547]
  テンソルの低階近似について検討し,テンソルトレインとタッカー分解に着目した。 テンソル列車の分解には、小さなビクリテリアランクを持つビクリテリア$(1 + eps)$-approximationアルゴリズムと、O(q cdot nnz(A))$ランニングタイムを与える。 さらに、任意のグラフを持つテンソルネットワークにアルゴリズムを拡張します。
  論文  参考訳（メタデータ） (2022-07-15T11:55:09Z)
• Learning a Single Neuron with Adversarial Label Noise via Gradient Descent [50.659479930171585]
  モノトン活性化に対する $mathbfxmapstosigma(mathbfwcdotmathbfx)$ の関数について検討する。 学習者の目標は仮説ベクトル $mathbfw$ that $F(mathbbw)=C, epsilon$ を高い確率で出力することである。
  論文  参考訳（メタデータ） (2022-06-17T17:55:43Z)
• Active Sampling for Linear Regression Beyond the $\ell_2$ Norm [70.49273459706546]
  対象ベクトルの少数のエントリのみを問合せすることを目的とした線形回帰のためのアクティブサンプリングアルゴリズムについて検討する。 我々はこの$d$への依存が対数的要因まで最適であることを示す。 また、損失関数に対して最初の全感度上界$O(dmax1,p/2log2 n)$を提供し、最大で$p$成長する。
  論文  参考訳（メタデータ） (2021-11-09T00:20:01Z)
• Neural networks with superexpressive activations and integer weights [91.3755431537592]
  アクティベーション関数の例 $sigma$ は、アクティベーションを持つネットワーク $sigma, lfloorcdotrfloor$, integer weights と固定アーキテクチャが与えられる。 より古い連続関数の $varepsilon$-approximation に必要な整数ウェイトの範囲が導出される。
  論文  参考訳（メタデータ） (2021-05-20T17:29:08Z)
• Neural Network Approximation: Three Hidden Layers Are Enough [4.468952886990851]
  超近似パワーを有する3層ニューラルネットワークを導入する。 ネットワークはフロア関数(lfloor xrfloor$)、指数関数(2x$)、ステップ関数(1_xgeq 0$)、または各ニューロンの活性化関数としてのそれらの構成で構築される。
  論文  参考訳（メタデータ） (2020-10-25T18:30:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。