論文の概要: Arbitrary-Accuracy Neural Approximation with Optimal Neuron Count and Near-Optimal Bit Complexity
- arxiv url: http://arxiv.org/abs/2609.35628v1
- Date: Mon, 28 Sep 2026 17:00:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 20:14:25.207056
- Title: Arbitrary-Accuracy Neural Approximation with Optimal Neuron Count and Near-Optimal Bit Complexity
- Title（参考訳）: 最適ニューロン数と近接最適ビット数を用いた任意精度神経近似
- Abstract要約: 局所的に可積分な活性化とアフィン出力を持つ標準フィードフォワードネットワークにおいて,$d+1$は隠れニューロンの最小総数であることを示す。
これらの構造は、明示的なグリッドアドレッシングと量子化された関数値の整数エンコーディングを使用する。
- 参考スコア（独自算出の注目度）: 1.3709465727733763
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We study the minimum number of hidden neurons required for arbitrary-accuracy approximation of multivariate Hölder-continuous functions on $[0,1]^d$ and the associated encoding complexity. For $d\geq 2$, we construct a fixed, explicitly defined activation function for which a closed-form network with two hidden layers of widths $d$ and $1$ achieves arbitrary accuracy in the uniform norm. We prove that $d+1$ is the exact minimum total number of hidden neurons among standard feedforward networks with locally integrable activations and affine outputs. We further give a simpler construction using a single elementary activation that combines the floor and exponential functions. This construction requires three hidden layers of widths $d$, $1$, and $2$, only two neurons above the minimum. If a skip connection is allowed, widths $d$, $1$, and $1$ suffice. These constructions use explicit grid addressing and integer encoding of quantized function values. For a bounded $α$-Hölder class, they require $O(\varepsilon^{-d/α}\log(1/\varepsilon))$ bits, matching the metric-entropy lower bound up to a logarithmic factor.
- Abstract（参考訳）: 多変量ヘルダー連続関数の任意の精度近似に必要な隠れニューロンの最小個数[0,1]^d$とその符号化複雑性について検討した。
$d\geq 2$の場合、固定された明示的に定義されたアクティベーション関数を構築し、2つの隠された幅の層を持つ閉形式ネットワークを$d$と$$で一様ノルムで任意の精度で達成する。
局所的に可積分な活性化とアフィン出力を持つ標準フィードフォワードネットワークにおいて,$d+1$は隠れニューロンの最小総数であることを示す。
さらに、フロアと指数関数を組み合わせた1つの基本活性化を用いたより単純な構成を与える。
この構造には、最小2つのニューロンのみ、$d$、$$$および$2の隠れた3つの層が必要である。
スキップ接続が許可されると、幅は$d$、$$$、$$sufficeになる。
これらの構造は、明示的なグリッドアドレッシングと量子化された関数値の整数エンコーディングを使用する。
有界な$α$-ヘルダー類の場合、それらは$O(\varepsilon^{-d/α}\log(1/\varepsilon))$ bitsを必要とし、計量エントロピーの下界を対数係数に一致する。
関連論文リスト
- Optimal Tradeoffs Between Network Size and Parameter Magnitude in Neural Approximation and Minimax Regression [12.592251634771314]
パラメータ等級は、両方の点において役割を定量化しなければならない別のリソースを提供する。
我々は1つの境界付き1ドルLipschitz Dyadic--Triangular Activationを用いて、一定の深さでシャープな幅-マグニチュードトレードオフを確立する。
これにより、単位パラメータ半径から固定ネットワークサイズまで、統計的に最適な選択の連続性が得られる。
論文 参考訳（メタデータ） (2026-09-22T05:28:37Z) - A Sharp Barrier for Consistent Submodular Maximization: Any Improvement over $2-\sqrt{2}$ Entails Exponential Queries or Linear Recourse [50.69285844345291]
我々は、要素が時間とともに到着する際のソリューションの品質と安定性のトレードオフについて研究する。
我々のアルゴリズムは,有理オラクル$を$O(varepsilon-1)$recourseで実装し,そのアルゴリズムから普遍価格証明書の存在を分離する。
論文 参考訳（メタデータ） (2026-09-09T10:13:43Z) - On the complexity of quantum numerical integration: an angle-structure characterization [1.376408511310322]
量子振幅推定(QAE)による$[0,1]$の数値積分について検討し,振幅オラクルの構築コストに着目した。
格子関数クラス $mathcalG_n(d)$ の階層を導入し、角写像 $_g:0,1nto[0,]$ を最大$d$ の次数として定義する。
$d=1$の場合、これは$O(varepsilon-1log(1/varepsilon))$となり、古典的なモンテカルロを$geで改善する。
論文 参考訳（メタデータ） (2026-04-27T10:23:24Z) - Hardness of High-Dimensional Linear Classification [58.29089693778071]
我々は、最大半空間離散性問題に対する次元下界の新たな指数関数を確立する。
どちらも計算幾何学と機械学習の基本的問題であり、その正確で近似的な形式である。
論文 参考訳（メタデータ） (2026-03-19T15:53:41Z) - Interplay between depth and width for interpolation in neural ODEs [0.0]
それらの幅$p$と層遷移数$L$の相互作用について検討する。
高次元設定では、$p=O(N)$ニューロンが正確な制御を達成するのに十分であることを示す。
論文 参考訳（メタデータ） (2024-01-18T11:32:50Z) - Shallow neural network representation of polynomials [91.3755431537592]
d+1+sum_r=2Rbinomr+d-1d-1[binomr+d-1d-1d-1[binomr+d-1d-1d-1]binomr+d-1d-1d-1[binomr+d-1d-1d-1]binomr+d-1d-1d-1]
論文 参考訳（メタデータ） (2022-08-17T08:14:52Z) - Neural networks with superexpressive activations and integer weights [91.3755431537592]
アクティベーション関数の例 $sigma$ は、アクティベーションを持つネットワーク $sigma, lfloorcdotrfloor$, integer weights と固定アーキテクチャが与えられる。
より古い連続関数の $varepsilon$-approximation に必要な整数ウェイトの範囲が導出される。
論文 参考訳（メタデータ） (2021-05-20T17:29:08Z) - Improved Sample Complexity for Incremental Autonomous Exploration in
MDPs [132.88757893161699]
我々は $epsilon$-optimal 目標条件付きポリシーのセットを学び、$ L$ ステップ内で段階的に到達可能なすべての状態を達成します。
DisCoは、コストに敏感な最短経路問題に対して$epsilon/c_min$-optimalポリシーを返すことができる最初のアルゴリズムです。
論文 参考訳（メタデータ） (2020-12-29T14:06:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。