論文の概要: Recurrent neural networks approximate continuous functions
- arxiv url: http://arxiv.org/abs/2606.20325v1
- Date: Thu, 18 Jun 2026 15:03:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-19 18:23:39.931756
- Title: Recurrent neural networks approximate continuous functions
- Title(参考訳): 連続関数を近似したリカレントニューラルネットワーク
- Authors: Valentin Abadie, Clemens Hutter, Helmut Bölcskei,
- Abstract要約: ネットワークは一度だけ選択できるのか、それとも、もっと長く走らせるだけで、正確に購入できるのか?
これは [-1,1] 上のすべての連続函数に対して可能であることを証明している。
構築の背後にあるメカニズムは、リカレントニューラルネットワーク(TMNU)を備えた新しい中間チューリングマシンである。
- 参考スコア(独自算出の注目度): 1.096028999747108
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classical approximation theorems ask for a new neural network whenever the target accuracy is improved. This paper studies the opposite possibility: can the network be chosen once and for all, and can accuracy be bought only by letting it run longer? We prove that this is possible for every continuous function on [-1,1]. More precisely, each such function is uniformly approximated by the time evolution of a single ReLU recurrent neural network with fixed weights and fixed hidden dimension. The mechanism behind the construction is a new intermediate model, the Turing machine with neural units (TMNU). This model retains the algorithmic freedom needed to implement polynomial approximation schemes, while remaining rigid enough to be simulated by RNNs with explicit bounds on hidden dimension and weight magnitude. The resulting convergence rates reflect the underlying polynomial approximation rates. We complement the construction with minimax lower bounds showing that runtime is not merely a proof artifact, but an unavoidable resource in this fixed-network approximation paradigm.
- Abstract(参考訳): 古典的な近似定理は、目標精度が向上するたびに新しいニューラルネットワークを求める。
本論文は,ネットワークを1回,何回でも選択でき,しかも,より長く動作させることで,正確さを購入できる可能性について検討する。
これは [-1,1] 上のすべての連続函数に対して可能であることを証明している。
より正確には、これらの関数は、固定重みと固定された隠れ次元を持つ単一のReLUリカレントニューラルネットワークの時間発展によって均一に近似される。
構築の背後にあるメカニズムは、ニューラルユニットを備えたチューリングマシン(TMNU)と呼ばれる新しい中間モデルである。
このモデルは多項式近似スキームを実装するのに必要なアルゴリズムの自由を保ちながら、隠れた次元と重みに明確な境界を持つRNNによってシミュレートできるほど厳密なままである。
結果として生じる収束速度は、基礎となる多項式近似率を反映する。
我々は、ランタイムが単なる証明成果物ではなく、固定ネットワーク近似パラダイムにおける避けられないリソースであることを示すminimaxlow boundsで構築を補完する。
関連論文リスト
- Dense Neural Networks are not Universal Approximators [53.27010448621372]
ニューラルネットワークは任意の連続関数の普遍性を持たないことを示す。
ReLUニューラルネットワークは、重みと入出力次元の自然な制約を受ける。
論文 参考訳(メタデータ) (2026-02-07T16:52:38Z) - A Quantifier-Reversal Approximation Paradigm for Recurrent Neural Networks [1.096028999747108]
本稿では,量子化器の順序を逆転する近似パラダイムを基本的に導入する。
各ターゲット関数$f$に対して、固定トポロジと固定重みを持つ単一リカレントニューラルネットワーク(RNN)を構築する。
我々のRNN構造は、基盤となる深いフィードフォワードReLUネットワーク近似理論をエミュレートする。
論文 参考訳(メタデータ) (2025-11-19T10:43:48Z) - Approximation with Random Shallow ReLU Networks with Applications to Model Reference Adaptive Control [0.0]
ランダムに生成される重みとバイアスを持つReLUネットワークは、高い確率で$O(m-1/2)$の誤りを生じることを示す。
本稿では,モデル参照適応制御アプリケーションにおいて,必要な精度を近似するために,その結果をどのように利用できるかを示す。
論文 参考訳(メタデータ) (2024-03-25T19:39:17Z) - Bagged Polynomial Regression and Neural Networks [0.0]
時系列とデータセットの回帰は、ニューラルネットワークと同じ関数クラスを近似することができる。
textitbagged regression (BPR)は、ニューラルネットワークの魅力的な代替品である。
BPRは、衛星データを用いた作物分類において、ニューラルネットワークと同様に機能する。
論文 参考訳(メタデータ) (2022-05-17T19:55:56Z) - The Separation Capacity of Random Neural Networks [78.25060223808936]
標準ガウス重みと一様分布バイアスを持つ十分に大きな2層ReLUネットワークは、この問題を高い確率で解くことができることを示す。
我々は、相互複雑性という新しい概念の観点から、データの関連構造を定量化する。
論文 参考訳(メタデータ) (2021-07-31T10:25:26Z) - Statistically Meaningful Approximation: a Case Study on Approximating
Turing Machines with Transformers [50.85524803885483]
本研究は,統計的学習性を示すために近似ネットワークを必要とする統計有意(SM)近似の形式的定義を提案する。
回路とチューリングマシンの2つの機能クラスに対するSM近似について検討する。
論文 参考訳(メタデータ) (2021-07-28T04:28:55Z) - Interval Universal Approximation for Neural Networks [47.767793120249095]
区間普遍近似(IUA)定理を導入する。
IUAは、ニューラルネットワークが何十年にもわたって知られているような、あらゆる連続関数の$f$を近似できることを示している。
本稿では,精度の高い区間解析が可能なニューラルネットワークを構築する際の計算複雑性について検討する。
論文 参考訳(メタデータ) (2020-07-12T20:43:56Z) - Communication-Efficient Distributed Stochastic AUC Maximization with
Deep Neural Networks [50.42141893913188]
本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。
我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。
いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
論文 参考訳(メタデータ) (2020-05-05T18:08:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。