Fugu-MT 論文翻訳(概要): Approximations with deep neural networks in Sobolev time-space

論文の概要: Approximations with deep neural networks in Sobolev time-space

arxiv url: http://arxiv.org/abs/2101.06115v1
Date: Wed, 23 Dec 2020 22:21:05 GMT
ステータス: 処理完了
システム内更新日: 2021-04-25 17:59:53.308096
Title: Approximations with deep neural networks in Sobolev time-space
Title（参考訳）: ソボレフ時間空間におけるディープニューラルネットワークの近似
Authors: Ahmed Abdeljawad and Philipp Grohs
Abstract要約: 進化方程式の解は一般に特定のボヒナー・ソボレフ空間にある。ディープニューラルネットワークは、ボヒナー・ソボレフ空間に関してソボレフ正則関数を近似することができる。
参考スコア（独自算出の注目度）: 5.863264019032882
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Solutions of evolution equation generally lies in certain Bochner-Sobolev spaces, in which the solution may has regularity and integrability properties for the time variable that can be different for the space variables. Therefore, in this paper, we develop a framework shows that deep neural networks can approximate Sobolev-regular functions with respect to Bochner-Sobolev spaces. In our work we use the so-called Rectified Cubic Unit (ReCU) as an activation function in our networks, which allows us to deduce approximation results of the neural networks while avoiding issues caused by the non regularity of the most commonly used Rectivied Linear Unit (ReLU) activation function.
Abstract（参考訳）: 進化方程式の解は、一般に特定のボヒナー・ソボレフ空間に存在し、解は空間変数に対して異なる時間変数に対して正則性と可積分性を持つ。そこで本稿では,ディープニューラルネットワークがボヒナー・ソボレフ空間に対してソボレフ正則関数を近似できることを示す枠組みを開発した。我々の研究では、いわゆるRectified Cubic Unit(ReCU)をネットワークのアクティベーション関数として使用し、最も一般的に使用されるRectived Linear Unit(ReLU)アクティベーション関数の非正規性に起因する問題を回避しつつ、ニューラルネットワークの近似結果の導出を可能にする。

関連論文リスト

Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文参考訳（メタデータ） (2023-04-17T14:23:43Z)
Permutation Equivariant Neural Functionals [92.0667671999604]
この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
論文参考訳（メタデータ） (2023-02-27T18:52:38Z)
Learning Low Dimensional State Spaces with Overparameterized Recurrent Neural Nets [57.06026574261203]
我々は、長期記憶をモデル化できる低次元状態空間を学習するための理論的証拠を提供する。実験は、線形RNNと非線形RNNの両方で低次元状態空間を学習することで、我々の理論を裏付けるものである。
論文参考訳（メタデータ） (2022-10-25T14:45:15Z)
Sobolev-type embeddings for neural network approximation spaces [5.863264019032882]
近似可能な速度に応じて関数を分類するニューラルネットワーク近似空間を考察する。 p$の異なる値に対して、これらの空間間の埋め込み定理を証明する。古典函数空間の場合と同様、可積分性を高めるために「滑らかさ」(すなわち近似率)を交換できる。
論文参考訳（メタデータ） (2021-10-28T17:11:38Z)
Near-Minimax Optimal Estimation With Shallow ReLU Neural Networks [19.216784367141972]
本研究では,浅層(単層)ReLUニューラルネットワークを用いた雑音データから未知の関数を推定する問題について検討する。我々は、データ生成関数がラドン領域における二階有界変動関数の空間に属するとき、これらのニューラルネットワーク推定器の性能を定量化する。
論文参考訳（メタデータ） (2021-09-18T05:56:06Z)
Convolutional Filtering and Neural Networks with Non Commutative Algebras [153.20329791008095]
本研究では,非可換畳み込みニューラルネットワークの一般化について検討する。非可換畳み込み構造は作用素空間上の変形に対して安定であることを示す。
論文参考訳（メタデータ） (2021-08-23T04:22:58Z)
The Separation Capacity of Random Neural Networks [78.25060223808936]
標準ガウス重みと一様分布バイアスを持つ十分に大きな2層ReLUネットワークは、この問題を高い確率で解くことができることを示す。我々は、相互複雑性という新しい概念の観点から、データの関連構造を定量化する。
論文参考訳（メタデータ） (2021-07-31T10:25:26Z)
What Kinds of Functions do Deep Neural Networks Learn? Insights from Variational Spline Theory [19.216784367141972]
本研究では,ReLUアクティベーション機能を用いた深層ニューラルネットワークが学習する関数の特性を理解するための変分フレームワークを開発する。我々は、深層 relu ネットワークが、この関数空間における正規化データ適合問題の解であることを示す表現子定理を導出する。
論文参考訳（メタデータ） (2021-05-07T16:18:22Z)
Banach Space Representer Theorems for Neural Networks and Ridge Splines [17.12783792226575]
データに適合するニューラルネットワークで学習した関数の性質を理解するための変分フレームワークを開発する。有限幅単層ニューラルネットワークが逆問題に対する解であることを示す代表者定理を導出する。
論文参考訳（メタデータ） (2020-06-10T02:57:37Z)
Approximation in shift-invariant spaces with deep ReLU neural networks [7.7084107194202875]
拡張シフト不変空間における近似関数に対する深部ReLUニューラルネットワークの表現力について検討する。近似誤差境界は、ニューラルネットワークの幅と深さに対して推定される。
論文参考訳（メタデータ） (2020-05-25T07:23:47Z)
Neural Operator: Graph Kernel Network for Partial Differential Equations [57.90284928158383]
この作業はニューラルネットワークを一般化し、無限次元空間(演算子)間の写像を学習できるようにすることである。非線形活性化関数と積分作用素のクラスを構成することにより、無限次元写像の近似を定式化する。実験により,提案したグラフカーネルネットワークには所望の特性があり,最先端技術と比較した場合の競合性能を示すことが確認された。
論文参考訳（メタデータ） (2020-03-07T01:56:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。