Fugu-MT 論文翻訳(概要): Universal approximation property of ODENet and ResNet with a single activation function

論文の概要: Universal approximation property of ODENet and ResNet with a single activation function

arxiv url: http://arxiv.org/abs/2410.16709v1
Date: Tue, 22 Oct 2024 05:27:01 GMT
ステータス: 翻訳完了
システム内更新日: 2024-10-23 14:30:40.250717
Title: Universal approximation property of ODENet and ResNet with a single activation function
Title（参考訳）: 単一活性化関数を持つODENetとResNetの普遍近似特性
Authors: Masato Kimura, Kazunori Matsui, Yosuke Mizuno,
Abstract要約: 本研究ではODENetとResNetの普遍近似特性について検討する。制限ベクトル場を持つようなODENetとResNetは、一般ベクトル場を持つODENetを均一に近似できることを示す。
参考スコア（独自算出の注目度）: 0.0
License:
Abstract: We study a universal approximation property of ODENet and ResNet. The ODENet is a map from an initial value to the final value of an ODE system in a finite interval. It is considered a mathematical model of a ResNet-type deep learning system. We consider dynamical systems with vector fields given by a single composition of the activation function and an affine mapping, which is the most common choice of the ODENet or ResNet vector field in actual machine learning systems. We show that such an ODENet and ResNet with a restricted vector field can uniformly approximate ODENet with a general vector field.
Abstract（参考訳）: 本研究ではODENetとResNetの普遍近似特性について検討する。 ODENet は、初期値から有限間隔におけるODEシステムの最終値への写像である。 ResNet型ディープラーニングシステムの数学的モデルと考えられている。本稿では,アクティベーション関数の単一構成とアフィンマッピングによって与えられるベクトル場を持つ動的系について考察する。制限ベクトル場を持つようなODENetとResNetは、一般ベクトル場を持つODENetを均一に近似できることを示す。

関連論文リスト

An Intrinsic Vector Heat Network [64.55434397799728]
本稿では,3次元に埋め込まれた接ベクトル場を学習するためのニューラルネットワークアーキテクチャを提案する。本研究では, ベクトル値の特徴データを空間的に伝播させるために, トレーニング可能なベクトル熱拡散モジュールを提案する。また,四面体メッシュ生成の産業的有用性に対する本手法の有効性を実証した。
論文参考訳（メタデータ） (2024-06-14T00:40:31Z)
GIT-Net: Generalized Integral Transform for Operator Learning [58.13313857603536]
本稿では、部分微分方程式(PDE)演算子を近似するディープニューラルネットワークアーキテクチャであるGIT-Netを紹介する。 GIT-Netは、PDEを定義するためによく使われる微分作用素が、特殊機能基底で表現されるときに、しばしば同義的に表現されるという事実を利用する。数値実験により、GIT-Netは競争力のあるニューラルネットワーク演算子であり、様々なPDE問題に対して小さなテストエラーと低い評価を示すことが示された。
論文参考訳（メタデータ） (2023-12-05T03:03:54Z)
Faster Training of Neural ODEs Using Gau{\ss}-Legendre Quadrature [68.9206193762751]
ニューラルネットワークの訓練を高速化する代替手法を提案する。我々はGuss-Legendre乗法を用いて、ODEベースの方法よりも高速に積分を解く。また、Wong-Zakai定理を用いて、対応するODEをトレーニングし、パラメータを転送することで、SDEのトレーニングにも拡張する。
論文参考訳（メタデータ） (2023-08-21T11:31:15Z)
From NeurODEs to AutoencODEs: a mean-field control framework for width-varying Neural Networks [68.8204255655161]
本稿では,動的に駆動する制御フィールドをベースとした,AutoencODEと呼ばれる新しいタイプの連続時間制御システムを提案する。損失関数が局所凸な領域では,多くのアーキテクチャが復元可能であることを示す。
論文参考訳（メタデータ） (2023-07-05T13:26:17Z)
Neural Generalized Ordinary Differential Equations with Layer-varying Parameters [1.3691539554014036]
層状ニューラルGODEは標準ニューラルGODEよりも柔軟で汎用的であることを示す。 Neural-GODEは、予測精度でResNetsと互換性を持って実行しながら、計算とメモリの利点を享受する。
論文参考訳（メタデータ） (2022-09-21T20:02:28Z)
Learning Multi-Object Dynamics with Compositional Neural Radiance Fields [63.424469458529906]
本稿では,暗黙的オブジェクトエンコーダ,ニューラルレージアンスフィールド(NeRF),グラフニューラルネットワークに基づく画像観測から構成予測モデルを学習する手法を提案する。 NeRFは3D以前の強みから、シーンを表現するための一般的な選択肢となっている。提案手法では,学習した潜時空間にRTを応用し,そのモデルと暗黙のオブジェクトエンコーダを用いて潜時空間を情報的かつ効率的にサンプリングする。
論文参考訳（メタデータ） (2022-02-24T01:31:29Z)
HeunNet: Extending ResNet using Heun's Methods [1.0071258008543083]
HeunNet は ResNet の予測型コレクタである。フンの手法はオイラーの方法よりも正確である。 HeunNetは計算時間が少なくて精度が高い。
論文参考訳（メタデータ） (2021-05-13T09:55:26Z)
Artificial neural network as a universal model of nonlinear dynamical systems [0.0]
このマップは、重みがモデル化されたシステムをエンコードする人工知能ニューラルネットワークとして構築されている。ローレンツ系、ロースラー系およびヒンドマール・ロースニューロンを考察する。誘引子、パワースペクトル、分岐図、リャプノフ指数の視覚像に高い類似性が観察される。
論文参考訳（メタデータ） (2021-03-06T16:02:41Z)
Accelerating ODE-Based Neural Networks on Low-Cost FPGAs [3.4795226670772745]
ODENetは、ResNetの積み重ね構造を通常の微分方程式解決器で実装したディープニューラルネットワークアーキテクチャである。適切な解法を選択することで、パラメータの数を減らし、精度と性能のバランスを取ることができる。リソース制限エッジデバイスで同じパラメータ数を維持しながら、精度を向上させることも可能です。
論文参考訳（メタデータ） (2020-12-31T06:39:22Z)
Universal Approximation Properties for an ODENet and a ResNet: Mathematical Analysis and Numerical Experiments [0.0]
ODENetのクラスとResNetのクラスに対する普遍近似特性(UAP)を証明する。これを用いてODENetの学習アルゴリズムを構築する。
論文参考訳（メタデータ） (2020-12-22T06:04:09Z)
Deep Polynomial Neural Networks [77.70761658507507]
$Pi$Netsは拡張に基づいた関数近似の新しいクラスである。 $Pi$Netsは、画像生成、顔検証、および3Dメッシュ表現学習という3つの困難なタスクで、最先端の結果を生成する。
論文参考訳（メタデータ） (2020-06-20T16:23:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。