論文の概要: Extending the Universal Approximation Theorem for a Broad Class of
Hypercomplex-Valued Neural Networks
- arxiv url: http://arxiv.org/abs/2209.02456v1
- Date: Tue, 6 Sep 2022 12:45:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-07 14:37:40.739526
- Title: Extending the Universal Approximation Theorem for a Broad Class of
Hypercomplex-Valued Neural Networks
- Title（参考訳）: 超複素値ニューラルネットワークの広範クラスに対する普遍近似定理の拡張
- Authors: Wington L. Vital, Guilherme Vieira, and Marcos Eduardo Valle
- Abstract要約: 普遍近似定理は、単一の隠れ層ニューラルネットワークがコンパクト集合上の任意の所望の精度で連続関数を近似すると主張する。
本稿では,超複素数値ニューラルネットワークの広範クラスに対する普遍近似定理を拡張した。
- 参考スコア（独自算出の注目度）: 1.0323063834827413
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The universal approximation theorem asserts that a single hidden layer neural
network approximates continuous functions with any desired precision on compact
sets. As an existential result, the universal approximation theorem supports
the use of neural networks for various applications, including regression and
classification tasks. The universal approximation theorem is not limited to
real-valued neural networks but also holds for complex, quaternion, tessarines,
and Clifford-valued neural networks. This paper extends the universal
approximation theorem for a broad class of hypercomplex-valued neural networks.
Precisely, we first introduce the concept of non-degenerate hypercomplex
algebra. Complex numbers, quaternions, and tessarines are examples of
non-degenerate hypercomplex algebras. Then, we state the universal
approximation theorem for hypercomplex-valued neural networks defined on a
non-degenerate algebra.
- Abstract（参考訳）: 普遍近似定理は、単一の隠れ層ニューラルネットワークがコンパクト集合上の任意の所望の精度で連続関数を近似すると主張する。
実存的な結果として、普遍近似定理は回帰や分類タスクを含む様々なアプリケーションにおけるニューラルネットワークの利用を支持する。
普遍近似定理は、実数値ニューラルネットワークに限らず、複素、四元数、テッサリン、クリフォード値ニューラルネットワークに対しても成り立つ。
本稿では,超複素値ニューラルネットワークの広範クラスに対する普遍近似定理を拡張する。
正確には、まず非退化超複素代数の概念を導入する。
複素数、四元数、テッサリンは非退化超複素代数の例である。
そして、非退化代数上で定義される超複素数値ニューラルネットワークに対する普遍近似定理を述べる。
関連論文リスト
- Novel Kernel Models and Exact Representor Theory for Neural Networks Beyond the Over-Parameterized Regime [52.00917519626559]
本稿では、ニューラルネットワークの2つのモデルと、任意の幅、深さ、トポロジーのニューラルネットワークに適用可能なトレーニングについて述べる。
また、局所外在性神経核(LeNK)の観点から、非正規化勾配降下を伴う階層型ニューラルネットワークトレーニングのための正確な表現子理論を提示する。
この表現論は、ニューラルネットワークトレーニングにおける高次統計学の役割と、ニューラルネットワークのカーネルモデルにおけるカーネル進化の影響について洞察を与える。
論文 参考訳（メタデータ） (2024-05-24T06:30:36Z) - Universal Approximation Theorem for Vector- and Hypercomplex-Valued Neural Networks [0.3686808512438362]
普遍近似定理(英: universal approximation theorem)は、1つの隠れた層を持つニューラルネットワークがコンパクト集合上の連続関数を近似できるという定理である。
これは、実数値ニューラルネットワークと超複素数値ニューラルネットワークに有効である。
論文 参考訳（メタデータ） (2024-01-04T13:56:13Z) - On the Approximation and Complexity of Deep Neural Networks to Invariant
Functions [0.0]
深部ニューラルネットワークの不変関数への近似と複雑性について検討する。
様々なタイプのニューラルネットワークモデルにより、幅広い不変関数を近似できることを示す。
我々は,高分解能信号のパラメータ推定と予測を理論的結論と結びつけることが可能なアプリケーションを提案する。
論文 参考訳（メタデータ） (2022-10-27T09:19:19Z) - Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a
Polynomial Net Study [55.12108376616355]
NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。
本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。
我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
論文 参考訳（メタデータ） (2022-09-16T06:36:06Z) - A note on the complex and bicomplex valued neural networks [0.0]
まず、複素多値ニューラルネットワーク(CMVNN)のパーセプトロン収束アルゴリズムの証明を記述する。
我々の第一の目的は、両複素多値ニューラルネットワーク(BMVNN)のパーセプトロン収束アルゴリズムを定式化し、証明することである。
論文 参考訳（メタデータ） (2022-02-04T19:25:01Z) - Towards Understanding Theoretical Advantages of Complex-Reaction
Networks [77.34726150561087]
パラメータ数を用いて,関数のクラスを複素反応ネットワークで近似できることを示す。
経験的リスク最小化については,複素反応ネットワークの臨界点集合が実数値ネットワークの固有部分集合であることを示す。
論文 参考訳（メタデータ） (2021-08-15T10:13:49Z) - Optimal Approximation with Sparse Neural Networks and Applications [0.0]
深い疎結合ニューラルネットワークを用いて、関数クラスの複雑性を$L(mathbb Rd)$で測定する。
また、ニューラルネットワークを誘導する関数の可算コレクションである表現システムについても紹介する。
次に、レート歪曲理論とウェッジレット構成を用いて、$beta$マンガ的関数と呼ばれるクラスの複雑性を分析する。
論文 参考訳（メタデータ） (2021-08-14T05:14:13Z) - The Separation Capacity of Random Neural Networks [78.25060223808936]
標準ガウス重みと一様分布バイアスを持つ十分に大きな2層ReLUネットワークは、この問題を高い確率で解くことができることを示す。
我々は、相互複雑性という新しい概念の観点から、データの関連構造を定量化する。
論文 参考訳（メタデータ） (2021-07-31T10:25:26Z) - Universal Approximation Theorem for Neural Networks [0.0]
ニューラルネットワークのUniversal Approximation Theorem for Neural Networks" では、ニューラルネットワークは適切な設定の下で特定の関数空間に密着していると述べている。
本稿では,フィードフォワードニューラルネットワークに対する普遍近似定理の包括的説明を行う。
論文 参考訳（メタデータ） (2021-02-19T08:25:24Z) - Generalization bound of globally optimal non-convex neural network
training: Transportation map estimation by infinite dimensional Langevin
dynamics [50.83356836818667]
本稿では,ディープラーニングの最適化を一般化誤差と関連づけて解析する理論フレームワークを提案する。
ニューラルネットワーク最適化分析のための平均場理論やニューラル・タンジェント・カーネル理論のような既存のフレームワークは、そのグローバル収束を示すために、ネットワークの無限幅の限界を取る必要がある。
論文 参考訳（メタデータ） (2020-07-11T18:19:50Z) - Coupling-based Invertible Neural Networks Are Universal Diffeomorphism
Approximators [72.62940905965267]
結合フロー(CF-INN)に基づく可逆ニューラルネットワークは、画像合成や表現学習など、さまざまな機械学習応用を有する。
CF-INNは可逆関数に対する普遍近似器か?
我々は、ある微分同相類に対する普遍性の同値性を示す一般的な定理を証明する。
論文 参考訳（メタデータ） (2020-06-20T02:07:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。