Fugu-MT 論文翻訳(概要): Chebyshev Feature Neural Network for Accurate Function Approximation

論文の概要: Chebyshev Feature Neural Network for Accurate Function Approximation

arxiv url: http://arxiv.org/abs/2409.19135v2
Date: Sun, 22 Dec 2024 06:43:48 GMT
ステータス: 翻訳完了
システム内更新日: 2024-12-24 15:55:07.432589
Title: Chebyshev Feature Neural Network for Accurate Function Approximation
Title（参考訳）: 正確な関数近似のためのチェビシェフ特徴ニューラルネットワーク
Authors: Zhongshu Xu, Yuan Chen, Dongbin Xiu,
Abstract要約: 本稿では,関数を機械的精度まで近似できる新しいDeep Neural Networkアーキテクチャを提案する。 Chebyshev Feature Neural Network (CFNN)と呼ばれる新しい構造では、学習可能な周波数を持つChebyshev関数を最初の隠れ層として採用している。
参考スコア（独自算出の注目度）: 3.8769921482808116
License:
Abstract: We present a new Deep Neural Network (DNN) architecture capable of approximating functions up to machine accuracy. Termed Chebyshev Feature Neural Network (CFNN), the new structure employs Chebyshev functions with learnable frequencies as the first hidden layer, followed by the standard fully connected hidden layers. The learnable frequencies of the Chebyshev layer are initialized with exponential distributions to cover a wide range of frequencies. Combined with a multi-stage training strategy, we demonstrate that this CFNN structure can achieve machine accuracy during training. A comprehensive set of numerical examples for dimensions up to $20$ are provided to demonstrate the effectiveness and scalability of the method.
Abstract（参考訳）: 本稿では,関数を機械的精度まで近似できる新しいDeep Neural Network (DNN)アーキテクチャを提案する。 CFNN(Chebyshev Feature Neural Network)と呼ばれる新しい構造では、学習可能な周波数のChebyshev関数を第1の隠蔽層として使用し、次いで標準の完全に接続された隠蔽層を使用する。チェビシェフ層の学習可能な周波数は、幅広い周波数をカバーする指数分布で初期化される。マルチステージトレーニング戦略と組み合わせて、このCFNN構造がトレーニング中に機械の精度を達成できることを実証する。提案手法の有効性と拡張性を示すため, 最大20ドルまでの数値例を包括的に提供した。

関連論文リスト

Tiled Bit Networks: Sub-Bit Neural Network Compression Through Reuse of Learnable Binary Vectors [4.95475852994362]
本稿では,バイナリ重み付きニューラルネットワークのサブビット圧縮を実現するために,ビット列を持つタイル型ニューラルネットワーク層に対する新しい量子化方式を提案する。私たちは完全に接続された層と畳み込み層の両方にアプローチを採用しています。
論文参考訳（メタデータ） (2024-07-16T15:55:38Z)
Lipschitz constant estimation for general neural network architectures using control tools [0.05120567378386613]
本稿では,半定値プログラミングを用いた一般ニューラルネットワークアーキテクチャのリプシッツ定数の推定について述べる。我々はニューラルネットワークを時間変動力学系と解釈し、そこでは、$k$th層は、時間で$k$の力学に対応する。
論文参考訳（メタデータ） (2024-05-02T09:38:16Z)
How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文参考訳（メタデータ） (2023-06-04T08:53:27Z)
Gradient Descent in Neural Networks as Sequential Learning in RKBS [63.011641517977644]
初期重みの有限近傍にニューラルネットワークの正確な電力系列表現を構築する。幅にかかわらず、勾配降下によって生成されたトレーニングシーケンスは、正規化された逐次学習によって正確に複製可能であることを証明した。
論文参考訳（メタデータ） (2023-02-01T03:18:07Z)
Exploring the Approximation Capabilities of Multiplicative Neural Networks for Smooth Functions [9.936974568429173]
対象関数のクラスは、一般化帯域制限関数とソボレフ型球である。以上の結果から、乗法ニューラルネットワークは、これらの関数をはるかに少ない層とニューロンで近似できることを示した。これらの結果は、乗法ゲートが標準フィードフォワード層より優れ、ニューラルネットワーク設計を改善する可能性があることを示唆している。
論文参考訳（メタデータ） (2023-01-11T17:57:33Z)
Towards a General Purpose CNN for Long Range Dependencies in $\mathrm{N}$D [49.57261544331683]
構造変化のない任意の解像度,次元,長さのタスクに対して,連続的な畳み込みカーネルを備えた単一CNNアーキテクチャを提案する。 1$mathrmD$)とビジュアルデータ(2$mathrmD$)の幅広いタスクに同じCCNNを適用することで、我々のアプローチの汎用性を示す。私たちのCCNNは競争力があり、検討されたすべてのタスクで現在の最先端を上回ります。
論文参考訳（メタデータ） (2022-06-07T15:48:02Z)
On Feature Learning in Neural Networks with Global Convergence Guarantees [49.870593940818715]
勾配流(GF)を用いた広帯域ニューラルネットワーク(NN)の最適化について検討する。入力次元がトレーニングセットのサイズ以下である場合、トレーニング損失はGFの下での線形速度で0に収束することを示す。また、ニューラル・タンジェント・カーネル(NTK)システムとは異なり、我々の多層モデルは特徴学習を示し、NTKモデルよりも優れた一般化性能が得られることを実証的に示す。
論文参考訳（メタデータ） (2022-04-22T15:56:43Z)
Scalable Lipschitz Residual Networks with Convex Potential Flows [120.27516256281359]
残差ネットワーク勾配流における凸ポテンシャルを用いることで,1ドルのLipschitz変換が組み込まれていることを示す。 CIFAR-10の包括的な実験は、アーキテクチャのスケーラビリティと、証明可能な防御に$ell$のアプローチの利点を実証している。
論文参考訳（メタデータ） (2021-10-25T07:12:53Z)
Neural Network Structure Design based on N-Gauss Activation Function [0.2578242050187029]
我々は、MNIST、CIFAR10、CIFAR100を訓練するために、コアブロックN-Gauss、N-Gauss、Swishニューラルネットワーク構造設計を導入する。 N-Gaussは、深い畳み込みニューラルネットワークが階層的な非線形マッピング学習能力を持つように、活性化関数の非線形モデリングの主要な役割を果たす。
論文参考訳（メタデータ） (2021-06-01T11:16:37Z)
Wireless Localisation in WiFi using Novel Deep Architectures [4.541069830146568]
本稿では,コモディティ・チップセットと標準チャネル・サウンドによるWiFi機器の屋内位置推定について検討する。本稿では、異なるアンテナで受信されたWiFiサブキャリアに対応するチャネル状態情報から特徴を抽出する、新しい浅層ニューラルネットワーク(SNN)を提案する。
論文参考訳（メタデータ） (2020-10-16T22:48:29Z)
Network Adjustment: Channel Search Guided by FLOPs Utilization Ratio [101.84651388520584]
本稿では,ネットワークの精度をFLOPの関数として考慮した,ネットワーク調整という新しいフレームワークを提案する。標準画像分類データセットと幅広いベースネットワークの実験は、我々のアプローチの有効性を実証している。
論文参考訳（メタデータ） (2020-04-06T15:51:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。