論文の概要: Frequency-Supported Neural Networks for Nonlinear Dynamical System
Identification
- arxiv url: http://arxiv.org/abs/2305.06344v1
- Date: Wed, 10 May 2023 17:52:33 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-11 11:55:15.225964
- Title: Frequency-Supported Neural Networks for Nonlinear Dynamical System
Identification
- Title(参考訳): 非線形力学系同定のための周波数対応ニューラルネットワーク
- Authors: Krzysztof Zaj\k{a}c and Pawe{\l} Wachel
- Abstract要約: 理論的な観点から、一般性が失われることなく、周波数情報を追加することが可能であることを示す。
我々は、この新しい構造を周波数対応ニューラルネットワーク(FSNN)と呼び、その特性を実証的に調査する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural networks are a very general type of model capable of learning various
relationships between multiple variables. One example of such relationships,
particularly interesting in practice, is the input-output relation of nonlinear
systems, which has a multitude of applications. Studying models capable of
estimating such relation is a broad discipline with numerous theoretical and
practical results. Neural networks are very general, but multiple special cases
exist, including convolutional neural networks and recurrent neural networks,
which are adjusted for specific applications, which are image and sequence
processing respectively. We formulate a hypothesis that adjusting general
network structure by incorporating frequency information into it should result
in a network specifically well suited to nonlinear system identification.
Moreover, we show that it is possible to add this frequency information without
the loss of generality from a theoretical perspective. We call this new
structure Frequency-Supported Neural Network (FSNN) and empirically investigate
its properties.
- Abstract(参考訳): ニューラルネットワークは、複数の変数間のさまざまな関係を学習できる非常に一般的なモデルである。
そのような関係の例として、特に興味深いのは、多くの応用がある非線形システムの入出力関係である。
このような関係を推定できるモデルの研究は、多くの理論的、実践的な結果を持つ幅広い分野である。
ニューラルネットワークは非常に一般的なものだが、畳み込みニューラルネットワークやリカレントニューラルネットワークなど、画像処理やシーケンス処理といった特定のアプリケーション向けに調整された複数の特殊なケースが存在する。
周波数情報を取り込んで一般ネットワーク構造を調整することにより、非線形システム同定に適したネットワークを構築するという仮説を定式化する。
さらに,この周波数情報を理論的な観点から一般性を失うことなく追加することが可能であることを示す。
この新しい構造周波数支援ニューラルネットワーク(fsnn)と呼び,その特性を実験的に検証する。
関連論文リスト
- Function-Space Regularization in Neural Networks: A Probabilistic
Perspective [51.133793272222874]
所望の予測関数に関する情報をニューラルネットワークトレーニングに明示的にエンコードできる、モチベーションの高い正規化手法を導出できることが示される。
本手法の有効性を実証的に評価し,提案手法がほぼ完全なセマンティックシフト検出と高度に校正された予測不確実性推定に繋がることを示す。
論文 参考訳(メタデータ) (2023-12-28T17:50:56Z) - Joint Group Invariant Functions on Data-Parameter Domain Induce
Universal Neural Networks [14.45619075342763]
本稿では、一般化されたニューラルネットワークとその右逆演算子であるリッジレット変換を誘導する体系的手法を提案する。
リッジレット変換は逆であるため、対象関数を表すためにネットワークのパラメータの配置を記述することができる。
より広い階層のネットワークを包含する統一的な方法でシュルの補題を用いて、普遍性の新たな単純な証明を示す。
論文 参考訳(メタデータ) (2023-10-05T13:30:37Z) - TANGOS: Regularizing Tabular Neural Networks through Gradient
Orthogonalization and Specialization [69.80141512683254]
TANGOS(Tbular Neural Gradient Orthogonalization and gradient)を紹介する。
TANGOSは、潜在ユニット属性上に構築された表の設定を正規化するための新しいフレームワークである。
提案手法は,他の一般的な正規化手法よりも優れ,サンプル外一般化性能の向上につながることを実証する。
論文 参考訳(メタデータ) (2023-03-09T18:57:13Z) - Simple initialization and parametrization of sinusoidal networks via
their kernel bandwidth [92.25666446274188]
従来の活性化機能を持つネットワークの代替として、活性化を伴う正弦波ニューラルネットワークが提案されている。
まず,このような正弦波ニューラルネットワークの簡易版を提案する。
次に、ニューラルタンジェントカーネルの観点からこれらのネットワークの挙動を分析し、そのカーネルが調整可能な帯域幅を持つ低域フィルタを近似することを実証する。
論文 参考訳(メタデータ) (2022-11-26T07:41:48Z) - Entangled Residual Mappings [59.02488598557491]
残余接続の構造を一般化するために、絡み合った残余写像を導入する。
絡み合い残余写像は、アイデンティティスキップ接続を特別な絡み合い写像に置き換える。
絡み合った写像は、様々な深層モデルにまたがる特徴の反復的洗練を保ちながら、畳み込みネットワークにおける表現学習プロセスに影響を及ぼすことを示す。
論文 参考訳(メタデータ) (2022-06-02T19:36:03Z) - Orthogonal Stochastic Configuration Networks with Adaptive Construction
Parameter for Data Analytics [6.940097162264939]
ランダム性により、SCNは冗長で品質の低い近似線形相関ノードを生成する可能性が高まる。
機械学習の基本原理、すなわち、パラメータが少ないモデルでは、一般化が向上する。
本稿では,ネットワーク構造低減のために,低品質な隠れノードをフィルタする直交SCN(OSCN)を提案する。
論文 参考訳(メタデータ) (2022-05-26T07:07:26Z) - Implicit Bias of Linear Equivariant Networks [2.580765958706854]
群同変畳み込みニューラルネットワーク(G-CNN)は畳み込みニューラルネットワーク(CNN)の一般化である
低ランクフーリエ行列係数の解に勾配勾配勾配を学習した$L$層全幅線形G-CNNが収束することを示す。
論文 参考訳(メタデータ) (2021-10-12T15:34:25Z) - Lattice gauge equivariant convolutional neural networks [0.0]
汎用機械学習アプリケーションのためのLattice gauge equivariant Convolutional Neural Networks (L-CNNs)を提案する。
L-CNNは従来の畳み込みニューラルネットワークでは見つけられないゲージ不変量を学習・一般化できることを示した。
論文 参考訳(メタデータ) (2020-12-23T19:00:01Z) - Neural Subdivision [58.97214948753937]
本稿では,データ駆動型粗粒度モデリングの新しいフレームワークであるNeural Subdivisionを紹介する。
すべてのローカルメッシュパッチで同じネットワーク重みのセットを最適化するため、特定の入力メッシュや固定属、カテゴリに制約されないアーキテクチャを提供します。
単一の高分解能メッシュでトレーニングしても,本手法は新規な形状に対して合理的な区分を生成する。
論文 参考訳(メタデータ) (2020-05-04T20:03:21Z) - Fiedler Regularization: Learning Neural Networks with Graph Sparsity [6.09170287691728]
ニューラルネットワークの基盤となるグラフィカル構造を包含し、尊重する、ディープラーニングのための新しい正規化アプローチを導入する。
我々は、ニューラルネットワークの基盤となるグラフのFiedler値を正規化のツールとして使うことを提案する。
論文 参考訳(メタデータ) (2020-03-02T16:19:33Z) - Generalizing Convolutional Neural Networks for Equivariance to Lie
Groups on Arbitrary Continuous Data [52.78581260260455]
任意の特定のリー群からの変換に同値な畳み込み層を構築するための一般的な方法を提案する。
同じモデルアーキテクチャを画像、ボール・アンド・スティック分子データ、ハミルトン力学系に適用する。
論文 参考訳(メタデータ) (2020-02-25T17:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。