論文の概要: Non-Autoregressive vs Autoregressive Neural Networks for System Identification

• arxiv url: http://arxiv.org/abs/2105.02027v1
• Date: Wed, 5 May 2021 12:52:06 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-06 12:53:04.070986
• Title: Non-Autoregressive vs Autoregressive Neural Networks for System Identification
• Title（参考訳）: システム同定のための非自己回帰型対自己回帰型ニューラルネットワーク
• Authors: Daniel Weber and Clemens G\"uhmann
• Abstract要約: GRUとTCNの自己回帰的および非自動回帰的実装の精度と実行性能を比較します。 その結果,非自己回帰型ニューラルネットワークは,自己回帰型ニューラルネットワークに比べて有意に高速で,少なくとも精度が高いことがわかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The application of neural networks to non-linear dynamic system identification tasks has a long history, which consists mostly of autoregressive approaches. Autoregression, the usage of the model outputs of previous time steps, is a method of transferring a system state between time steps, which is not necessary for modeling dynamic systems with modern neural network structures, such as gated recurrent units (GRUs) and Temporal Convolutional Networks (TCNs). We compare the accuracy and execution performance of autoregressive and non-autoregressive implementations of a GRU and TCN on the simulation task of three publicly available system identification benchmarks. Our results show, that the non-autoregressive neural networks are significantly faster and at least as accurate as their autoregressive counterparts. Comparisons with other state-of-the-art black-box system identification methods show, that our implementation of the non-autoregressive GRU is the best performing neural network-based system identification method, and in the benchmarks without extrapolation, the best performing black-box method.
• Abstract（参考訳）: 非線形動的システム同定タスクへのニューラルネットワークの適用には長い歴史があり、そのほとんどが自己回帰的アプローチである。 オートレグレッション(autoregression)は、前の時間ステップのモデル出力を使用することで、時間ステップ間のシステム状態の転送を行う方法であり、ゲートリカレントユニット(grus)や時間畳み込みネットワーク(tcns)などの現代のニューラルネットワーク構造との動的システムのモデリングには不要である。 本稿では,GRU と TCN の自己回帰的および非自己回帰的実装の3つのシステム識別ベンチマークのシミュレーションタスクにおける精度と実行性能を比較した。 その結果,非自己回帰型ニューラルネットワークは,自己回帰型ニューラルネットワークに比べて有意に高速で,少なくとも精度が高いことがわかった。 他の最先端のブラックボックスシステム識別手法と比較すると、非自己回帰型GRUの実装は、ニューラルネットワークベースのシステム識別法として最高のパフォーマンスを示し、外挿のないベンチマークでは、最も優れたパフォーマンスのブラックボックス法である。

関連論文リスト

• Auto-Train-Once: Controller Network Guided Automatic Network Pruning from Scratch [72.26822499434446]
  オートトレインオース (Auto-Train-Once, ATO) は、DNNの計算コストと記憶コストを自動的に削減するために設計された、革新的なネットワークプルーニングアルゴリズムである。 総合的な収束解析と広範な実験を行い,本手法が様々なモデルアーキテクチャにおける最先端性能を実現することを示す。
  論文  参考訳（メタデータ） (2024-03-21T02:33:37Z)
• How neural networks learn to classify chaotic time series [77.34726150561087]
  本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。 入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
  論文  参考訳（メタデータ） (2023-06-04T08:53:27Z)
• Brain-Inspired Spiking Neural Network for Online Unsupervised Time Series Prediction [13.521272923545409]
  連続学習に基づく非教師付きリカレントスパイキングニューラルネットワークモデル(CLURSNN)を提案する。 CLURSNNは、ランダム遅延埋め込み(Random Delay Embedding)を使用して基盤となる動的システムを再構築することで、オンライン予測を行う。 提案手法は,進化するロレンツ63力学系を予測する際に,最先端のDNNモデルよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-04-10T16:18:37Z)
• A critical look at deep neural network for dynamic system modeling [0.0]
  本稿では,入力出力データを用いた動的システムのモデリングにおける(深度)ニューラルネットワークの能力に疑問を呈する。 線形時間不変(LTI)力学系の同定には、2つの代表的なニューラルネットワークモデルを比較する。 LTIシステムでは、LSTMとCFNNはノイズのないケースでも一貫したモデルを提供できない。
  論文  参考訳（メタデータ） (2023-01-27T09:03:05Z)
• Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
  スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。 我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
  論文  参考訳（メタデータ） (2022-11-19T15:44:08Z)
• Dynamics-aware Adversarial Attack of Adaptive Neural Networks [75.50214601278455]
  適応型ニューラルネットワークの動的対向攻撃問題について検討する。 本稿では,LGM(Leaded Gradient Method)を提案する。 我々のLGMは、動的無意識攻撃法と比較して、優れた敵攻撃性能を達成している。
  論文  参考訳（メタデータ） (2022-10-15T01:32:08Z)
• Interference Cancellation GAN Framework for Dynamic Channels [74.22393885274728]
  チャネルのあらゆる変更に適応できるオンライントレーニングフレームワークを導入します。 我々のフレームワークは、非常にダイナミックなチャネル上での最近のニューラルネットワークモデルよりも大幅に優れています。
  論文  参考訳（メタデータ） (2022-08-17T02:01:18Z)
• On the adaptation of recurrent neural networks for system identification [2.5234156040689237]
  本稿では,動的システムのリカレントニューラルネットワーク(RNN)モデルの高速かつ効率的な適応を可能にするトランスファー学習手法を提案する。 その後、システムダイナミクスが変化すると仮定され、摂動系における名目モデルの性能が不可避的に低下する。 ミスマッチに対処するため、新しい動的状態からの新鮮なデータに基づいてトレーニングされた付加的補正項でモデルを拡張する。
  論文  参考訳（メタデータ） (2022-01-21T12:04:17Z)
• A novel Deep Neural Network architecture for non-linear system identification [78.69776924618505]
  非線形システム識別のための新しいDeep Neural Network (DNN)アーキテクチャを提案する。 メモリシステムにインスパイアされたインダクティブバイアス(アーキテクチャ)と正規化(損失関数)を導入する。 このアーキテクチャは、利用可能なデータのみに基づいて、自動的な複雑性の選択を可能にする。
  論文  参考訳（メタデータ） (2021-06-06T10:06:07Z)
• Constrained Block Nonlinear Neural Dynamical Models [1.3163098563588727]
  既知の優先度によって調整されたニューラルネットワークモジュールは、非線形ダイナミクスを持つシステムを表現するために効果的に訓練および結合することができる。 提案手法は,入力,状態,出力のダイナミクスを表現するニューラルネットワークブロックで構成され,ネットワーク重みとシステム変数に制約を課す。 3つの非線形システムのシステム識別タスクにおける提案アーキテクチャと学習手法の性能評価を行った。
  論文  参考訳（メタデータ） (2021-01-06T04:27:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。