論文の概要: Long Short-term Cognitive Networks

• arxiv url: http://arxiv.org/abs/2106.16233v1
• Date: Wed, 30 Jun 2021 17:42:09 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-01 12:36:34.273229
• Title: Long Short-term Cognitive Networks
• Title（参考訳）: 長期短期認知ネットワーク
• Authors: Gonzalo N\'apoles, Isel Grau, Agnieszka Jastrzebska, Yamisleydi Salgueiro
• Abstract要約: 本稿では,短期認知ネットワーク(STCN)モデルの一般化として,Long Short-term Cognitive Networks (LSTCNs) と名づけられたリカレントニューラルネットワークを提案する。 我々のニューラルネットワークは、最先端のリカレントモデルよりも数千倍高速であるながら、小さな予測エラーを報告します。
• 参考スコア（独自算出の注目度）: 2.2748974006378933
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In this paper, we present a recurrent neural system named Long Short-term Cognitive Networks (LSTCNs) as a generalisation of the Short-term Cognitive Network (STCN) model. Such a generalisation is motivated by the difficulty of forecasting very long time series in an efficient, greener fashion. The LSTCN model can be defined as a collection of STCN blocks, each processing a specific time patch of the (multivariate) time series being modelled. In this neural ensemble, each block passes information to the subsequent one in the form of a weight matrix referred to as the prior knowledge matrix. As a second contribution, we propose a deterministic learning algorithm to compute the learnable weights while preserving the prior knowledge resulting from previous learning processes. As a third contribution, we introduce a feature influence score as a proxy to explain the forecasting process in multivariate time series. The simulations using three case studies show that our neural system reports small forecasting errors while being up to thousands of times faster than state-of-the-art recurrent models.
• Abstract（参考訳）: 本稿では,Long Short-term Cognitive Networks (LSTCNs) と名づけられたリカレントニューラルネットワークを,短期認知ネットワーク(STCN)モデルの一般化として提案する。 このような一般化は、効率的でグリーンな方法で非常に長い時系列を予測することの難しさに動機づけられている。 LSTCNモデルはSTCNブロックの集合として定義することができ、それぞれがモデル化されている複数の時系列の特定の時間パッチを処理する。 このニューラルアンサンブルでは、各ブロックは、前知識行列と呼ばれる重み行列の形で、後続のブロックに情報を渡す。 第2の貢献として,従来の学習プロセスから得られた知識を保存しながら学習可能な重みを計算する決定論的学習アルゴリズムを提案する。 第3の貢献として,多変量時系列の予測過程を説明するための指標として,特徴的影響スコアを提案する。 3つのケーススタディを用いたシミュレーションでは、我々のニューラルネットワークは予測エラーを報告し、最先端のリカレントモデルよりも数千倍高速である。

関連論文リスト

• Towards Scalable and Versatile Weight Space Learning [51.78426981947659]
  本稿では,重み空間学習におけるSANEアプローチを紹介する。 ニューラルネットワーク重みのサブセットの逐次処理に向けて,超表現の概念を拡張した。
  論文  参考訳（メタデータ） (2024-06-14T13:12:07Z)
• FocusLearn: Fully-Interpretable, High-Performance Modular Neural Networks for Time Series [0.3277163122167434]
  本稿では,構築によって解釈可能な時系列予測のための新しいモジュール型ニューラルネットワークモデルを提案する。 リカレントニューラルネットワークはデータ内の時間的依存関係を学習し、アテンションベースの特徴選択コンポーネントは最も関連性の高い特徴を選択する。 モジュール型のディープネットワークは、選択した機能から独立してトレーニングされ、ユーザーが機能がどのように結果に影響を与えるかを示し、モデルを解釈できる。
  論文  参考訳（メタデータ） (2023-11-28T14:51:06Z)
• How neural networks learn to classify chaotic time series [77.34726150561087]
  本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。 入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
  論文  参考訳（メタデータ） (2023-06-04T08:53:27Z)
• Learning Signal Temporal Logic through Neural Network for Interpretable Classification [13.829082181692872]
  本稿では時系列行動の分類のための説明可能なニューラルネットワーク・シンボリック・フレームワークを提案する。 提案手法の計算効率, コンパクト性, 解釈可能性について, シナリオの駆動と海軍の監視事例研究を通じて実証する。
  論文  参考訳（メタデータ） (2022-10-04T21:11:54Z)
• Online learning of windmill time series using Long Short-term Cognitive Networks [58.675240242609064]
  風車農場で生成されたデータの量は、オンライン学習が従うべき最も有効な戦略となっている。 我々はLong Short-term Cognitive Networks (LSTCNs) を用いて、オンライン環境での風車時系列を予測する。 提案手法は,単純なRNN,長期記憶,Gated Recurrent Unit,Hidden Markov Modelに対して最も低い予測誤差を報告した。
  論文  参考訳（メタデータ） (2021-07-01T13:13:24Z)
• Evaluation of deep learning models for multi-step ahead time series prediction [1.3764085113103222]
  本研究では,マルチステップ先行時系列予測のための深層学習モデルの性能を比較検討する。 当社のディープラーニングメソッドは、単純なリカレントニューラルネットワーク、長期メモリ(LSTM)ネットワーク、双方向LSTM、エンコーダデコーダLSTMネットワーク、および畳み込みニューラルネットワークを妥協します。
  論文  参考訳（メタデータ） (2021-03-26T04:07:11Z)
• Meta-Learning for Koopman Spectral Analysis with Short Time-series [49.41640137945938]
  既存の手法では、ニューラルネットワークのトレーニングに長い時間を要する。 本稿では,未知の短い時系列から埋め込み関数を推定するメタラーニング手法を提案する。 提案手法は,固有値推定と将来予測の観点から,よりよい性能を実現することを実験的に実証した。
  論文  参考訳（メタデータ） (2021-02-09T07:19:19Z)
• Ensemble perspective for understanding temporal credit assignment [1.9843222704723809]
  繰り返しニューラルネットワークにおける各接続は、正確な重み値ではなく、スパイクとスラブの分布によってモデル化されていることを示す。 本モデルでは,ネットワーク全体の性能を決定する重要な接続を明らかにする。 したがって、再帰的なニューラルネットワークにおける時間的クレジット割り当てをアンサンブルの観点から研究することを約束している。
  論文  参考訳（メタデータ） (2021-02-07T08:14:05Z)
• HiPPO: Recurrent Memory with Optimal Polynomial Projections [93.3537706398653]
  本稿では,連続信号と離散時系列をベースに投影してオンライン圧縮するための一般フレームワーク(HiPPO)を提案する。 過去の各時間ステップの重要性を示す尺度が与えられた場合、HiPPOは自然なオンライン関数近似問題に対する最適解を生成する。 このフォーマルなフレームワークは、すべての履歴を記憶するために時間をかけてスケールする新しいメモリ更新メカニズム(HiPPO-LegS)を提供する。
  論文  参考訳（メタデータ） (2020-08-17T23:39:33Z)
• Learned Factor Graphs for Inference from Stationary Time Sequences [107.63351413549992]
  定常時間列のためのモデルベースアルゴリズムとデータ駆動型MLツールを組み合わせたフレームワークを提案する。 ニューラルネットワークは、時系列の分布を記述する因子グラフの特定のコンポーネントを別々に学習するために開発された。 本稿では,学習された定常因子グラフに基づく推論アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-05T07:06:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。