論文の概要: Temporal Convolution Derived Multi-Layered Reservoir Computing
- arxiv url: http://arxiv.org/abs/2407.06771v1
- Date: Tue, 9 Jul 2024 11:40:46 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-10 18:17:01.380286
- Title: Temporal Convolution Derived Multi-Layered Reservoir Computing
- Title（参考訳）: 多層貯留層計算による時間畳み込み
- Authors: Johannes Viehweg, Dominik Walther, Prof. Dr. -Ing. Patrick Mäder,
- Abstract要約: 貯水池の状態空間への入力データの新たなマッピングを提案する。
ニューラルネットワークの並列化性,深さ,予測能力を向上する2つの新しいネットワークアーキテクチャにこの手法を組み込む。
カオス時系列では、それぞれエコー状態ネットワークとゲート再帰ユニットに対して、最大85.45%$と最大8.7.90%$の誤差低減が観察される。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The prediction of time series is a challenging task relevant in such diverse applications as analyzing financial data, forecasting flow dynamics or understanding biological processes. Especially chaotic time series that depend on a long history pose an exceptionally difficult problem. While machine learning has shown to be a promising approach for predicting such time series, it either demands long training time and much training data when using deep recurrent neural networks. Alternative, when using a reservoir computing approach it comes with high uncertainty and typically a high number of random initializations and extensive hyper-parameter tuning when using a reservoir computing approach. In this paper, we focus on the reservoir computing approach and propose a new mapping of input data into the reservoir's state space. Furthermore, we incorporate this method in two novel network architectures increasing parallelizability, depth and predictive capabilities of the neural network while reducing the dependence on randomness. For the evaluation, we approximate a set of time series from the Mackey-Glass equation, inhabiting non-chaotic as well as chaotic behavior and compare our approaches in regard to their predictive capabilities to echo state networks and gated recurrent units. For the chaotic time series, we observe an error reduction of up to $85.45\%$ and up to $87.90\%$ in contrast to echo state networks and gated recurrent units respectively. Furthermore, we also observe tremendous improvements for non-chaotic time series of up to $99.99\%$ in contrast to existing approaches.
- Abstract（参考訳）: 時系列の予測は、財務データの分析、フローのダイナミクスの予測、生物学的プロセスの理解など、様々な分野での課題である。
特に長い歴史に依存する混乱した時系列は、非常に難しい問題を引き起こす。
機械学習は、そのような時系列を予測するための有望なアプローチであることを示しているが、深いリカレントニューラルネットワークを使用する場合、長いトレーニング時間と多くのトレーニングデータを必要とする。
あるいは、貯水池コンピューティングアプローチを使用する場合、それは高い不確実性を持ち、通常、貯水池コンピューティングアプローチを使用する場合、多くのランダム初期化と広範囲なハイパーパラメータチューニングが伴う。
本稿では,貯水池の計算手法に着目し,貯水池の状態空間への入力データの新たなマッピングを提案する。
さらに,この手法を2つの新しいネットワークアーキテクチャに組み込むことにより,ニューラルネットワークの並列性,深さ,予測能力を向上し,ランダム性への依存度を低減させる。
本評価では,非カオス的およびカオス的挙動を呈するマッキーグラス方程式から時系列の集合を近似し,その予測能力について,状態ネットワークの反響や繰り返し単位のゲートに対するアプローチを比較した。
カオス時系列では、それぞれエコー状態ネットワークとゲートリカレントユニットとは対照的に、最大85.45\%$と最大87.90\%$の誤差低減が観察される。
さらに、既存のアプローチとは対照的に、非カオス時系列の99.99\%$の大幅な改善も観察する。
関連論文リスト
- Deep Ensembles Meets Quantile Regression: Uncertainty-aware Imputation
for Time Series [49.992908221544624]
時系列データは、しばしば多くの欠落した値を示し、これは時系列計算タスクである。
従来の深層学習法は時系列計算に有効であることが示されている。
本研究では,不確実性のある高精度な計算を行う非生成時系列計算法を提案する。
論文 参考訳（メタデータ） (2023-12-03T05:52:30Z) - Transfer learning-based physics-informed convolutional neural network
for simulating flow in porous media with time-varying controls [0.0]
多孔質媒質中の二相流をシミュレートする物理インフォームド畳み込みニューラルネットワークを提案する。
有限体積スキームは流れの方程式を識別するために用いられる。
N ノイマン境界条件は半離散方程式にシームレスに組み込まれる。
論文 参考訳（メタデータ） (2023-10-10T05:29:33Z) - Randomized Sparse Neural Galerkin Schemes for Solving Evolution
Equations with Deep Networks [1.5281057386824812]
この研究は、各タイムステップでネットワークパラメータのランダム化されたスパースサブセットを更新するNeural Galerkinスキームを導入している。
ランダム化は、時間内の局所的な過度な適合を避けるため、シーケンシャル・イン・タイムのトレーニングでエラーが迅速に蓄積されるのを防ぐ。
幅広い進化方程式を用いた数値実験では、ランダム化されたスパース更新を用いた提案手法は、固定された計算予算において最大で2桁精度が高い。
論文 参考訳（メタデータ） (2023-10-07T16:27:00Z) - Scalable Spatiotemporal Graph Neural Networks [14.415967477487692]
グラフニューラルネットワーク(GNN)は、しばしば予測アーキテクチャのコアコンポーネントである。
ほとんどの時間前GNNでは、計算複雑性はグラフ内のリンクの回数のシーケンスの長さの2乗係数までスケールする。
本稿では,時間的・空間的両方のダイナミックスを効率的に符号化するスケーラブルなアーキテクチャを提案する。
論文 参考訳（メタデータ） (2022-09-14T09:47:38Z) - An advanced spatio-temporal convolutional recurrent neural network for
storm surge predictions [73.4962254843935]
本研究では, 人工ニューラルネットワークモデルを用いて, 嵐の軌跡/規模/強度履歴に基づいて, 強風をエミュレートする能力について検討する。
本研究では, 人工嵐シミュレーションのデータベースを用いて, 強風を予測できるニューラルネットワークモデルを提案する。
論文 参考訳（メタデータ） (2022-04-18T23:42:18Z) - Time Series Forecasting with Ensembled Stochastic Differential Equations
Driven by L\'evy Noise [2.3076895420652965]
我々は、ニューラルネットワークを備えたSDEの集合を用いて、ノイズのある時系列の長期的な傾向を予測する。
まず、位相空間再構成法を用いて時系列データの固有次元を抽出する。
次に、$alpha$-stable L'evyの動作によって駆動されるSDEを探索し、時系列データをモデル化し、ニューラルネットワーク近似を用いて問題を解く。
論文 参考訳（メタデータ） (2021-11-25T16:49:01Z) - Convolutional generative adversarial imputation networks for
spatio-temporal missing data in storm surge simulations [86.5302150777089]
GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。
提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
論文 参考訳（メタデータ） (2021-11-03T03:50:48Z) - Bilinear Input Normalization for Neural Networks in Financial
Forecasting [101.89872650510074]
本稿では,高頻度金融時系列を扱うディープニューラルネットワークのための新しいデータ駆動正規化手法を提案する。
提案手法は,財務時系列のバイモーダル特性を考慮したものである。
我々の実験は最先端のニューラルネットワークと高周波データを用いて行われ、他の正規化技術よりも大幅に改善された。
論文 参考訳（メタデータ） (2021-09-01T07:52:03Z) - Deep Cellular Recurrent Network for Efficient Analysis of Time-Series
Data with Spatial Information [52.635997570873194]
本研究では,空間情報を用いた複雑な多次元時系列データを処理するための新しいディープセルリカレントニューラルネットワーク(DCRNN)アーキテクチャを提案する。
提案するアーキテクチャは,文献に比較して,学習可能なパラメータをかなり少なくしつつ,最先端の性能を実現している。
論文 参考訳（メタデータ） (2021-01-12T20:08:18Z) - Improved Predictive Deep Temporal Neural Networks with Trend Filtering [22.352437268596674]
本稿では,ディープニューラルネットワークとトレンドフィルタリングに基づく新しい予測フレームワークを提案する。
我々は,学習データをトレンドフィルタリングによって時間的に処理した場合,深部時相ニューラルネットワークの予測性能が向上することを明らかにする。
論文 参考訳（メタデータ） (2020-10-16T08:29:36Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳（メタデータ） (2020-06-08T09:53:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。