論文の概要: Error-feedback stochastic modeling strategy for time series forecasting
with convolutional neural networks
- arxiv url: http://arxiv.org/abs/2002.00717v2
- Date: Fri, 11 Feb 2022 14:02:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-04 08:21:43.897082
- Title: Error-feedback stochastic modeling strategy for time series forecasting
with convolutional neural networks
- Title（参考訳）: 畳み込みニューラルネットワークを用いた時系列予測のための誤差フィードバック確率モデリング手法
- Authors: Xinze Zhang, Kun He, Yukun Bao
- Abstract要約: 本稿では,ランダム畳み込みネットワーク(ESM-CNN)ニューラル時系列予測タスクを構築するための新しいError-feedback Modeling (ESM)戦略を提案する。
提案したESM-CNNは、最先端のランダムニューラルネットワークを上回るだけでなく、トレーニングされた最先端のディープニューラルネットワークモデルと比較して、予測能力と計算オーバーヘッドの低減も実現している。
- 参考スコア（独自算出の注目度）: 11.162185201961174
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite the superiority of convolutional neural networks demonstrated in time
series modeling and forecasting, it has not been fully explored on the design
of the neural network architecture and the tuning of the hyper-parameters.
Inspired by the incremental construction strategy for building a random
multilayer perceptron, we propose a novel Error-feedback Stochastic Modeling
(ESM) strategy to construct a random Convolutional Neural Network (ESM-CNN) for
time series forecasting task, which builds the network architecture adaptively.
The ESM strategy suggests that random filters and neurons of the error-feedback
fully connected layer are incrementally added to steadily compensate the
prediction error during the construction process, and then a filter selection
strategy is introduced to enable ESM-CNN to extract the different size of
temporal features, providing helpful information at each iterative process for
the prediction. The performance of ESM-CNN is justified on its prediction
accuracy of one-step-ahead and multi-step-ahead forecasting tasks respectively.
Comprehensive experiments on both the synthetic and real-world datasets show
that the proposed ESM-CNN not only outperforms the state-of-art random neural
networks, but also exhibits stronger predictive power and less computing
overhead in comparison to trained state-of-art deep neural network models.
- Abstract（参考訳）: 時系列モデリングや予測における畳み込みニューラルネットワークの優位性にもかかわらず、ニューラルネットワークアーキテクチャの設計とハイパーパラメータのチューニングについて完全には研究されていない。
ランダム多層パーセプトロンを構築するための漸進的構成戦略に着想を得て,ネットワークアーキテクチャを適応的に構築する時系列予測タスクのためのランダム畳み込みニューラルネットワーク(esm-cnn)を構築するための新しい誤りフィードバック確率モデリング(esm)戦略を提案する。
ESM戦略は、エラーフィードバック完全連結層のランダムフィルタとニューロンを漸進的に追加して、構築プロセス中に予測誤差を着実に補償し、ESM-CNNが時間的特徴の異なるサイズを抽出できるようにフィルタ選択戦略を導入し、予測の反復過程に有用な情報を提供することを示唆している。
ESM-CNNの性能は、それぞれ1ステップの予測タスクと複数ステップの予測タスクの予測精度に基づいて正当化される。
合成と実世界の両方のデータセットに関する包括的な実験によると、提案されたESM-CNNは、最先端のランダムニューラルネットワークよりも優れているだけでなく、トレーニングされた最先端のディープニューラルネットワークモデルと比較して、予測力と演算オーバーヘッドが低い。
関連論文リスト
- Scalable Mechanistic Neural Networks [52.28945097811129]
長い時間的シーケンスを含む科学機械学習応用のための拡張ニューラルネットワークフレームワークを提案する。
元のメカニスティックニューラルネットワーク (MNN) を再構成することにより、計算時間と空間の複雑さを、それぞれ、列長に関して立方体と二次体から線形へと減少させる。
大規模な実験により、S-MNNは元のMNNと精度で一致し、計算資源を大幅に削減した。
論文 参考訳（メタデータ） (2024-10-08T14:27:28Z) - A New PHO-rmula for Improved Performance of Semi-Structured Networks [0.0]
本研究では,SSNにおけるモデルコンポーネントのコントリビューションを適切に識別する手法が,最適ネットワーク推定に繋がることを示す。
モデルコンポーネントの識別性を保証し,予測品質を向上する非侵襲的ポストホック化(PHO)を提案する。
我々の理論的な知見は、数値実験、ベンチマーク比較、およびCOVID-19感染症に対する現実の応用によって裏付けられている。
論文 参考訳（メタデータ） (2023-06-01T10:23:28Z) - Set-based Neural Network Encoding Without Weight Tying [91.37161634310819]
本稿では,ネットワーク特性予測のためのニューラルネットワーク重み符号化手法を提案する。
我々のアプローチは、混合アーキテクチャのモデル動物園でニューラルネットワークを符号化することができる。
ニューラルネットワークのプロパティ予測には,クロスデータセットとクロスアーキテクチャという,2つの新しいタスクを導入する。
論文 参考訳（メタデータ） (2023-05-26T04:34:28Z) - SPP-CNN: An Efficient Framework for Network Robustness Prediction [13.742495880357493]
本稿では,空間ピラミッドプール畳み込みニューラルネットワーク(SPP-CNN)のネットワークロバスト性予測のための効率的なフレームワークを開発する。
新しいフレームワークは、畳み込み層と完全に接続された層の間に空間ピラミッドプーリング層を設置し、CNNベースの予測アプローチにおける一般的なミスマッチ問題を克服する。
論文 参考訳（メタデータ） (2023-05-13T09:09:20Z) - Quantifying uncertainty for deep learning based forecasting and
flow-reconstruction using neural architecture search ensembles [0.8258451067861933]
本稿では,ディープニューラルネットワーク(DNN)の自動検出手法を提案するとともに,アンサンブルに基づく不確実性定量化にも有効であることを示す。
提案手法は,タスクの高パフォーマンスニューラルネットワークアンサンブルを検出するだけでなく,不確実性をシームレスに定量化する。
本研究では, 歴史的データからの予測と, 海面温度のスパースセンサからのフロー再構成という2つの課題に対して, この枠組みの有効性を実証する。
論文 参考訳（メタデータ） (2023-02-20T03:57:06Z) - A predictive physics-aware hybrid reduced order model for reacting flows [65.73506571113623]
反応流問題の解法として,新しいハイブリッド型予測次数モデル (ROM) を提案する。
自由度は、数千の時間的点から、対応する時間的係数を持ついくつかのPODモードへと減少する。
時間係数を予測するために、2つの異なるディープラーニングアーキテクチャがテストされている。
論文 参考訳（メタデータ） (2023-01-24T08:39:20Z) - An advanced spatio-temporal convolutional recurrent neural network for
storm surge predictions [73.4962254843935]
本研究では, 人工ニューラルネットワークモデルを用いて, 嵐の軌跡/規模/強度履歴に基づいて, 強風をエミュレートする能力について検討する。
本研究では, 人工嵐シミュレーションのデータベースを用いて, 強風を予測できるニューラルネットワークモデルを提案する。
論文 参考訳（メタデータ） (2022-04-18T23:42:18Z) - Spiking Generative Adversarial Networks With a Neural Network
Discriminator: Local Training, Bayesian Models, and Continual Meta-Learning [31.78005607111787]
スパイキングパターンを再現するためにニューラルネットワークを訓練することは、ニューロモルフィックコンピューティングにおける中心的な問題である。
この研究は、個々のスパイキング信号ではなく、スパイキング信号にマッチするようにSNNを訓練することを提案する。
論文 参考訳（メタデータ） (2021-11-02T17:20:54Z) - Modeling from Features: a Mean-field Framework for Over-parameterized
Deep Neural Networks [54.27962244835622]
本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。
このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。
本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
論文 参考訳（メタデータ） (2020-07-03T01:37:16Z) - Rectified Linear Postsynaptic Potential Function for Backpropagation in
Deep Spiking Neural Networks [55.0627904986664]
スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。
本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
論文 参考訳（メタデータ） (2020-03-26T11:13:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。