論文の概要: Learning from Predictions: Fusing Training and Autoregressive Inference
for Long-Term Spatiotemporal Forecasts
- arxiv url: http://arxiv.org/abs/2302.11101v1
- Date: Wed, 22 Feb 2023 02:46:54 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-23 16:25:25.652351
- Title: Learning from Predictions: Fusing Training and Autoregressive Inference
for Long-Term Spatiotemporal Forecasts
- Title（参考訳）: 予測から学ぶ:長期時空間予測のための学習と自己回帰推論
- Authors: Pantelis R. Vlachas, Petros Koumoutsakos
- Abstract要約: 本稿では,複雑なシステムを予測するためのスケジューリング自動回帰BPTT (Schduled Autoregressive BPTT) アルゴリズムを提案する。
その結果,BPTT-SAは畳み込みRNNと畳み込みオートエンコーダRNNの反復的誤り伝播を効果的に抑制できることがわかった。
- 参考スコア（独自算出の注目度）: 4.068387278512612
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recurrent Neural Networks (RNNs) have become an integral part of modeling and
forecasting frameworks in areas like natural language processing and
high-dimensional dynamical systems such as turbulent fluid flows. To improve
the accuracy of predictions, RNNs are trained using the Backpropagation Through
Time (BPTT) method to minimize prediction loss. During testing, RNNs are often
used in autoregressive scenarios where the output of the network is fed back
into the input. However, this can lead to the exposure bias effect, as the
network was trained to receive ground-truth data instead of its own
predictions. This mismatch between training and testing is compounded when the
state distributions are different, and the train and test losses are measured.
To address this, previous studies have proposed solutions for language
processing networks with probabilistic predictions. Building on these advances,
we propose the Scheduled Autoregressive BPTT (BPTT-SA) algorithm for predicting
complex systems. Our results show that BPTT-SA effectively reduces iterative
error propagation in Convolutional RNNs and Convolutional Autoencoder RNNs, and
demonstrate its capabilities in long-term prediction of high-dimensional fluid
flows.
- Abstract（参考訳）: リカレントニューラルネットワーク(Recurrent Neural Networks, RNN)は、自然言語処理や乱流流体などの高次元力学系におけるモデリングおよび予測フレームワークの不可欠な部分となっている。
予測精度を向上させるため、予測損失を最小限に抑えるために、BPTT法を用いてRNNを訓練する。
テスト中、RNNは、ネットワークの出力が入力にフィードバックされる自動回帰シナリオでしばしば使用される。
しかし、ネットワークは自身の予測ではなく地上データを受け取るように訓練されたため、これは露出バイアス効果をもたらす可能性がある。
このトレーニングとテストのミスマッチは、状態分布が異なる場合に複合化され、列車とテストの損失を測定する。
これに対処するために、以前の研究では確率的予測を伴う言語処理ネットワークのソリューションを提案している。
そこで本研究では,複雑なシステムを予測するための自己回帰型bpttアルゴリズムを提案する。
以上の結果から,BPTT-SAは畳み込みRNNと畳み込みオートエンコーダRNNの反復的誤り伝播を効果的に低減し,高次元流れの長期予測に有効であることを示す。
関連論文リスト
- Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。
最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。
我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
論文 参考訳（メタデータ） (2024-07-18T15:44:23Z) - Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。
我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。
我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文 参考訳（メタデータ） (2023-10-02T03:25:32Z) - Brain-Inspired Spiking Neural Network for Online Unsupervised Time
Series Prediction [13.521272923545409]
連続学習に基づく非教師付きリカレントスパイキングニューラルネットワークモデル(CLURSNN)を提案する。
CLURSNNは、ランダム遅延埋め込み(Random Delay Embedding)を使用して基盤となる動的システムを再構築することで、オンライン予測を行う。
提案手法は,進化するロレンツ63力学系を予測する際に,最先端のDNNモデルよりも優れていることを示す。
論文 参考訳（メタデータ） (2023-04-10T16:18:37Z) - Boosted Dynamic Neural Networks [53.559833501288146]
典型的なEDNNは、ネットワークバックボーンの異なる層に複数の予測ヘッドを持つ。
モデルを最適化するために、これらの予測ヘッドとネットワークバックボーンは、トレーニングデータのバッチ毎にトレーニングされる。
トレーニングと2つのフェーズでのインプットの異なるテストは、トレーニングとデータ分散のテストのミスマッチを引き起こす。
EDNNを勾配強化にインスパイアされた付加モデルとして定式化し、モデルを効果的に最適化するための複数のトレーニング手法を提案する。
論文 参考訳（メタデータ） (2022-11-30T04:23:12Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳（メタデータ） (2022-11-19T15:44:08Z) - Interpretable Self-Aware Neural Networks for Robust Trajectory
Prediction [50.79827516897913]
本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。
実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
論文 参考訳（メタデータ） (2022-11-16T06:28:20Z) - Learning spatiotemporal features from incomplete data for traffic flow
prediction using hybrid deep neural networks [0.28675177318965034]
本研究では,カリフォルニア・フリーウェイ・パフォーマンス・計測システム(PeMS)のトラフィックフローを,欠落した値で予測するハイブリッドディープニューラルネットワークに焦点を当てた。
RNNとCNNをベースとして,並列接続と並列接続の異なるアーキテクチャ構成が検討されている。
PeMSから得られた2つの異なるデータセットを総合的に分析した結果,平均計算手法を用いたシリーズ並列ハイブリッドネットワークは,交通流の予測において最も低い誤差を達成できることがわかった。
論文 参考訳（メタデータ） (2022-04-21T15:57:08Z) - Probabilistic AutoRegressive Neural Networks for Accurate Long-range
Forecasting [6.295157260756792]
確率的自己回帰ニューラルネットワーク(PARNN)について紹介する。
PARNNは、非定常性、非線形性、非調和性、長距離依存、カオスパターンを示す複雑な時系列データを扱うことができる。
本研究では,Transformers,NBeats,DeepARなどの標準統計モデル,機械学習モデル,ディープラーニングモデルに対して,PARNNの性能を評価する。
論文 参考訳（メタデータ） (2022-04-01T17:57:36Z) - Frequentist Uncertainty in Recurrent Neural Networks via Blockwise
Influence Functions [121.10450359856242]
リカレントニューラルネットワーク(RNN)は、シーケンシャルおよび時系列データのモデリングに有効である。
RNNにおける既存の不確実性定量化のアプローチは、主にベイズ法に基づいている。
a)モデルトレーニングに干渉せず、その精度を損なうことなく、(b)任意のRNNアーキテクチャに適用し、(c)推定不確かさ間隔に関する理論的カバレッジ保証を提供する。
論文 参考訳（メタデータ） (2020-06-20T22:45:32Z) - Predictive Business Process Monitoring via Generative Adversarial Nets:
The Case of Next Event Prediction [0.026249027950824504]
本稿では,次の事象予測の問題に対処するための,新たな逆トレーニングフレームワークを提案する。
これは、2人のプレイヤーのゲームで1つのニューラルネットワークをもう1つのニューラルネットワークと対戦させることで機能し、それは地上の真実と区別できない予測につながる。
単純なネットワークアーキテクチャとナイーブな特徴符号化を使用しても、正確さと予測のイヤーラインの両方において、体系的にすべてのベースラインを上回ります。
論文 参考訳（メタデータ） (2020-03-25T08:31:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。