論文の概要: Can neural networks predict dynamics they have never seen?
- arxiv url: http://arxiv.org/abs/2111.06783v1
- Date: Fri, 12 Nov 2021 15:49:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-15 14:18:40.878580
- Title: Can neural networks predict dynamics they have never seen?
- Title(参考訳): ニューラルネットワークは、これまで見たことのないダイナミクスを予測できるのか?
- Authors: Anton Pershin, Cedric Beaume, Kuan Li, Steven M. Tobias
- Abstract要約: ニューラルネットワークは、広範囲の複雑なタスクで驚くほど成功したことが証明されている。
彼らの成功の1つは、適切なトレーニングデータセットが与えられた将来のダイナミクスを予測するスキルである。
これまでの研究では、リカレントニューラルネットワークのサブセットであるEcho State Networks(ESNs)が、リアプノフ時間よりも長くカオスシステムを予測できることが示されている。
この研究は、ESNがトレーニングセットに含まれるあらゆる行動と質的に異なる動的挙動を予測できることを著しく示している。
- 参考スコア(独自算出の注目度): 0.4588028371034407
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural networks have proven to be remarkably successful for a wide range of
complicated tasks, from image recognition and object detection to speech
recognition and machine translation. One of their successes is the skill in
prediction of future dynamics given a suitable training set of data. Previous
studies have shown how Echo State Networks (ESNs), a subset of Recurrent Neural
Networks, can successfully predict even chaotic systems for times longer than
the Lyapunov time. This study shows that, remarkably, ESNs can successfully
predict dynamical behavior that is qualitatively different from any behavior
contained in the training set. Evidence is provided for a fluid dynamics
problem where the flow can transition between laminar (ordered) and turbulent
(disordered) regimes. Despite being trained on the turbulent regime only, ESNs
are found to predict laminar behavior. Moreover, the statistics of
turbulent-to-laminar and laminar-to-turbulent transitions are also predicted
successfully, and the utility of ESNs in acting as an early-warning system for
transition is discussed. These results are expected to be widely applicable to
data-driven modelling of temporal behaviour in a range of physical, climate,
biological, ecological and finance models characterized by the presence of
tipping points and sudden transitions between several competing states.
- Abstract(参考訳): ニューラルネットワークは、画像認識やオブジェクト検出から音声認識や機械翻訳に至るまで、幅広い複雑なタスクで著しく成功している。
彼らの成功の1つは、適切なトレーニングデータセットが与えられた将来のダイナミクスを予測するスキルである。
これまでの研究では、リカレントニューラルネットワークのサブセットであるEcho State Networks(ESNs)が、リアプノフ時間よりも長くカオスシステムを予測できることが示されている。
この研究は、ESNがトレーニングセットに含まれるあらゆる行動と質的に異なる動的挙動を予測できることを著しく示している。
エビデンス(エビデンス)は流体力学の問題であり、流れは層(秩序)と乱流(秩序)の間で遷移することができる。
乱流でのみ訓練されているにもかかわらず、ESNは層運動を予測する。
また,乱流-層間遷移と層-乱流遷移の統計も予測し,初期警戒システムとしてのesnの有用性について考察した。
これらの結果は, 物理的, 気候, 生物学的, 生態学的, ファイナンスモデルにおいて, ピーク点の存在と, 競合する複数の州間の突然の遷移を特徴とする, 時間的行動のデータ駆動モデルに適用できると考えられる。
関連論文リスト
- Learning Continuous Network Emerging Dynamics from Scarce Observations
via Data-Adaptive Stochastic Processes [11.494631894700253]
我々は、データ適応型ネットワークダイナミクスによって制御される新しいプロセスのクラスであるODE Processs for Network Dynamics (NDP4ND)を紹介する。
提案手法はデータと計算効率に優れており,未確認のネットワークに適応できることを示す。
論文 参考訳(メタデータ) (2023-10-25T08:44:05Z) - Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。
我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。
我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文 参考訳(メタデータ) (2023-10-02T03:25:32Z) - Variability of echo state network prediction horizon for partially
observed dynamical systems [0.0]
本研究では,部分状態入力と完全状態出力を併用したエコー状態ネットワーク(ESN)フレームワークについて検討する。
ESNは,数回のリャプノフ期までの短期的な予測を行うことができることを示す。
ノイズの多い数値データセットや実験データセットでトレーニングした場合でも,ESNはシステムのダイナミクスを効果的に学習できることを示す。
論文 参考訳(メタデータ) (2023-06-19T09:37:18Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳(メタデータ) (2023-06-04T08:53:27Z) - Do We Need an Encoder-Decoder to Model Dynamical Systems on Networks? [18.92828441607381]
埋め込みは観察によく適合するが、同時に誤った動的挙動を持つモデルを誘導することを示す。
2つの加法的ベクトル場成分をパラメトリした単純な埋め込み自由な代替法を提案する。
論文 参考訳(メタデータ) (2023-05-20T12:41:47Z) - Brain-Inspired Spiking Neural Network for Online Unsupervised Time
Series Prediction [13.521272923545409]
連続学習に基づく非教師付きリカレントスパイキングニューラルネットワークモデル(CLURSNN)を提案する。
CLURSNNは、ランダム遅延埋め込み(Random Delay Embedding)を使用して基盤となる動的システムを再構築することで、オンライン予測を行う。
提案手法は,進化するロレンツ63力学系を予測する際に,最先端のDNNモデルよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-04-10T16:18:37Z) - Interpretable Self-Aware Neural Networks for Robust Trajectory
Prediction [50.79827516897913]
本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。
実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-11-16T06:28:20Z) - Stabilizing Machine Learning Prediction of Dynamics: Noise and
Noise-inspired Regularization [58.720142291102135]
近年、機械学習(ML)モデルはカオス力学系の力学を正確に予測するために訓練可能であることが示されている。
緩和技術がなければ、この技術は人工的に迅速にエラーを発生させ、不正確な予測と/または気候不安定をもたらす可能性がある。
トレーニング中にモデル入力に付加される多数の独立雑音実効化の効果を決定論的に近似する正規化手法であるLinearized Multi-Noise Training (LMNT)を導入する。
論文 参考訳(メタデータ) (2022-11-09T23:40:52Z) - EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。
メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文 参考訳(メタデータ) (2022-02-21T18:59:03Z) - Bayesian Neural Networks: An Introduction and Survey [22.018605089162204]
本稿ではベイズニューラルネットワーク(BNN)とその実装に関する基礎研究を紹介する。
異なる近似推論法を比較し、将来の研究が現在の手法でどのように改善されるかを強調するために使用される。
論文 参考訳(メタデータ) (2020-06-22T06:30:15Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳(メタデータ) (2020-06-08T09:53:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。