論文の概要: On the relationship between Koopman operator approximations and neural ordinary differential equations for data-driven time-evolution predictions
- arxiv url: http://arxiv.org/abs/2411.12940v1
- Date: Wed, 20 Nov 2024 00:18:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-21 16:11:45.519385
- Title: On the relationship between Koopman operator approximations and neural ordinary differential equations for data-driven time-evolution predictions
- Title(参考訳): データ駆動時間進化予測におけるクープマン作用素近似とニューラル常微分方程式の関係について
- Authors: Jake Buzhardt, C. Ricardo Constante-Amores, Michael D. Graham,
- Abstract要約: 辞書学習による拡張動的モード分解(EDMD-DL)は、状態空間上の非線形離散時間フローマップのニューラルネットワーク表現と等価であることを示す。
それぞれのモデル構造と訓練手順の異なる側面を組み合わせることで,数種類のニューラル常微分方程式(ODE)とEDMD-DLを実装した。
ロレンツ系におけるカオス力学の数値実験と乱流せん断流れの9モードモデルを用いてこれらの手法を評価する。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: This work explores the relationship between state space methods and Koopman operator-based methods for predicting the time-evolution of nonlinear dynamical systems. We demonstrate that extended dynamic mode decomposition with dictionary learning (EDMD-DL), when combined with a state space projection, is equivalent to a neural network representation of the nonlinear discrete-time flow map on the state space. We highlight how this projection step introduces nonlinearity into the evolution equations, enabling significantly improved EDMD-DL predictions. With this projection, EDMD-DL leads to a nonlinear dynamical system on the state space, which can be represented in either discrete or continuous time. This system has a natural structure for neural networks, where the state is first expanded into a high dimensional feature space followed by a linear mapping which represents the discrete-time map or the vector field as a linear combination of these features. Inspired by these observations, we implement several variations of neural ordinary differential equations (ODEs) and EDMD-DL, developed by combining different aspects of their respective model structures and training procedures. We evaluate these methods using numerical experiments on chaotic dynamics in the Lorenz system and a nine-mode model of turbulent shear flow, showing comparable performance across methods in terms of short-time trajectory prediction, reconstruction of long-time statistics, and prediction of rare events. We also show that these methods provide comparable performance to a non-Markovian approach in terms of prediction of extreme events.
- Abstract(参考訳): 本研究では、状態空間法とクープマン演算子に基づく非線形力学系の時間進化予測法との関係について検討する。
本研究では, 拡張動的モード分解と辞書学習(EDMD-DL)が, 状態空間投影と組み合わせれば, 状態空間上の非線形離散時間フローマップのニューラルネットワーク表現と等価であることを示す。
このプロジェクションステップが進化方程式に非線形性を導入し、EDMD-DL予測を大幅に改善する方法について強調する。
この射影により、EDMD-DLは状態空間上の非線形力学系を導き、離散時間または連続時間で表すことができる。
このシステムは、ニューラルネットワークの自然な構造を持ち、まず状態が高次元の特徴空間に拡張され、次に離散時間マップまたはベクトル場をこれらの特徴の線形結合として表現する線形写像が続く。
これらの観測にインスパイアされた我々は、それぞれのモデル構造と訓練手順の異なる側面を組み合わせることで、ニューラル常微分方程式(ODE)とEDMD-DLの様々なバリエーションを実装した。
我々は,ロレンツ系におけるカオス力学の数値実験と乱流せん断流の9モードモデルを用いて,短時間の軌跡予測,長期統計の再構築,希少事象の予測といった手法に匹敵する性能を示す。
また,これらの手法は,極端な事象の予測に関して,非マルコフ的手法に匹敵する性能を示すことを示す。
関連論文リスト
- Latent Space Energy-based Neural ODEs [73.01344439786524]
本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。
マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。
発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
論文 参考訳(メタデータ) (2024-09-05T18:14:22Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Gaussian process learning of nonlinear dynamics [0.0]
モデルパラメータのキャラクタリゼーションのベイズ推定により非線形力学を学習する手法を提案する。
本稿では,提案手法の適用性について,力学系におけるいくつかの典型的なシナリオについて論じる。
論文 参考訳(メタデータ) (2023-12-19T14:27:26Z) - Enhancing Predictive Capabilities in Data-Driven Dynamical Modeling with Automatic Differentiation: Koopman and Neural ODE Approaches [0.0]
クープマン作用素のデータ駆動近似は、複雑な力学によって特徴づけられるシステムの時間進化を予測することを約束している。
ここでは、観測可能な辞書とクープマン作用素の対応する近似の両方を同時に決定するEDMD-DLの修正について述べる。
論文 参考訳(メタデータ) (2023-10-10T17:04:21Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - Anamnesic Neural Differential Equations with Orthogonal Polynomial
Projections [6.345523830122166]
本稿では,長期記憶を強制し,基礎となる力学系の大域的表現を保存する定式化であるPolyODEを提案する。
提案手法は理論的保証に支えられ,過去と将来のデータの再構築において,過去の成果よりも優れていたことを実証する。
論文 参考訳(メタデータ) (2023-03-03T10:49:09Z) - Semi-supervised Learning of Partial Differential Operators and Dynamical
Flows [68.77595310155365]
本稿では,超ネットワーク解法とフーリエニューラル演算子アーキテクチャを組み合わせた新しい手法を提案する。
本手法は, 1次元, 2次元, 3次元の非線形流体を含む様々な時間発展PDEを用いて実験を行った。
その結果、新しい手法は、監督点の時点における学習精度を向上し、任意の中間時間にその解を補間できることを示した。
論文 参考訳(メタデータ) (2022-07-28T19:59:14Z) - Neural Dynamic Mode Decomposition for End-to-End Modeling of Nonlinear
Dynamics [49.41640137945938]
ニューラルネットワークに基づくリフト関数を推定するためのニューラルダイナミックモード分解法を提案する。
提案手法により,予測誤差はニューラルネットワークとスペクトル分解によって逆伝搬される。
提案手法の有効性を,固有値推定と予測性能の観点から実証した。
論文 参考訳(メタデータ) (2020-12-11T08:34:26Z) - Learning continuous-time PDEs from sparse data with graph neural
networks [10.259254824702555]
本稿では、メッセージパッシンググラフニューラルネットワークにより制御方程式をパラメータ化した動的システムの連続時間差分モデルを提案する。
モデルが非構造化グリッドで機能する能力、任意の時間ステップ、ノイズの多い観測を実演する。
提案手法は,PDEと最先端予測性能の第一次・高次PDEを含む,既知の物理系に対する既存手法と比較する。
論文 参考訳(メタデータ) (2020-06-16T07:15:40Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳(メタデータ) (2020-06-08T09:53:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。