論文の概要: Sparse identification of nonlinear dynamics and Koopman operators with Shallow Recurrent Decoder Networks
- arxiv url: http://arxiv.org/abs/2501.13329v1
- Date: Thu, 23 Jan 2025 02:18:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-24 19:17:07.149955
- Title: Sparse identification of nonlinear dynamics and Koopman operators with Shallow Recurrent Decoder Networks
- Title(参考訳): ショートリカレントデコーダネットワークを用いた非線形ダイナミクスとクープマン作用素のスパース同定
- Authors: Mars Liyao Gao, Jan P. Williams, J. Nathan Kutz,
- Abstract要約: 本稿では,SINDy-SHRED(SINDy-SHRED)とSINDY-SHRED(SINDy-SHRED)を併用したダイナミクスの同定について述べる。
SINDy-SHRED は Gated Recurrent Units (GRU) を用いて、センサー計測の時間的シーケンスを浅層デコーダネットワークと共にモデル化し、潜在状態空間から全フィールドを再構築する。
我々は, 合成PDEデータ, 海面温度の実環境センサ計測, 直接ビデオデータを含む系統的研究を行った。
- 参考スコア(独自算出の注目度): 3.1484174280822845
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Spatiotemporal modeling of real-world data poses a challenging problem due to inherent high dimensionality, measurement noise, and expensive data collection procedures. In this paper, we present Sparse Identification of Nonlinear Dynamics with SHallow REcurrent Decoder networks (SINDy-SHRED), a method to jointly solve the sensing and model identification problems with simple implementation, efficient computation, and robust performance. SINDy-SHRED uses Gated Recurrent Units (GRUs) to model the temporal sequence of sensor measurements along with a shallow decoder network to reconstruct the full spatiotemporal field from the latent state space using only a few available sensors. Our proposed algorithm introduces a SINDy-based regularization; beginning with an arbitrary latent state space, the dynamics of the latent space progressively converges to a SINDy-class functional, provided the projection remains within the set. In restricting SINDy to a linear model, the architecture produces a Koopman-SHRED model which enforces a linear latent space dynamics. We conduct a systematic experimental study including synthetic PDE data, real-world sensor measurements for sea surface temperature, and direct video data. With no explicit encoder, SINDy-SHRED and Koopman-SHRED enable efficient training with minimal hyperparameter tuning and laptop-level computing; further, it demonstrates robust generalization in a variety of applications with minimal to no hyperparameter adjustments. Finally, the interpretable SINDy and Koopman models of latent state dynamics enables accurate long-term video predictions, achieving state-of-the-art performance and outperforming all baseline methods considered, including Convolutional LSTM, PredRNN, ResNet, and SimVP.
- Abstract(参考訳): 実世界のデータの時空間的モデリングは、固有の高次元性、計測ノイズ、高価なデータ収集手順などの問題を引き起こす。
本稿では, SHallow Recurrent Decoder Network (SINDy-SHRED) を用いた非線形ダイナミクスのスパース同定について述べる。
SINDy-SHRED は Gated Recurrent Units (GRUs) を用いて、センサー測定の時間シーケンスを浅層デコーダネットワークと共にモデル化し、少数のセンサを使用して潜在状態空間から全時空間を再構築する。
提案アルゴリズムは任意の潜在状態空間から始めて、射影が集合内に残れば、潜在空間のダイナミクスは徐々に SINDy-class functional に収束する。
SINDyを線形モデルに制限する際、アーキテクチャは線形潜在空間力学を強制するクープマン-SHREDモデルを生成する。
我々は, 合成PDEデータ, 海面温度の実環境センサ計測, 直接ビデオデータを含む系統的研究を行った。
明示的なエンコーダがないため、SINDy-SHREDとKoopman-SHREDは、最小限のハイパーパラメータチューニングとラップトップレベルのコンピューティングで効率的なトレーニングを可能にする。
最後に、潜在状態ダイナミクスの解釈可能なSINDyとKoopmanモデルは、正確な長期ビデオ予測を可能にし、最先端のパフォーマンスを実現し、Convolutional LSTM、PredRNN、ResNet、SimVPを含む、考慮されるすべてのベースラインメソッドを上回ります。
関連論文リスト
- Hybrid machine learning models based on physical patterns to accelerate CFD simulations: a short guide on autoregressive models [3.780691701083858]
本研究では,Long Short-Term Memory (LSTM) アーキテクチャと高次特異値分解を革新的に統合し,流体力学における低次モデリング(ROM)の複雑さに対処する。
この手法は、2次元および3次元のシリンダー流(2次元および3次元)を含む数値的および実験的なデータセットで試験される。
その結果、HOSVDは、異なるエラーメトリクスを用いて証明されたように、すべてのテストシナリオでSVDより優れていることが示された。
論文 参考訳(メタデータ) (2025-04-09T10:56:03Z) - Efficient Transformed Gaussian Process State-Space Models for Non-Stationary High-Dimensional Dynamical Systems [49.819436680336786]
本研究では,高次元非定常力学系のスケーラブルかつ柔軟なモデリングのための効率的な変換ガウス過程状態空間モデル(ETGPSSM)を提案する。
具体的には、ETGPSSMは、単一の共有GPと入力依存の正規化フローを統合し、複雑な非定常遷移ダイナミクスを捉える前に、表現的な暗黙のプロセスを生成する。
ETGPSSMは、計算効率と精度の観点から、既存のGPSSMとニューラルネットワークベースのSSMより優れています。
論文 参考訳(メタデータ) (2025-03-24T03:19:45Z) - Recovering implicit physics model under real-world constraints [6.2178318166123185]
実世界のデータから物理力学の基盤モデルを復元するために,新しい液相定数ニューラルネットワーク(LTC-NN)アーキテクチャを提案する。
LTC-NNアーキテクチャは、最先端スパースモデル回復アプローチよりも暗黙の物理モデル係数を復元する上でより正確である。
論文 参考訳(メタデータ) (2024-12-03T07:11:21Z) - Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。
既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。
ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T19:02:54Z) - Path-minimizing Latent ODEs for improved extrapolation and inference [0.0]
潜在ODEモデルは動的システムの柔軟な記述を提供するが、外挿と複雑な非線形力学の予測に苦労することがある。
本稿では、時間に依存しない潜在表現を奨励することで、この二分法を利用する。
遅延空間における一般的な変分ペナルティを各システムのパス長の$ell$ペナルティに置き換えることで、モデルは異なる構成のシステムと容易に区別できるデータ表現を学ぶ。
これにより、GRU、RNN、LSTM/デコーダによるベースラインODEモデルと比較して、より高速なトレーニング、より小さなモデル、より正確で長時間の外挿が可能となる。
論文 参考訳(メタデータ) (2024-10-11T15:50:01Z) - KFD-NeRF: Rethinking Dynamic NeRF with Kalman Filter [49.85369344101118]
KFD-NeRFは,Kalmanフィルタに基づく効率的かつ高品質な運動再構成フレームワークと統合された,新しい動的ニューラル放射場である。
我々のキーとなる考え方は、動的放射場を、観測と予測という2つの知識源に基づいて時間的に異なる状態が推定される動的システムとしてモデル化することである。
我々のKFD-NeRFは、同等の計算時間と最先端の視線合成性能で、徹底的な訓練を施した類似または優れた性能を示す。
論文 参考訳(メタデータ) (2024-07-18T05:48:24Z) - Learning Spatiotemporal Dynamical Systems from Point Process Observations [7.381752536547389]
現在のニューラルネットワークベースのモデルアプローチは、時間と空間でランダムに収集されるデータに直面したときに不足する。
そこで我々は,このようなプロセス観察から効果的に学習できる新しい手法を開発した。
我々のモデルは、ニューラルディファレンシャル方程式、ニューラルポイントプロセス、暗黙のニューラル表現、そしてアモータライズされた変分推論の技法を統合している。
論文 参考訳(メタデータ) (2024-06-01T09:03:32Z) - Temporally-Consistent Koopman Autoencoders for Forecasting Dynamical Systems [38.36312939874359]
テンポラリ一貫性を有するクープマンオートエンコーダ(tcKAE)について紹介する。
tcKAEは、限られたノイズの多いトレーニングデータであっても、正確な長期予測を生成する。
我々は,最先端のKAEモデルよりもtcKAEの方が,様々なテストケースで優れた性能を示す。
論文 参考訳(メタデータ) (2024-03-19T00:48:25Z) - Complexity Matters: Rethinking the Latent Space for Generative Modeling [65.64763873078114]
生成的モデリングにおいて、多くの成功したアプローチは、例えば安定拡散のような低次元の潜在空間を利用する。
本研究では, モデル複雑性の観点から潜在空間を再考することにより, 未探索の話題に光を当てることを目的としている。
論文 参考訳(メタデータ) (2023-07-17T07:12:29Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - LordNet: An Efficient Neural Network for Learning to Solve Parametric Partial Differential Equations without Simulated Data [47.49194807524502]
エンタングルメントをモデル化するためのチューナブルで効率的なニューラルネットワークであるLordNetを提案する。
ポアソン方程式と(2Dおよび3D)ナビエ・ストークス方程式を解く実験は、長距離の絡み合いがロードネットによってうまくモデル化できることを示した。
論文 参考訳(メタデータ) (2022-06-19T14:41:08Z) - gLaSDI: Parametric Physics-informed Greedy Latent Space Dynamics
Identification [0.5249805590164902]
物理インフォームド・グレディ・ラテント・スペース・ダイナミクス同定法(gLa)を提案する。
インタラクティブなトレーニングアルゴリズムがオートエンコーダとローカルDIモデルに採用され、単純な潜在空間のダイナミクスを識別できる。
提案手法の有効性は, 様々な非線形力学問題をモデル化することによって実証される。
論文 参考訳(メタデータ) (2022-04-26T00:15:46Z) - An advanced spatio-temporal convolutional recurrent neural network for
storm surge predictions [73.4962254843935]
本研究では, 人工ニューラルネットワークモデルを用いて, 嵐の軌跡/規模/強度履歴に基づいて, 強風をエミュレートする能力について検討する。
本研究では, 人工嵐シミュレーションのデータベースを用いて, 強風を予測できるニューラルネットワークモデルを提案する。
論文 参考訳(メタデータ) (2022-04-18T23:42:18Z) - Neural Operator with Regularity Structure for Modeling Dynamics Driven
by SPDEs [70.51212431290611]
偏微分方程式 (SPDE) は、大気科学や物理学を含む多くの分野において、力学をモデル化するための重要なツールである。
本研究では,SPDEによって駆動されるダイナミクスをモデル化するための特徴ベクトルを組み込んだニューラル演算子(NORS)を提案する。
動的Phi41モデルと2d Navier-Stokes方程式を含む様々なSPDE実験を行った。
論文 参考訳(メタデータ) (2022-04-13T08:53:41Z) - KalmanNet: Neural Network Aided Kalman Filtering for Partially Known
Dynamics [84.18625250574853]
KalmanNetは、データから学習し、非線形力学の下でKalmanフィルタを実行するリアルタイム状態推定器である。
我々は、KalmanNetが非線形性とモデルミスマッチを克服し、古典的なフィルタリング手法より優れていることを数値的に示す。
論文 参考訳(メタデータ) (2021-07-21T12:26:46Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z) - Anomaly Detection of Time Series with Smoothness-Inducing Sequential
Variational Auto-Encoder [59.69303945834122]
Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。
我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。
合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
論文 参考訳(メタデータ) (2021-02-02T06:15:15Z) - Inferring, Predicting, and Denoising Causal Wave Dynamics [3.9407250051441403]
DISTANA(Distributed Artificial Neural Network Architecture)は、グラフ畳み込みニューラルネットワークである。
DISTANAは、再帰パターンが観測されるので、データストリームを飾るのに非常に適していることを示す。
安定かつ正確なクローズドループ予測を数百の時間ステップで生成する。
論文 参考訳(メタデータ) (2020-09-19T08:33:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。