論文の概要: HyperSINDy: Deep Generative Modeling of Nonlinear Stochastic Governing
Equations
- arxiv url: http://arxiv.org/abs/2310.04832v1
- Date: Sat, 7 Oct 2023 14:41:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-12 15:17:25.172593
- Title: HyperSINDy: Deep Generative Modeling of Nonlinear Stochastic Governing
Equations
- Title(参考訳): HyperSINDy:非線形確率支配方程式の深部生成モデル
- Authors: Mozes Jacobs, Bingni W. Brunton, Steven L. Brunton, J. Nathan Kutz,
Ryan V. Raut
- Abstract要約: 本稿では,データからのスパース制御方程式の深部生成モデルを用いた動的モデリングフレームワークHyperSINDyを紹介する。
一度訓練すると、HyperSINDyは、係数が白色雑音によって駆動される微分方程式を介して力学を生成する。
実験では、HyperSINDyはデータと一致するように学習度をスケーリングすることで、基底的真理支配方程式を復元する。
- 参考スコア(独自算出の注目度): 5.279268784803583
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The discovery of governing differential equations from data is an open
frontier in machine learning. The sparse identification of nonlinear dynamics
(SINDy) \citep{brunton_discovering_2016} framework enables data-driven
discovery of interpretable models in the form of sparse, deterministic
governing laws. Recent works have sought to adapt this approach to the
stochastic setting, though these adaptations are severely hampered by the curse
of dimensionality. On the other hand, Bayesian-inspired deep learning methods
have achieved widespread success in high-dimensional probabilistic modeling via
computationally efficient approximate inference techniques, suggesting the use
of these techniques for efficient stochastic equation discovery. Here, we
introduce HyperSINDy, a framework for modeling stochastic dynamics via a deep
generative model of sparse governing equations whose parametric form is
discovered from data. HyperSINDy employs a variational encoder to approximate
the distribution of observed states and derivatives. A hypernetwork
\citep{ha_hypernetworks_2016} transforms samples from this distribution into
the coefficients of a differential equation whose sparse form is learned
simultaneously using a trainable binary mask \citep{louizos_learning_2018}.
Once trained, HyperSINDy generates stochastic dynamics via a differential
equation whose coefficients are driven by a Gaussian white noise. In
experiments, HyperSINDy accurately recovers ground truth stochastic governing
equations, with learned stochasticity scaling to match that of the data.
Finally, HyperSINDy provides uncertainty quantification that scales to
high-dimensional systems. Taken together, HyperSINDy offers a promising
framework for model discovery and uncertainty quantification in real-world
systems, integrating sparse equation discovery methods with advances in
statistical machine learning and deep generative modeling.
- Abstract(参考訳): データから微分方程式を統治する発見は、機械学習におけるオープンフロンティアである。
sparse identification of nonlinear dynamics (sindy) \citep{brunton_discovering_2016} frameworkは、スパースで決定論的な規則によって解釈可能なモデルのデータ駆動による発見を可能にする。
近年の研究では、このアプローチを確率的な設定に適応させようとしているが、これらの適応は次元性の呪いによって著しく妨げられている。
一方,ベイズ法に触発された深層学習法は,計算効率のよい近似推論手法による高次元確率モデリングにおいて広く成功し,効率的な確率方程式発見にこれらの手法を用いることを示唆している。
本稿では,データからパラメトリック形式が発見されたスパース制御方程式の深部生成モデルを用いて確率力学をモデル化するフレームワークHyperSINDyを紹介する。
ハイパーシンディは観測された状態と微分の分布を近似するために変分エンコーダを用いる。
ハイパーネットワーク \citep{ha_hypernetworks_2016} はこの分布からサンプルを、訓練可能なバイナリマスク \citep{louizos_learning_2018} を用いてスパース形式を同時に学習する微分方程式の係数に変換する。
一度訓練すると、HyperSINDyは、係数がガウスホワイトノイズによって駆動される微分方程式を通じて確率力学を生成する。
実験では、HyperSINDyは、データと一致するように学習された確率性スケーリングを用いて、基底真理確率支配方程式を正確に復元する。
最後に、HyperSINDyは高次元システムにスケールする不確実な定量化を提供する。
HyperSINDyは、現実世界のシステムにおけるモデル発見と不確実性定量化のための有望なフレームワークを提供し、スパース方程式発見手法と統計機械学習と深層生成モデリングの進歩を統合する。
関連論文リスト
- Learning Controlled Stochastic Differential Equations [61.82896036131116]
本研究では,非一様拡散を伴う連続多次元非線形微分方程式のドリフト係数と拡散係数の両方を推定する新しい手法を提案する。
我々は、(L2)、(Linfty)の有限サンプル境界や、係数の正則性に適応する学習率を持つリスクメトリクスを含む、強力な理論的保証を提供する。
当社のメソッドはオープンソースPythonライブラリとして利用可能です。
論文 参考訳(メタデータ) (2024-11-04T11:09:58Z) - Towards Theoretical Understandings of Self-Consuming Generative Models [56.84592466204185]
本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。
我々は,このトレーニングが将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。
カーネル密度推定の結果は,混合データトレーニングがエラー伝播に与える影響など,微妙な洞察を与える。
論文 参考訳(メタデータ) (2024-02-19T02:08:09Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - Score-based Diffusion Models in Function Space [140.792362459734]
拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。
本稿では,関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)という,数学的に厳密なフレームワークを提案する。
データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
論文 参考訳(メタデータ) (2023-02-14T23:50:53Z) - Extracting Governing Laws from Sample Path Data of Non-Gaussian
Stochastic Dynamical Systems [4.527698247742305]
我々は、利用可能なデータから非ガウスL'evy雑音の方程式を推定し、動的挙動を合理的に予測する。
理論的枠組みを確立し、非対称なL'evyジャンプ測度、ドリフト、拡散を計算する数値アルゴリズムを設計する。
この方法は、利用可能なデータセットから規制法則を発見し、複雑なランダム現象のメカニズムを理解するのに有効なツールとなる。
論文 参考訳(メタデータ) (2021-07-21T14:50:36Z) - Discovery of Nonlinear Dynamical Systems using a Runge-Kutta Inspired
Dictionary-based Sparse Regression Approach [9.36739413306697]
機械学習と辞書ベースの学習を数値解析ツールと組み合わせ,微分方程式の制御を探索する。
我々は、サンプリング体制を超えてよりよく一般化しやすい解釈可能で準同型モデルを得る。
生物ネットワークに通常現れる有理非線形性を含む支配方程式の拡張について論じる。
論文 参考訳(メタデータ) (2021-05-11T08:46:51Z) - Using Data Assimilation to Train a Hybrid Forecast System that Combines
Machine-Learning and Knowledge-Based Components [52.77024349608834]
利用可能なデータがノイズの多い部分測定の場合,カオスダイナミクスシステムのデータ支援予測の問題を検討する。
動的システムの状態の部分的測定を用いることで、不完全な知識ベースモデルによる予測を改善するために機械学習モデルを訓練できることを示す。
論文 参考訳(メタデータ) (2021-02-15T19:56:48Z) - Stochastic Differential Equations with Variational Wishart Diffusions [18.590352916158093]
回帰タスクと連続時間力学モデリングの両方に対して微分方程式を推論する非パラメトリックな方法を提案する。
この研究は微分方程式の一部(拡散とも呼ばれる)に重点を置いており、ウィッシュアート過程を用いてモデル化している。
論文 参考訳(メタデータ) (2020-06-26T10:21:35Z) - A Data-Driven Approach for Discovering Stochastic Dynamical Systems with
Non-Gaussian Levy Noise [5.17900889163564]
ノイズの多いデータセットから規制法則を抽出する新しいデータ駆動手法を開発した。
まず, ドリフト係数, 拡散係数, ジャンプ測度を表現し, 実現可能な理論的枠組みを確立する。
そこで我々は, ドリフト, 拡散係数, ジャンプ測度を計算する数値アルゴリズムを設計し, ガウス雑音および非ガウス雑音による支配方程式を抽出する。
論文 参考訳(メタデータ) (2020-05-07T21:29:17Z) - Data-Driven Discovery of Coarse-Grained Equations [0.0]
マルチスケールモデリングとシミュレーションは、シミュレーションデータの学習がそのような発見につながる2つの分野である。
我々は、そのようなモデルの人間の発見を、2つのモードで実行できるスパース回帰に基づく機械学習戦略に置き換える。
一連の例は、方程式発見に対する我々のアプローチの正確性、堅牢性、限界を示している。
論文 参考訳(メタデータ) (2020-01-30T23:41:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。