論文の概要: Optimizing differential equations to fit data and predict outcomes
- arxiv url: http://arxiv.org/abs/2204.07833v1
- Date: Sat, 16 Apr 2022 16:08:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-19 17:08:36.730278
- Title: Optimizing differential equations to fit data and predict outcomes
- Title(参考訳): データの適合と結果予測のための微分方程式の最適化
- Authors: Steven A. Frank
- Abstract要約: 数値微分方程式解法による自動微分の最近の技術進歩は、フィッティング過程を比較的簡単な問題に変える可能性がある。
本稿は、ハレとリンクスの個体群における振動に古典的な生態データを用いて、様々な共通の課題を克服する方法を説明する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many scientific problems focus on observed patterns of change or on how to
design a system to achieve particular dynamics. Those problems often require
fitting differential equation models to target trajectories. Fitting such
models can be difficult because each evaluation of the fit must calculate the
distance between the model and target patterns at numerous points along a
trajectory. The gradient of the fit with respect to the model parameters can be
challenging. Recent technical advances in automatic differentiation through
numerical differential equation solvers potentially change the fitting process
into a relatively easy problem, opening up new possibilities to study dynamics.
However, application of the new tools to real data may fail to achieve a good
fit. This article illustrates how to overcome a variety of common challenges,
using the classic ecological data for oscillations in hare and lynx
populations. Models include simple ordinary differential equations (ODEs) and
neural ordinary differential equations (NODEs), which use artificial neural
networks to estimate the derivatives of differential equation systems.
Comparing the fits obtained with ODEs versus NODEs, representing small and
large parameter spaces, and changing the number of variable dimensions provide
insight into the geometry of the observed and model trajectories. To analyze
the quality of the models for predicting future observations, a
Bayesian-inspired preconditioned stochastic gradient Langevin dynamics (pSGLD)
calculation of the posterior distribution of predicted model trajectories
clarifies the tendency for various models to underfit or overfit the data.
Coupling fitted differential equation systems with pSGLD sampling provides a
powerful way to study the properties of optimization surfaces, raising an
analogy with mutation-selection dynamics on fitness landscapes.
- Abstract(参考訳): 多くの科学的問題は、観察された変化のパターンや、特定のダイナミクスを達成するシステムを設計する方法に焦点を当てている。
これらの問題は、しばしば軌道をターゲットとする微分方程式モデルを必要とする。
このようなモデルの適合は、各評価において、軌道に沿った多数の点において、モデルと対象パターン間の距離を計算する必要があるため困難である。
モデルパラメータに対する適合度の勾配は困難である。
数値微分方程式解法による自動微分の最近の技術進歩は、フィッティングプロセスを比較的簡単な問題に変える可能性があり、ダイナミクスを研究する新たな可能性を開く。
しかし、新しいツールの実際のデータへの応用は、うまく適合しないかもしれない。
本稿では,ハレ個体群とリンクス個体群における古典的な生態データを用いて,様々な課題を克服する方法について述べる。
モデルは単純な常微分方程式 (ODE) とニューラル常微分方程式 (NODE) を含み、人工知能を用いて微分方程式系の微分を推定する。
ODEとNODEの適合性を比較し、小さいパラメータ空間と大きなパラメータ空間を表現し、可変次元の数を変更すれば、観測された軌跡やモデル軌跡の幾何学に関する洞察が得られる。
将来の観測予測のためのモデルの品質を解析するために、予測モデル軌道の後方分布のベイズ条件付き確率的勾配ランジュバンダイナミクス(psgld)計算は、様々なモデルがデータに不適合または過剰に適合する傾向を明確にする。
pSGLDサンプリングと適合した微分方程式系を結合させることは、最適化面の性質を研究する強力な方法となり、フィットネスランドスケープにおける突然変異選択ダイナミクスと類似する。
関連論文リスト
- Neural Ideal Large Eddy Simulation: Modeling Turbulence with Neural
Stochastic Differential Equations [22.707574194338132]
乱流閉包モデルからの理想渦シミュレーション(LES)と大規模モデリングのためのニューラル微分方程式(SDE)の2つの強力なアイデアを同化するデータ駆動学習フレームワークを提案する。
我々は,この手法がカオス力学系において有効であることを示す: レイノルズ数20,000のコルモゴロフ流。
論文 参考訳(メタデータ) (2023-06-01T22:16:28Z) - A Geometric Perspective on Diffusion Models [60.69328526215776]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングを検証し,そのサンプリングダイナミクスの興味深い構造を明らかにした。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。
ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。
本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2023-04-03T13:13:19Z) - Random Grid Neural Processes for Parametric Partial Differential
Equations [5.244037702157957]
我々はPDEのための空間確率物理の新しいクラスと深部潜伏モデルについて紹介する。
パラメトリックPDEの前方および逆問題を解場のガウス過程モデルの構築につながる方法で解く。
物理情報モデルにノイズのあるデータを原則的に組み込むことで、データの入手可能な問題に対する予測を改善する方法を示す。
論文 参考訳(メタデータ) (2023-01-26T11:30:56Z) - On the Influence of Enforcing Model Identifiability on Learning dynamics
of Gaussian Mixture Models [14.759688428864159]
特異モデルからサブモデルを抽出する手法を提案する。
本手法はトレーニング中のモデルの識別性を強制する。
この手法がディープニューラルネットワークのようなより複雑なモデルにどのように適用できるかを示す。
論文 参考訳(メタデータ) (2022-06-17T07:50:22Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳(メタデータ) (2021-10-26T14:26:25Z) - Compositional Modeling of Nonlinear Dynamical Systems with ODE-based
Random Features [0.0]
この問題に対処するための新しいドメインに依存しないアプローチを提案する。
我々は、通常の微分方程式から導かれる物理インフォームド・ランダムな特徴の合成を用いる。
提案手法は,ベンチマーク回帰タスクにおいて,他の多くの確率モデルに匹敵する性能を実現する。
論文 参考訳(メタデータ) (2021-06-10T17:55:13Z) - Probabilistic Circuits for Variational Inference in Discrete Graphical
Models [101.28528515775842]
変分法による離散的グラフィカルモデルの推論は困難である。
エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。
Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。
選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
論文 参考訳(メタデータ) (2020-10-22T05:04:38Z) - Stochastic analysis of heterogeneous porous material with modified
neural architecture search (NAS) based physics-informed neural networks using
transfer learning [0.0]
修正ニューラルアーキテクチャ探索法(NAS)に基づく物理インフォームド深層学習モデルを提案する。
高度不均質帯水層における地下水流動シミュレーションのベンチマークを行うため, 三次元流れモデルを構築した。
論文 参考訳(メタデータ) (2020-10-03T19:57:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。