論文の概要: Optimizing differential equations to fit data and predict outcomes
- arxiv url: http://arxiv.org/abs/2204.07833v1
- Date: Sat, 16 Apr 2022 16:08:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-19 17:08:36.730278
- Title: Optimizing differential equations to fit data and predict outcomes
- Title（参考訳）: データの適合と結果予測のための微分方程式の最適化
- Authors: Steven A. Frank
- Abstract要約: 数値微分方程式解法による自動微分の最近の技術進歩は、フィッティング過程を比較的簡単な問題に変える可能性がある。
本稿は、ハレとリンクスの個体群における振動に古典的な生態データを用いて、様々な共通の課題を克服する方法を説明する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many scientific problems focus on observed patterns of change or on how to
design a system to achieve particular dynamics. Those problems often require
fitting differential equation models to target trajectories. Fitting such
models can be difficult because each evaluation of the fit must calculate the
distance between the model and target patterns at numerous points along a
trajectory. The gradient of the fit with respect to the model parameters can be
challenging. Recent technical advances in automatic differentiation through
numerical differential equation solvers potentially change the fitting process
into a relatively easy problem, opening up new possibilities to study dynamics.
However, application of the new tools to real data may fail to achieve a good
fit. This article illustrates how to overcome a variety of common challenges,
using the classic ecological data for oscillations in hare and lynx
populations. Models include simple ordinary differential equations (ODEs) and
neural ordinary differential equations (NODEs), which use artificial neural
networks to estimate the derivatives of differential equation systems.
Comparing the fits obtained with ODEs versus NODEs, representing small and
large parameter spaces, and changing the number of variable dimensions provide
insight into the geometry of the observed and model trajectories. To analyze
the quality of the models for predicting future observations, a
Bayesian-inspired preconditioned stochastic gradient Langevin dynamics (pSGLD)
calculation of the posterior distribution of predicted model trajectories
clarifies the tendency for various models to underfit or overfit the data.
Coupling fitted differential equation systems with pSGLD sampling provides a
powerful way to study the properties of optimization surfaces, raising an
analogy with mutation-selection dynamics on fitness landscapes.
- Abstract（参考訳）: 多くの科学的問題は、観察された変化のパターンや、特定のダイナミクスを達成するシステムを設計する方法に焦点を当てている。
これらの問題は、しばしば軌道をターゲットとする微分方程式モデルを必要とする。
このようなモデルの適合は、各評価において、軌道に沿った多数の点において、モデルと対象パターン間の距離を計算する必要があるため困難である。
モデルパラメータに対する適合度の勾配は困難である。
数値微分方程式解法による自動微分の最近の技術進歩は、フィッティングプロセスを比較的簡単な問題に変える可能性があり、ダイナミクスを研究する新たな可能性を開く。
しかし、新しいツールの実際のデータへの応用は、うまく適合しないかもしれない。
本稿では,ハレ個体群とリンクス個体群における古典的な生態データを用いて,様々な課題を克服する方法について述べる。
モデルは単純な常微分方程式 (ODE) とニューラル常微分方程式 (NODE) を含み、人工知能を用いて微分方程式系の微分を推定する。
ODEとNODEの適合性を比較し、小さいパラメータ空間と大きなパラメータ空間を表現し、可変次元の数を変更すれば、観測された軌跡やモデル軌跡の幾何学に関する洞察が得られる。
将来の観測予測のためのモデルの品質を解析するために、予測モデル軌道の後方分布のベイズ条件付き確率的勾配ランジュバンダイナミクス(psgld)計算は、様々なモデルがデータに不適合または過剰に適合する傾向を明確にする。
pSGLDサンプリングと適合した微分方程式系を結合させることは、最適化面の性質を研究する強力な方法となり、フィットネスランドスケープにおける突然変異選択ダイナミクスと類似する。
関連論文リスト
- Projected Neural Differential Equations for Learning Constrained Dynamics [3.570367665112327]
本稿では,学習ベクトル場の射影を制約多様体の接空間に向けることで,ニューラル微分方程式を制約する新しい手法を提案する。
PNDEは、ハイパーパラメータを少なくしながら、既存のメソッドよりも優れています。
提案手法は、制約付き力学系のモデリングを強化する重要な可能性を示す。
論文 参考訳（メタデータ） (2024-10-31T06:32:43Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳（メタデータ） (2024-05-18T15:59:41Z) - Towards Learning Stochastic Population Models by Gradient Descent [0.0]
パラメータと構造を同時に推定することで,最適化手法に大きな課題が生じることを示す。
モデルの正確な推定を実証するが、擬似的、解釈可能なモデルの推論を強制することは、難易度を劇的に高める。
論文 参考訳（メタデータ） (2024-04-10T14:38:58Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳（メタデータ） (2023-05-31T15:33:16Z) - VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。
ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。
本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
論文 参考訳（メタデータ） (2023-04-03T13:13:19Z) - Random Grid Neural Processes for Parametric Partial Differential
Equations [5.244037702157957]
我々はPDEのための空間確率物理の新しいクラスと深部潜伏モデルについて紹介する。
パラメトリックPDEの前方および逆問題を解場のガウス過程モデルの構築につながる方法で解く。
物理情報モデルにノイズのあるデータを原則的に組み込むことで、データの入手可能な問題に対する予測を改善する方法を示す。
論文 参考訳（メタデータ） (2023-01-26T11:30:56Z) - On the Influence of Enforcing Model Identifiability on Learning dynamics
of Gaussian Mixture Models [14.759688428864159]
特異モデルからサブモデルを抽出する手法を提案する。
本手法はトレーニング中のモデルの識別性を強制する。
この手法がディープニューラルネットワークのようなより複雑なモデルにどのように適用できるかを示す。
論文 参考訳（メタデータ） (2022-06-17T07:50:22Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳（メタデータ） (2022-02-18T22:41:51Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳（メタデータ） (2021-10-26T14:26:25Z) - Compositional Modeling of Nonlinear Dynamical Systems with ODE-based
Random Features [0.0]
この問題に対処するための新しいドメインに依存しないアプローチを提案する。
我々は、通常の微分方程式から導かれる物理インフォームド・ランダムな特徴の合成を用いる。
提案手法は,ベンチマーク回帰タスクにおいて,他の多くの確率モデルに匹敵する性能を実現する。
論文 参考訳（メタデータ） (2021-06-10T17:55:13Z) - Probabilistic Circuits for Variational Inference in Discrete Graphical
Models [101.28528515775842]
変分法による離散的グラフィカルモデルの推論は困難である。
エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。
Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。
選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
論文 参考訳（メタデータ） (2020-10-22T05:04:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。