論文の概要: ODEFormer: Symbolic Regression of Dynamical Systems with Transformers
- arxiv url: http://arxiv.org/abs/2310.05573v1
- Date: Mon, 9 Oct 2023 09:54:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-12 06:28:04.353387
- Title: ODEFormer: Symbolic Regression of Dynamical Systems with Transformers
- Title(参考訳): ODEFormer: トランスフォーマーを用いた動的システムのシンボリック回帰
- Authors: St\'ephane d'Ascoli, S\"oren Becker, Alexander Mathis, Philippe
Schwaller, Niki Kilbertus
- Abstract要約: 本稿では,多次元常微分方程式(ODE)を記号形式で推定できる最初の変換器ODEFormerを紹介する。
i) 既存の2次元システムを含む「ストロガッツ」データセット、(ii) 1次元から4次元システムの集合であるODEBench。
- 参考スコア(独自算出の注目度): 47.75031734856786
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce ODEFormer, the first transformer able to infer multidimensional
ordinary differential equation (ODE) systems in symbolic form from the
observation of a single solution trajectory. We perform extensive evaluations
on two datasets: (i) the existing "Strogatz" dataset featuring two-dimensional
systems; (ii) ODEBench, a collection of one- to four-dimensional systems that
we carefully curated from the literature to provide a more holistic benchmark.
ODEFormer consistently outperforms existing methods while displaying
substantially improved robustness to noisy and irregularly sampled
observations, as well as faster inference. We release our code, model and
benchmark dataset publicly.
- Abstract(参考訳): 我々は, 1つの解軌道の観測から, 多次元常微分方程式(ODE)系を記号形式で推定できる最初の変換器ODEFormerを紹介する。
2つのデータセットに対して広範な評価を行う。
(i)既存の2次元システムを含む「ストロガッツ」データセット
(ii)ODEBenchは1次元から4次元のシステムの集合であり、より総合的なベンチマークを提供するために文献から慎重にキュレートした。
ODEFormerは既存のメソッドを一貫して上回り、ノイズや不規則なサンプル観察に対するロバスト性を大幅に改善し、推論を高速化する。
コード、モデル、ベンチマークデータセットをパブリックにリリースします。
関連論文リスト
- Path-minimizing Latent ODEs for improved extrapolation and inference [0.0]
潜在ODEモデルは動的システムの柔軟な記述を提供するが、外挿と複雑な非線形力学の予測に苦労することがある。
本稿では、時間に依存しない潜在表現を奨励することで、この二分法を利用する。
遅延空間における一般的な変分ペナルティを各システムのパス長の$ell$ペナルティに置き換えることで、モデルは異なる構成のシステムと容易に区別できるデータ表現を学ぶ。
これにより、GRU、RNN、LSTM/デコーダによるベースラインODEモデルと比較して、より高速なトレーニング、より小さなモデル、より正確で長時間の外挿が可能となる。
論文 参考訳(メタデータ) (2024-10-11T15:50:01Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Foundational Inference Models for Dynamical Systems [5.549794481031468]
我々は,ODEによって決定されると仮定される時系列データの欠落を補うという古典的な問題に対して,新たな視点を提供する。
本稿では,いくつかの(隠れた)ODEを満たすパラメトリック関数を通じて,ゼロショット時系列計算のための新しい教師付き学習フレームワークを提案する。
我々は,1と同一(事前学習)の認識モデルが,63個の異なる時系列に対してゼロショット計算を行なえることを実証的に実証した。
論文 参考訳(メタデータ) (2024-02-12T11:48:54Z) - Predicting Ordinary Differential Equations with Transformers [65.07437364102931]
単一溶液軌道の不規則サンプリングおよび雑音観測から,スカラー常微分方程式(ODE)を記号形式で復元するトランスフォーマーに基づくシーケンス・ツー・シーケンス・モデルを開発した。
提案手法は, 1回に一度, ODE の大規模な事前訓練を行った後, モデルのいくつかの前方通過において, 新たな観測解の法則を推測することができる。
論文 参考訳(メタデータ) (2023-07-24T08:46:12Z) - Reflected Diffusion Models [93.26107023470979]
本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。
提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
論文 参考訳(メタデータ) (2023-04-10T17:54:38Z) - Discovering ordinary differential equations that govern time-series [65.07437364102931]
本研究では, 1つの観測解の時系列データから, スカラー自律常微分方程式(ODE)を記号形式で復元するトランスフォーマーに基づくシーケンス・ツー・シーケンス・モデルを提案する。
提案手法は, 1回に一度, ODE の大規模な事前訓練を行った後, モデルのいくつかの前方通過において, 新たに観測された解の法則を推測することができる。
論文 参考訳(メタデータ) (2022-11-05T07:07:58Z) - Discovering Sparse Interpretable Dynamics from Partial Observations [0.0]
部分的な観測のみを用いてこれらの支配方程式を発見するための機械学習フレームワークを提案する。
本手法がシステム全体の再構築に有効であることを示す。
論文 参考訳(メタデータ) (2021-07-22T18:23:23Z) - Variational Hyper RNN for Sequence Modeling [69.0659591456772]
本稿では,時系列データにおける高変数の取得に優れる新しい確率的シーケンスモデルを提案する。
提案手法では,時間潜時変数を用いて基礎となるデータパターンに関する情報をキャプチャする。
提案手法の有効性を,合成および実世界のシーケンシャルデータに示す。
論文 参考訳(メタデータ) (2020-02-24T19:30:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。