論文の概要: Log Neural Controlled Differential Equations: The Lie Brackets Make a Difference
- arxiv url: http://arxiv.org/abs/2402.18512v2
- Date: Tue, 11 Jun 2024 13:35:52 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-12 22:22:49.708974
- Title: Log Neural Controlled Differential Equations: The Lie Brackets Make a Difference
- Title(参考訳): Log Neural Controlled Differential Equations: The Lie Brackets makes difference
- Authors: Benjamin Walker, Andrew D. McLeod, Tiexin Qin, Yichuan Cheng, Haoliang Li, Terry Lyons,
- Abstract要約: ニューラルCDE(英語版)(NCDE)は、時系列データを制御経路からの観測として扱う。
NCDEを学習するための新しい,効果的かつ効率的な手法であるLog-NCDEを紹介する。
- 参考スコア(独自算出の注目度): 22.224853384201595
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The vector field of a controlled differential equation (CDE) describes the relationship between a control path and the evolution of a solution path. Neural CDEs (NCDEs) treat time series data as observations from a control path, parameterise a CDE's vector field using a neural network, and use the solution path as a continuously evolving hidden state. As their formulation makes them robust to irregular sampling rates, NCDEs are a powerful approach for modelling real-world data. Building on neural rough differential equations (NRDEs), we introduce Log-NCDEs, a novel, effective, and efficient method for training NCDEs. The core component of Log-NCDEs is the Log-ODE method, a tool from the study of rough paths for approximating a CDE's solution. Log-NCDEs are shown to outperform NCDEs, NRDEs, the linear recurrent unit, S5, and MAMBA on a range of multivariate time series datasets with up to $50{,}000$ observations.
- Abstract(参考訳): 制御微分方程式(CDE)のベクトル場は、制御経路と解経路の進化の関係を記述する。
ニューラルCDE(NCDE)は、時系列データを制御パスからの観測として扱い、ニューラルネットワークを使用してCDEのベクトルフィールドをパラメータ化し、ソリューションパスを継続的な進化した隠れ状態として使用する。
それらの定式化によって不規則サンプリングレートが堅牢になるため、NCDEは実世界のデータをモデル化するための強力なアプローチである。
ニューラル粗微分方程式(NRDE)に基づいて,新しい,効果的かつ効率的なNCDE学習法であるLog-NCDEを導入する。
Log-NCDEのコアコンポーネントはLog-ODEメソッドである。
ログNCDEは、NCDE、NRDE、線形リカレントユニット、S5、MAMBAを最大50$,000ドルの観測値を持つ多変量時系列データセットで上回っている。
関連論文リスト
- Solving Poisson Equations using Neural Walk-on-Spheres [80.1675792181381]
高次元ポアソン方程式の効率的な解法としてニューラルウォーク・オン・スフェース(NWoS)を提案する。
我々は,NWoSの精度,速度,計算コストにおける優位性を実証した。
論文 参考訳(メタデータ) (2024-06-05T17:59:22Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Elucidating the solution space of extended reverse-time SDE for
diffusion models [54.23536653351234]
拡散モデル(DM)は、様々な生成的モデリングタスクにおいて強力な画像生成能力を示す。
その主な制限はサンプリング速度の遅いことであり、高品質な画像を生成するには数百から数千のシーケンシャルな機能評価が必要である。
サンプリングプロセスを拡張逆時間SDEとして定式化し、ODEやSDEへの事前探索を統一する。
我々は, 高速かつトレーニング不要なサンプル装置ER-SDE-rsを考案し, 全サンプル装置の最先端性能を実現した。
論文 参考訳(メタデータ) (2023-09-12T12:27:17Z) - Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。
我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。
対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
論文 参考訳(メタデータ) (2023-02-10T08:05:19Z) - Learnable Path in Neural Controlled Differential Equations [11.38331901271794]
ニューラルネットワーク制御微分方程式(NCDEs)は、(不規則な)時系列処理における特別なモデルである。
本稿では,適切な方法を学ぶのと同一の潜在経路を生成する方法を提案する。
我々はNCDEとNODEをベースとしたエンコーダデコーダモジュールを設計し,その特別な訓練方法を提案する。
論文 参考訳(メタデータ) (2023-01-11T07:05:27Z) - A Kernel Approach for PDE Discovery and Operator Learning [9.463496582811633]
カーネルの平滑化は、ソリューションのデータと近似デリバティブを認知するために利用される。
学習されたPDEはカーネルベースのソルバ内で使われ、PDEの解を新しいソース/バウンダリ項で近似する。
論文 参考訳(メタデータ) (2022-10-14T22:33:28Z) - Learning time-dependent PDE solver using Message Passing Graph Neural
Networks [0.0]
本稿では,メッセージパッシングモデルを用いた学習を通して,効率的なPDE解法を見つけるためのグラフニューラルネットワーク手法を提案する。
グラフを用いて、非構造化メッシュ上でPDEデータを表現し、メッセージパッシンググラフニューラルネットワーク(MPGNN)が支配方程式をパラメータ化できることを示す。
繰り返しグラフニューラルネットワークは,PDEに対する解の時間列を見つけることができることを示す。
論文 参考訳(メタデータ) (2022-04-15T21:10:32Z) - Lie Point Symmetry Data Augmentation for Neural PDE Solvers [69.72427135610106]
本稿では,ニューラルPDEソルバサンプルの複雑性を改善することにより,この問題を部分的に緩和する手法を提案する。
PDEの文脈では、データ変換の完全なリストを定量的に導き出せることが分かりました。
神経性PDEソルバサンプルの複雑さを桁違いに改善するために、どのように容易に展開できるかを示す。
論文 参考訳(メタデータ) (2022-02-15T18:43:17Z) - Score-based Generative Modeling of Graphs via the System of Stochastic
Differential Equations [57.15855198512551]
本稿では,連続時間フレームワークを用いたグラフのスコアベース生成モデルを提案する。
本手法は, トレーニング分布に近い分子を生成できるが, 化学価数則に違反しないことを示す。
論文 参考訳(メタデータ) (2022-02-05T08:21:04Z) - Neural Rough Differential Equations for Long Time Series [19.004296236396947]
我々は粗い経路理論を用いてニューラルCDEの定式化を拡張する。
経路空間に直接埋め込む代わりに、テキスト-署名を通して小さな時間間隔で入力信号を表現します。
これは、テキストトロフ微分方程式(RDE)の解法である。
論文 参考訳(メタデータ) (2020-09-17T13:43:47Z) - Identifying Latent Stochastic Differential Equations [29.103393300261587]
本研究では,高次元時系列データから潜時微分方程式(SDE)を学習する手法を提案する。
提案手法は,自己教師付き学習手法を用いて,環境空間から潜時空間へのマッピングと,基礎となるSDE係数を学習する。
提案手法の検証には,SDEの基盤となる複数のビデオ処理タスク,および実世界のデータセットを用いて行う。
論文 参考訳(メタデータ) (2020-07-12T19:46:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。