論文の概要: Log Neural Controlled Differential Equations: The Lie Brackets Make a
Difference
- arxiv url: http://arxiv.org/abs/2402.18512v1
- Date: Wed, 28 Feb 2024 17:40:05 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-29 14:06:38.439085
- Title: Log Neural Controlled Differential Equations: The Lie Brackets Make a
Difference
- Title(参考訳): ログニューラル制御の微分方程式: リーブラケットは差分を作る
- Authors: Benjamin Walker, Andrew D. McLeod, Tiexin Qin, Yichuan Cheng, Haoliang
Li, Terry Lyons
- Abstract要約: ニューラルCDE(英語版)(NCDE)は、時系列データを制御経路からの観測として扱う。
NCDEをトレーニングするための新しい効果的な方法であるLog-NCDEを紹介する。
時系列分類ベンチマークでは、NCDE、NRDE、および2つの最先端モデルであるS5と線形リカレントユニットよりも平均テストセット精度が高いことが示されている。
- 参考スコア(独自算出の注目度): 23.54980627242158
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The vector field of a controlled differential equation (CDE) describes the
relationship between a control path and the evolution of a solution path.
Neural CDEs (NCDEs) treat time series data as observations from a control path,
parameterise a CDE's vector field using a neural network, and use the solution
path as a continuously evolving hidden state. As their formulation makes them
robust to irregular sampling rates, NCDEs are a powerful approach for modelling
real-world data. Building on neural rough differential equations (NRDEs), we
introduce Log-NCDEs, a novel and effective method for training NCDEs. The core
component of Log-NCDEs is the Log-ODE method, a tool from the study of rough
paths for approximating a CDE's solution. On a range of multivariate time
series classification benchmarks, Log-NCDEs are shown to achieve a higher
average test set accuracy than NCDEs, NRDEs, and two state-of-the-art models,
S5 and the linear recurrent unit.
- Abstract(参考訳): 制御微分方程式(cde)のベクトル場は、制御経路と解経路の進化との関係を記述する。
ニューラルCDE(NCDE)は、時系列データを制御パスからの観測として扱い、ニューラルネットワークを使用してCDEのベクトルフィールドをパラメータ化し、ソリューションパスを継続的な進化した隠れ状態として使用する。
それらの定式化によって不規則サンプリングレートが堅牢になるため、NCDEは実世界のデータをモデル化するための強力なアプローチである。
ニューラル粗微分方程式 (NRDE) に基づいて, NCDE を訓練するための新しい効果的な方法である Log-NCDE を導入する。
log-ncdes の中核コンポーネントは log-ode 法であり、cde の解を近似するための粗い経路の研究から得られたツールである。
多変量時系列分類のベンチマークでは、ログ-NCDEはNCDE、NRDE、および2つの最先端モデルであるS5と線形リカレントユニットよりも平均テストセットの精度が高いことが示されている。
関連論文リスト
- Neural Stochastic Differential Equations with Change Points: A
Generative Adversarial Approach [5.408169633844698]
本稿では,ニューラルSDEをモデルとした時系列変化点検出アルゴリズムを提案する。
提案手法は、未知の変化点と、各変化点に対応する異なるニューラルネットワークSDEモデルのパラメータを共同で学習する。
論文 参考訳(メタデータ) (2023-12-20T16:16:29Z) - GNRK: Graph Neural Runge-Kutta method for solving partial differential
equations [0.0]
本研究はグラフニューラルランゲ・クッタ(GNRK)と呼ばれる新しいアプローチを紹介する。
GNRKはグラフニューラルネットワークモジュールを古典的解法にインスパイアされた再帰構造に統合する。
これは、初期条件やPDE係数に関係なく、一般的なPDEに対処する能力を示す。
論文 参考訳(メタデータ) (2023-10-01T08:52:46Z) - Elucidating the solution space of extended reverse-time SDE for
diffusion models [54.23536653351234]
拡散モデル(DM)は、様々な生成的モデリングタスクにおいて強力な画像生成能力を示す。
その主な制限はサンプリング速度の遅いことであり、高品質な画像を生成するには数百から数千のシーケンシャルな機能評価が必要である。
サンプリングプロセスを拡張逆時間SDEとして定式化し、ODEやSDEへの事前探索を統一する。
我々は, 高速かつトレーニング不要なサンプル装置ER-SDE-rsを考案し, 全サンプル装置の最先端性能を実現した。
論文 参考訳(メタデータ) (2023-09-12T12:27:17Z) - Learnable Path in Neural Controlled Differential Equations [11.38331901271794]
ニューラルネットワーク制御微分方程式(NCDEs)は、(不規則な)時系列処理における特別なモデルである。
本稿では,適切な方法を学ぶのと同一の潜在経路を生成する方法を提案する。
我々はNCDEとNODEをベースとしたエンコーダデコーダモジュールを設計し,その特別な訓練方法を提案する。
論文 参考訳(メタデータ) (2023-01-11T07:05:27Z) - Neural Basis Functions for Accelerating Solutions to High Mach Euler
Equations [63.8376359764052]
ニューラルネットワークを用いた偏微分方程式(PDE)の解法を提案する。
ニューラルネットワークの集合を縮小順序 Proper Orthogonal Decomposition (POD) に回帰する。
これらのネットワークは、所定のPDEのパラメータを取り込み、PDEに還元順序近似を計算する分岐ネットワークと組み合わせて使用される。
論文 参考訳(メタデータ) (2022-08-02T18:27:13Z) - LordNet: Learning to Solve Parametric Partial Differential Equations
without Simulated Data [63.55861160124684]
本稿では,離散化されたPDEによって構築された平均2乗残差(MSR)損失から,ニューラルネットワークが直接物理を学習する一般データ自由パラダイムを提案する。
具体的には,低ランク分解ネットワーク(LordNet)を提案する。
Poisson方程式とNavier-Stokes方程式を解く実験は、MSR損失による物理的制約がニューラルネットワークの精度と能力を向上させることを実証している。
論文 参考訳(メタデータ) (2022-06-19T14:41:08Z) - Score-based Generative Modeling of Graphs via the System of Stochastic
Differential Equations [57.15855198512551]
本稿では,連続時間フレームワークを用いたグラフのスコアベース生成モデルを提案する。
本手法は, トレーニング分布に近い分子を生成できるが, 化学価数則に違反しないことを示す。
論文 参考訳(メタデータ) (2022-02-05T08:21:04Z) - An application of the splitting-up method for the computation of a
neural network representation for the solution for the filtering equations [68.8204255655161]
フィルタ方程式は、数値天気予報、金融、工学など、多くの現実の応用において中心的な役割を果たす。
フィルタリング方程式の解を近似する古典的なアプローチの1つは、分割法と呼ばれるPDEにインスパイアされた方法を使うことである。
我々はこの手法をニューラルネットワーク表現と組み合わせて、信号プロセスの非正規化条件分布の近似を生成する。
論文 参考訳(メタデータ) (2022-01-10T11:01:36Z) - Neural Rough Differential Equations for Long Time Series [19.004296236396947]
我々は粗い経路理論を用いてニューラルCDEの定式化を拡張する。
経路空間に直接埋め込む代わりに、テキスト-署名を通して小さな時間間隔で入力信号を表現します。
これは、テキストトロフ微分方程式(RDE)の解法である。
論文 参考訳(メタデータ) (2020-09-17T13:43:47Z) - Identifying Latent Stochastic Differential Equations [29.103393300261587]
本研究では,高次元時系列データから潜時微分方程式(SDE)を学習する手法を提案する。
提案手法は,自己教師付き学習手法を用いて,環境空間から潜時空間へのマッピングと,基礎となるSDE係数を学習する。
提案手法の検証には,SDEの基盤となる複数のビデオ処理タスク,および実世界のデータセットを用いて行う。
論文 参考訳(メタデータ) (2020-07-12T19:46:31Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳(メタデータ) (2020-06-16T21:56:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。