論文の概要: Characteristic Neural Ordinary Differential Equations
- arxiv url: http://arxiv.org/abs/2111.13207v1
- Date: Thu, 25 Nov 2021 18:25:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-29 17:19:04.193561
- Title: Characteristic Neural Ordinary Differential Equations
- Title(参考訳): 特徴的神経常微分方程式
- Authors: Xingzi Xu, Ali Hasan, Khalil Elkhalil, Jie Ding, Vahid Tarokh
- Abstract要約: 本稿では,NODE(Neural Ordinary Differential Equations)をODEを超えて拡張するためのフレームワークを提案する。
NODEは潜在状態の進化をODEの解としてモデル化する一方で、提案されたC-NODEは、一階準線形偏微分方程式の族(PDE)の解として潜状態の進化をモデル化する。
C-NODEフレームワークは,C-NODEでは表現できないが,C-NODEでは表現できない関数を示すことによって,古典的NODEを拡張していることを示す。
- 参考スコア(独自算出の注目度): 30.20663139358168
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose Characteristic Neural Ordinary Differential Equations (C-NODEs), a
framework for extending Neural Ordinary Differential Equations (NODEs) beyond
ODEs. While NODEs model the evolution of the latent state as the solution to an
ODE, the proposed C-NODE models the evolution of the latent state as the
solution of a family of first-order quasi-linear partial differential equations
(PDE) on their characteristics, defined as curves along which the PDEs reduce
to ODEs. The reduction, in turn, allows the application of the standard
frameworks for solving ODEs to PDE settings. Additionally, the proposed
framework can be cast as an extension of existing NODE architectures, thereby
allowing the use of existing black-box ODE solvers. We prove that the C-NODE
framework extends the classical NODE by exhibiting functions that cannot be
represented by NODEs but are representable by C-NODEs. We further investigate
the efficacy of the C-NODE framework by demonstrating its performance in many
synthetic and real data scenarios. Empirical results demonstrate the
improvements provided by the proposed method for CIFAR-10, SVHN, and MNIST
datasets under a similar computational budget as the existing NODE methods.
- Abstract(参考訳): そこで我々は,C-NODE(Platform Neural Ordinary Differential Equations)という,C-NODE(Platform Neural Ordinary Differential Equations)を提案する。
NODEは潜在状態の進化をODEの解としてモデル化するが、提案されたC-NODEは、PDEがODEに還元される曲線として定義される1次準線形偏微分方程式の族(PDE)の解として潜状態の進化をモデル化する。
この削減により、PDE設定にODEを解決するための標準フレームワークを適用できるようになる。
さらに、提案フレームワークは既存のNODEアーキテクチャの拡張としてキャストすることができ、既存のブラックボックスODEソルバを使用できる。
C-NODEフレームワークは,C-NODEでは表現できないがC-NODEでは表現できない関数を示すことによって,古典的NODEを拡張していることを示す。
さらに、C-NODEフレームワークの有効性について、多くの合成および実データシナリオでその性能を示す。
CIFAR-10, SVHN, MNISTデータセットに対して, 既存のNODE手法と同様の計算予算で提案した手法により得られた改善を実証した。
関連論文リスト
- Unisolver: PDE-Conditional Transformers Are Universal PDE Solvers [55.0876373185983]
広範にPDEを解くことができるUniversal PDEソルバ(Unisolver)を提案する。
私たちの重要な発見は、PDEソリューションが基本的に一連のPDEコンポーネントの制御下にあることです。
Unisolverは3つの挑戦的な大規模ベンチマークにおいて、一貫した最先端の結果を達成する。
論文 参考訳(メタデータ) (2024-05-27T15:34:35Z) - Deep Equilibrium Based Neural Operators for Steady-State PDEs [100.88355782126098]
定常PDEに対する重み付けニューラルネットワークアーキテクチャの利点について検討する。
定常PDEの解を直接解くFNOアーキテクチャの深い平衡変種であるFNO-DEQを提案する。
論文 参考訳(メタデータ) (2023-11-30T22:34:57Z) - Reduced-order modeling for parameterized PDEs via implicit neural
representations [4.135710717238787]
我々は、パラメータ化偏微分方程式(PDE)を効率的に解くために、新しいデータ駆動型低次モデリング手法を提案する。
提案フレームワークは、PDEを符号化し、パラメトリゼーションニューラルネットワーク(PNODE)を用いて、複数のPDEパラメータを特徴とする潜時ダイナミクスを学習する。
我々は,提案手法を大規模なレイノルズ数で評価し,O(103)の高速化と,基底真理値に対する1%の誤差を得る。
論文 参考訳(メタデータ) (2023-11-28T01:35:06Z) - GNRK: Graph Neural Runge-Kutta method for solving partial differential
equations [0.0]
本研究はグラフニューラルランゲ・クッタ(GNRK)と呼ばれる新しいアプローチを紹介する。
GNRKはグラフニューラルネットワークモジュールを古典的解法にインスパイアされた再帰構造に統合する。
これは、初期条件やPDE係数に関係なく、一般的なPDEに対処する能力を示す。
論文 参考訳(メタデータ) (2023-10-01T08:52:46Z) - A Stable and Scalable Method for Solving Initial Value PDEs with Neural
Networks [52.5899851000193]
我々は,ネットワークの条件が悪くなるのを防止し,パラメータ数で時間線形に動作するODEベースのIPPソルバを開発した。
このアプローチに基づく現在の手法は2つの重要な問題に悩まされていることを示す。
まず、ODEに従うと、問題の条件付けにおいて制御不能な成長が生じ、最終的に許容できないほど大きな数値誤差が生じる。
論文 参考訳(メタデータ) (2023-04-28T17:28:18Z) - Koopman neural operator as a mesh-free solver of non-linear partial differential equations [15.410070455154138]
これらの課題を克服するために,新しいニューラル演算子であるクープマンニューラル演算子(KNO)を提案する。
力学系のすべての可能な観測を統括する無限次元作用素であるクープマン作用素を近似することにより、非線型PDEファミリーの解を等価に学べる。
KNOは、従来の最先端モデルと比較して顕著なアドバンテージを示している。
論文 参考訳(メタデータ) (2023-01-24T14:10:15Z) - Learning differentiable solvers for systems with hard constraints [48.54197776363251]
ニューラルネットワーク(NN)によって定義される関数に対する偏微分方程式(PDE)制約を強制する実践的手法を提案する。
我々は、任意のNNアーキテクチャに組み込むことができる微分可能なPDE制約層を開発した。
その結果、NNアーキテクチャに直接ハード制約を組み込むことで、制約のない目的のトレーニングに比べてテストエラーがはるかに少ないことがわかった。
論文 参考訳(メタデータ) (2022-07-18T15:11:43Z) - dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。
我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
論文 参考訳(メタデータ) (2021-03-15T19:14:41Z) - Meta-Solver for Neural Ordinary Differential Equations [77.8918415523446]
本研究では,ソルバ空間の変動がニューラルODEの性能を向上する方法について検討する。
解法パラメータ化の正しい選択は, 敵の攻撃に対するロバスト性の観点から, 神経odesモデルに大きな影響を与える可能性がある。
論文 参考訳(メタデータ) (2021-03-15T17:26:34Z) - Neural Delay Differential Equations [9.077775405204347]
ニューラル遅延微分方程式 (N Neural Delay Differential Equations, NDDEs) と呼ばれる遅延を持つ連続深層ニューラルネットワークの新しいクラスを提案する。
対応する勾配を計算するために,随伴感度法を用いて随伴の遅延ダイナミクスを得る。
この結果から,動的システムの要素をネットワーク設計に適切に表現することは,ネットワーク性能の促進に真に有益であることが判明した。
論文 参考訳(メタデータ) (2021-02-22T06:53:51Z) - Neural SDEs as Infinite-Dimensional GANs [18.07683058213448]
我々は、SDE の適合に対する現在の古典的アプローチが、(ワッサーシュタイン) GAN の特別な場合としてアプローチされることを示した。
我々は(現代の機械学習における)連続時間生成時系列モデルとしてニューラルSDEを得る。
論文 参考訳(メタデータ) (2021-02-06T19:59:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。