論文の概要: Generalization Bound for a General Class of Neural Ordinary Differential Equations
- arxiv url: http://arxiv.org/abs/2508.18920v1
- Date: Tue, 26 Aug 2025 10:47:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-27 17:42:38.809907
- Title: Generalization Bound for a General Class of Neural Ordinary Differential Equations
- Title(参考訳): ニューラル正規微分方程式の一般クラスに対する一般化境界
- Authors: Madhusudan Verma, Manoj Kumar,
- Abstract要約: 我々は、時間依存と時間依存の両方のニューラルODEの一般化境界を確立する。
これは一般非線形力学を持つニューラルODEに対する一般化境界の最初の導出である。
- 参考スコア(独自算出の注目度): 8.698347221292998
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural ordinary differential equations (neural ODEs) are a popular type of deep learning model that operate with continuous-depth architectures. To assess how well such models perform on unseen data, it is crucial to understand their generalization error bounds. Previous research primarily focused on the linear case for the dynamics function in neural ODEs - Marion, P. (2023), or provided bounds for Neural Controlled ODEs that depend on the sampling interval Bleistein et al. (2023). In this work, we analyze a broader class of neural ODEs where the dynamics function is a general nonlinear function, either time dependent or time independent, and is Lipschitz continuous with respect to the state variables. We showed that under this Lipschitz condition, the solutions to neural ODEs have solutions with bounded variations. Based on this observation, we establish generalization bounds for both time-dependent and time-independent cases and investigate how overparameterization and domain constraints influence these bounds. To our knowledge, this is the first derivation of generalization bounds for neural ODEs with general nonlinear dynamics.
- Abstract(参考訳): ニューラル常微分方程式(Neural ordinary differential equations,neural ODEs)は、連続的な深度アーキテクチャで動作する一般的なディープラーニングモデルである。
このようなモデルが、目に見えないデータ上でどれだけうまく機能するかを評価するためには、それらの一般化エラー境界を理解することが不可欠である。
これまでの研究では、ニューラルネットワークの動的関数の線形ケース(Marion, P. (2023) や、サンプリング間隔Bleistein et al (2023) に依存するニューラル制御されたODEのバウンダリを主に研究していた。
本研究では、動的関数が時間依存あるいは時間依存の一般非線形関数であり、状態変数に関してリプシッツ連続であるような、より広範なニューラルネットワークのクラスを解析する。
我々は、このリプシッツ条件下では、ニューラルODEの解は有界変動を持つ解を持つことを示した。
この観測から,時間に依存しないケースと時間に依存しないケースの一般化境界を確立し,オーバーパラメータ化とドメイン制約がこれらの境界にどのように影響するかを検討する。
我々の知る限り、これは一般の非線形力学を持つニューラルなODEに対する一般化境界の最初の導出である。
関連論文リスト
- Individualized Dosing Dynamics via Neural Eigen Decomposition [51.62933814971523]
ニューラル固有微分方程式アルゴリズム(NESDE)を導入する。
NESDEは個別化モデリング、新しい治療ポリシーへの調整可能な一般化、高速で連続的でクローズドな予測を提供する。
本研究は, 総合的・現実的な医療問題におけるNESDEの堅牢性を実証し, 学習力学を用いて, 模擬医療体育環境の公開を行う。
論文 参考訳(メタデータ) (2023-06-24T17:01:51Z) - Generalization bounds for neural ordinary differential equations and
deep residual networks [1.2328446298523066]
我々は、連続時間パラメータを持つパラメータ化ニューラル常微分方程式(ニューラルODE)の族を考える。
ニューラルネットワークとディープ残差ネットワークの類似を利用して、我々はディープ残差ネットワークのクラスを一般化する。
論文 参考訳(メタデータ) (2023-05-11T08:29:34Z) - Generalized Neural Closure Models with Interpretability [28.269731698116257]
我々は、統合された神経部分遅延微分方程式の新規で汎用的な方法論を開発した。
マルコフ型および非マルコフ型ニューラルネットワーク(NN)の閉包パラメータ化を用いて, 偏微分方程式(PDE)における既存/低忠実度力学モデルを直接拡張する。
本研究では, 非線形波動, 衝撃波, 海洋酸性化モデルに基づく4つの実験セットを用いて, 新しい一般化ニューラルクロージャモデル(gnCMs)の枠組みを実証する。
論文 参考訳(メタデータ) (2023-01-15T21:57:43Z) - Neural Laplace: Learning diverse classes of differential equations in
the Laplace domain [86.52703093858631]
本稿では,これらすべてを含む多種多様な微分方程式(DE)を学習するための統一的な枠組みを提案する。
時間領域の力学をモデル化する代わりに、ラプラス領域でモデル化する。
The experiment, Neural Laplace shows excellent performance in modelling and extrapolating the trajectories of various class of DEs。
論文 参考訳(メタデータ) (2022-06-10T02:14:59Z) - Stabilized Neural Ordinary Differential Equations for Long-Time
Forecasting of Dynamical Systems [1.001737665513683]
衝撃やカオス力学を正確に捉えたデータ駆動モデリング手法を提案する。
我々は、線形項と非線形項を学習する2つのNNの出力を加えることで、ODEの右辺(SRH)を学習する。
具体的には、疎線形畳み込みNNを訓練して線形項と高密度完全連結非線形NNを学習し、非線形項を学習する。
論文 参考訳(メタデータ) (2022-03-29T16:10:34Z) - Consistency of mechanistic causal discovery in continuous-time using
Neural ODEs [85.7910042199734]
ダイナミカルシステムの研究において,連続時間における因果的発見を検討する。
本稿では,ニューラルネットワークを用いた因果探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-05-06T08:48:02Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳(メタデータ) (2020-06-16T21:56:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。