論文の概要: Stiff Neural Ordinary Differential Equations

• arxiv url: http://arxiv.org/abs/2103.15341v1
• Date: Mon, 29 Mar 2021 05:24:56 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-30 14:32:28.748142
• Title: Stiff Neural Ordinary Differential Equations
• Title（参考訳）: 剛性ニューラル正規微分方程式
• Authors: Suyong Kim, Weiqi Ji, Sili Deng, Christopher Rackauckas
• Abstract要約: 我々はまず、ロバートソン問題における古典的な硬質ODEシステムにおける神経ODEの学習の課題を示す。 次に,ロバートソン問題と大気汚染問題の厳密なシステムにおける実証実験を行った。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural Ordinary Differential Equations (ODE) are a promising approach to learn dynamic models from time-series data in science and engineering applications. This work aims at learning Neural ODE for stiff systems, which are usually raised from chemical kinetic modeling in chemical and biological systems. We first show the challenges of learning neural ODE in the classical stiff ODE systems of Robertson's problem and propose techniques to mitigate the challenges associated with scale separations in stiff systems. We then present successful demonstrations in stiff systems of Robertson's problem and an air pollution problem. The demonstrations show that the usage of deep networks with rectified activations, proper scaling of the network outputs as well as loss functions, and stabilized gradient calculations are the key techniques enabling the learning of stiff neural ODE. The success of learning stiff neural ODE opens up possibilities of using neural ODEs in applications with widely varying time-scales, like chemical dynamics in energy conversion, environmental engineering, and the life sciences.
• Abstract（参考訳）: Neural Ordinary Differential Equations (ODE)は、科学と工学の応用における時系列データから動的モデルを学ぶための有望なアプローチである。 本研究の目的は, 化学・生物系の化学動力学モデルから得られる硬質系のニューラルODEを学習することである。 まず,ロバートソン問題における古典的強固なodeシステムにおけるニューラルode学習の課題を示し,強固システムのスケール分離に伴う課題を軽減する手法を提案する。 次に,ロバートソン問題と大気汚染問題の厳密なシステムにおける実証実験を行った。 実演では, 補正されたアクティベーションを持つ深層ネットワークの利用, ネットワーク出力の適切なスケーリング, 損失関数, 安定勾配計算が, 強固なニューラルネットワークの学習を可能にする鍵となる手法であることを示した。 堅いニューラルODEの学習の成功は、エネルギー変換における化学動力学、環境工学、生命科学など、幅広い時間スケールの応用において、ニューラルODEを使用する可能性を開く。

関連論文リスト

• Training Stiff Neural Ordinary Differential Equations with Implicit Single-Step Methods [3.941173292703699]
  通常の微分方程式(ODE)の剛系は多くの科学や工学の分野で普及している。 標準的なニューラルODEアプローチは、それらを学ぶのに苦労する。 本稿では,1ステップの暗黙的スキームに基づくニューラルネットワークによる剛性処理手法を提案する。
  論文  参考訳（メタデータ） (2024-10-08T01:08:17Z)
• KAN-ODEs: Kolmogorov-Arnold Network Ordinary Differential Equations for Learning Dynamical Systems and Hidden Physics [0.0]
  コルモゴロフ・アルノルドネットワーク(KAN)は多層パーセプトロン(MLP)の代替品である この研究は、Kansをニューラル常微分方程式(ODE)フレームワークのバックボーンとして適用する。
  論文  参考訳（メタデータ） (2024-07-05T00:38:49Z)
• Learning Governing Equations of Unobserved States in Dynamical Systems [0.0]
  我々は、部分的に観測された力学系の制御方程式を学習するために、ハイブリッドニューラルネットワークODE構造を用いる。 本手法は, 観測されていない状態の真の支配方程式の学習に有効であることを示す。
  論文  参考訳（メタデータ） (2024-04-29T10:28:14Z)
• Experimental study of Neural ODE training with adaptive solver for dynamical systems modeling [72.84259710412293]
  アダプティブと呼ばれるいくつかのODEソルバは、目の前の問題の複雑さに応じて評価戦略を適用することができる。 本稿では,動的システムモデリングのためのブラックボックスとして適応型ソルバをシームレスに利用できない理由を示すための簡単な実験について述べる。
  論文  参考訳（メタデータ） (2022-11-13T17:48:04Z)
• Neural Laplace: Learning diverse classes of differential equations in the Laplace domain [86.52703093858631]
  本稿では,これらすべてを含む多種多様な微分方程式(DE)を学習するための統一的な枠組みを提案する。 時間領域の力学をモデル化する代わりに、ラプラス領域でモデル化する。 The experiment, Neural Laplace shows excellent performance in modelling and extrapolating the trajectories of various class of DEs。
  論文  参考訳（メタデータ） (2022-06-10T02:14:59Z)
• Physics Informed RNN-DCT Networks for Time-Dependent Partial Differential Equations [62.81701992551728]
  時間依存偏微分方程式を解くための物理インフォームド・フレームワークを提案する。 我々のモデルは離散コサイン変換を用いて空間的および反復的なニューラルネットワークを符号化する。 ナヴィエ・ストークス方程式に対するテイラー・グリーン渦解の実験結果を示す。
  論文  参考訳（メタデータ） (2022-02-24T20:46:52Z)
• Constructing Neural Network-Based Models for Simulating Dynamical Systems [59.0861954179401]
  データ駆動モデリングは、真のシステムの観測からシステムの力学の近似を学ぼうとする代替パラダイムである。 本稿では,ニューラルネットワークを用いた動的システムのモデル構築方法について検討する。 基礎的な概要に加えて、関連する文献を概説し、このモデリングパラダイムが克服すべき数値シミュレーションから最も重要な課題を概説する。
  論文  参考訳（メタデータ） (2021-11-02T10:51:42Z)
• Characterizing possible failure modes in physics-informed neural networks [55.83255669840384]
  科学機械学習における最近の研究は、いわゆる物理情報ニューラルネットワーク(PINN)モデルを開発した。 既存のPINN方法論は比較的自明な問題に対して優れたモデルを学ぶことができるが、単純なPDEであっても、関連する物理現象を学習するのに失敗する可能性があることを実証する。 これらの障害モードは,NNアーキテクチャの表現力の欠如によるものではなく,PINNのセットアップによって損失状況の最適化が極めて困難であることを示す。
  論文  参考訳（メタデータ） (2021-09-02T16:06:45Z)
• Accelerating Neural ODEs Using Model Order Reduction [0.0]
  本稿では,ニューラルネットワークの圧縮と高速化に数学的モデルオーダー削減法が利用できることを示す。 我々は,ニューラルネットワークの層として必要な部分空間投影と操作を統合するニューラルODEを開発することで,新しい圧縮手法を実装した。
  論文  参考訳（メタデータ） (2021-05-28T19:27:09Z)
• Neural ODE Processes [64.10282200111983]
  NDP(Neural ODE Process)は、Neural ODEの分布によって決定される新しいプロセスクラスである。 我々のモデルは,少数のデータポイントから低次元システムのダイナミクスを捉えることができることを示す。
  論文  参考訳（メタデータ） (2021-03-23T09:32:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。