論文の概要: Differential Equations for Continuous-Time Deep Learning
- arxiv url: http://arxiv.org/abs/2401.03965v1
- Date: Mon, 8 Jan 2024 15:40:11 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-09 15:30:13.587117
- Title: Differential Equations for Continuous-Time Deep Learning
- Title(参考訳): 連続時間深層学習のための微分方程式
- Authors: Lars Ruthotto
- Abstract要約: 主に、常微分方程式と偏微分方程式とその解析に精通した読者を対象とする。
ニューラルODEがディープラーニングに対する新たな洞察と、より効率的なアルゴリズムの基礎を提供する方法について、私たちは見ていきます。
- 参考スコア(独自算出の注目度): 2.163953126557988
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This short, self-contained article seeks to introduce and survey
continuous-time deep learning approaches that are based on neural ordinary
differential equations (neural ODEs). It primarily targets readers familiar
with ordinary and partial differential equations and their analysis who are
curious to see their role in machine learning. Using three examples from
machine learning and applied mathematics, we will see how neural ODEs can
provide new insights into deep learning and a foundation for more efficient
algorithms.
- Abstract(参考訳): この短い自己完結型論文は、ニューラル常微分方程式(ニューラルODE)に基づく継続的時間深層学習のアプローチを導入し、調査することを目指している。
主に、通常の偏微分方程式やその分析に精通した読者を対象にしており、機械学習における自身の役割を知りたがっている。
機械学習と応用数学の3つの例を使って、ニューラルODEがディープラーニングに対する新たな洞察を提供し、より効率的なアルゴリズムの基礎を提供するかを見る。
関連論文リスト
- A Unified Framework for Neural Computation and Learning Over Time [56.44910327178975]
Hamiltonian Learningはニューラルネットワークを"時間とともに"学習するための新しい統合フレームワーク
i)外部ソフトウェアソルバを必要とせずに統合できる、(ii)フィードフォワードおよびリカレントネットワークにおける勾配に基づく学習の概念を一般化する、(iii)新しい視点で開放する、という微分方程式に基づいている。
論文 参考訳(メタデータ) (2024-09-18T14:57:13Z) - An Overview on Machine Learning Methods for Partial Differential Equations: from Physics Informed Neural Networks to Deep Operator Learning [5.75055574132362]
数値アルゴリズムによる偏微分方程式の解の近似は、応用数学における中心的なトピックである。
近年多くの注目を集めている手法の1つは、機械学習に基づく手法である。
本稿では,これらの手法の紹介と,それらに基づく数学的理論について述べる。
論文 参考訳(メタデータ) (2024-08-23T16:57:34Z) - Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳(メタデータ) (2024-02-20T15:23:24Z) - Stop overkilling simple tasks with black-box models and use transparent
models instead [57.42190785269343]
ディープラーニングアプローチは、生データから自律的に機能を抽出することができる。
これにより、機能エンジニアリングプロセスをバイパスすることができる。
ディープラーニング戦略は、しばしば精度で従来のモデルより優れている。
論文 参考訳(メタデータ) (2023-02-06T14:28:49Z) - A Survey of Deep Learning for Mathematical Reasoning [71.88150173381153]
我々は過去10年間の数学的推論とディープラーニングの交差点における重要なタスク、データセット、方法についてレビューする。
大規模ニューラルネットワークモデルの最近の進歩は、新しいベンチマークと、数学的推論にディープラーニングを使用する機会を開放している。
論文 参考訳(メタデータ) (2022-12-20T18:46:16Z) - Deep learning applied to computational mechanics: A comprehensive
review, state of the art, and the classics [77.34726150561087]
人工知能,特に深層学習(DL)の最近の進歩を概観する。
ハイブリッドおよび純粋機械学習(ML)の手法について論じる。
AIの歴史と限界は、特に古典の誤解や誤解を指摘し、議論され、議論される。
論文 参考訳(メタデータ) (2022-12-18T02:03:00Z) - Deep Learning Methods for Partial Differential Equations and Related
Parameter Identification Problems [1.7150329136228712]
偏微分方程式(PDE)の特定のクラスを解決するために、ますます多くのニューラルネットワークアーキテクチャが開発されている。
このような手法は、PDE固有の特性を利用して、標準フィードフォワードニューラルネットワーク、リカレントニューラルネットワーク、畳み込みニューラルネットワークよりも優れたPDEを解決する。
これは、パラメトリックPDEが科学や工学で生じるほとんどの自然および物理的プロセスのモデル化に広く使われている数学モデリングの領域に大きな影響を与えている。
論文 参考訳(メタデータ) (2022-12-06T16:53:34Z) - Unsupervised Legendre-Galerkin Neural Network for Stiff Partial
Differential Equations [9.659504024299896]
本稿では,Regendre-Galerkinニューラルネットワークに基づく教師なし機械学習アルゴリズムを提案する。
提案したニューラルネットワークは、境界層挙動を有する特異摂動PDEと同様に、一般的な1Dおよび2DPDEに適用される。
論文 参考訳(メタデータ) (2022-07-21T00:47:47Z) - Learning differential equations from data [0.0]
近年,データ量の多さから,データから微分方程式モデルを学習するためのデータ駆動手法の探索が活発に行われている。
本稿では,複数の隠蔽層と異なるニューラルネットワーク幅を用いて,データからODEを学習することで,フォワード・オイラーに基づくニューラルネットワークモデルを提案し,その性能を検証した。
論文 参考訳(メタデータ) (2022-05-23T17:36:28Z) - On Neural Differential Equations [13.503274710499971]
特に、ニューラル微分方程式(NDE)は、ニューラルネットワークと微分方程式が同じコインの両側であることを示す。
NDEは生成問題、動的システム、時系列を扱うのに適している。
NDEは高容量関数近似、モデル空間への強い先行性、不規則なデータを扱う能力、メモリ効率、そして両サイドで利用可能な豊富な理論を提供する。
論文 参考訳(メタデータ) (2022-02-04T23:32:29Z) - Fourier Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
積分カーネルを直接フーリエ空間でパラメータ化することで、新しいニューラル演算子を定式化する。
バーガースの方程式、ダーシー流、ナビエ・ストークス方程式の実験を行う。
従来のPDEソルバに比べて最大3桁高速である。
論文 参考訳(メタデータ) (2020-10-18T00:34:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。