論文の概要: Differential Equations for Continuous-Time Deep Learning
- arxiv url: http://arxiv.org/abs/2401.03965v1
- Date: Mon, 8 Jan 2024 15:40:11 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-09 15:30:13.587117
- Title: Differential Equations for Continuous-Time Deep Learning
- Title(参考訳): 連続時間深層学習のための微分方程式
- Authors: Lars Ruthotto
- Abstract要約: 主に、常微分方程式と偏微分方程式とその解析に精通した読者を対象とする。
ニューラルODEがディープラーニングに対する新たな洞察と、より効率的なアルゴリズムの基礎を提供する方法について、私たちは見ていきます。
- 参考スコア(独自算出の注目度): 2.163953126557988
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This short, self-contained article seeks to introduce and survey
continuous-time deep learning approaches that are based on neural ordinary
differential equations (neural ODEs). It primarily targets readers familiar
with ordinary and partial differential equations and their analysis who are
curious to see their role in machine learning. Using three examples from
machine learning and applied mathematics, we will see how neural ODEs can
provide new insights into deep learning and a foundation for more efficient
algorithms.
- Abstract(参考訳): この短い自己完結型論文は、ニューラル常微分方程式(ニューラルODE)に基づく継続的時間深層学習のアプローチを導入し、調査することを目指している。
主に、通常の偏微分方程式やその分析に精通した読者を対象にしており、機械学習における自身の役割を知りたがっている。
機械学習と応用数学の3つの例を使って、ニューラルODEがディープラーニングに対する新たな洞察を提供し、より効率的なアルゴリズムの基礎を提供するかを見る。
関連論文リスト
- Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳(メタデータ) (2024-02-20T15:23:24Z) - A Bridge between Dynamical Systems and Machine Learning: Engineered
Ordinary Differential Equations as Classification Algorithm (EODECA) [1.0499611180329806]
本研究は,機械学習と動的システムを橋渡しすることを目的とする。
連続常微分方程式を基盤とするニューラルネットワークとして設計されたEODECAは、力学系のよく確立されたツールキットを活用することを目的としている。
しばしば不透明感に悩まされる従来のディープラーニングモデルとは異なり、EODECAは高い分類性能と本質的な解釈性の両方を約束する。
論文 参考訳(メタデータ) (2023-11-17T08:30:41Z) - Stop overkilling simple tasks with black-box models and use transparent
models instead [57.42190785269343]
ディープラーニングアプローチは、生データから自律的に機能を抽出することができる。
これにより、機能エンジニアリングプロセスをバイパスすることができる。
ディープラーニング戦略は、しばしば精度で従来のモデルより優れている。
論文 参考訳(メタデータ) (2023-02-06T14:28:49Z) - A Survey of Deep Learning for Mathematical Reasoning [71.88150173381153]
我々は過去10年間の数学的推論とディープラーニングの交差点における重要なタスク、データセット、方法についてレビューする。
大規模ニューラルネットワークモデルの最近の進歩は、新しいベンチマークと、数学的推論にディープラーニングを使用する機会を開放している。
論文 参考訳(メタデータ) (2022-12-20T18:46:16Z) - Deep learning applied to computational mechanics: A comprehensive
review, state of the art, and the classics [77.34726150561087]
人工知能,特に深層学習(DL)の最近の進歩を概観する。
ハイブリッドおよび純粋機械学習(ML)の手法について論じる。
AIの歴史と限界は、特に古典の誤解や誤解を指摘し、議論され、議論される。
論文 参考訳(メタデータ) (2022-12-18T02:03:00Z) - Deep Learning Methods for Partial Differential Equations and Related
Parameter Identification Problems [1.7150329136228712]
偏微分方程式(PDE)の特定のクラスを解決するために、ますます多くのニューラルネットワークアーキテクチャが開発されている。
このような手法は、PDE固有の特性を利用して、標準フィードフォワードニューラルネットワーク、リカレントニューラルネットワーク、畳み込みニューラルネットワークよりも優れたPDEを解決する。
これは、パラメトリックPDEが科学や工学で生じるほとんどの自然および物理的プロセスのモデル化に広く使われている数学モデリングの領域に大きな影響を与えている。
論文 参考訳(メタデータ) (2022-12-06T16:53:34Z) - Unsupervised Legendre-Galerkin Neural Network for Stiff Partial
Differential Equations [9.659504024299896]
本稿では,Regendre-Galerkinニューラルネットワークに基づく教師なし機械学習アルゴリズムを提案する。
提案したニューラルネットワークは、境界層挙動を有する特異摂動PDEと同様に、一般的な1Dおよび2DPDEに適用される。
論文 参考訳(メタデータ) (2022-07-21T00:47:47Z) - Learning differential equations from data [0.0]
近年,データ量の多さから,データから微分方程式モデルを学習するためのデータ駆動手法の探索が活発に行われている。
本稿では,複数の隠蔽層と異なるニューラルネットワーク幅を用いて,データからODEを学習することで,フォワード・オイラーに基づくニューラルネットワークモデルを提案し,その性能を検証した。
論文 参考訳(メタデータ) (2022-05-23T17:36:28Z) - On Neural Differential Equations [13.503274710499971]
特に、ニューラル微分方程式(NDE)は、ニューラルネットワークと微分方程式が同じコインの両側であることを示す。
NDEは生成問題、動的システム、時系列を扱うのに適している。
NDEは高容量関数近似、モデル空間への強い先行性、不規則なデータを扱う能力、メモリ効率、そして両サイドで利用可能な豊富な理論を提供する。
論文 参考訳(メタデータ) (2022-02-04T23:32:29Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳(メタデータ) (2020-12-15T16:29:49Z) - Fourier Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
積分カーネルを直接フーリエ空間でパラメータ化することで、新しいニューラル演算子を定式化する。
バーガースの方程式、ダーシー流、ナビエ・ストークス方程式の実験を行う。
従来のPDEソルバに比べて最大3桁高速である。
論文 参考訳(メタデータ) (2020-10-18T00:34:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。