論文の概要: Neural Integral Equations
- arxiv url: http://arxiv.org/abs/2209.15190v1
- Date: Fri, 30 Sep 2022 02:32:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-03 17:06:36.073102
- Title: Neural Integral Equations
- Title(参考訳): 神経積分方程式
- Authors: Emanuele Zappala, Antonio Henrique de Oliveira Fonseca, Josue Ortega
Caro and David van Dijk
- Abstract要約: 本稿では,未知の積分演算子を解法から学習する手法であるNeural Integral Equations (NIE)を紹介する。
NIE の注意バージョンである Attentional Neural Integral Equations (ANIE) を導入し,その積分を自己注意に置き換えた。
積分方程式による力学の学習は他の連続法よりも高速であることを示す。
- 参考スコア(独自算出の注目度): 2.485182034310304
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Integral equations (IEs) are functional equations defined through integral
operators, where the unknown function is integrated over a possibly
multidimensional space. Important applications of IEs have been found
throughout theoretical and applied sciences, including in physics, chemistry,
biology, and engineering; often in the form of inverse problems. IEs are
especially useful since differential equations, e.g. ordinary differential
equations (ODEs), and partial differential equations (PDEs) can be formulated
in an integral version which is often more convenient to solve. Moreover,
unlike ODEs and PDEs, IEs can model inherently non-local dynamical systems,
such as ones with long distance spatiotemporal relations. While efficient
algorithms exist for solving given IEs, no method exists that can learn an
integral equation and its associated dynamics from data alone. In this article,
we introduce Neural Integral Equations (NIE), a method that learns an unknown
integral operator from data through a solver. We also introduce an attentional
version of NIE, called Attentional Neural Integral Equations (ANIE), where the
integral is replaced by self-attention, which improves scalability and provides
interpretability. We show that learning dynamics via integral equations is
faster than doing so via other continuous methods, such as Neural ODEs.
Finally, we show that ANIE outperforms other methods on several benchmark tasks
in ODE, PDE, and IE systems of synthetic and real-world data.
- Abstract(参考訳): 積分方程式 (ies) は積分作用素を通じて定義される関数方程式であり、未知関数は多次元空間上で積分される。
iesの重要な応用は、物理学、化学、生物学、工学、しばしば逆問題という形で、理論および応用科学の至るところで発見されている。
IEは、通常微分方程式(ODE)や偏微分方程式(PDE)といった微分方程式が、しばしば解くのに便利な積分バージョンで定式化できるため、特に有用である。
さらに、ODEやPDEとは異なり、IEは本質的に非局所的な力学系をモデル化することができる。
与えられたIEを解くための効率的なアルゴリズムはあるが、積分方程式とその関連するダイナミクスをデータだけで学習できる手法は存在しない。
本稿では,未知の積分演算子を解法から学習する手法であるNeural Integral Equations (NIE)を紹介する。
NIE の注意バージョンである Attentional Neural Integral Equations (ANIE) を導入し、その積分を自己注意に置き換え、拡張性を改善し、解釈可能性を提供する。
積分方程式による学習はニューラルODEのような他の連続的な手法よりも高速であることを示す。
最後に、ANIEは、ODE、PDE、IEシステムにおける複数のベンチマークタスクにおいて、合成および実世界のデータにおいて、他の手法よりも優れていることを示す。
関連論文リスト
- Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳(メタデータ) (2024-02-20T15:23:24Z) - Spectral methods for Neural Integral Equations [0.6993026261767287]
本稿では,スペクトル法に基づくニューラル積分方程式の枠組みを提案する。
モデルの近似能力に関する様々な理論的保証を示す。
得られたモデルの有効性を示す数値実験を行う。
論文 参考訳(メタデータ) (2023-12-09T19:42:36Z) - On Robust Numerical Solver for ODE via Self-Attention Mechanism [82.95493796476767]
我々は,内在性雑音障害を緩和し,AIによって強化された数値解法を,データサイズを小さくする訓練について検討する。
まず,教師付き学習における雑音を制御するための自己認識機構の能力を解析し,さらに微分方程式の数値解に付加的な自己認識機構を導入し,簡便かつ有効な数値解法であるAttrを提案する。
論文 参考訳(メタデータ) (2023-02-05T01:39:21Z) - Neural Integro-Differential Equations [2.001149416674759]
積分微分方程式 (IDE) は、積分成分と微分成分の両方を構成する微分方程式の一般化である。
NIDEは、ニューラルネットワークを使用してIDEの通常のコンポーネントと統合コンポーネントをモデル化するフレームワークである。
NIDEは力学をマルコフ成分と非マルコフ成分に分解できることを示す。
論文 参考訳(メタデータ) (2022-06-28T20:39:35Z) - D-CIPHER: Discovery of Closed-form Partial Differential Equations [80.46395274587098]
D-CIPHERは人工物の測定に頑健であり、微分方程式の新しい、非常に一般的なクラスを発見できる。
さらに,D-CIPHERを効率的に探索するための新しい最適化手法であるCoLLieを設計する。
論文 参考訳(メタデータ) (2022-06-21T17:59:20Z) - On Numerical Integration in Neural Ordinary Differential Equations [0.0]
本稿では,数値積分がニューラルネットワークモデルの学習に与える影響を明らかにするために,逆修正微分方程式(IMDE)を提案する。
ニューラルODEモデルのトレーニングは、真のODEではなく、IMDEの近似を実際に返すことが示されている。
論文 参考訳(メタデータ) (2022-06-15T07:39:01Z) - Neural Laplace: Learning diverse classes of differential equations in
the Laplace domain [86.52703093858631]
本稿では,これらすべてを含む多種多様な微分方程式(DE)を学習するための統一的な枠組みを提案する。
時間領域の力学をモデル化する代わりに、ラプラス領域でモデル化する。
The experiment, Neural Laplace shows excellent performance in modelling and extrapolating the trajectories of various class of DEs。
論文 参考訳(メタデータ) (2022-06-10T02:14:59Z) - AutoIP: A United Framework to Integrate Physics into Gaussian Processes [15.108333340471034]
あらゆる微分方程式をガウス過程に統合できる枠組みを提案する。
本手法は,シミュレーションと実世界の応用の両方において,バニラGPの改善を示す。
論文 参考訳(メタデータ) (2022-02-24T19:02:14Z) - Message Passing Neural PDE Solvers [60.77761603258397]
我々は、バックプロップ最適化されたニューラル関数近似器で、グラフのアリーデザインのコンポーネントを置き換えるニューラルメッセージパッシング解決器を構築した。
本稿では, 有限差分, 有限体積, WENOスキームなどの古典的手法を表現的に含んでいることを示す。
本研究では, 異なる領域のトポロジ, 方程式パラメータ, 離散化などにおける高速, 安定, 高精度な性能を, 1次元, 2次元で検証する。
論文 参考訳(メタデータ) (2022-02-07T17:47:46Z) - Learning ODEs via Diffeomorphisms for Fast and Robust Integration [40.52862415144424]
微分可能な解法はニューラルネットワークの学習の中心である。
本稿では,データからODEを学習するための代替手法を提案する。
学習したODEと勾配を統合する場合、最大2桁の改善を観測する。
論文 参考訳(メタデータ) (2021-07-04T14:32:16Z) - Fourier Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
積分カーネルを直接フーリエ空間でパラメータ化することで、新しいニューラル演算子を定式化する。
バーガースの方程式、ダーシー流、ナビエ・ストークス方程式の実験を行う。
従来のPDEソルバに比べて最大3桁高速である。
論文 参考訳(メタデータ) (2020-10-18T00:34:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。