論文の概要: Learning Dynamics from Noisy Measurements using Deep Learning with a
Runge-Kutta Constraint
- arxiv url: http://arxiv.org/abs/2109.11446v1
- Date: Thu, 23 Sep 2021 15:43:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-24 16:32:20.528704
- Title: Learning Dynamics from Noisy Measurements using Deep Learning with a
Runge-Kutta Constraint
- Title(参考訳): runge-kutta制約付きディープラーニングによるノイズ測定からの学習ダイナミクス
- Authors: Pawan Goyal and Peter Benner
- Abstract要約: そこで本研究では,雑音と疎サンプルを用いた微分方程式の学習手法について論じる。
我々の方法論では、ディープニューラルネットワークと古典的な数値積分法の統合において、大きな革新が見られる。
- 参考スコア(独自算出の注目度): 9.36739413306697
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Measurement noise is an integral part while collecting data of a physical
process. Thus, noise removal is a necessary step to draw conclusions from these
data, and it often becomes quite essential to construct dynamical models using
these data. We discuss a methodology to learn differential equation(s) using
noisy and sparsely sampled measurements. In our methodology, the main
innovation can be seen in of integration of deep neural networks with a
classical numerical integration method. Precisely, we aim at learning a neural
network that implicitly represents the data and an additional neural network
that models the vector fields of the dependent variables. We combine these two
networks by enforcing the constraint that the data at the next time-steps can
be given by following a numerical integration scheme such as the fourth-order
Runge-Kutta scheme. The proposed framework to learn a model predicting the
vector field is highly effective under noisy measurements. The approach can
handle scenarios where dependent variables are not available at the same
temporal grid. We demonstrate the effectiveness of the proposed method to
learning models using data obtained from various differential equations. The
proposed approach provides a promising methodology to learn dynamic models,
where the first-principle understanding remains opaque.
- Abstract(参考訳): 測定ノイズは、物理プロセスのデータを収集しながら、積分部分である。
したがって、ノイズ除去はこれらのデータから結論を引き出すために必要となるステップであり、これらのデータを用いて動的モデルを構築するためには、しばしば極めて重要である。
そこで本研究では,雑音と疎サンプルを用いた微分方程式の学習手法について論じる。
我々の方法論では、ディープニューラルネットワークと古典的な数値積分法の統合において、大きな革新が見られる。
正確には、データを暗黙的に表現するニューラルネットワークと、依存する変数のベクトルフィールドをモデル化する追加のニューラルネットワークの学習を目指している。
この2つのネットワークは,次段階のデータを4階のルンゲ・クッタスキームのような数値積分スキームに従えば得られるという制約を強制することによって結合する。
ベクトル場予測モデルを学ぶための提案手法は, 騒音測定において非常に有効である。
このアプローチは、同じテンポラリグリッドで依存変数が利用できないシナリオを扱うことができる。
様々な微分方程式から得られたデータを用いた学習モデルに対する提案手法の有効性を示す。
提案されたアプローチは、第一原理の理解が不透明である動的モデルを学ぶための有望な方法論を提供する。
関連論文リスト
- Learning of networked spreading models from noisy and incomplete data [7.669018800404791]
スケーラブルな動的メッセージパッシング技術に基づく普遍的な学習手法を提案する。
このアルゴリズムは、モデルとデータに関する利用可能な事前知識を活用し、拡散モデルのネットワーク構造とパラメータの両方を再構成する。
キーモデルパラメータを持つ手法の線形計算複雑性は,アルゴリズムを大規模ネットワークインスタンスにスケーラブルにすることを示す。
論文 参考訳(メタデータ) (2023-12-20T13:12:47Z) - Learn to Unlearn for Deep Neural Networks: Minimizing Unlearning
Interference with Gradient Projection [56.292071534857946]
最近のデータプライバシ法は、機械学習への関心を喚起している。
課題は、残りのデータセットに関する知識を変更することなく、忘れたデータに関する情報を捨てることである。
我々は、プロジェクテッド・グラディエント・アンラーニング(PGU)という、プロジェクテッド・グラディエント・ベースの学習手法を採用する。
トレーニングデータセットがもはやアクセスできない場合でも、スクラッチからスクラッチで再トレーニングされたモデルと同じような振る舞いをするモデルを、我々のアンラーニング手法が生成できることを実証するための実証的な証拠を提供する。
論文 参考訳(メタデータ) (2023-12-07T07:17:24Z) - A Robust SINDy Approach by Combining Neural Networks and an Integral
Form [8.950469063443332]
ノイズや不足データから支配方程式を発見するためのロバストな手法を提案する。
ニューラルネットワークを用いて、測定データに基づいて暗黙の表現を学習する。
自動微分ツールを用いて、SINDyに必要な微分情報を得る。
論文 参考訳(メタデータ) (2023-09-13T10:50:04Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - Dynamic Latent Separation for Deep Learning [67.62190501599176]
機械学習の中核的な問題は、複雑なデータに対するモデル予測のための表現力のある潜在変数を学習することである。
本稿では,表現性を向上し,部分的解釈を提供し,特定のアプリケーションに限定されないアプローチを開発する。
論文 参考訳(メタデータ) (2022-10-07T17:56:53Z) - Deep Active Learning with Noise Stability [24.54974925491753]
ラベルのないデータの不確実性推定は、アクティブな学習に不可欠である。
本稿では,雑音の安定性を利用して不確実性を推定する新しいアルゴリズムを提案する。
本手法はコンピュータビジョン,自然言語処理,構造データ解析など,様々なタスクに適用可能である。
論文 参考訳(メタデータ) (2022-05-26T13:21:01Z) - Neural ODEs with Irregular and Noisy Data [8.349349605334316]
ノイズや不規則なサンプル測定を用いて微分方程式を学習する手法について議論する。
我々の方法論では、ディープニューラルネットワークとニューラル常微分方程式(ODE)アプローチの統合において、大きな革新が見られる。
ベクトル場を記述するモデルを学習するためのフレームワークは,雑音測定において非常に効果的である。
論文 参考訳(メタデータ) (2022-05-19T11:24:41Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - Using Data Assimilation to Train a Hybrid Forecast System that Combines
Machine-Learning and Knowledge-Based Components [52.77024349608834]
利用可能なデータがノイズの多い部分測定の場合,カオスダイナミクスシステムのデータ支援予測の問題を検討する。
動的システムの状態の部分的測定を用いることで、不完全な知識ベースモデルによる予測を改善するために機械学習モデルを訓練できることを示す。
論文 参考訳(メタデータ) (2021-02-15T19:56:48Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳(メタデータ) (2020-12-15T16:29:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。