論文の概要: Universality of neural dynamics on complex networks
- arxiv url: http://arxiv.org/abs/2301.04900v1
- Date: Thu, 12 Jan 2023 09:44:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-13 13:59:40.194882
- Title: Universality of neural dynamics on complex networks
- Title(参考訳): 複雑ネットワークにおけるニューラルダイナミクスの普遍性
- Authors: Vaiva Vasiliauskaite and Nino Antulov-Fantulin
- Abstract要約: 複素ネットワーク上の力学を規定する常微分方程式の関数形式を学ぶためのグラフニューラルネットワークの能力について論じる。
ニューラルネットワークモデル: (i) 初期値データ分布の最初の瞬間に依存する一般化能力; (ii) ダイナミックスの非散逸性の性質を暗黙的に学習すること; (iii) モデルの精度分解限界は$mathcalO (1/sqrtn)$である。
- 参考スコア(独自算出の注目度): 3.2489082010225494
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper discusses the capacity of graph neural networks to learn the
functional form of ordinary differential equations that govern dynamics on
complex networks. We propose necessary elements for such a problem, namely,
inductive biases, a neural network architecture and a learning task.
Statistical learning theory suggests that generalisation power of neural
networks relies on independence and identical distribution (i.i.d.)\ of
training and testing data. Although this assumption together with an
appropriate neural architecture and a learning mechanism is sufficient for
accurate out-of-sample predictions of dynamics such as, e.g.\ mass-action
kinetics, by studying the out-of-distribution generalisation in the case of
diffusion dynamics, we find that the neural network model: (i) has a
generalisation capacity that depends on the first moment of the initial value
data distribution; (ii) learns the non-dissipative nature of dynamics
implicitly; and (iii) the model's accuracy resolution limit is of order
$\mathcal{O}(1/\sqrt{n})$ for a system of size $n$.
- Abstract(参考訳): 本稿では,複素ネットワーク上の力学を規定する常微分方程式の関数形式を学ぶためのグラフニューラルネットワークの能力について論じる。
本稿では,そのような問題,すなわち帰納バイアス,ニューラルネットワークアーキテクチャ,学習タスクに必要な要素を提案する。
統計的学習理論は、ニューラルネットワークの一般化能力は、トレーニングとテストデータの独立性と同一分布(d.d.)に依存することを示唆している。
この仮定は、適切なニューラルネットワークアーキテクチャと学習機構とともに、例えば、拡散力学の場合の分布外一般化を研究することによって、例えば、質量運動学のようなダイナミクスのサンプル外の正確な予測に十分であるが、ニューラルネットワークモデルがあることが分かる。
(i)初期値データ流通の最初の瞬間に依存する一般化能力を有する。
(ii)非散逸的な力学の性質を暗黙的に学ぶこと、
(iii)モデルの精度の限界は、サイズが$n$のシステムに対して$\mathcal{o}(1/\sqrt{n})$である。
関連論文リスト
- CGNSDE: Conditional Gaussian Neural Stochastic Differential Equation for Modeling Complex Systems and Data Assimilation [1.4322470793889193]
条件付きニューラル微分方程式(CGNSDE)と呼ばれる新しい知識ベースおよび機械学習ハイブリッドモデリング手法を開発した。
標準的なニューラルネットワーク予測モデルとは対照的に、CGNSDEは前方予測タスクと逆状態推定問題の両方に効果的に取り組むように設計されている。
論文 参考訳(メタデータ) (2024-04-10T05:32:03Z) - eXponential FAmily Dynamical Systems (XFADS): Large-scale nonlinear Gaussian state-space modeling [9.52474299688276]
非線形状態空間グラフィカルモデルのための低ランク構造化変分オートエンコーダフレームワークを提案する。
我々のアプローチは、より予測的な生成モデルを学ぶ能力を一貫して示している。
論文 参考訳(メタデータ) (2024-03-03T02:19:49Z) - Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳(メタデータ) (2024-02-20T15:23:24Z) - Semi-Supervised Learning of Dynamical Systems with Neural Ordinary
Differential Equations: A Teacher-Student Model Approach [10.20098335268973]
TS-NODEは、NODEで動的システムのモデリングを行うための、最初の半教師付きアプローチである。
複数の動的システムモデリングタスクにおいて,ベースラインのNeural ODEモデルよりも優れた性能を示す。
論文 参考訳(メタデータ) (2023-10-19T19:17:12Z) - Learning Latent Dynamics via Invariant Decomposition and
(Spatio-)Temporal Transformers [0.6767885381740952]
本研究では,高次元経験データから力学系を学習する手法を提案する。
我々は、システムの複数の異なるインスタンスからデータが利用できる設定に焦点を当てる。
我々は、単純な理論的分析と、合成および実世界のデータセットに関する広範な実験を通して行動を研究する。
論文 参考訳(メタデータ) (2023-06-21T07:52:07Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。
メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文 参考訳(メタデータ) (2022-02-21T18:59:03Z) - Constructing Neural Network-Based Models for Simulating Dynamical
Systems [59.0861954179401]
データ駆動モデリングは、真のシステムの観測からシステムの力学の近似を学ぼうとする代替パラダイムである。
本稿では,ニューラルネットワークを用いた動的システムのモデル構築方法について検討する。
基礎的な概要に加えて、関連する文献を概説し、このモデリングパラダイムが克服すべき数値シミュレーションから最も重要な課題を概説する。
論文 参考訳(メタデータ) (2021-11-02T10:51:42Z) - Supervised DKRC with Images for Offline System Identification [77.34726150561087]
現代の力学系はますます非線形で複雑なものになりつつある。
予測と制御のためのコンパクトで包括的な表現でこれらのシステムをモデル化するフレームワークが必要である。
本手法は,教師付き学習手法を用いてこれらの基礎関数を学習する。
論文 参考訳(メタデータ) (2021-09-06T04:39:06Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳(メタデータ) (2020-12-15T16:29:49Z) - Physics-based polynomial neural networks for one-shot learning of
dynamical systems from one or a few samples [0.0]
本論文は, 単純な振り子と世界最大規模のX線源の双方について, 実測結果について述べる。
提案手法により, ノイズ, 制限, 部分的な観測から複雑な物理を復元することができることが実証された。
論文 参考訳(メタデータ) (2020-05-24T09:27:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。