論文の概要: SyReNets: Symbolic Residual Neural Networks
- arxiv url: http://arxiv.org/abs/2105.14396v1
- Date: Sun, 30 May 2021 00:30:27 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-01 16:53:48.800411
- Title: SyReNets: Symbolic Residual Neural Networks
- Title（参考訳）: SyReNets: シンボリック残留ニューラルネットワーク
- Authors: Carlos Magno C. O. Valle, Sami Haddadin
- Abstract要約: 我々はSyReNetsを提案する。SyReNetsは、ニューラルネットワークを利用してシンボリックリレーションを学習し、データから動的物理システムを正確に記述する手法である。
入力としての位置,速度,加速度のランダムなサンプルのみを観測し,トルクを出力とする。
この手法は、シミュレーション制御された二重振り子を用いて評価され、ニューラルネットワーク、遺伝的プログラミング、従来のシステム識別と比較される。
- 参考スコア（独自算出の注目度）: 9.713727879151012
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite successful seminal works on passive systems in the literature,
learning free-form physical laws for controlled dynamical systems given
experimental data is still an open problem. For decades, symbolic mathematical
equations and system identification were the golden standards. Unfortunately, a
set of assumptions about the properties of the underlying system is required,
which makes the model very rigid and unable to adapt to unforeseen changes in
the physical system. Neural networks, on the other hand, are known universal
function approximators but are prone to over-fit, limited accuracy, and bias
problems, which makes them alone unreliable candidates for such tasks. In this
paper, we propose SyReNets, an approach that leverages neural networks for
learning symbolic relations to accurately describe dynamic physical systems
from data. It explores a sequence of symbolic layers that build, in a residual
manner, mathematical relations that describes a given desired output from input
variables. We apply it to learn the symbolic equation that describes the
Lagrangian of a given physical system. We do this by only observing random
samples of position, velocity, and acceleration as input and torque as output.
Therefore, using the Lagrangian as a latent representation from which we derive
torque using the Euler-Lagrange equations. The approach is evaluated using a
simulated controlled double pendulum and compared with neural networks, genetic
programming, and traditional system identification. The results demonstrate
that, compared to neural networks and genetic programming, SyReNets converges
to representations that are more accurate and precise throughout the state
space. Despite having slower convergence than traditional system
identification, similar to neural networks, the approach remains flexible
enough to adapt to an unforeseen change in the physical system structure.
- Abstract（参考訳）: 文学における受動的システムの研究は成功したが、実験データから制御力学系に対する自由形式の物理法則を学習することは依然として未解決の問題である。
何十年もの間、記号的数式とシステム同定が黄金の標準であった。
残念なことに、基盤となるシステムの特性に関する一連の仮定が必要であり、モデルは非常に堅固で、予期せぬ物理システムの変化に適応できない。
一方、ニューラルネットワークは普遍関数近似子として知られているが、過剰適合性、精度の制限、バイアス問題を起こしやすいため、そのようなタスクの候補として信頼できない。
本稿では,ニューラルネットワークを利用して記号関係を学習し,データから動的物理系を正確に記述するSyReNetsを提案する。
入力変数から与えられた所望の出力を記述する数学的関係を、残留的に構築するシンボリックなレイヤのシーケンスを探索する。
与えられた物理系のラグランジアンを記述する記号方程式を学ぶためにこれを応用する。
入力としての位置,速度,加速度のランダムなサンプルのみを観測し,トルクを出力とする。
したがって、ラグランジアンを潜在表現とし、オイラー・ラグランジ方程式を用いてトルクを求める。
このアプローチは、シミュレーション制御された二重振り子を用いて評価され、ニューラルネットワーク、遺伝的プログラミング、従来のシステム同定と比較される。
結果は、ニューラルネットワークや遺伝的プログラミングと比較して、SyReNetsは状態空間全体を通してより正確で正確な表現に収束することを示した。
ニューラルネットワークと同様に、従来のシステム識別よりも収束が遅いにもかかわらず、このアプローチは、予期せぬ物理的システム構造の変化に適応できるほど柔軟である。
関連論文リスト
- GradINN: Gradient Informed Neural Network [2.287415292857564]
物理情報ニューラルネットワーク(PINN)にヒントを得た手法を提案する。
GradINNは、システムの勾配に関する事前の信念を利用して、予測関数の勾配を全ての入力次元にわたって制限する。
非時間依存システムにまたがる多様な問題に対するGradINNの利点を実証する。
論文 参考訳（メタデータ） (2024-09-03T14:03:29Z) - Learning Governing Equations of Unobserved States in Dynamical Systems [0.0]
我々は、部分的に観測された力学系の制御方程式を学習するために、ハイブリッドニューラルネットワークODE構造を用いる。
本手法は, 観測されていない状態の真の支配方程式の学習に有効であることを示す。
論文 参考訳（メタデータ） (2024-04-29T10:28:14Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳（メタデータ） (2024-03-18T18:01:01Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳（メタデータ） (2023-06-04T08:53:27Z) - Dynamic Inference with Neural Interpreters [72.90231306252007]
本稿では,モジュールシステムとしての自己アテンションネットワークにおける推論を分解するアーキテクチャであるNeural Interpretersを提案する。
モデルへの入力は、エンドツーエンドの学習方法で一連の関数を通してルーティングされる。
ニューラル・インタープリタは、より少ないパラメータを用いて視覚変換器と同等に動作し、サンプル効率で新しいタスクに転送可能であることを示す。
論文 参考訳（メタデータ） (2021-10-12T23:22:45Z) - The Separation Capacity of Random Neural Networks [78.25060223808936]
標準ガウス重みと一様分布バイアスを持つ十分に大きな2層ReLUネットワークは、この問題を高い確率で解くことができることを示す。
我々は、相互複雑性という新しい概念の観点から、データの関連構造を定量化する。
論文 参考訳（メタデータ） (2021-07-31T10:25:26Z) - Artificial neural network as a universal model of nonlinear dynamical
systems [0.0]
このマップは、重みがモデル化されたシステムをエンコードする人工知能ニューラルネットワークとして構築されている。
ローレンツ系、ロースラー系およびヒンドマール・ロースニューロンを考察する。
誘引子、パワースペクトル、分岐図、リャプノフ指数の視覚像に高い類似性が観察される。
論文 参考訳（メタデータ） (2021-03-06T16:02:41Z) - A Novel Anomaly Detection Algorithm for Hybrid Production Systems based
on Deep Learning and Timed Automata [73.38551379469533]
DAD:DeepAnomalyDetectionは,ハイブリッド生産システムにおける自動モデル学習と異常検出のための新しいアプローチである。
深層学習とタイムドオートマトンを組み合わせて、観察から行動モデルを作成する。
このアルゴリズムは実システムからの2つのデータを含む少数のデータセットに適用され、有望な結果を示している。
論文 参考訳（メタデータ） (2020-10-29T08:27:43Z) - System Identification Through Lipschitz Regularized Deep Neural Networks [0.4297070083645048]
ニューラルネットワークを使って、データから支配方程式を学習します。
我々は、観測されたタイムスタンプデータから直接、ODEs $dotx(t) = f(t, x(t))$の右辺を再構築する。
論文 参考訳（メタデータ） (2020-09-07T17:52:51Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳（メタデータ） (2020-06-08T09:53:35Z) - Mean-Field and Kinetic Descriptions of Neural Differential Equations [0.0]
この研究では、ニューラルネットワークの特定のクラス、すなわち残留ニューラルネットワークに焦点を当てる。
我々は、ネットワークのパラメータ、すなわち重みとバイアスに関する定常状態と感度を分析する。
残留ニューラルネットワークにインスパイアされた微視的ダイナミクスの修正は、ネットワークのフォッカー・プランクの定式化につながる。
論文 参考訳（メタデータ） (2020-01-07T13:41:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。