論文の概要: Toward Physically Plausible Data-Driven Models: A Novel Neural Network
Approach to Symbolic Regression
- arxiv url: http://arxiv.org/abs/2302.00773v3
- Date: Tue, 27 Jun 2023 12:36:32 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-28 17:25:23.767170
- Title: Toward Physically Plausible Data-Driven Models: A Novel Neural Network
Approach to Symbolic Regression
- Title（参考訳）: 物理的に可塑性データ駆動モデルに向けて:シンボリック回帰に対する新しいニューラルネットワークアプローチ
- Authors: Ji\v{r}\'i Kubal\'ik, Erik Derner, Robert Babu\v{s}ka
- Abstract要約: 本稿では,ニューラルネットワークに基づく記号回帰手法を提案する。
非常に小さなトレーニングデータセットとシステムに関する事前知識に基づいて、物理的に妥当なモデルを構築する。
本研究では,TurtleBot 2移動ロボット,磁気操作システム,2つの抵抗の等価抵抗,アンチロックブレーキシステムの長手力の4つの試験システムに対するアプローチを実験的に評価した。
- 参考スコア（独自算出の注目度）: 2.7071541526963805
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many real-world systems can be described by mathematical models that are
human-comprehensible, easy to analyze and help explain the system's behavior.
Symbolic regression is a method that can automatically generate such models
from data. Historically, symbolic regression has been predominantly realized by
genetic programming, a method that evolves populations of candidate solutions
that are subsequently modified by genetic operators crossover and mutation.
However, this approach suffers from several deficiencies: it does not scale
well with the number of variables and samples in the training data - models
tend to grow in size and complexity without an adequate accuracy gain, and it
is hard to fine-tune the model coefficients using just genetic operators.
Recently, neural networks have been applied to learn the whole analytic model,
i.e., its structure and the coefficients, using gradient-based optimization
algorithms. This paper proposes a novel neural network-based symbolic
regression method that constructs physically plausible models based on even
very small training data sets and prior knowledge about the system. The method
employs an adaptive weighting scheme to effectively deal with multiple loss
function terms and an epoch-wise learning process to reduce the chance of
getting stuck in poor local optima. Furthermore, we propose a parameter-free
method for choosing the model with the best interpolation and extrapolation
performance out of all the models generated throughout the whole learning
process. We experimentally evaluate the approach on four test systems: the
TurtleBot 2 mobile robot, the magnetic manipulation system, the equivalent
resistance of two resistors in parallel, and the longitudinal force of the
anti-lock braking system. The results clearly show the potential of the method
to find parsimonious models that comply with the prior knowledge provided.
- Abstract（参考訳）: 多くの実世界のシステムは、人間が理解でき、分析しやすく、システムの振る舞いを説明するのに役立つ数学的モデルによって記述することができる。
記号回帰はデータからそのようなモデルを自動生成する手法である。
歴史的に、象徴的回帰は、遺伝的操作者による交叉と突然変異によって修正される候補解の集団を進化させる遺伝的プログラミングによって主に実現されてきた。
しかし、このアプローチにはいくつかの欠点がある: トレーニングデータ中の変数やサンプルの数とうまくスケールしない - モデルは適切な精度を得ることなく、サイズや複雑さが大きくなる傾向にあり、遺伝的演算子だけでモデル係数を微調整することは困難である。
近年,勾配に基づく最適化アルゴリズムを用いて,解析モデル全体,すなわちその構造と係数の学習にニューラルネットワークが適用されている。
本稿では,非常に小さなトレーニングデータセットとシステムに関する事前知識に基づいて,物理的に妥当なモデルを構築するニューラルネットワークに基づく新しい記号回帰手法を提案する。
本手法では,複数の損失関数項を効果的に扱える適応重み付け方式と,局所最適度が低い場合に立ち往生する確率を抑えるエポックな学習過程を用いる。
さらに,学習プロセス全体で生成されたすべてのモデルの中から,最適な補間と補間性能を持つモデルを選択するパラメータフリー手法を提案する。
本研究では,TurtleBot 2移動ロボット,磁気操作システム,2つの抵抗の等価抵抗,アンチロックブレーキシステムの長手力の4つの試験システムに対するアプローチを実験的に評価した。
以上の結果から,従来の知識に適合した類似モデルを見つける方法の可能性が明らかとなった。
関連論文リスト
- Exploring hyperelastic material model discovery for human brain cortex:
multivariate analysis vs. artificial neural network approaches [10.003764827561238]
本研究の目的は、ヒト脳組織において最も好ましい物質モデルを特定することである。
我々は、広く受け入れられている古典モデルの一般化に、人工ニューラルネットワークと多重回帰法を適用した。
論文 参考訳（メタデータ） (2023-10-16T18:49:59Z) - Autoregressive models for biomedical signal processing [0.0]
本稿では、損失関数を介して不確実性を明示的に組み込んだ自己回帰モデリングの枠組みを提案する。
本研究は, 時系列の復調に成功し, システムパラメータの再構成に成功していることを示す。
この新たなパラダイムは、脳-コンピュータインターフェースデータ分析やてんかんなどの疾患における脳のダイナミクスの理解など、神経科学の様々な応用に利用できる。
論文 参考訳（メタデータ） (2023-04-17T08:57:36Z) - Online model error correction with neural networks in the incremental
4D-Var framework [0.0]
我々は,オンラインモデル誤り訂正のためのニューラルネットワークのトレーニングに使用できる,新しい弱制約4D-Varの定式化を開発した。
本手法はECMWFオブジェクト指向予測システムに実装されている。
その結果,オンライン学習が有効であることが確認され,オフライン学習よりも精度の高いモデル誤差補正が得られた。
論文 参考訳（メタデータ） (2022-10-25T07:45:33Z) - Supervised Parameter Estimation of Neuron Populations from Multiple
Firing Events [3.2826301276626273]
本研究では,一対のスパイキング系列とパラメータラベルからなる学習セットから,ニューロン集団のパラメータを自動的に学習する手法について,教師あり学習を通して検討した。
我々は、ニューロンモデルを用いて、異なるパラメータ設定での計算において多くのニューロン集団をシミュレートする。
次に、遺伝的検索、ベイズ逐次推定、ランダムウォーク近似モデルなどの古典的手法と比較する。
論文 参考訳（メタデータ） (2022-10-02T03:17:05Z) - Neural parameter calibration for large-scale multi-agent models [0.7734726150561089]
本稿では,ニューラルネットワークを用いてパラメータの精度の高い確率密度を求める手法を提案する。
2つの組み合わせは、非常に大きなシステムであっても、モデルパラメータの密度を素早く見積もることができる強力なツールを作成する。
論文 参考訳（メタデータ） (2022-09-27T17:36:26Z) - Learning to Learn with Generative Models of Neural Network Checkpoints [71.06722933442956]
ニューラルネットワークのチェックポイントのデータセットを構築し,パラメータの生成モデルをトレーニングする。
提案手法は,幅広い損失プロンプトに対するパラメータの生成に成功している。
我々は、教師付きおよび強化学習における異なるニューラルネットワークアーキテクチャとタスクに本手法を適用した。
論文 参考訳（メタデータ） (2022-09-26T17:59:58Z) - Real-to-Sim: Predicting Residual Errors of Robotic Systems with Sparse
Data using a Learning-based Unscented Kalman Filter [65.93205328894608]
我々は,動的・シミュレータモデルと実ロボット間の残差を学習する。
学習した残差誤差により、動的モデル、シミュレーション、および実際のハードウェア間の現実的ギャップをさらに埋めることができることを示す。
論文 参考訳（メタデータ） (2022-09-07T15:15:12Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳（メタデータ） (2021-06-17T17:26:31Z) - Using Data Assimilation to Train a Hybrid Forecast System that Combines
Machine-Learning and Knowledge-Based Components [52.77024349608834]
利用可能なデータがノイズの多い部分測定の場合,カオスダイナミクスシステムのデータ支援予測の問題を検討する。
動的システムの状態の部分的測定を用いることで、不完全な知識ベースモデルによる予測を改善するために機械学習モデルを訓練できることを示す。
論文 参考訳（メタデータ） (2021-02-15T19:56:48Z) - Large-scale Neural Solvers for Partial Differential Equations [48.7576911714538]
偏微分方程式 (PDE) を解くことは、多くのプロセスがPDEの観点でモデル化できるため、科学の多くの分野において不可欠である。
最近の数値解法では、基礎となる方程式を手動で離散化するだけでなく、分散コンピューティングのための高度で調整されたコードも必要である。
偏微分方程式, 物理インフォームドニューラルネットワーク(PINN)に対する連続メッシュフリーニューラルネットワークの適用性について検討する。
本稿では,解析解に関するGatedPINNの精度と,スペクトル解法などの最先端数値解法について論じる。
論文 参考訳（メタデータ） (2020-09-08T13:26:51Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳（メタデータ） (2020-07-02T17:55:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。