論文の概要: Neural Symbollic Regression Using Deep Learning and Sparse Modelling
- arxiv url: http://arxiv.org/abs/2609.01102v1
- Date: Tue, 01 Sep 2026 11:46:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:36.608502
- Title: Neural Symbollic Regression Using Deep Learning and Sparse Modelling
- Title(参考訳): 深層学習とスパースモデリングを用いたニューラルシンボリック回帰
- Authors: Ravi Kumar U, Sumitra S,
- Abstract要約: シンボリック回帰は、データ内の基本的な関係を表す簡潔な数学的表現を見つけようとする。
遺伝的プログラミングのような従来の手法はスケーラビリティの課題に直面しており、ノイズに非常に敏感である。
本稿では,ニューラルネットワークを記号発見のための関数型プレコンディショナーとして扱うニューラルシンボリック回帰フレームワークを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Symbolic Regression (SR) seeks to find succinct mathematical expressions that represent the fundamental relationships within data, providing interpretability and scientific understanding that exceeds that of black-box models. Nevertheless, traditional methods like Genetic Programming face challenges with scalability and are highly sensitive to noise, while sparse regression techniques such as SINDy rely significantly on predetermined feature libraries. In this work, we present a Neural Symbolic Regression (NSR) framework that treats neural networks as functional preconditioners for symbolic discovery. Our approach uses a decoupled pipeline: a neural network first learns a smooth, noise-robust approximation of the target function in an interaction- aware nonlinear feature space. LASSO is then applied to extract sparse, interpretable closed-form expressions. To improve predictive accuracy and symbolic fidelity by integrating distributed hyperparameter optimization with Ray Tune and ASHA scheduling. Experiments on the Nguyen benchmark suite show that our approach consistently outperforms SINDy and non-tuned neural baselines in RMSE, noise robustness, and out-of-distribution generalization. Ablation studies confirm the significance of feature interactions, neural depth, and tuning strategies. In general, this study presents a scalable and understandable neural-symbolic framework, creating a solid link between neural approximation and the discovery of sparse equations for scientific machine learning.
- Abstract(参考訳): シンボリック回帰(SR)は、データの基本的な関係を表す簡潔な数学的表現を見つけ、ブラックボックスモデルを超える解釈可能性と科学的理解を提供する。
それでも、遺伝的プログラミングのような従来の手法はスケーラビリティの問題に直面し、ノイズに非常に敏感である一方、SINDyのようなスパース回帰手法は所定の特徴ライブラリに大きく依存している。
本研究では,ニューラルネットワークを記号発見のための機能的事前条件として扱うニューラルシンボリック回帰(NSR)フレームワークを提案する。
ニューラルネットワークはまず、相互作用を意識した非線形特徴空間において、ターゲット関数の滑らかでノイズロスの近似を学習する。
その後、LASSOはスパースで解釈可能なクローズドフォーム表現の抽出に使用される。
分散ハイパーパラメータ最適化とRay TuneとASHAスケジューリングを一体化して予測精度とシンボル忠実性を向上させる。
Nguyenベンチマークスイートの実験により、我々のアプローチはRMSEにおけるSINDyと非チューニングされた神経ベースライン、ノイズの堅牢性、アウト・オブ・ディストリビューションの一般化を一貫して上回っていることが示された。
アブレーション研究は、特徴相互作用、神経深度、およびチューニング戦略の重要性を裏付ける。
一般に、この研究はスケーラブルで理解可能なニューラルシンボリック・フレームワークを示し、ニューラル近似と科学機械学習のためのスパース方程式の発見とをしっかりと結びつける。
関連論文リスト
- CGNSDE: Conditional Gaussian Neural Stochastic Differential Equation for Modeling Complex Systems and Data Assimilation [1.4322470793889193]
条件付きニューラル微分方程式(CGNSDE)と呼ばれる新しい知識ベースおよび機械学習ハイブリッドモデリング手法を開発した。
標準的なニューラルネットワーク予測モデルとは対照的に、CGNSDEは前方予測タスクと逆状態推定問題の両方に効果的に取り組むように設計されている。
論文 参考訳(メタデータ) (2024-04-10T05:32:03Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T18:01:01Z) - Neural Network-Based Score Estimation in Diffusion Models: Optimization
and Generalization [12.812942188697326]
拡散モデルは、忠実さ、柔軟性、堅牢性を改善した高品質なサンプルを生成する際に、GANと競合する強力なツールとして登場した。
これらのモデルの主要な構成要素は、スコアマッチングを通じてスコア関数を学ぶことである。
様々なタスクにおいて経験的な成功にもかかわらず、勾配に基づくアルゴリズムが証明可能な精度でスコア関数を学習できるかどうかは不明である。
論文 参考訳(メタデータ) (2024-01-28T08:13:56Z) - Symplectically Integrated Symbolic Regression of Hamiltonian Dynamical
Systems [11.39873640706974]
シンプレクティック統合シンボリック回帰(SISR)は、データから物理支配方程式を学ぶための新しいテクニックである。
SISRは多層LSTM-RNNを用いて、確率的にハミルトン記号表現をサンプリングする。
論文 参考訳(メタデータ) (2022-09-04T03:17:40Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z) - Closed Loop Neural-Symbolic Learning via Integrating Neural Perception,
Grammar Parsing, and Symbolic Reasoning [134.77207192945053]
従来の手法は強化学習アプローチを用いてニューラルシンボリックモデルを学ぶ。
我々は,脳神経知覚と記号的推論を橋渡しする前に,textbfgrammarモデルをテキストシンボリックとして導入する。
本稿では,トップダウンのヒューマンライクな学習手順を模倣して誤りを伝播する新しいtextbfback-searchアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-11T17:42:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。