論文の概要: Neural Symbolic Regression using Control Variables
- arxiv url: http://arxiv.org/abs/2306.04718v1
- Date: Wed, 7 Jun 2023 18:30:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-09 18:02:52.271100
- Title: Neural Symbolic Regression using Control Variables
- Title(参考訳): 制御変数を用いたニューラルシンボリック回帰
- Authors: Xieting Chu, Hongjue Zhao, Enze Xu, Hairong Qi, Minghan Chen, Huajie
Shao
- Abstract要約: SRCVは,制御変数を利用して精度とスケーラビリティを両立させるニューラルシンボリック回帰法である。
まず、ディープニューラルネットワーク(DNN)を用いて観測データからデータジェネレータを学習する。
実験結果から,SRCVは複数の変数を持つ数学的表現の発見において,最先端のベースラインを著しく上回ることがわかった。
- 参考スコア(独自算出の注目度): 7.5797917007431
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Symbolic regression (SR) is a powerful technique for discovering the
analytical mathematical expression from data, finding various applications in
natural sciences due to its good interpretability of results. However, existing
methods face scalability issues when dealing with complex equations involving
multiple variables. To address this challenge, we propose SRCV, a novel neural
symbolic regression method that leverages control variables to enhance both
accuracy and scalability. The core idea is to decompose multi-variable symbolic
regression into a set of single-variable SR problems, which are then combined
in a bottom-up manner. The proposed method involves a four-step process. First,
we learn a data generator from observed data using deep neural networks (DNNs).
Second, the data generator is used to generate samples for a certain variable
by controlling the input variables. Thirdly, single-variable symbolic
regression is applied to estimate the corresponding mathematical expression.
Lastly, we repeat steps 2 and 3 by gradually adding variables one by one until
completion. We evaluate the performance of our method on multiple benchmark
datasets. Experimental results demonstrate that the proposed SRCV significantly
outperforms state-of-the-art baselines in discovering mathematical expressions
with multiple variables. Moreover, it can substantially reduce the search space
for symbolic regression. The source code will be made publicly available upon
publication.
- Abstract(参考訳): シンボリック回帰(SR)は、データから解析数学的表現を発見するための強力な手法であり、結果の良好な解釈可能性から自然科学の様々な応用を見出す。
しかし、複数の変数を含む複雑な方程式を扱う場合、既存の手法はスケーラビリティの問題に直面している。
そこで本研究では,制御変数を利用して精度とスケーラビリティの両立を図るニューラルシンボリック回帰法であるsrcvを提案する。
中心となる考え方は、多変数のシンボリック回帰を単変数のSR問題の集合に分解し、ボトムアップ的に組み合わせることである。
提案手法は4段階のプロセスを含む。
まず,深層ニューラルネットワーク(dnn)を用いて観測データからデータ生成法を学習する。
次に、データジェネレータを使用して、入力変数を制御することにより、ある変数のサンプルを生成する。
第三に、対応する数学的表現を推定するために単変量記号回帰が適用される。
最後に、ステップ2とステップ3を繰り返して、完了まで段階的に変数を1つずつ追加します。
複数のベンチマークデータセットにおいて,本手法の性能を評価する。
実験結果から,SRCVは複数の変数を持つ数学的表現の発見において,最先端のベースラインを著しく上回ることがわかった。
さらに、記号回帰の探索空間を実質的に減少させることができる。
ソースコードは公開時には公開される予定だ。
関連論文リスト
- Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。
我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
論文 参考訳(メタデータ) (2024-03-08T18:50:19Z) - Multi-View Symbolic Regression [0.301138495170623]
複数のデータセットを同時に考慮したMvSR(Multi-View Symbolic Regression)を提案する。
MvSRは評価された式を各独立したデータセットに適合させ、パラメトリック関数のファミリーを返す。
我々は、既知の表現から生成されたデータと、天文学、化学、経済から得られた実世界のデータを用いて、MvSRの有効性を実証する。
論文 参考訳(メタデータ) (2024-02-06T15:53:49Z) - Deep Generative Symbolic Regression [83.04219479605801]
記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。
既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。
本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
論文 参考訳(メタデータ) (2023-12-30T17:05:31Z) - A Transformer Model for Symbolic Regression towards Scientific Discovery [11.827358526480323]
記号回帰(SR)は、数値データセットを最もよく記述する数学的表現を探索する。
本稿では, シンボリック回帰に着目した新しいトランスフォーマーモデルを提案する。
我々は、正規化ツリーベース編集距離を用いて、最先端の結果を出力するSRSDデータセットにベストモデルを適用した。
論文 参考訳(メタデータ) (2023-12-07T06:27:48Z) - Symbolic Regression via Control Variable Genetic Programming [24.408477700506907]
多くの独立変数に対するシンボリック回帰のための制御変数遺伝プログラミング(CVGP)を提案する。
CVGPは、カスタマイズされた実験設計によりシンボル表現の発見を高速化する。
CVGPをインクリメンタル・ビルディング・アプローチとして示し,表現のクラスを学習する際,探索空間を指数関数的に削減できることを示した。
論文 参考訳(メタデータ) (2023-05-25T04:11:14Z) - Dual-sPLS: a family of Dual Sparse Partial Least Squares regressions for
feature selection and prediction with tunable sparsity; evaluation on
simulated and near-infrared (NIR) data [1.6099403809839032]
この論文で示された変種であるDual-sPLSは、古典的なPLS1アルゴリズムを一般化する。
正確な予測と効率的な解釈のバランスを提供する。
コードはRでオープンソースパッケージとして提供される。
論文 参考訳(メタデータ) (2023-01-17T21:50:35Z) - Partial Least Square Regression via Three-factor SVD-type Manifold
Optimization for EEG Decoding [4.0204191666595595]
双グラスマン多様体 (PLSRbiGr) の最適化による部分最小二乗回帰(PLSR)の解法を提案する。
qlPLSRbiGrは、運動画像(MI)における脳波信号を復号する様々な実験と、定常視覚誘発電位(SSVEP)タスクで検証される。
論文 参考訳(メタデータ) (2022-08-09T11:57:02Z) - VarCLR: Variable Semantic Representation Pre-training via Contrastive
Learning [84.70916463298109]
VarCLRは変数名のセマンティック表現を学ぶための新しいアプローチである。
VarCLRはコントラスト学習に適しており、明示的に類似した入力間の距離を最小化することを目的としている。
VarCLRはBERTのような洗練された汎用言語モデルを効果的に適用できることを示す。
論文 参考訳(メタデータ) (2021-12-05T18:40:32Z) - Neural Symbolic Regression that Scales [58.45115548924735]
本稿では,大規模事前学習を利用した最初の記号回帰手法を提案する。
我々は,非有界な方程式の集合を手続き的に生成し,同時にインプット・アウトプット・ペアの集合からシンボル方程式を予測するためにトランスフォーマーを事前訓練する。
論文 参考訳(メタデータ) (2021-06-11T14:35:22Z) - A Hypergradient Approach to Robust Regression without Correspondence [85.49775273716503]
本稿では,入力データと出力データとの対応が不十分な回帰問題について考察する。
ほとんどの既存手法はサンプルサイズが小さい場合にのみ適用できる。
シャッフル回帰問題に対する新しい計算フレームワークであるROBOTを提案する。
論文 参考訳(メタデータ) (2020-11-30T21:47:38Z) - The data-driven physical-based equations discovery using evolutionary
approach [77.34726150561087]
与えられた観測データから数学的方程式を発見するアルゴリズムについて述べる。
このアルゴリズムは遺伝的プログラミングとスパース回帰を組み合わせたものである。
解析方程式の発見や偏微分方程式(PDE)の発見にも用いられる。
論文 参考訳(メタデータ) (2020-04-03T17:21:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。