論文の概要: Neural Symbolic Regression using Control Variables
- arxiv url: http://arxiv.org/abs/2306.04718v1
- Date: Wed, 7 Jun 2023 18:30:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-09 18:02:52.271100
- Title: Neural Symbolic Regression using Control Variables
- Title(参考訳): 制御変数を用いたニューラルシンボリック回帰
- Authors: Xieting Chu, Hongjue Zhao, Enze Xu, Hairong Qi, Minghan Chen, Huajie
Shao
- Abstract要約: SRCVは,制御変数を利用して精度とスケーラビリティを両立させるニューラルシンボリック回帰法である。
まず、ディープニューラルネットワーク(DNN)を用いて観測データからデータジェネレータを学習する。
実験結果から,SRCVは複数の変数を持つ数学的表現の発見において,最先端のベースラインを著しく上回ることがわかった。
- 参考スコア(独自算出の注目度): 7.5797917007431
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Symbolic regression (SR) is a powerful technique for discovering the
analytical mathematical expression from data, finding various applications in
natural sciences due to its good interpretability of results. However, existing
methods face scalability issues when dealing with complex equations involving
multiple variables. To address this challenge, we propose SRCV, a novel neural
symbolic regression method that leverages control variables to enhance both
accuracy and scalability. The core idea is to decompose multi-variable symbolic
regression into a set of single-variable SR problems, which are then combined
in a bottom-up manner. The proposed method involves a four-step process. First,
we learn a data generator from observed data using deep neural networks (DNNs).
Second, the data generator is used to generate samples for a certain variable
by controlling the input variables. Thirdly, single-variable symbolic
regression is applied to estimate the corresponding mathematical expression.
Lastly, we repeat steps 2 and 3 by gradually adding variables one by one until
completion. We evaluate the performance of our method on multiple benchmark
datasets. Experimental results demonstrate that the proposed SRCV significantly
outperforms state-of-the-art baselines in discovering mathematical expressions
with multiple variables. Moreover, it can substantially reduce the search space
for symbolic regression. The source code will be made publicly available upon
publication.
- Abstract(参考訳): シンボリック回帰(SR)は、データから解析数学的表現を発見するための強力な手法であり、結果の良好な解釈可能性から自然科学の様々な応用を見出す。
しかし、複数の変数を含む複雑な方程式を扱う場合、既存の手法はスケーラビリティの問題に直面している。
そこで本研究では,制御変数を利用して精度とスケーラビリティの両立を図るニューラルシンボリック回帰法であるsrcvを提案する。
中心となる考え方は、多変数のシンボリック回帰を単変数のSR問題の集合に分解し、ボトムアップ的に組み合わせることである。
提案手法は4段階のプロセスを含む。
まず,深層ニューラルネットワーク(dnn)を用いて観測データからデータ生成法を学習する。
次に、データジェネレータを使用して、入力変数を制御することにより、ある変数のサンプルを生成する。
第三に、対応する数学的表現を推定するために単変量記号回帰が適用される。
最後に、ステップ2とステップ3を繰り返して、完了まで段階的に変数を1つずつ追加します。
複数のベンチマークデータセットにおいて,本手法の性能を評価する。
実験結果から,SRCVは複数の変数を持つ数学的表現の発見において,最先端のベースラインを著しく上回ることがわかった。
さらに、記号回帰の探索空間を実質的に減少させることができる。
ソースコードは公開時には公開される予定だ。
関連論文リスト
- Multi-View Symbolic Regression [1.2334534968968969]
複数のデータセットを同時に考慮したMvSR(Multi-View Symbolic Regression)を提案する。
MvSRは評価された式を各独立したデータセットに適合させ、パラメトリック関数のファミリーを返す。
我々は、既知の表現から生成されたデータと、天文学、化学、経済から得られた実世界のデータを用いて、MvSRの有効性を実証する。
論文 参考訳(メタデータ) (2024-02-06T15:53:49Z) - Deep Generative Symbolic Regression [83.04219479605801]
記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。
既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。
本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
論文 参考訳(メタデータ) (2023-12-30T17:05:31Z) - Data-driven path collective variables [0.0]
本稿では,集合変数の生成,最適化,比較のための新しい手法を提案する。
結果として得られる集合変数は1次元、解釈可能、微分可能である。
2つの異なるアプリケーションに対して,本手法の有効性を示す。
論文 参考訳(メタデータ) (2023-12-21T14:07:47Z) - A Transformer Model for Symbolic Regression towards Scientific Discovery [11.827358526480323]
記号回帰(SR)は、数値データセットを最もよく記述する数学的表現を探索する。
本稿では, シンボリック回帰に着目した新しいトランスフォーマーモデルを提案する。
我々は、正規化ツリーベース編集距離を用いて、最先端の結果を出力するSRSDデータセットにベストモデルを適用した。
論文 参考訳(メタデータ) (2023-12-07T06:27:48Z) - Dual-sPLS: a family of Dual Sparse Partial Least Squares regressions for
feature selection and prediction with tunable sparsity; evaluation on
simulated and near-infrared (NIR) data [1.6099403809839032]
この論文で示された変種であるDual-sPLSは、古典的なPLS1アルゴリズムを一般化する。
正確な予測と効率的な解釈のバランスを提供する。
コードはRでオープンソースパッケージとして提供される。
論文 参考訳(メタデータ) (2023-01-17T21:50:35Z) - Equivariance Allows Handling Multiple Nuisance Variables When Analyzing
Pooled Neuroimaging Datasets [53.34152466646884]
本稿では,構造空間上でインスタンス化された同変表現学習における最近の結果と,因果推論における古典的結果の簡易な利用が,いかに効果的に実現されたかを示す。
いくつかの仮定の下で、我々のモデルが複数のニュアンス変数を扱えることを実証し、そうでなければサンプルの大部分を取り除く必要のあるシナリオにおいて、プールされた科学データセットの分析を可能にする。
論文 参考訳(メタデータ) (2022-03-29T04:54:06Z) - VarCLR: Variable Semantic Representation Pre-training via Contrastive
Learning [84.70916463298109]
VarCLRは変数名のセマンティック表現を学ぶための新しいアプローチである。
VarCLRはコントラスト学習に適しており、明示的に類似した入力間の距離を最小化することを目的としている。
VarCLRはBERTのような洗練された汎用言語モデルを効果的に適用できることを示す。
論文 参考訳(メタデータ) (2021-12-05T18:40:32Z) - Efficient and robust high-dimensional sparse logistic regression via
nonlinear primal-dual hybrid gradient algorithms [0.0]
弾性ネットペナルティによって正規化されるロジスティック回帰問題に対する解を確実に計算する反復アルゴリズムを提案する。
この結果は、一階最適化法に対して$O(min(m2n,mn2)log (1/epsilon))$の既知の複雑性境界を改善する。
論文 参考訳(メタデータ) (2021-11-30T14:16:48Z) - Neural Symbolic Regression that Scales [58.45115548924735]
本稿では,大規模事前学習を利用した最初の記号回帰手法を提案する。
我々は,非有界な方程式の集合を手続き的に生成し,同時にインプット・アウトプット・ペアの集合からシンボル方程式を予測するためにトランスフォーマーを事前訓練する。
論文 参考訳(メタデータ) (2021-06-11T14:35:22Z) - A Hypergradient Approach to Robust Regression without Correspondence [85.49775273716503]
本稿では,入力データと出力データとの対応が不十分な回帰問題について考察する。
ほとんどの既存手法はサンプルサイズが小さい場合にのみ適用できる。
シャッフル回帰問題に対する新しい計算フレームワークであるROBOTを提案する。
論文 参考訳(メタデータ) (2020-11-30T21:47:38Z) - Uncertainty Inspired RGB-D Saliency Detection [70.50583438784571]
本稿では,データラベリングプロセスから学習することで,RGB-D値検出の不確実性を利用した最初のフレームワークを提案する。
そこで本研究では,確率的RGB-Dサリエンシ検出を実現するために,サリエンシデータラベリングプロセスにインスパイアされた生成アーキテクチャを提案する。
6つの挑戦的RGB-Dベンチマークデータセットの結果から,サリエンシマップの分布を学習する際のアプローチの優れた性能が示された。
論文 参考訳(メタデータ) (2020-09-07T13:01:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。