論文の概要: Vertical Symbolic Regression
- arxiv url: http://arxiv.org/abs/2312.11955v1
- Date: Tue, 19 Dec 2023 08:55:47 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-20 16:26:02.267860
- Title: Vertical Symbolic Regression
- Title(参考訳): 垂直的記号回帰
- Authors: Nan Jiang, Md Nasim, Yexiang Xue
- Abstract要約: 実験データから記号表現を学ぶことは、AIによる科学的発見の重要なステップである。
シンボルレグレッションの迅速化を目的とした垂直回帰(VSR)を提案する。
- 参考スコア(独自算出の注目度): 18.7083987727973
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automating scientific discovery has been a grand goal of Artificial
Intelligence (AI) and will bring tremendous societal impact. Learning symbolic
expressions from experimental data is a vital step in AI-driven scientific
discovery. Despite exciting progress, most endeavors have focused on the
horizontal discovery paths, i.e., they directly search for the best expression
in the full hypothesis space involving all the independent variables.
Horizontal paths are challenging due to the exponentially large hypothesis
space involving all the independent variables. We propose Vertical Symbolic
Regression (VSR) to expedite symbolic regression. The VSR starts by fitting
simple expressions involving a few independent variables under controlled
experiments where the remaining variables are held constant. It then extends
the expressions learned in previous rounds by adding new independent variables
and using new control variable experiments allowing these variables to vary.
The first few steps in vertical discovery are significantly cheaper than the
horizontal path, as their search is in reduced hypothesis spaces involving a
small set of variables. As a consequence, vertical discovery has the potential
to supercharge state-of-the-art symbolic regression approaches in handling
complex equations with many contributing factors. Theoretically, we show that
the search space of VSR can be exponentially smaller than that of horizontal
approaches when learning a class of expressions. Experimentally, VSR
outperforms several baselines in learning symbolic expressions involving many
independent variables.
- Abstract(参考訳): 科学発見の自動化は人工知能(AI)の大目標であり、社会に多大な影響を及ぼすだろう。
実験データから記号表現を学ぶことは、AIによる科学的発見の重要なステップである。
エキサイティングな進歩にもかかわらず、ほとんどの試みは水平な発見経路、すなわち全ての独立変数を含む完全な仮説空間における最良の表現を直接探索することに焦点を当ててきた。
すべての独立変数を含む指数的に大きな仮説空間のため、水平経路は困難である。
本稿では,記号回帰を早めるための垂直的記号回帰(vsr)を提案する。
VSRは、残りの変数を一定に保持する制御実験において、いくつかの独立変数を含む単純な式を適合させることから始まる。
その後、新しい独立変数を追加し、これらの変数を変更できるように新しい制御変数実験を使用することで、以前のラウンドで学んだ式を拡張する。
垂直探索の最初の数ステップは水平経路よりもかなり安価であり、その探索は小さな変数のセットを含む縮小された仮説空間にある。
その結果、垂直発見は、多くの寄与因子を持つ複素方程式を扱う際に、最先端の象徴的回帰アプローチを重ね合わせる可能性がある。
理論的には、VSRの探索空間は、表現のクラスを学ぶ際に水平アプローチの探索空間よりも指数関数的に小さくなることを示す。
実験的に、VSRは多くの独立変数を含むシンボリック表現の学習においていくつかのベースラインを上回っている。
関連論文リスト
- Multi-View Symbolic Regression [1.2334534968968969]
複数のデータセットを同時に考慮したMvSR(Multi-View Symbolic Regression)を提案する。
MvSRは評価された式を各独立したデータセットに適合させ、パラメトリック関数のファミリーを返す。
我々は、既知の表現から生成されたデータと、天文学、化学、経済から得られた実世界のデータを用いて、MvSRの有効性を実証する。
論文 参考訳(メタデータ) (2024-02-06T15:53:49Z) - Vertical Symbolic Regression via Deep Policy Gradient [18.7083987727973]
我々は、Deep Policy Gradient (VSR-DPG) を用いた垂直記号回帰を提案する。
我々のVSR-DPGは、文法規則の繰り返し適用から方程式を構築する逐次決定過程としてシンボリック回帰をモデル化する。
論文 参考訳(メタデータ) (2024-02-01T00:54:48Z) - Deep Generative Symbolic Regression [83.04219479605801]
記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。
既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。
本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
論文 参考訳(メタデータ) (2023-12-30T17:05:31Z) - Scalable Neural Symbolic Regression using Control Variables [7.725394912527969]
本稿では,制御変数を利用したスケーラブルなシンボル回帰モデルであるScaleSRを提案し,精度とスケーラビリティを両立させる。
まず、ディープニューラルネットワーク(DNN)を用いて観測データからデータジェネレータを学習する。
実験結果から,複数の変数を持つ数学的表現の発見において,提案した ScaleSR は最先端のベースラインを著しく上回ることがわかった。
論文 参考訳(メタデータ) (2023-06-07T18:30:25Z) - Understanding Augmentation-based Self-Supervised Representation Learning
via RKHS Approximation and Regression [53.15502562048627]
最近の研究は、自己教師付き学習とグラフラプラシアン作用素のトップ固有空間の近似との関係を構築している。
この研究は、増強に基づく事前訓練の統計的分析に発展する。
論文 参考訳(メタデータ) (2023-06-01T15:18:55Z) - Symbolic Regression via Control Variable Genetic Programming [24.408477700506907]
多くの独立変数に対するシンボリック回帰のための制御変数遺伝プログラミング(CVGP)を提案する。
CVGPは、カスタマイズされた実験設計によりシンボル表現の発見を高速化する。
CVGPをインクリメンタル・ビルディング・アプローチとして示し,表現のクラスを学習する際,探索空間を指数関数的に削減できることを示した。
論文 参考訳(メタデータ) (2023-05-25T04:11:14Z) - Characterizing Datapoints via Second-Split Forgetting [93.99363547536392]
我々は、オリジナルのトレーニング例が忘れられた後(もしあれば)のエポックを追跡する補足的メトリックである$$-second-$split$$forgetting$$$time$ (SSFT)を提案する。
例えば$mislabeled$の例はすぐに忘れられ、$rare$の例は比較的ゆっくりと忘れられています。
SSFTは、(i)間違ったラベル付きサンプルを識別し、その除去により一般化が向上し、(ii)障害モードに関する洞察を提供する。
論文 参考訳(メタデータ) (2022-10-26T21:03:46Z) - Orthonormal Convolutions for the Rotation Based Iterative
Gaussianization [64.44661342486434]
本稿では、画像ガウス化を可能にする回転型反復ガウス化RBIGの拡張について詳述する。
RBIGの回転は主成分分析や独立成分分析に基づくため、画像では小さな画像パッチや孤立画素に制限されている。
emphConvolutional RBIG:この問題を緩和する拡張として,RBIGの回転が畳み込みであることを示す。
論文 参考訳(メタデータ) (2022-06-08T12:56:34Z) - Chaos is a Ladder: A New Theoretical Understanding of Contrastive
Learning via Augmentation Overlap [64.60460828425502]
コントラスト学習の下流性能に関する新たな保証を提案する。
我々の新しい理論は、攻撃的なデータ強化の下で、異なるクラス内サンプルのサポートがより重なり合うという知見に基づいている。
本稿では、下流の精度とよく一致した教師なしモデル選択距離ARCを提案する。
論文 参考訳(メタデータ) (2022-03-25T05:36:26Z) - Systematic Evaluation of Causal Discovery in Visual Model Based
Reinforcement Learning [76.00395335702572]
AIと因果関係の中心的な目標は、抽象表現と因果構造を共同で発見することである。
因果誘導を研究するための既存の環境は、複雑なタスク固有の因果グラフを持つため、この目的には適していない。
本研究の目的は,高次変数の学習表現と因果構造の研究を促進することである。
論文 参考訳(メタデータ) (2021-07-02T05:44:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。