論文の概要: Efficient Generator of Mathematical Expressions for Symbolic Regression
- arxiv url: http://arxiv.org/abs/2302.09893v2
- Date: Sun, 10 Sep 2023 18:06:56 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-12 22:23:44.668833
- Title: Efficient Generator of Mathematical Expressions for Symbolic Regression
- Title(参考訳): 記号回帰のための効率的な数式生成法
- Authors: Sebastian Me\v{z}nar, Sa\v{s}o D\v{z}eroski, Ljup\v{c}o Todorovski
- Abstract要約: 本稿では,階層構造を生成するための新しい変分オートエンコーダに基づくシンボリックレグレッション手法を提案する。
HVAEは、数学的表現の小さなコーパスで効率的に訓練することができ、スムーズな低次元潜在空間に正確に表現をエンコードすることができる。
最後に、HVAEの潜在空間に進化的アルゴリズムを適用するEDHiEシステムは、ディープラーニングと進化的アルゴリズムの類似した組み合わせに基づく最先端のシステムよりも、標準的な記号的回帰ベンチマークから方程式を再構築する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose an approach to symbolic regression based on a novel variational
autoencoder for generating hierarchical structures, HVAE. It combines simple
atomic units with shared weights to recursively encode and decode the
individual nodes in the hierarchy. Encoding is performed bottom-up and decoding
top-down. We empirically show that HVAE can be trained efficiently with small
corpora of mathematical expressions and can accurately encode expressions into
a smooth low-dimensional latent space. The latter can be efficiently explored
with various optimization methods to address the task of symbolic regression.
Indeed, random search through the latent space of HVAE performs better than
random search through expressions generated by manually crafted probabilistic
grammars for mathematical expressions. Finally, EDHiE system for symbolic
regression, which applies an evolutionary algorithm to the latent space of
HVAE, reconstructs equations from a standard symbolic regression benchmark
better than a state-of-the-art system based on a similar combination of deep
learning and evolutionary algorithms.\v{z}
- Abstract(参考訳): 本稿では,階層構造を生成するための新しい変分オートエンコーダに基づく記号回帰手法を提案する。
単純な原子単位と共有重み付けを組み合わせることで、階層内の個々のノードを再帰的にエンコードし、デコードする。
エンコーディングはボトムアップで行われ、トップダウンでデコードされる。
実験により,hvaeは少ないコーパス数式で効率的に学習でき,表現を滑らかな低次元潜在空間に正確にエンコードできることを示した。
後者は記号回帰の課題に対処する様々な最適化手法で効率的に探索することができる。
実際、HVAEの潜伏空間におけるランダム探索は、数学的表現のための手作業による確率的文法によって生成される表現によるランダム探索よりも優れている。
最後に、HVAEの潜在空間に進化的アルゴリズムを適用するEDHiEシステムは、ディープラーニングと進化的アルゴリズムの類似した組み合わせに基づく最先端のシステムよりも、標準的な記号的回帰ベンチマークから方程式を再構築する。
\v{z}
関連論文リスト
- The Inefficiency of Genetic Programming for Symbolic Regression -- Extended Version [0.0]
我々は,遺伝的プログラミングの探索挙動を,実用上は関係するが限定的な状況下での象徴的回帰のために分析する。
これにより、最良の表現を見つける成功確率を定量化できる。
遺伝的プログラミングの探索効率を意味的一意表現の空間におけるランダム探索と比較する。
論文 参考訳(メタデータ) (2024-04-26T09:49:32Z) - SymbolNet: Neural Symbolic Regression with Adaptive Dynamic Pruning [1.0356366043809717]
モデル重み,入力特徴,数学的演算子を1つのトレーニングプロセスで動的に刈り取ることができる新しいフレームワークにおいて,記号回帰に対するニューラルネットワークアプローチを提案する。
提案手法は,計算資源制約の厳しい環境下での高次元データセットに対して,FPGA上でのナノ秒スケールレイテンシによる高速な推論を実現する。
論文 参考訳(メタデータ) (2024-01-18T12:51:38Z) - Deep Generative Symbolic Regression [83.04219479605801]
記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。
既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。
本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
論文 参考訳(メタデータ) (2023-12-30T17:05:31Z) - GFN-SR: Symbolic Regression with Generative Flow Networks [0.9208007322096533]
近年,DSR(Deep symbolic regression)がこの分野の一般的な手法として登場している。
ディープラーニングを用いてSRにアプローチするための代替フレームワーク(GFN-SR)を提案する。
GFN-SRは多種多様な最適表現を生成することができる。
論文 参考訳(メタデータ) (2023-12-01T07:38:05Z) - Interpretable Machine Learning for Science with PySR and
SymbolicRegression.jl [0.0]
PySRは、実用的なシンボルレグレッションのためのオープンソースライブラリである。
高性能な分散バックエンド、フレキシブルな検索アルゴリズム、深層学習パッケージとのインターフェース上に構築されている。
このソフトウェアを説明する際には,科学における記号回帰アルゴリズムの適用性を定量化するために,新しいベンチマーク"EmpiricalBench"を導入する。
論文 参考訳(メタデータ) (2023-05-02T16:31:35Z) - Symbolic expression generation via Variational Auto-Encoder [5.378134171257822]
本稿では,変分オートエンコーダ(VAE)を用いた記号表現生成のための新しいディープラーニングフレームワークを提案する。
我々のフレームワークは、最適化プロセスを高速化する高速チェック述語に、公式のアプリオリ知識を符号化することができる。
SEGVAEの回復率は、Ngyuenデータセットでは65%であり、ノイズレベルは10%であり、従来報告したSOTAよりも20%良い。
論文 参考訳(メタデータ) (2023-01-15T10:23:53Z) - Autoregressive Search Engines: Generating Substrings as Document
Identifiers [53.0729058170278]
自動回帰言語モデルは、回答を生成するデファクト標準として現れています。
これまでの研究は、探索空間を階層構造に分割する方法を探究してきた。
本研究では,検索空間の任意の構造を強制しない代替として,経路内のすべてのngramを識別子として使用することを提案する。
論文 参考訳(メタデータ) (2022-04-22T10:45:01Z) - Hierarchical Sketch Induction for Paraphrase Generation [79.87892048285819]
本稿では、高密度符号化の分解を学習するHRQ-VAE(Hierarchical Refinement Quantized Variational Autoencoders)を紹介する。
HRQ-VAEを用いて、入力文の構文形式を階層化の経路としてエンコードすることで、テスト時の構文スケッチをより容易に予測できる。
論文 参考訳(メタデータ) (2022-03-07T15:28:36Z) - Neural Symbolic Regression that Scales [58.45115548924735]
本稿では,大規模事前学習を利用した最初の記号回帰手法を提案する。
我々は,非有界な方程式の集合を手続き的に生成し,同時にインプット・アウトプット・ペアの集合からシンボル方程式を予測するためにトランスフォーマーを事前訓練する。
論文 参考訳(メタデータ) (2021-06-11T14:35:22Z) - High-performance symbolic-numerics via multiple dispatch [52.77024349608834]
Symbolics.jlは拡張可能なシンボルシステムで、動的多重ディスパッチを使用してドメインのニーズに応じて振る舞いを変更する。
実装に依存しないアクションでジェネリックapiを形式化することで、システムに最適化されたデータ構造を遡及的に追加できることを示します。
従来の用語書き換えシンプリファイアと電子グラフベースの用語書き換えシンプリファイアをスワップする機能を実証する。
論文 参考訳(メタデータ) (2021-05-09T14:22:43Z) - The data-driven physical-based equations discovery using evolutionary
approach [77.34726150561087]
与えられた観測データから数学的方程式を発見するアルゴリズムについて述べる。
このアルゴリズムは遺伝的プログラミングとスパース回帰を組み合わせたものである。
解析方程式の発見や偏微分方程式(PDE)の発見にも用いられる。
論文 参考訳(メタデータ) (2020-04-03T17:21:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。