論文の概要: Bayesian Symbolic Regression with Entropic Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2608.09617v2
- Date: Tue, 11 Aug 2026 14:35:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 16:08:30.747258
- Title: Bayesian Symbolic Regression with Entropic Reinforcement Learning
- Title(参考訳): エントロピー強化学習によるベイズ記号回帰
- Authors: Oussama Boussif, Mohammed Mahfoud, Younesse Kaddar, Moksh Jain, Sida Li, Damiano Fornasiere, Xiaoyin Chen, Yoshua Bengio, Esmeralda S. Whitammer,
- Abstract要約: 与えられたデータに対する後部分布から抽出するスケーラブルな手法であるERRLESSを提案する。
ERRLESSは、抽象構文木を構築することで、式を逐次構築する神経ポリシーを学習する。
ERRLESSは、ショートかつ解釈可能な式を生成しながら、Feynmanベンチマークで競合する結果が得られることを示す。
- 参考スコア(独自算出の注目度): 40.36303059396686
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Symbolic regression is the problem of finding an algebraic expression describing a stochastic dependence of a target variable on a set of inputs. Unlike forms of regression that fit parameters assuming a fixed model structure, symbolic regression is a search problem over the space of expressions, represented, for example, as abstract syntax trees using a library of operators. Symbolic regression is typically used in settings with limited, noisy data in the natural sciences. However, searching for a single best-fitting expression fails to capture the epistemic uncertainty about the expression, which motivates a Bayesian perspective that enables uncertainty quantification and specification of natural priors to constrain the search space. In this work, we propose ERRLESS (Entropy-Regularized Reinforcement Learning for Expression Structure Sampling), a scalable approach for sampling from the posterior distribution over expressions given data using maximum-entropy reinforcement learning. ERRLESS learns a neural policy that constructs expressions sequentially by building up their abstract syntax trees. At convergence, the policy samples expressions from the posterior. At test time, expressions can be sampled by rollouts of this policy. We demonstrate that ERRLESS achieves competitive results on the Feynman benchmark while producing short and interpretable expressions. Additionally, we demonstrate that the mean of the posterior predictive approximated by ERRLESS achieves a high coefficient of determination ($R^2$) compared to an SMC baseline, highlighting the benefits of the Bayesian perspective in symbolic regression.
- Abstract(参考訳): シンボリック回帰(シンボリックレグレッション、英: Symbolic regression)は、入力の集合に対する対象変数の確率的依存を記述する代数的表現を見つける問題である。
固定モデル構造を仮定するパラメータに適合する回帰形式とは異なり、記号回帰は表現空間上の探索問題であり、例えば演算子のライブラリを使って抽象構文木として表現される。
記号回帰は、典型的には、自然科学における限られたノイズの多いデータの設定で使用される。
しかし、最も適した1つの式を探すことは、その表現に関するエピステミックな不確実性を捉えることに失敗し、これはベイズ的視点を動機付け、探索空間を制約する自然前の不確実な定量化と仕様を可能にする。
本研究では,最大エントロピー強化学習を用いて与えられたデータに対する後部分布から抽出するスケーラブルなERRLESS(Entropy-Regularized Reinforcement Learning for Expression Structure Smpling)を提案する。
ERRLESSは、抽象構文木を構築することで、式を逐次構築する神経ポリシーを学習する。
収束すると、ポリシーは後部から式をサンプリングする。
テスト時には、このポリシーのロールアウトによって式をサンプリングすることができる。
ERRLESSは、ショートかつ解釈可能な式を生成しながら、Feynmanベンチマークで競合する結果が得られることを示す。
さらに、ERRLESSにより近似された後続予測の平均値は、SMCベースラインと比較して高い決定係数(R^2$)を達成し、象徴的回帰におけるベイズ的視点の利点を浮き彫りにすることを示した。
関連論文リスト
- Factorize to Generalize: Retrieval-Guided Invariant-Dynamic Decomposition for Time Series Forecasting [64.2640656619583]
時系列基礎モデル (TSFM) は, 大規模事前学習と検索強化予測により, ゼロショット予測性能が向上した。
本稿では時系列予測のための検索誘導不変動的分解フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-24T07:31:55Z) - Deep Variational Inference Symbolic Regression [41.99844472131922]
シンボリック回帰は、前もって関数形式を仮定することなく、明示的で解釈可能な方程式を発見する。
Deep Symbolic Regression (DSR)は、ニューラルネットワークを使用してシンボリック表現を生成する。
DSRの変分ベイズ拡張であるDVISR(Deep Variational Inference Symbolic Regression)を導入する。
論文 参考訳(メタデータ) (2026-05-01T20:04:11Z) - VaSST: Variational Inference for Symbolic Regression using Soft Symbolic Trees [2.6521352889229446]
本稿では,変分推論に基づくシンボリック回帰のためのスケーラブルな確率的フレームワークであるVasSTを紹介する。
VaSSTは、最先端のシンボル回帰法と比較して、構造回復と予測精度の両方において優れた性能を達成する。
論文 参考訳(メタデータ) (2026-02-27T00:07:31Z) - Bayesian Symbolic Regression via Posterior Sampling [0.0]
記号回帰はデータから直接支配方程式を発見する強力なツールであるが、ノイズに対する感度はより広い応用を妨げる。
本稿では,記号表現上の後部分布を近似したベイズ記号回帰のための逐次モンテカルロフレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-11T17:38:20Z) - Sparse Interpretable Deep Learning with LIES Networks for Symbolic Regression [22.345828337550575]
記号回帰は、データを正確に記述する閉形式の数学的表現を発見することを目的としている。
既存のSR手法は、しばしば人口に基づく探索や自己回帰モデリングに依存している。
LIES(Logarithm, Identity, Exponential, Sine)は,シンボル表現のモデル化に最適化された,解釈可能なプリミティブアクティベーションを備えたニューラルネットワークアーキテクチャである。
論文 参考訳(メタデータ) (2025-06-09T22:05:53Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
リッジ回帰に関する最近の結果について統一的な視点を提示する。
我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。
我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Deep Generative Symbolic Regression [83.04219479605801]
記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。
既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。
本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
論文 参考訳(メタデータ) (2023-12-30T17:05:31Z) - Understanding Augmentation-based Self-Supervised Representation Learning
via RKHS Approximation and Regression [53.15502562048627]
最近の研究は、自己教師付き学習とグラフラプラシアン作用素のトップ固有空間の近似との関係を構築している。
この研究は、増強に基づく事前訓練の統計的分析に発展する。
論文 参考訳(メタデータ) (2023-06-01T15:18:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。