論文の概要: Shape-constrained Symbolic Regression -- Improving Extrapolation with
Prior Knowledge
- arxiv url: http://arxiv.org/abs/2103.15624v1
- Date: Mon, 29 Mar 2021 14:04:18 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-30 14:43:11.176654
- Title: Shape-constrained Symbolic Regression -- Improving Extrapolation with
Prior Knowledge
- Title(参考訳): 形状制約付きシンボリック回帰-事前知識による外挿の改善
- Authors: Gabriel Kronberger and Fabricio Olivetti de Fran\c{c}a and Bogdan
Burlacu and Christian Haider and Michael Kommenda
- Abstract要約: 目的は、期待される振る舞いに適合し、能力を改善したモデルを見つけることである。
アルゴリズムは19の合成問題と4つの現実世界の回帰問題でテストされる。
形状制約レグレッションは、テストセットに最適な結果をもたらすが、さらに大きなモデルも生成する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We investigate the addition of constraints on the function image and its
derivatives for the incorporation of prior knowledge in symbolic regression.
The approach is called shape-constrained symbolic regression and allows us to
enforce e.g. monotonicity of the function over selected inputs. The aim is to
find models which conform to expected behaviour and which have improved
extrapolation capabilities. We demonstrate the feasibility of the idea and
propose and compare two evolutionary algorithms for shape-constrained symbolic
regression: i) an extension of tree-based genetic programming which discards
infeasible solutions in the selection step, and ii) a two population
evolutionary algorithm that separates the feasible from the infeasible
solutions. In both algorithms we use interval arithmetic to approximate bounds
for models and their partial derivatives. The algorithms are tested on a set of
19 synthetic and four real-world regression problems. Both algorithms are able
to identify models which conform to shape constraints which is not the case for
the unmodified symbolic regression algorithms. However, the predictive accuracy
of models with constraints is worse on the training set and the test set.
Shape-constrained polynomial regression produces the best results for the test
set but also significantly larger models.
- Abstract(参考訳): シンボル回帰において,先行知識を組み込んだ関数画像とその導関数に対する制約の追加について検討する。
このアプローチはshape-constrained symbolic regressionと呼ばれ、例えば、強制を可能にする。
選択された入力に対する関数の単調性。
目的は、期待された振る舞いに適合し、補外能力を改善したモデルを見つけることである。
提案手法の有効性を実証し, 形状制約付きシンボル回帰のための2つの進化的アルゴリズムを提案する。i) 選択ステップで実現不可能な解を捨てる木に基づく遺伝的プログラミングの拡張, i) 実現不可能な解から分離する2つの集団進化アルゴリズム。
どちらのアルゴリズムも区間算術を用いてモデルとその偏微分の有界を近似する。
アルゴリズムは19の合成問題と4つの実世界の回帰問題で検証される。
どちらのアルゴリズムも形状制約に準拠したモデルを識別できるが、これは修正されていない記号回帰アルゴリズムには当てはまらない。
しかし、制約のあるモデルの予測精度は、トレーニングセットとテストセットでは悪くなります。
形状制約付き多項式回帰はテスト集合にとって最良の結果をもたらすが、さらに大きなモデルも生成する。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Branch and Bound to Assess Stability of Regression Coefficients in Uncertain Models [0.6990493129893112]
提案アルゴリズムは,数学的な結果のサポート,サンプルアプリケーション,コンピュータコードへのリンクなどとともに導入する。
これは、研究者が高次元データを要約し、不確実なモデルにおける回帰係数の安定性を評価するのに役立つ。
論文 参考訳(メタデータ) (2024-08-19T01:37:14Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。
本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Deep Generative Symbolic Regression [83.04219479605801]
記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。
既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。
本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
論文 参考訳(メタデータ) (2023-12-30T17:05:31Z) - A Pseudo-Semantic Loss for Autoregressive Models with Logical
Constraints [87.08677547257733]
ニューロシンボリックAIは、純粋にシンボリックな学習とニューラルな学習のギャップを埋める。
本稿では,ニューラルネットワークの出力分布に対するシンボリック制約の可能性を最大化する方法を示す。
また,スドクと最短経路予測の手法を自己回帰世代として評価した。
論文 参考訳(メタデータ) (2023-12-06T20:58:07Z) - Toward Physically Plausible Data-Driven Models: A Novel Neural Network
Approach to Symbolic Regression [2.7071541526963805]
本稿では,ニューラルネットワークに基づく記号回帰手法を提案する。
非常に小さなトレーニングデータセットとシステムに関する事前知識に基づいて、物理的に妥当なモデルを構築する。
本研究では,TurtleBot 2移動ロボット,磁気操作システム,2つの抵抗の等価抵抗,アンチロックブレーキシステムの長手力の4つの試験システムに対するアプローチを実験的に評価した。
論文 参考訳(メタデータ) (2023-02-01T22:05:04Z) - Using Shape Constraints for Improving Symbolic Regression Models [0.0]
形状制約付きシンボル回帰のためのアルゴリズムを記述・解析する。
物理教科書の一連のモデルを用いてアルゴリズムをテストする。
その結果、全てのアルゴリズムが全ての形状制約に適合するモデルを見つけることができることがわかった。
論文 参考訳(メタデータ) (2021-07-20T12:53:28Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳(メタデータ) (2020-10-05T20:03:13Z) - The data-driven physical-based equations discovery using evolutionary
approach [77.34726150561087]
与えられた観測データから数学的方程式を発見するアルゴリズムについて述べる。
このアルゴリズムは遺伝的プログラミングとスパース回帰を組み合わせたものである。
解析方程式の発見や偏微分方程式(PDE)の発見にも用いられる。
論文 参考訳(メタデータ) (2020-04-03T17:21:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。