論文の概要: Using Shape Constraints for Improving Symbolic Regression Models
- arxiv url: http://arxiv.org/abs/2107.09458v1
- Date: Tue, 20 Jul 2021 12:53:28 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-21 12:08:50.118852
- Title: Using Shape Constraints for Improving Symbolic Regression Models
- Title(参考訳): 形状制約を用いた記号回帰モデルの改善
- Authors: Christian Haider, Fabricio Olivetti de Fran\c{c}a, Bogdan Burlacu,
Gabriel Kronberger
- Abstract要約: 形状制約付きシンボル回帰のためのアルゴリズムを記述・解析する。
物理教科書の一連のモデルを用いてアルゴリズムをテストする。
その結果、全てのアルゴリズムが全ての形状制約に適合するモデルを見つけることができることがわかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We describe and analyze algorithms for shape-constrained symbolic regression,
which allows the inclusion of prior knowledge about the shape of the regression
function. This is relevant in many areas of engineering -- in particular
whenever a data-driven model obtained from measurements must have certain
properties (e.g. positivity, monotonicity or convexity/concavity). We implement
shape constraints using a soft-penalty approach which uses multi-objective
algorithms to minimize constraint violations and training error. We use the
non-dominated sorting genetic algorithm (NSGA-II) as well as the
multi-objective evolutionary algorithm based on decomposition (MOEA/D). We use
a set of models from physics textbooks to test the algorithms and compare
against earlier results with single-objective algorithms. The results show that
all algorithms are able to find models which conform to all shape constraints.
Using shape constraints helps to improve extrapolation behavior of the models.
- Abstract(参考訳): 形状制約付き記号回帰のアルゴリズムを記述・解析することにより, 回帰関数の形状に関する事前知識を組み込むことができる。
これはエンジニアリングの多くの分野において関係があり、特に測定から得られたデータ駆動モデルは特定の特性(例えば、陽性、単調性、凸性/凸性)を持つ必要がある。
多目的アルゴリズムを用いて制約違反やトレーニングエラーを最小限に抑えるソフトペナルティアプローチを用いて形状制約を実装した。
我々は,非支配的ソート遺伝的アルゴリズム (NSGA-II) と,分解に基づく多目的進化アルゴリズム (MOEA/D) を用いる。
物理教科書のモデルセットを使用してアルゴリズムをテストし、従来の結果を単一目的アルゴリズムと比較する。
その結果、全てのアルゴリズムは全ての形状制約を満たすモデルを見つけることができることがわかった。
形状制約の使用はモデルの外挿行動を改善するのに役立つ。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。
本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - A Novel Plug-and-Play Approach for Adversarially Robust Generalization [38.72514422694518]
本稿では,MLモデルを摂動テストデータから保護するために,逆向きに堅牢なトレーニングを採用する頑健なフレームワークを提案する。
私たちの貢献は、計算学と統計学の両方の観点から見ることができます。
論文 参考訳(メタデータ) (2022-08-19T17:02:55Z) - Spike-and-Slab Generalized Additive Models and Scalable Algorithms for
High-Dimensional Data [0.0]
本稿では,高次元データに対応するため,階層型一般化加法モデル(GAM)を提案する。
曲線の適切な縮退と滑らか化関数線型空間と非線形空間の分離に対する平滑化ペナルティを考察する。
2つの決定論的アルゴリズム、EM-Coordinate Descent と EM-Iterative Weighted Least Squares は異なるユーティリティ向けに開発された。
論文 参考訳(メタデータ) (2021-10-27T14:11:13Z) - Feature Engineering with Regularity Structures [4.082216579462797]
機械学習タスクの特徴として,正則構造理論からのモデルの利用について検討する。
本研究では、時空信号に付随するモデル特徴ベクトルの柔軟な定義と、これらの特徴を線形回帰と組み合わせる方法を示す2つのアルゴリズムを提供する。
我々はこれらのアルゴリズムを、与えられた強制と境界データを用いてPDEの解を学ぶために設計されたいくつかの数値実験に適用する。
論文 参考訳(メタデータ) (2021-08-12T17:53:47Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳(メタデータ) (2021-06-09T08:05:36Z) - Shape-constrained Symbolic Regression -- Improving Extrapolation with
Prior Knowledge [0.0]
目的は、期待される振る舞いに適合し、能力を改善したモデルを見つけることである。
アルゴリズムは19の合成問題と4つの現実世界の回帰問題でテストされる。
形状制約レグレッションは、テストセットに最適な結果をもたらすが、さらに大きなモデルも生成する。
論文 参考訳(メタデータ) (2021-03-29T14:04:18Z) - Landscape-Aware Fixed-Budget Performance Regression and Algorithm
Selection for Modular CMA-ES Variants [1.0965065178451106]
市販の教師あり学習手法を用いて,高品質な性能予測が可能であることを示す。
このアプローチを,モジュール型CMA-ESアルゴリズム群から選択した,非常に類似したアルゴリズムのポートフォリオ上でテストする。
論文 参考訳(メタデータ) (2020-06-17T13:34:57Z) - The data-driven physical-based equations discovery using evolutionary
approach [77.34726150561087]
与えられた観測データから数学的方程式を発見するアルゴリズムについて述べる。
このアルゴリズムは遺伝的プログラミングとスパース回帰を組み合わせたものである。
解析方程式の発見や偏微分方程式(PDE)の発見にも用いられる。
論文 参考訳(メタデータ) (2020-04-03T17:21:57Z) - Learning Gaussian Graphical Models via Multiplicative Weights [54.252053139374205]
乗算重み更新法に基づいて,Klivans と Meka のアルゴリズムを適用した。
アルゴリズムは、文献の他のものと質的に類似したサンプル複雑性境界を楽しみます。
ランタイムが低い$O(mp2)$で、$m$サンプルと$p$ノードの場合には、簡単にオンライン形式で実装できる。
論文 参考訳(メタデータ) (2020-02-20T10:50:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。