論文の概要: Shape Constraints in Symbolic Regression using Penalized Least Squares
- arxiv url: http://arxiv.org/abs/2405.20800v2
- Date: Tue, 6 Aug 2024 10:45:42 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-07 18:42:52.294389
- Title: Shape Constraints in Symbolic Regression using Penalized Least Squares
- Title(参考訳): ペナルタイズリーストスクエアを用いたシンボリック回帰における形状制約
- Authors: Viktor Martinek, Julia Reuter, Ophelia Frotscher, Sanaz Mostaghim, Markus Richter, Roland Herzog,
- Abstract要約: 記号回帰(SR)のパラメータ識別段階における形状制約(SC)の追加とその考慮について検討する。
SCは、他の未知のモデル関数の形状に関する事前知識をSRに導入する手段として機能する。
SRでSCを探索した以前の研究とは異なり、勾配に基づく数値最適化を用いてパラメータ識別時にSC違反を最小限に抑えることを提案する。
- 参考スコア(独自算出の注目度): 1.2866371182081981
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We study the addition of shape constraints (SC) and their consideration during the parameter identification step of symbolic regression (SR). SC serve as a means to introduce prior knowledge about the shape of the otherwise unknown model function into SR. Unlike previous works that have explored SC in SR, we propose minimizing SC violations during parameter identification using gradient-based numerical optimization. We test three algorithm variants to evaluate their performance in identifying three symbolic expressions from synthetically generated data sets. This paper examines two benchmark scenarios: one with varying noise levels and another with reduced amounts of training data. The results indicate that incorporating SC into the expression search is particularly beneficial when data is scarce. Compared to using SC only in the selection process, our approach of minimizing violations during parameter identification shows a statistically significant benefit in some of our test cases, without being significantly worse in any instance.
- Abstract(参考訳): 記号回帰 (SR) のパラメータ識別段階において, 形状制約 (SC) の追加とその考慮について検討した。
SCは、他の未知のモデル関数の形状に関する事前知識をSRに導入する手段として機能する。
SRでSCを探索した以前の研究とは異なり、勾配に基づく数値最適化を用いてパラメータ識別時にSC違反を最小限に抑えることを提案する。
合成されたデータセットから3つのシンボリック表現を同定し,その性能を評価するために,3つのアルゴリズム変種を検証した。
本稿では,騒音レベルが異なる場合と,トレーニングデータの量が少ない場合の2つのベンチマークシナリオについて検討する。
その結果,データ不足時にSCを表現検索に組み込むことが特に有用であることが示唆された。
選択プロセスでのみSCを使用する場合と比較して,パラメータ識別時の違反を最小限に抑えるというアプローチは,いくつかのテストケースで統計的に有意なメリットを示し,いずれの場合も著しく悪化することはなかった。
関連論文リスト
- Ab initio nonparametric variable selection for scalable Symbolic Regression with large $p$ [2.222138965069487]
シンボリック回帰(SR)は、データの非線形関係を特徴付けるシンボリック表現を発見するための強力な手法である。
既存のSR法は、多くの入力変数を持つデータセットにスケールしないが、これは現代の科学的応用で一般的である。
本稿では,Ab初期非パラメトリック変数選択とSRを組み合わせたPAN+SRを提案する。
論文 参考訳(メタデータ) (2024-10-17T15:41:06Z) - Low-Rank Approximation of Structural Redundancy for Self-Supervised Learning [2.3072402651280517]
本研究では,その有効性に光を当てるために,再構成SSLのデータ生成機構について検討する。
ラベル付きサンプルの無限の量で、完全線形近似に十分かつ必要な条件を提供する。
この条件により、低ランク因子化による冗長成分の近似を提案する。
論文 参考訳(メタデータ) (2024-02-10T04:45:27Z) - TRIAGE: Characterizing and auditing training data for improved
regression [80.11415390605215]
TRIAGEは回帰タスクに適した新しいデータキャラクタリゼーションフレームワークで、広範囲の回帰器と互換性がある。
TRIAGEは、共形予測分布を利用して、モデルに依存しないスコアリング方法、TRIAGEスコアを提供する。
TRIAGEの特徴は一貫性があり、複数の回帰設定においてデータの彫刻/フィルタリングによるパフォーマンス向上に有効であることを示す。
論文 参考訳(メタデータ) (2023-10-29T10:31:59Z) - Fine-tuning Strategies for Faster Inference using Speech Self-Supervised
Models: A Comparative Study [25.58608455210458]
自己教師付き学習(SSL)は、低リソース環境での音声認識(ASR)の性能を大幅に向上させた。
この記事では、SSLエンコーダに必要な計算量を削減するために、微調整中にデプロイされる可能性のあるさまざまなアプローチについて検討する。
論文 参考訳(メタデータ) (2023-03-12T19:52:34Z) - Triplet Contrastive Learning for Unsupervised Vehicle Re-identification [55.445358749042384]
部分的特徴学習は、車両の再識別におけるセマンティック理解にとって重要な技術である。
本稿では,クラスタ機能を活用したTCL(Triplet Contrastive Learning framework)を提案する。
論文 参考訳(メタデータ) (2023-01-23T15:52:12Z) - Coarse-to-Fine Sparse Transformer for Hyperspectral Image Reconstruction [138.04956118993934]
本稿では, サース・トゥ・ファインス・スパース・トランス (CST) を用いた新しいトランス方式を提案する。
HSI再構成のための深層学習にHSI空間を埋め込んだCST
特に,CSTは,提案したスペクトル認識スクリーニング機構(SASM)を粗いパッチ選択に使用し,選択したパッチを,細かなピクセルクラスタリングと自己相似性キャプチャのために,カスタマイズしたスペクトル集約ハッシュ型マルチヘッド自己アテンション(SAH-MSA)に入力する。
論文 参考訳(メタデータ) (2022-03-09T16:17:47Z) - Do Lessons from Metric Learning Generalize to Image-Caption Retrieval? [67.45267657995748]
半ハードな負のトリプルト損失は、スクラッチから最適化されたイメージキャプション検索(ICR)メソッドのデファクト選択となっている。
近年のメトリクス学習の進歩により、画像検索や表現学習といったタスクにおいて、三重項損失を上回る新たな損失関数が生まれている。
これらの結果は,2つのICR法における3つの損失関数を比較することで,ICRの設定に一般化するかどうかを問う。
論文 参考訳(メタデータ) (2022-02-14T15:18:00Z) - Stable and Compact Face Recognition via Unlabeled Data Driven Sparse
Representation-Based Classification [39.398339531136344]
ラベル付きデータ駆動逆プロジェクション擬フルスペース表現に基づく分類モデルを提案する。
提案モデルは,すべての利用可能なデータの隠された意味情報と本質的な構造情報をマイニングすることを目的としている。
3つの公開データセットの実験により、提案したLR-S-PFSRCモデルが安定した結果が得られることが示された。
論文 参考訳(メタデータ) (2021-11-04T13:19:38Z) - Attentional-Biased Stochastic Gradient Descent [74.49926199036481]
深層学習におけるデータ不均衡やラベルノイズ問題に対処するための証明可能な手法(ABSGD)を提案する。
本手法は運動量SGDの簡易な修正であり,各試料に個別の重み付けを行う。
ABSGDは追加コストなしで他の堅牢な損失と組み合わせられるほど柔軟である。
論文 参考訳(メタデータ) (2020-12-13T03:41:52Z) - Hyperspectral Classification Based on Lightweight 3-D-CNN With Transfer
Learning [67.40866334083941]
限定サンプルに基づくHSI分類のためのエンドツーエンドの3次元軽量畳み込みニューラルネットワーク(CNN)を提案する。
従来の3D-CNNモデルと比較して,提案した3D-LWNetはネットワーク構造が深く,パラメータが小さく,計算コストも低い。
本モデルでは,HSI分類の競合性能を,いくつかの最先端手法と比較した。
論文 参考訳(メタデータ) (2020-12-07T03:44:35Z) - Representation Learning via Cauchy Convolutional Sparse Coding [7.784354802855044]
畳み込みスパース符号化(CSC)は、(el)ノルムの忠実度項と、ペナルティを強制するスパーシティの両方を共同最適化することにより、特徴の教師なし学習を可能にする。
本研究では、CSC生成モデルの特徴写像の係数について、仮定されたコーシーから導出される正規化項を用いて検討する。
この事前から生じる空間的ペナルティ項は、その近位演算子によって解決され、特徴写像の係数に対して反復的に要素的に適用され、CSCコスト関数を最適化する。
論文 参考訳(メタデータ) (2020-08-08T08:21:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。