論文の概要: Symbolic Regression via Latent Iterative Refinement
- arxiv url: http://arxiv.org/abs/2605.27245v1
- Date: Tue, 26 May 2026 16:25:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-27 17:51:42.411961
- Title: Symbolic Regression via Latent Iterative Refinement
- Title(参考訳): 反復リファインメントによるシンボリックリグレッション
- Authors: Xieting Chu, Sriram Vishwanath, Vijay Ganesh,
- Abstract要約: 単発予測と真の後部とのギャップを埋めるフレームワークであるLatent Equation Embedding (LEE)を提案する。
LEEは、3つのコンポーネントを備えた共有潜在空間Zを学習する。
LEEは、最強の精度指向のベースラインよりも2~10倍単純である。
- 参考スコア(独自算出の注目度): 8.016092717336457
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Symbolic regression (SR) seeks closed-form mathematical expressions that fit observed data. Neural SR methods amortize the search by training an encoder to map observations directly to expressions in a single pass, but this amortized inference leaves a residual amortization gap between its one-shot prediction and the true posterior. We propose Latent Equation Embedding (LEE), a framework that closes this gap through iterative amortized inference in a functionally grounded latent space. LEE learns a shared latent space Z equipped with three components: an encoder f_theta that jointly embeds symbolic tokens and numerical observations into a single latent vector z; an expression decoder g_expr that reconstructs formulas from z; and an evaluation decoder g_eval that predicts function values from z, explicitly grounding the latent space in functional behavior. At inference, LEE performs iterative refinement by re-encoding decoded expressions jointly with observations, progressively improving the latent estimate. LEE uses the encoder itself as a learned inference optimizer: each re-encoding step implicitly computes the mismatch between the candidate and the data. Because g_eval is differentiable in z, we additionally interleave continuous gradient descent with discrete re-encoding, yielding a hybrid iterative and gradient refinement procedure. On SRBench across three noise levels, against 19 baselines spanning genetic programming, symbolic-neural hybrids, and pre-trained Transformers, LEE produces expressions 2--10x simpler than the strongest accuracy-oriented baselines, including Operon, GP-GOMEA, TPSR, RAG-SR, and GenSR, with complexity 8--11 versus 20--90. These results advance the low-complexity region of the accuracy-complexity Pareto frontier and show graceful degradation as noise increases.
- Abstract(参考訳): 記号回帰(SR)は、観測データに適合する閉形式の数学的表現を求める。
ニューラルSR法は、エンコーダを訓練して、単一パス内の表現に直接観察をマッピングするように探索を償却するが、この償却推論は、そのワンショット予測と真の後部との残差を残している。
機能的基底空間における反復的補正推論によりこのギャップを埋めるフレームワークである潜在方程式埋め込み(LEE)を提案する。
LEEは、シンボルトークンと数値観測を結合して1つの潜在ベクトルzに埋め込むエンコーダf_thetaと、zから公式を再構成する式デコーダg_exprと、zから関数値を予測する評価デコーダg_evalとを具備した共有潜時空間Zを学習する。
推論において、LEEは、観測と共同で復号表現を復号化することにより反復的洗練を行い、潜時推定を徐々に改善する。
各再エンコードステップは、候補とデータ間のミスマッチを暗黙的に計算する。
g_eval は z において微分可能であるので、離散的再符号化により連続勾配降下をインターリーブし、ハイブリッド反復および勾配精製手順を生成する。
SRBenchは、遺伝的プログラミング、シンボリック・ニューラルハイブリッド、および事前訓練されたトランスフォーマーにまたがる19のベースラインに対して、Operon、GP-GOMEA、TPSR、RAG-SR、GenSRといった最強の精度指向のベースラインよりも2-10倍単純で、複雑性は8-11対20-90である。
これらの結果は, 精度複雑度Paretoフロンティアの低複雑さ領域を前進させ, ノイズの増加に伴って優雅な劣化を示す。
関連論文リスト
- Neural Structure Embedding for Symbolic Regression via Continuous Structure Search and Coefficient Optimization [8.496933324334167]
SRCOはシンボリックレグレッションのための統合埋め込み駆動フレームワークである。
記号構造を連続で最適化可能な表現空間に変換する。
合成および実世界のデータセットの実験により、我々の手法は方程式の正確性、堅牢性、探索効率において最先端の手法を一貫して上回ることを示した。
論文 参考訳(メタデータ) (2026-03-23T18:04:03Z) - In-Context Symbolic Regression for Robustness-Improved Kolmogorov-Arnold Networks [3.7163623763519733]
シンボリック回帰は、ブラックボックス予測器を機械学習で検査および検証可能な分析式に置き換えることを目的としている。
Kolmogorov-Arnold Pursuit Networks (KANs) はこの目的に適している。
しかし、実際には記号抽出はボトルネックであり、標準のkan-to-symbolアプローチは各学習エッジ関数に微妙な分離で適合する。
論文 参考訳(メタデータ) (2026-03-16T13:21:26Z) - GENSR: Symbolic Regression Based in Equation Generative Space [15.186848349610363]
GenSRは、ジェネレーティブな宇宙ベースのSRフレームワークである。
ベイズの観点から、GenSR は SR タスクを条件分布 $p(mathrmEqu. mid mathrmNum.)$ の最大化として再構成する。
論文 参考訳(メタデータ) (2026-02-24T05:14:34Z) - Unbiased Gradient Estimation for Event Binning via Functional Backpropagation [64.88399635309918]
バックプロパゲーション中に弱微分を合成することにより任意の双対関数の非バイアス勾配推定のための新しいフレームワークを提案する。
自己監督型光流ではECEが9.4%,SLAMでは5.1%低下し,事象に基づく視覚知覚において大きなメリットが示された。
論文 参考訳(メタデータ) (2026-02-13T04:05:03Z) - Gaussian Match-and-Copy: A Minimalist Benchmark for Studying Transformer Induction [44.83333974000826]
本稿では,2階相関信号による長距離検索を分離するミニマリストベンチマークを提案する。
数値的な研究により、このタスクは変換器のマッチング・アンド・コピー回路開発における重要な質的な側面を保っていることが示されている。
明示的な技術的条件下での経験的損失を解消するGD軌道に対して,この極大アライメントを証明した。
論文 参考訳(メタデータ) (2026-02-07T14:18:11Z) - Deep Generative Symbolic Regression [83.04219479605801]
記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。
既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。
本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
論文 参考訳(メタデータ) (2023-12-30T17:05:31Z) - Understanding Augmentation-based Self-Supervised Representation Learning
via RKHS Approximation and Regression [53.15502562048627]
最近の研究は、自己教師付き学習とグラフラプラシアン作用素のトップ固有空間の近似との関係を構築している。
この研究は、増強に基づく事前訓練の統計的分析に発展する。
論文 参考訳(メタデータ) (2023-06-01T15:18:55Z) - Paraformer: Fast and Accurate Parallel Transformer for
Non-autoregressive End-to-End Speech Recognition [62.83832841523525]
そこで我々はParaformerと呼ばれる高速かつ高精度な並列トランスを提案する。
出力トークンの数を正確に予測し、隠れた変数を抽出する。
10倍以上のスピードアップで、最先端のARトランスフォーマーに匹敵するパフォーマンスを実現することができる。
論文 参考訳(メタデータ) (2022-06-16T17:24:14Z) - Representation Learning via Cauchy Convolutional Sparse Coding [7.784354802855044]
畳み込みスパース符号化(CSC)は、(el)ノルムの忠実度項と、ペナルティを強制するスパーシティの両方を共同最適化することにより、特徴の教師なし学習を可能にする。
本研究では、CSC生成モデルの特徴写像の係数について、仮定されたコーシーから導出される正規化項を用いて検討する。
この事前から生じる空間的ペナルティ項は、その近位演算子によって解決され、特徴写像の係数に対して反復的に要素的に適用され、CSCコスト関数を最適化する。
論文 参考訳(メタデータ) (2020-08-08T08:21:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。