論文の概要: EditSR: Enhancing Neural Symbolic Regression via Edit-based Rectification
- arxiv url: http://arxiv.org/abs/2606.07915v1
- Date: Sat, 06 Jun 2026 00:37:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:05.534299
- Title: EditSR: Enhancing Neural Symbolic Regression via Edit-based Rectification
- Title(参考訳): EditSR: Edit-based Rectificationによるニューラルシンボリック回帰の強化
- Authors: Da Li, Xinxin Li, Xingyu Cui, Jin Xu, Juan Zhang, Junping Yin,
- Abstract要約: 本稿では,第1層におけるニューラルシンボリック回帰モデルと第2層におけるエディットベース整流器を組み合わせた2層フレームワークであるEditSRを提案し,効率的な予測とポストホック整流を実現する。
修正全体を通して統語的妥当性を確保するため、各編集動作は構文的に有効な空間に制限され、全ての編集された表現が解析可能である。
- 参考スコア(独自算出の注目度): 11.013304470971017
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural symbolic regression models improve inference efficiency by shifting structural search to pretraining, but their one-pass autoregressive decoding is prone to error accumulation, which may lead to generating structurally incorrect expressions, especially in complex expression generation scenarios. Existing rectification strategies can alleviate this issue, but they often depend on restarting global search, thereby weakening the efficiency advantage of neural models, and remain susceptible to error accumulation. In this paper, we propose EditSR, a two-layer framework that combines a neural symbolic regression model in the first layer with an edit-based Rectifier in the second layer to achieve efficient prediction and post-hoc rectification. Instead of restarting the global search, we maintain rectification efficiency by pretraining the Rectifier. Specifically, we formulate the rectification process as a step-by-step state-transition chain starting from an incorrect expression, and develop a state-transition algorithm to construct supervised rectification chains for training the Rectifier. To ensure syntactic validity throughout rectification, each edit action is restricted to a syntactically valid space so that every edited expression remains parseable. In addition, because each edit decision is conditioned on the current state rather than the history, the Rectifier allows errors made in earlier steps to be rectified by subsequent edits, thereby reducing the risk of error accumulation. Extensive experiments and ablation studies show that EditSR substantially improves symbolic structure recovery with limited extra cost, with more pronounced gains on complex expressions, where one-pass autoregressive decoding is more susceptible to error accumulation.
- Abstract(参考訳): ニューラルシンボリック回帰モデルは、構造探索を事前学習に移すことで推論効率を向上させるが、その1パスの自己回帰復号はエラーの蓄積を招きやすいため、特に複雑な表現生成シナリオにおいて、構造的に誤った表現を生成する可能性がある。
既存の修正戦略はこの問題を軽減することができるが、それらはしばしばグローバル検索を再起動することに依存し、それによってニューラルネットワークの効率性の利点を弱め、エラーの蓄積に影響を受けないままである。
本稿では,第1層におけるニューラルシンボリック回帰モデルと第2層におけるエディットベース整流器を組み合わせた2層フレームワークであるEditSRを提案し,効率的な予測とポストホック整流を実現する。
グローバル検索を再開する代わりに、整流器を事前訓練することで整流効率を維持する。
具体的には、不正表現から始まるステップバイステップの状態遷移連鎖として整流過程を定式化し、整流器を訓練するための教師付き整流連鎖を構築するための状態遷移アルゴリズムを開発する。
修正全体を通して統語的妥当性を確保するため、各編集動作は構文的に有効な空間に制限され、全ての編集された表現が解析可能である。
さらに、各編集決定が履歴ではなく現在の状態に条件付けされているため、Rectifierは、初期のステップでなされたエラーをその後の編集で修正できるので、エラーの蓄積のリスクを低減することができる。
拡張実験とアブレーション研究により、EditSRはシンボル構造回復を大幅に改善し、複雑な表現をより顕著に増加させ、ワンパス自己回帰復号はエラーの蓄積に対してより影響を受けやすいことを示した。
関連論文リスト
- Variational Rectification Inference for Learning with Noisy Labels [74.85528327499662]
損失関数の適応的補正を定式化するために, 変分補正推論(VRI)を提案する。
VRIは、補正ベクトルを潜在変数として扱うことによって階層ベイズとして構成される。
VRIで変分項を導入することにより、条件付き後部を正確に推定し、ディラックデルタ関数への崩壊を避ける。
論文 参考訳(メタデータ) (2026-03-18T01:25:08Z) - Not All Queries Need Deep Thought: CoFiCot for Adaptive Coarse-to-fine Stateful Refinement [24.721024438862553]
CoFiCotは粗粒度適応フレームワークで、推論戦略を問題に合わせる。
セマンティックエントロピー、コンセンサス信頼性、予測推論深度でクエリをトリアージするマルチメトリック分類器を実装した。
これにより、複雑なクエリをコンテキスト対応の修正ループにルーティングしながら、単純なクエリに対して効率的なアグリゲーションを適用することができる。
論文 参考訳(メタデータ) (2026-03-09T11:23:07Z) - RaBiT: Residual-Aware Binarization Training for Accurate and Efficient LLMs [5.782015253162346]
残留バイナライゼーションは、バイナリ層を積み重ねることで、マットルフリーな推論を可能にする。
本稿では,残差階層をアルゴリズム的に強制することでコダプタ化を解決する新しい量子化フレームワークであるRaBiTを提案する。
RaBiTは最先端のパフォーマンスを実現し、ハードウェア集約型ベクトル量子化(VQ)の手法と競合する。
論文 参考訳(メタデータ) (2026-02-05T06:41:11Z) - POLARIS: Projection-Orthogonal Least Squares for Robust and Adaptive Inversion in Diffusion Models [9.779983925649857]
Inversion-Denoising Paradigmは拡散モデルに基づく多彩な画像編集と復元作業に優れる。
我々は、その機構を再検討し、復元劣化の重大な要因である、近似ノイズ誤差を明らかにする。
本稿では, 誤差補償問題から誤り補償問題への逆変換を再構成する, ロバスト・アダプティブ・インバージョンのための射影直交最小広場(POLARIS)について紹介する。
論文 参考訳(メタデータ) (2025-11-29T07:35:20Z) - REACT: Representation Extraction And Controllable Tuning to Overcome Overfitting in LLM Knowledge Editing [42.89229070245538]
本稿では,正確かつ制御可能な知識編集のためのフレームワークであるREACTを紹介する。
最初の段階では、調整された刺激を用いて、潜在的な事実表現を抽出する。
第2段階では,大小スカラーのベクトルを用いて,制御可能な摂動を隠蔽状態に適用する。
論文 参考訳(メタデータ) (2025-05-25T01:57:06Z) - Towards Generalizable Trajectory Prediction Using Dual-Level Representation Learning And Adaptive Prompting [107.4034346788744]
既存の車両軌道予測モデルは、一般化可能性、予測の不確実性、複雑な相互作用を扱う。
本研究では,(1)自己拡張(SD)とマスドレコンストラクション(MR)による二重レベル表現学習,グローバルコンテキストと細部の詳細の収集,(2)レジスタベースのクエリと事前学習の強化,クラスタリングと抑圧の必要性の排除,(3)微調整中の適応型プロンプトチューニング,メインアーキテクチャの凍結,および少数のプロンプトの最適化といった,新たなトラジェクタ予測フレームワークであるPerceiverを提案する。
論文 参考訳(メタデータ) (2025-01-08T20:11:09Z) - Uncovering mesa-optimization algorithms in Transformers [61.06055590704677]
いくつかの自己回帰モデルは、入力シーケンスが処理されたときに学習でき、パラメータの変更を受けずに、それを行うように明示的に訓練されていない。
我々は,新しい入力が明らかになったときにモデルを調整するための補助学習アルゴリズムが,標準の次トーケン予測誤差最小化によって生まれることを示す。
本研究は、自己回帰損失最小化の産物としてコンテキスト内学習を説明し、新しい最適化ベースのトランスフォーマー層の設計を通知する。
論文 参考訳(メタデータ) (2023-09-11T22:42:50Z) - Score-based Causal Representation Learning with Interventions [54.735484409244386]
本稿では,潜在因果変数を間接的に観察する際の因果表現学習問題について検討する。
目的は、 (i) 未知の線形変換(スケーリングまで)を回復し、 (ii) 潜在変数の下の有向非巡回グラフ(DAG)を決定することである。
論文 参考訳(メタデータ) (2023-01-19T18:39:48Z) - End-to-end reconstruction meets data-driven regularization for inverse
problems [2.800608984818919]
本稿では,不適切な逆問題に対するエンド・ツー・エンドの再構成演算子を学習するための教師なしアプローチを提案する。
提案手法は,古典的変分フレームワークと反復的アンローリングを組み合わせたものである。
我々は,X線CT(Computerd tomography)の例で,最先端の教師なし手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-06-07T12:05:06Z) - FastCorrect: Fast Error Correction with Edit Alignment for Automatic
Speech Recognition [90.34177266618143]
編集アライメントに基づく新しいNAR誤り訂正モデルであるFastCorrectを提案する。
fastcorrectは推論を6-9倍高速化し、自己回帰補正モデルと比較して精度を8-14%向上させる。
ニューラルマシン翻訳で採用されている一般的なNARモデルの精度を、大きなマージンで上回っています。
論文 参考訳(メタデータ) (2021-05-09T05:35:36Z) - Activation Relaxation: A Local Dynamical Approximation to
Backpropagation in the Brain [62.997667081978825]
活性化緩和(AR)は、バックプロパゲーション勾配を力学系の平衡点として構成することで動機付けられる。
我々のアルゴリズムは、正しいバックプロパゲーション勾配に迅速かつ堅牢に収束し、単一のタイプの計算単位しか必要とせず、任意の計算グラフで操作できる。
論文 参考訳(メタデータ) (2020-09-11T11:56:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。