論文の概要: Language models guide symbolic equation discovery by controlling search
- arxiv url: http://arxiv.org/abs/2607.04156v1
- Date: Sun, 05 Jul 2026 07:50:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.842805
- Title: Language models guide symbolic equation discovery by controlling search
- Title(参考訳): 言語モデルによる探索制御による記号方程式探索の導出
- Abstract要約: シンボリック回帰は数値的な接地を提供するが、探索空間に面するが、多くの言語モデルシステムはモデルに直接公式を提案し、選択するよう求めている。
言語モデルが方程式作成者、候補決定者、探索コントローラとして機能する役割仕様を、エンドツーエンドの言語モデルと純粋に数値的なベースラインとともに比較する。
74のAI-Feynman方程式と7つの複雑な定式化タスクの中で、探索制御は精度、複雑さ、安定性、コストの最も高いバランスを達成した。
- 参考スコア(独自算出の注目度): 5.70446955165702
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scientific equation discovery must combine broad domain priors with strict numerical testing. Symbolic regression supplies numerical grounding but faces a combinatorial search space, whereas many language-model systems ask the model to propose or select formulas directly. We test a different division of labour. We compare role specifications in which the language model acts as equation author, candidate decider or search controller, alongside end-to-end language-model and purely numerical baselines. In the controller setting we propose here, implemented as LLM-PySR, language models specify variables, operators, transformations and search depth; symbolic regression enumerates and fits expressions; and deterministic metrics govern retention. Across 74 AI-Feynman equations and seven complex formula-recovery tasks, search control achieved the strongest observed balance of accuracy, complexity, stability and cost. On an independent battery dataset, LLM-PySR identified a compact piecewise-linear relation between early voltage-curve displacement and cycle life. The results suggest that language models should shape hypothesis exploration rather than decide which equations survive.
- Abstract(参考訳): 科学的方程式の発見は、広い領域の先行と厳密な数値テストを組み合わせる必要がある。
シンボリック回帰は数値的な接地を提供するが、組合せ探索空間に直面しているのに対し、多くの言語モデルシステムはモデルに直接公式を提案し、選択するよう求めている。
私たちは異なる分業を試す。
言語モデルが方程式作成者、候補決定者、探索コントローラとして機能する役割仕様を、エンドツーエンドの言語モデルと純粋に数値的なベースラインとともに比較する。
本稿では, LLM-PySRとして実装された制御系において, 変数, 演算子, 変換, 探索深度を指定する言語モデルを提案する。
74のAI-Feynman方程式と7つの複雑な定式化タスクの中で、探索制御は精度、複雑さ、安定性、コストの最も高いバランスを達成した。
LLM-PySRは、独立電池データセット上で、初期電圧曲線変位とサイクル寿命の間のコンパクトな線形関係を同定した。
結果は、どの方程式が生き残るかを決定するよりも、言語モデルが仮説探索を形成するべきであることを示唆している。
関連論文リスト
- How Can AI Find My Model? A Model-Finding Experimental Study Considering Data Formats, Embeddings, and Retrieval Strategies [0.0]
本稿では,データ表現,トランスフォーマーベース埋め込みモデル,および検索戦略が,自然言語クエリを用いたシミュレーションモデルの発見に与える影響を実験的に検討する。
その結果、特にクエリの増加に伴い、データ表現が重要であり、オープンソースの埋め込みモデルは高いパフォーマンスを実現し、メソッドのランク付けが重要であることが示された。
論文 参考訳(メタデータ) (2026-06-29T19:23:32Z) - Influence-Guided Symbolic Regression: Scientific Discovery via LLM-Driven Equation Search with Granular Feedback [56.69850045068714]
逐次的2段階プロセスとして方程式発見をフレーム化する方法である textitInfluence-Guided Regression (IGSR) を導入する。
LLM-SRBench, 薬理学的PKPDモデル, 疫学シミュレーション, 実世界のゲノムデータなど, IGSRの有効性を示す。
論文 参考訳(メタデータ) (2026-05-27T23:48:01Z) - Scalable Simulation-Based Model Inference with Test-Time Complexity Control [12.86778906492369]
PRISMはシミュレーションベースのエンコーダデコーダであり、両方の離散モデル構造に対して結合後部を推論する。
拡散MRIデータに対する生体物理モデリングにおけるPRISMの評価を行い、複数のマルチコンパートメントモデル間でモデル選択を行う能力を示す。
論文 参考訳(メタデータ) (2026-03-16T13:54:15Z) - SciML Agents: Write the Solver, Not the Solution [69.5021018644143]
敵の"ミスリーディング"問題の診断データセットと,1,000種類のODEタスクの大規模ベンチマークという,2つの新しいデータセットを紹介した。
オープンおよびクローズドソース LLM モデルについて, (i) 誘導型とガイド型, (ii) オフ・ザ・シェルフ対微調整型という2つの軸に沿って評価した。
予備的な結果は、慎重なプロンプトと微調整により、単純なODE問題を確実に解決できる特殊なLLMエージェントが得られることを示唆している。
論文 参考訳(メタデータ) (2025-09-12T02:53:57Z) - LLM4ED: Large Language Models for Automatic Equation Discovery [0.8644909837301149]
我々は、自然言語に基づくプロンプトを利用して、データから支配方程式を自動的にマイニングする大規模言語モデルをガイドする新しいフレームワークを導入する。
具体的には、まずLLMの生成能力を利用して、文字列形式で様々な方程式を生成し、次に観測に基づいて生成された方程式を評価する。
実験は偏微分方程式と常微分方程式の両方で広範囲に行われる。
論文 参考訳(メタデータ) (2024-05-13T14:03:49Z) - DPP-Based Adversarial Prompt Searching for Lanugage Models [56.73828162194457]
Auto-Regressive Selective Replacement Ascent (ASRA)は、決定点プロセス(DPP)と品質と類似性の両方に基づいてプロンプトを選択する離散最適化アルゴリズムである。
6種類の事前学習言語モデルに対する実験結果から,ASRAによる有害成分の抽出の有効性が示された。
論文 参考訳(メタデータ) (2024-03-01T05:28:06Z) - In-Context Language Learning: Architectures and Algorithms [73.93205821154605]
我々は、文脈言語学習(ICLL)において、私たちが用語する新しいモデル問題群(英語版)のレンズを通してICLを研究する。
我々は,通常のICLLタスクにおいて,多種多様なニューラルシーケンスモデルを評価する。
論文 参考訳(メタデータ) (2024-01-23T18:59:21Z) - Deep Generative Symbolic Regression [83.04219479605801]
記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。
既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。
本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
論文 参考訳(メタデータ) (2023-12-30T17:05:31Z) - The Consensus Game: Language Model Generation via Equilibrium Search [73.51411916625032]
言語モデル復号のための学習不要なゲーム理論を新たに導入する。
本手法では,正規化不完全情報シーケンシャルシグナリングゲームとして,言語モデルの復号化を行う。
EQUILIBRium-RANKINGをLLaMA-7Bに適用すると、より大型のLLaMA-65BとPaLM-540Bより優れた性能を発揮する。
論文 参考訳(メタデータ) (2023-10-13T14:27:21Z) - Language models as master equation solvers [4.53216122219986]
本稿では,マスタ方程式を解くための機械学習手法として,言語モデルの再利用を提案する。
我々は,確率パラメータ,初期条件,時間値を直接状態結合確率分布にマッピングするプロンプトベースニューラルネットワークを設計する。
強化学習フレームワーク内のポリシ勾配アルゴリズムを用いてネットワークをトレーニングし,一連の変動自己回帰モデルから得られるフィードバックの報奨を与える。
論文 参考訳(メタデータ) (2023-07-29T08:59:45Z) - Reimagining Retrieval Augmented Language Models for Answering Queries [23.373952699385427]
本稿では,大規模言語モデルに対する現実性チェックと,比較対象言語モデル検索の可能性を検証する。
このような言語モデルは半パラメトリックであり、モデルがモデルパラメータと外部データソースからの知識を統合して予測を行う。
論文 参考訳(メタデータ) (2023-06-01T18:08:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。