Fugu-MT 論文翻訳(概要): LLM-SR: Scientific Equation Discovery via Programming with Large Language Models

論文の概要: LLM-SR: Scientific Equation Discovery via Programming with Large Language Models

arxiv url: http://arxiv.org/abs/2404.18400v2
Date: Sun, 2 Jun 2024 20:17:59 GMT
ステータス: 処理完了
システム内更新日: 2024-06-04 15:08:25.641468
Title: LLM-SR: Scientific Equation Discovery via Programming with Large Language Models
Title（参考訳）: LLM-SR: 大規模言語モデルを用いたプログラミングによる科学的方程式発見
Authors: Parshin Shojaee, Kazem Meidani, Shashank Gupta, Amir Barati Farimani, Chandan K Reddy,
Abstract要約: 記号回帰として知られる伝統的な方程式発見法は、主にデータのみから方程式を抽出することに焦点を当てている。 LLM-SRは,大規模言語モデルの科学的知識とロバストなコード生成能力を活用する新しいアプローチである。 LLM-SRは3つの科学的領域にまたがって有効性を示し、物理的に正確な方程式を発見する。
参考スコア（独自算出の注目度）: 17.64574496035502
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Mathematical equations have been unreasonably effective in describing complex natural phenomena across various scientific disciplines. However, discovering such insightful equations from data presents significant challenges due to the necessity of navigating extremely high-dimensional combinatorial and nonlinear hypothesis spaces. Traditional methods of equation discovery, commonly known as symbolic regression, largely focus on extracting equations from data alone, often neglecting the rich domain-specific prior knowledge that scientists typically depend on. To bridge this gap, we introduce LLM-SR, a novel approach that leverages the extensive scientific knowledge and robust code generation capabilities of Large Language Models (LLMs) to discover scientific equations from data in an efficient manner. Specifically, LLM-SR treats equations as programs with mathematical operators and combines LLMs' scientific priors with evolutionary search over equation programs. The LLM iteratively proposes new equation skeleton hypotheses, drawing from its physical understanding, which are then optimized against data to estimate skeleton parameters. We demonstrate LLM-SR's effectiveness across three diverse scientific domains, where it discovers physically accurate equations that provide significantly better fits to in-domain and out-of-domain data compared to the well-established symbolic regression baselines. Incorporating scientific prior knowledge also enables LLM-SR to search the equation space more efficiently than baselines. Code is available at: https://github.com/deep-symbolic-mathematics/LLM-SR
Abstract（参考訳）: 数学の方程式は、様々な科学分野にわたる複雑な自然現象を記述するのに不合理に有効である。しかし、そのような洞察に富んだ方程式をデータから発見することは、非常に高次元の組合せと非線形の仮説空間をナビゲートする必要があるため、大きな課題となる。伝統的な方程式発見の方法は、主にデータのみから方程式を抽出することに焦点を当てており、しばしば科学者が一般的に依存する豊富なドメイン固有の事前知識を無視している。このギャップを埋めるために,LLM(Large Language Models)の広範な科学的知識とロバストなコード生成能力を活用して,データから科学的方程式を効率的に発見する,新たなアプローチ LLM-SR を導入する。具体的には、LLM-SRは方程式を数学的演算子とプログラムとして扱い、LLMの科学的先行と方程式プログラムの進化的探索を組み合わせている。 LLMは、その物理的理解から引き出された新しい方程式スケルトン仮説を反復的に提案し、スケルトンパラメータを推定するためにデータに対して最適化する。 LLM-SRの有効性を3つの科学的領域で実証し、よく確立されたシンボリック回帰ベースラインと比較して、ドメイン内およびドメイン外データに適合する物理精度の高い方程式を発見する。科学的な事前知識を取り入れることで、LLM-SRは基底線よりも効率的に方程式空間を探索することができる。 https://github.com/deep-symbolic-mathematics/LLM-SR

関連論文リスト

Discovering symbolic expressions with parallelized tree search [59.92040079807524]
記号回帰は、データから簡潔で解釈可能な数学的表現を発見する能力のおかげで、科学研究において重要な役割を果たす。既存のアルゴリズムは、複雑性の問題に対処する際の精度と効率の重要なボトルネックに直面してきた。本稿では,限定データから汎用数学的表現を効率的に抽出する並列木探索(PTS)モデルを提案する。
論文参考訳（メタデータ） (2024-07-05T10:41:15Z)
MLLM-SR: Conversational Symbolic Regression base Multi-Modal Large Language Models [13.136507215114722]
MLLM-SRは,要求を自然言語で記述することで,要求を満たす表現を生成できる対話型記号回帰法である。我々は,MLLM-SRが自然言語命令に付加される事前知識を十分に理解できることを実験的に実証した。
論文参考訳（メタデータ） (2024-06-08T09:17:54Z)
LLM4ED: Large Language Models for Automatic Equation Discovery [0.8644909837301149]
我々は、自然言語に基づくプロンプトを利用して、データから支配方程式を自動的にマイニングする大規模言語モデルをガイドする新しいフレームワークを導入する。具体的には、まずLLMの生成能力を利用して、文字列形式で様々な方程式を生成し、次に観測に基づいて生成された方程式を評価する。実験は偏微分方程式と常微分方程式の両方で広範囲に行われる。
論文参考訳（メタデータ） (2024-05-13T14:03:49Z)
MMSR: Symbolic Regression is a Multimodal Task [12.660401635672967]
記号回帰は、もともと最適化問題として定式化され、GPと強化学習アルゴリズムがそれを解決するために用いられた。この問題を解決するために、研究者はデータから表現へのマッピングを翻訳問題として扱う。本稿では,複数の主流データセット上で最も高度な結果が得られるMMSRを提案する。
論文参考訳（メタデータ） (2024-02-28T08:29:42Z)
SciGLM: Training Scientific Language Models with Self-Reflective Instruction Annotation and Tuning [60.14510984576027]
SciGLMは、大学レベルの科学的推論を行うことができる科学言語モデルのスイートである。本研究では, 自己回帰的指示アノテーションの枠組みを適用し, 難解な科学的問題に対する段階的推論を生成する。言語モデルのChatGLMをSciInstructで微調整し、科学的および数学的推論能力を向上した。
論文参考訳（メタデータ） (2024-01-15T20:22:21Z)
Deep Generative Symbolic Regression [83.04219479605801]
記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
論文参考訳（メタデータ） (2023-12-30T17:05:31Z)
Discovering Interpretable Physical Models using Symbolic Regression and Discrete Exterior Calculus [55.2480439325792]
本稿では,記号回帰(SR)と離散指数計算(DEC)を組み合わせて物理モデルの自動発見を行うフレームワークを提案する。 DECは、SRの物理問題への最先端の応用を越えている、場の理論の離散的な類似に対して、ビルディングブロックを提供する。実験データから連続体物理の3つのモデルを再発見し,本手法の有効性を実証する。
論文参考訳（メタデータ） (2023-10-10T13:23:05Z)
Exploring Equation as a Better Intermediate Meaning Representation for Numerical Reasoning [53.2491163874712]
我々は数値推論の問題を解くために方程式をIMRとして利用する。本稿では、方程式(ブリッジ)の生成を分解したブースティング数値推論法を提案する。本手法では,GSM8K,SVAMP,Algebraデータセットの2.2%,0.9%,1.7%の性能向上を実現している。
論文参考訳（メタデータ） (2023-08-21T09:35:33Z)
Evolving Scientific Discovery by Unifying Data and Background Knowledge with AI Hilbert [11.56572994087136]
ケプラーの第3惑星運動法則を含む有名な科学法則は、公理やデータから原理的に導出できることを示す。 2変数変数と論理的制約を用いて複雑性をモデル化し、混合整数線形あるいは半定値最適化による最適化問題を解き、科学的発見の有効性を実証する。
論文参考訳（メタデータ） (2023-08-18T11:19:41Z)
Deep learning applied to computational mechanics: A comprehensive review, state of the art, and the classics [77.34726150561087]
人工知能,特に深層学習(DL)の最近の進歩を概観する。ハイブリッドおよび純粋機械学習(ML)の手法について論じる。 AIの歴史と限界は、特に古典の誤解や誤解を指摘し、議論され、議論される。
論文参考訳（メタデータ） (2022-12-18T02:03:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。