論文の概要: LLM-ODE: Data-driven Discovery of Dynamical Systems with Large Language Models

• arxiv url: http://arxiv.org/abs/2603.20910v1
• Date: Sat, 21 Mar 2026 18:46:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:39.147546
• Title: LLM-ODE: Data-driven Discovery of Dynamical Systems with Large Language Models
• Title（参考訳）: LLM-ODE:大規模言語モデルを用いた動的システムのデータ駆動的発見
• Authors: Amirmohammad Ziaei Bideh, Jonathan Gryak,
• Abstract要約: 遺伝的プログラミング(GP)はその柔軟性と解釈性のために広く採用されている。 LLM-ODEは,上位候補方程式から抽出したパターンを用いて,記号的進化を導く,大規模言語モデル支援モデル探索フレームワークである。
• 参考スコア（独自算出の注目度）: 0.4419843514606336
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Discovering the governing equations of dynamical systems is a central problem across many scientific disciplines. As experimental data become increasingly available, automated equation discovery methods offer a promising data-driven approach to accelerate scientific discovery. Among these methods, genetic programming (GP) has been widely adopted due to its flexibility and interpretability. However, GP-based approaches often suffer from inefficient exploration of the symbolic search space, leading to slow convergence and suboptimal solutions. To address these limitations, we propose LLM-ODE, a large language model-aided model discovery framework that guides symbolic evolution using patterns extracted from elite candidate equations. By leveraging the generative prior of large language models, LLM-ODE produces more informed search trajectories while preserving the exploratory strengths of evolutionary algorithms. Empirical results on 91 dynamical systems show that LLM-ODE variants consistently outperform classical GP methods in terms of search efficiency and Pareto-front quality. Overall, our results demonstrate that LLM-ODE improves both efficiency and accuracy over traditional GP-based discovery and offers greater scalability to higher-dimensional systems compared to linear and Transformer-only model discovery methods.
• Abstract（参考訳）: 力学系の支配方程式を明らかにすることは、多くの科学分野において中心的な問題である。 実験データがますます利用可能になるにつれて、自動方程式発見法は、科学的発見を加速するための有望なデータ駆動型アプローチを提供する。 これらの手法の中で、遺伝的プログラミング(GP)はその柔軟性と解釈可能性のために広く採用されている。 しかし、GPベースのアプローチは、しばしば記号探索空間の非効率な探索に悩まされ、収束と準最適解が遅くなる。 これらの制約に対処するために,LLM-ODEを提案する。LLM-ODEは,エリート候補方程式から抽出したパターンを用いて,記号的進化を導く,大規模言語モデル支援モデル探索フレームワークである。 LLM-ODEは、大規模言語モデルの生成先行を利用して、進化的アルゴリズムの探索的強みを保ちながら、より情報的な探索軌道を生成する。 91の力学系における実験結果から、LLM-ODE 変種は探索効率とパレートフロント品質の点で古典的GP法より一貫して優れていた。 以上の結果から,LLM-ODEは従来のGPベース探索よりも効率と精度を向上し,線形およびトランスフォーマーのみのモデル探索法に比べて高次元システムへのスケーラビリティが向上することを示した。

関連論文リスト

• Quantization Meets dLLMs: A Systematic Study of Post-training Quantization for Diffusion LLMs [78.09559830840595]
  本稿では拡散に基づく言語モデルの定量化に関する最初の体系的研究について述べる。 異常に大きなアクティベーション値によって特徴付けられるアクティベーションアウトリーチの存在を同定する。 我々は最先端のPTQ手法を実装し、包括的な評価を行う。
  論文  参考訳（メタデータ） (2025-08-20T17:59:51Z)
• Discrete Tokenization for Multimodal LLMs: A Comprehensive Survey [69.45421620616486]
  本研究は、大規模言語モデル(LLM)用に設計された離散トークン化手法の最初の構造的分類と解析である。 古典的および近代的なパラダイムにまたがる8つの代表的なVQ変種を分類し、アルゴリズムの原理を分析し、力学を訓練し、LLMパイプラインとの統合に挑戦する。 コードブックの崩壊、不安定な勾配推定、モダリティ固有の符号化制約など、重要な課題を特定する。
  論文  参考訳（メタデータ） (2025-07-21T10:52:14Z)
• Reparameterized LLM Training via Orthogonal Equivalence Transformation [54.80172809738605]
  直交同値変換を用いてニューロンを最適化する新しいトレーニングアルゴリズムPOETを提案する。 POETは、目的関数を安定して最適化し、一般化を改善する。 我々は、大規模ニューラルネットワークのトレーニングにおいて、POETを柔軟かつスケーラブルにするための効率的な近似を開発する。
  論文  参考訳（メタデータ） (2025-06-09T17:59:34Z)
• DrSR: LLM based Scientific Equation Discovery with Dual Reasoning from Data and Experience [14.093206703519103]
  DrSRは、データ駆動の洞察と反射学習を組み合わせて、堅牢性と発見能力の両方を強化するフレームワークである。 物理学、化学、生物学、材料科学における学際的なデータセットにわたる実験は、DrSRが有効な方程式率を大幅に改善することを示した。
  論文  参考訳（メタデータ） (2025-06-04T04:52:34Z)
• LLM4ED: Large Language Models for Automatic Equation Discovery [0.8644909837301149]
  我々は、自然言語に基づくプロンプトを利用して、データから支配方程式を自動的にマイニングする大規模言語モデルをガイドする新しいフレームワークを導入する。 具体的には、まずLLMの生成能力を利用して、文字列形式で様々な方程式を生成し、次に観測に基づいて生成された方程式を評価する。 実験は偏微分方程式と常微分方程式の両方で広範囲に行われる。
  論文  参考訳（メタデータ） (2024-05-13T14:03:49Z)
• LLM-SR: Scientific Equation Discovery via Programming with Large Language Models [17.64574496035502]
  現在の方程式発見法は、典型的には記号回帰と呼ばれ、主にデータのみから方程式を抽出することに焦点を当てている。 LLM-SRは,大規模言語モデルの科学的知識とロバストなコード生成能力を活用する新しいアプローチである。 また, LLM-SRは, 最先端の記号的回帰ベースラインを著しく上回る物理精度の方程式を発見した。
  論文  参考訳（メタデータ） (2024-04-29T03:30:06Z)
• Entropy-Regularized Token-Level Policy Optimization for Language Agent Reinforcement [67.1393112206885]
  大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。 本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。 我々は,データサイエンスコード生成を多段階対話型タスクのシリーズとしてモデル化したシミュレーション環境におけるETPOの有効性を評価する。
  論文  参考訳（メタデータ） (2024-02-09T07:45:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。