論文の概要: PDE-Controller: LLMs for Autoformalization and Reasoning of PDEs
- arxiv url: http://arxiv.org/abs/2502.00963v2
- Date: Wed, 11 Jun 2025 03:07:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-13 02:07:43.064719
- Title: PDE-Controller: LLMs for Autoformalization and Reasoning of PDEs
- Title(参考訳): PDEコントローラ:PDEの自動化と推論のためのLLM
- Authors: Mauricio Soroco, Jialin Song, Mengzhou Xia, Kye Emond, Weiran Sun, Wuyang Chen,
- Abstract要約: 偏微分方程式(PDE)によって制御されるシステムを制御するためのフレームワークであるPDE-Controllerを提案する。
提案手法により,LLMは非公式な自然言語命令を形式仕様に変換し,PDE制御の実用性を改善するための推論と計画手順を実行することができる。
私たちのPDE-Controllerは、推論、オートフォーマル化、プログラム合成において、最新のオープンソースおよびGPTモデルよりも大幅に優れています。
- 参考スコア(独自算出の注目度): 16.01754287623487
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While recent AI-for-math has made strides in pure mathematics, areas of applied mathematics, particularly PDEs, remain underexplored despite their significant real-world applications. We present PDE-Controller, a framework that enables large language models (LLMs) to control systems governed by partial differential equations (PDEs). Our approach enables LLMs to transform informal natural language instructions into formal specifications, and then execute reasoning and planning steps to improve the utility of PDE control. We build a holistic solution comprising datasets (both human-written cases and 2 million synthetic samples), math-reasoning models, and novel evaluation metrics, all of which require significant effort. Our PDE-Controller significantly outperforms prompting the latest open source and GPT models in reasoning, autoformalization, and program synthesis, achieving up to a 62% improvement in utility gain for PDE control. By bridging the gap between language generation and PDE systems, we demonstrate the potential of LLMs in addressing complex scientific and engineering challenges. We release all data, model checkpoints, and code at https://pde-controller.github.io/.
- Abstract(参考訳): 最近のAI-for-Mathは純粋数学に進歩を遂げているが、応用数学の分野、特にPDEは、実世界の重要な応用にもかかわらず、未発見のままである。
本稿では,大言語モデル(LLM)が偏微分方程式(PDE)によって制御されるシステムを制御するためのフレームワークであるPDE-Controllerを提案する。
提案手法により,LLMは非公式な自然言語命令を形式的な仕様に変換し,PDE制御の実用性を改善するための推論と計画手順を実行することができる。
我々は、データセット(人書きのケースと200万の合成サンプルの両方)、数学推論モデル、新しい評価指標からなる総合的なソリューションを構築し、これら全てに多大な努力を要する。
我々のPDE-Controllerは、PDE制御のユーティリティゲインを最大62%向上させ、推論、オートフォーマル化、プログラム合成において、最新のオープンソースおよびGPTモデルよりも大幅に優れています。
言語生成システムとPDEシステムのギャップを埋めることで、複雑な科学的・工学的な課題に対処するLLMの可能性を実証する。
すべてのデータ、モデルチェックポイント、コードをhttps://pde-controller.github.io/でリリースします。
関連論文リスト
- Paving the way for scientific foundation models: enhancing generalization and robustness in PDEs with constraint-aware pre-training [49.8035317670223]
科学基盤モデル(SciFM)は、様々な領域にまたがる伝達可能な表現を学習するための有望なツールとして登場しつつある。
本稿では,PDE残差を単独の学習信号として,あるいはデータ損失と組み合わせて事前学習に組み込むことにより,限定的あるいは実用的でないトレーニングデータに補償することを提案する。
以上の結果から, PDE制約による事前学習は, 解データのみを訓練したモデルよりも, 一般化を著しく向上させることが示された。
論文 参考訳(メタデータ) (2025-03-24T19:12:39Z) - Mechanistic PDE Networks for Discovery of Governing Equations [52.492158106791365]
データから偏微分方程式を発見するためのモデルであるメカニスティックPDEネットワークを提案する。
表現されたPDEは解決され、特定のタスクのためにデコードされる。
線形偏微分方程式に特化して、ネイティブ、GPU対応、並列、スパース、微分可能多重グリッドソルバを開発した。
論文 参考訳(メタデータ) (2025-02-25T17:21:44Z) - Explain Like I'm Five: Using LLMs to Improve PDE Surrogate Models with Text [7.136205674624813]
事前訓練されたLarge Language Models (LLM) を用いて、PDE学習に様々な既知のシステム情報を統合する。
我々のアプローチは、次のステップ予測と自動ロールアウトパフォーマンスの両方において、ベースラインモデルであるFactFormerよりも大幅に優れています。
さらなる分析により、事前学習されたLLMは、テキストを通して提供されるシステム情報量と一致した高度に構造化された潜在空間を提供することが示された。
論文 参考訳(メタデータ) (2024-10-02T00:19:20Z) - Unisolver: PDE-Conditional Transformers Are Universal PDE Solvers [55.0876373185983]
広範にPDEを解くことができるUniversal PDEソルバ(Unisolver)を提案する。
私たちの重要な発見は、PDEソリューションが基本的に一連のPDEコンポーネントの制御下にあることです。
Unisolverは3つの挑戦的な大規模ベンチマークにおいて、一貫した最先端の結果を達成する。
論文 参考訳(メタデータ) (2024-05-27T15:34:35Z) - PDE Control Gym: A Benchmark for Data-Driven Boundary Control of Partial Differential Equations [3.0248879829045388]
PDEのバウンダリ制御のための学習環境を初めて提示する。
本稿では,この一連のベンチマーク問題を解決するためのモデルフリー強化学習アルゴリズムについて紹介する。
論文 参考訳(メタデータ) (2024-05-18T22:01:55Z) - Parametric PDE Control with Deep Reinforcement Learning and Differentiable L0-Sparse Polynomial Policies [0.5919433278490629]
パラメトリック偏微分方程式(PDE)の最適制御は、工学や科学における多くの応用において重要である。
深部強化学習(DRL)は高次元および複雑な制御問題を解く可能性がある。
本研究では、辞書学習とL$_0$正規化を利用して、PDEのスパース、ロバスト、解釈可能な制御ポリシーを学習する。
論文 参考訳(メタデータ) (2024-03-22T15:06:31Z) - Self-Supervised Learning with Lie Symmetries for Partial Differential
Equations [25.584036829191902]
我々は、自己教師付き学習(SSL)のための共同埋め込み手法を実装することにより、PDEの汎用表現を学習する。
我々の表現は、PDEの係数の回帰などの不変タスクに対するベースラインアプローチよりも優れており、また、ニューラルソルバのタイムステッピング性能も向上している。
提案手法がPDEの汎用基盤モデルの開発に有効であることを期待する。
論文 参考訳(メタデータ) (2023-07-11T16:52:22Z) - Training Deep Surrogate Models with Large Scale Online Learning [48.7576911714538]
ディープラーニングアルゴリズムは、PDEの高速解を得るための有効な代替手段として登場した。
モデルは通常、ソルバによって生成された合成データに基づいてトレーニングされ、ディスクに格納され、トレーニングのために読み返される。
ディープサロゲートモデルのためのオープンソースのオンライントレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2023-06-28T12:02:27Z) - Learning Neural PDE Solvers with Parameter-Guided Channel Attention [17.004380150146268]
天気予報、分子動力学、逆設計といった応用領域では、MLベースの代理モデルがますます使われている。
本稿では,ニューラルサロゲートモデルのためのチャネル注意埋め込み(CAPE)コンポーネントと,シンプルで効果的なカリキュラム学習戦略を提案する。
CAPEモジュールは、未知のPDEパラメータに適応できるように、ニューラルPDEソルバと組み合わせることができる。
論文 参考訳(メタデータ) (2023-04-27T12:05:34Z) - Solving High-Dimensional PDEs with Latent Spectral Models [74.1011309005488]
我々は,高次元PDEの効率的かつ高精度な解法に向けて,Latent Spectral Models (LSM) を提案する。
数値解析において古典スペクトル法に着想を得て,潜時空間におけるPDEを解くために,ニューラルスペクトルブロックを設計する。
LSMは、一貫した最先端を実現し、7つのベンチマークで平均11.5%の相対的な利益を得る。
論文 参考訳(メタデータ) (2023-01-30T04:58:40Z) - Lie Point Symmetry Data Augmentation for Neural PDE Solvers [69.72427135610106]
本稿では,ニューラルPDEソルバサンプルの複雑性を改善することにより,この問題を部分的に緩和する手法を提案する。
PDEの文脈では、データ変換の完全なリストを定量的に導き出せることが分かりました。
神経性PDEソルバサンプルの複雑さを桁違いに改善するために、どのように容易に展開できるかを示す。
論文 参考訳(メタデータ) (2022-02-15T18:43:17Z) - A composable autoencoder-based iterative algorithm for accelerating
numerical simulations [0.0]
CoAE-MLSimは教師なし、低次元の局所的手法であり、商用PDEソルバで使われる重要なアイデアから動機づけられている。
計算速度、精度、スケーラビリティ、様々なPDE条件に対する一般化を実証するために、様々な複雑なエンジニアリングケースでテストされている。
論文 参考訳(メタデータ) (2021-10-07T20:22:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。