論文の概要: PDE-Controller: LLMs for Autoformalization and Reasoning of PDEs
- arxiv url: http://arxiv.org/abs/2502.00963v1
- Date: Mon, 03 Feb 2025 00:03:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-05 14:58:05.456827
- Title: PDE-Controller: LLMs for Autoformalization and Reasoning of PDEs
- Title(参考訳): PDEコントローラ:PDEの自動化と推論のためのLLM
- Authors: Mauricio Soroco, Jialin Song, Mengzhou Xia, Kye Emond, Weiran Sun, Wuyang Chen,
- Abstract要約: 偏微分方程式(PDE)によって制御されるシステムを制御するためのフレームワークであるPDE-Controllerを提案する。
提案手法により,LLMは非公式な自然言語命令を形式仕様に変換し,PDE制御の実用性を改善するための推論と計画手順を実行することができる。
私たちのPDE-Controllerは、推論、オートフォーマル化、プログラム合成において、最新のオープンソースおよびGPTモデルよりも大幅に優れています。
- 参考スコア(独自算出の注目度): 16.01754287623487
- License:
- Abstract: While recent AI-for-math has made strides in pure mathematics, areas of applied mathematics, particularly PDEs, remain underexplored despite their significant real-world applications. We present PDE-Controller, a framework that enables large language models (LLMs) to control systems governed by partial differential equations (PDEs). Our approach enables LLMs to transform informal natural language instructions into formal specifications, and then execute reasoning and planning steps to improve the utility of PDE control. We build a holistic solution comprising datasets (both human-written cases and 2 million synthetic samples), math-reasoning models, and novel evaluation metrics, all of which require significant effort. Our PDE-Controller significantly outperforms prompting the latest open-source and GPT models in reasoning, autoformalization, and program synthesis, achieving up to a 62% improvement in utility gain for PDE control. By bridging the gap between language generation and PDE systems, we demonstrate the potential of LLMs in addressing complex scientific and engineering challenges. We will release all data, model checkpoints, and code at https://pde-controller.github.io/.
- Abstract(参考訳): 最近のAI-for-Mathは純粋数学に進歩を遂げているが、応用数学の分野、特にPDEは、実世界の重要な応用にもかかわらず、未発見のままである。
本稿では,大言語モデル(LLM)が偏微分方程式(PDE)によって制御されるシステムを制御するためのフレームワークであるPDE-Controllerを提案する。
提案手法により,LLMは非公式な自然言語命令を形式仕様に変換し,PDE制御の実用性を改善するための推論と計画手順を実行することができる。
我々は、データセット(人書きケースと200万の合成サンプルの両方)、数学推論モデル、新しい評価指標からなる総合的なソリューションを構築し、これら全てに多大な努力を要する。
我々のPDE-Controllerは、PDE制御のユーティリティゲインを最大62%向上させ、推論、オートフォーマル化、プログラム合成において、最新のオープンソースおよびGPTモデルよりも大幅に優れています。
言語生成システムとPDEシステムのギャップを埋めることで、複雑な科学的・工学的な課題に対処するLLMの可能性を実証する。
すべてのデータ、モデルチェックポイント、コードをhttps://pde-controller.github.io/でリリースします。
関連論文リスト
- Explain Like I'm Five: Using LLMs to Improve PDE Surrogate Models with Text [7.136205674624813]
事前訓練されたLarge Language Models (LLM) を用いて、PDE学習に様々な既知のシステム情報を統合する。
我々のアプローチは、次のステップ予測と自動ロールアウトパフォーマンスの両方において、ベースラインモデルであるFactFormerよりも大幅に優れています。
さらなる分析により、事前学習されたLLMは、テキストを通して提供されるシステム情報量と一致した高度に構造化された潜在空間を提供することが示された。
論文 参考訳(メタデータ) (2024-10-02T00:19:20Z) - SIaM: Self-Improving Code-Assisted Mathematical Reasoning of Large Language Models [54.78329741186446]
本稿では,コードに基づく批判モデルを用いて,質問コードデータ構築,品質管理,補完的評価などのステップをガイドする新しいパラダイムを提案する。
英語と中国語におけるドメイン内ベンチマークとドメイン外ベンチマークの両方の実験は、提案したパラダイムの有効性を実証している。
論文 参考訳(メタデータ) (2024-08-28T06:33:03Z) - Unisolver: PDE-Conditional Transformers Are Universal PDE Solvers [55.0876373185983]
広範にPDEを解くことができるUniversal PDEソルバ(Unisolver)を提案する。
私たちの重要な発見は、PDEソリューションが基本的に一連のPDEコンポーネントの制御下にあることです。
Unisolverは3つの挑戦的な大規模ベンチマークにおいて、一貫した最先端の結果を達成する。
論文 参考訳(メタデータ) (2024-05-27T15:34:35Z) - PDE Control Gym: A Benchmark for Data-Driven Boundary Control of Partial Differential Equations [3.0248879829045388]
PDEのバウンダリ制御のための学習環境を初めて提示する。
本稿では,この一連のベンチマーク問題を解決するためのモデルフリー強化学習アルゴリズムについて紹介する。
論文 参考訳(メタデータ) (2024-05-18T22:01:55Z) - Self-Supervised Learning with Lie Symmetries for Partial Differential
Equations [25.584036829191902]
我々は、自己教師付き学習(SSL)のための共同埋め込み手法を実装することにより、PDEの汎用表現を学習する。
我々の表現は、PDEの係数の回帰などの不変タスクに対するベースラインアプローチよりも優れており、また、ニューラルソルバのタイムステッピング性能も向上している。
提案手法がPDEの汎用基盤モデルの開発に有効であることを期待する。
論文 参考訳(メタデータ) (2023-07-11T16:52:22Z) - Training Deep Surrogate Models with Large Scale Online Learning [48.7576911714538]
ディープラーニングアルゴリズムは、PDEの高速解を得るための有効な代替手段として登場した。
モデルは通常、ソルバによって生成された合成データに基づいてトレーニングされ、ディスクに格納され、トレーニングのために読み返される。
ディープサロゲートモデルのためのオープンソースのオンライントレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2023-06-28T12:02:27Z) - Learning Neural PDE Solvers with Parameter-Guided Channel Attention [17.004380150146268]
天気予報、分子動力学、逆設計といった応用領域では、MLベースの代理モデルがますます使われている。
本稿では,ニューラルサロゲートモデルのためのチャネル注意埋め込み(CAPE)コンポーネントと,シンプルで効果的なカリキュラム学習戦略を提案する。
CAPEモジュールは、未知のPDEパラメータに適応できるように、ニューラルPDEソルバと組み合わせることができる。
論文 参考訳(メタデータ) (2023-04-27T12:05:34Z) - iPINNs: Incremental learning for Physics-informed neural networks [66.4795381419701]
物理インフォームドニューラルネットワーク(PINN)は、最近偏微分方程式(PDE)を解く強力なツールとなっている。
本稿では,新しいタスクのパラメータを追加せずに連続的に複数のタスクを学習できるインクリメンタルPINNを提案する。
提案手法は,PDEごとに個別のサブネットワークを作成し,従来のサブネットワークと重なり合うようにすることで,最も単純なPDEから複数のPDEを学習する。
論文 参考訳(メタデータ) (2023-04-10T20:19:20Z) - Solving High-Dimensional PDEs with Latent Spectral Models [74.1011309005488]
我々は,高次元PDEの効率的かつ高精度な解法に向けて,Latent Spectral Models (LSM) を提案する。
数値解析において古典スペクトル法に着想を得て,潜時空間におけるPDEを解くために,ニューラルスペクトルブロックを設計する。
LSMは、一貫した最先端を実現し、7つのベンチマークで平均11.5%の相対的な利益を得る。
論文 参考訳(メタデータ) (2023-01-30T04:58:40Z) - Lie Point Symmetry Data Augmentation for Neural PDE Solvers [69.72427135610106]
本稿では,ニューラルPDEソルバサンプルの複雑性を改善することにより,この問題を部分的に緩和する手法を提案する。
PDEの文脈では、データ変換の完全なリストを定量的に導き出せることが分かりました。
神経性PDEソルバサンプルの複雑さを桁違いに改善するために、どのように容易に展開できるかを示す。
論文 参考訳(メタデータ) (2022-02-15T18:43:17Z) - A composable autoencoder-based iterative algorithm for accelerating
numerical simulations [0.0]
CoAE-MLSimは教師なし、低次元の局所的手法であり、商用PDEソルバで使われる重要なアイデアから動機づけられている。
計算速度、精度、スケーラビリティ、様々なPDE条件に対する一般化を実証するために、様々な複雑なエンジニアリングケースでテストされている。
論文 参考訳(メタデータ) (2021-10-07T20:22:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。