論文の概要: Text2Model: Generating dynamic chemical reactor models using large language models (LLMs)

• arxiv url: http://arxiv.org/abs/2503.17004v1
• Date: Fri, 21 Mar 2025 10:09:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-24 14:56:10.557045
• Title: Text2Model: Generating dynamic chemical reactor models using large language models (LLMs)
• Title（参考訳）: Text2Model:大規模言語モデル(LLM)を用いた動的化学反応器モデルの生成
• Authors: Sophia Rupprecht, Yassine Hounat, Monisha Kumar, Giacomo Lastrucci, Artur M. Schweidtmann,
• Abstract要約: ユーザ入力としてのテキスト記述から,Modelicaのコード形式で動的化学反応器モデルを生成する。 Llama 3.1 8B 異なる反応器のシナリオに対して合成生成された Modelica 符号の指示を微調整する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: As large language models have shown remarkable capabilities in conversing via natural language, the question arises as to how LLMs could potentially assist chemical engineers in research and industry with domain-specific tasks. We generate dynamic chemical reactor models in Modelica code format from textual descriptions as user input. We fine-tune Llama 3.1 8B Instruct on synthetically generated Modelica code for different reactor scenarios. We compare the performance of our fine-tuned model to the baseline Llama 3.1 8B Instruct model and GPT4o. We manually assess the models' predictions regarding the syntactic and semantic accuracy of the generated dynamic models. We find that considerable improvements are achieved by the fine-tuned model with respect to both the semantic and the syntactic accuracy of the Modelica models. However, the fine-tuned model lacks a satisfactory ability to generalize to unseen scenarios compared to GPT4o.
• Abstract（参考訳）: 大規模言語モデルは自然言語による会話において顕著な能力を示してきたため、LLMが研究や産業において、ドメイン固有のタスクで化学工学をいかに支援できるかという疑問が持ち上がっている。 ユーザ入力としてのテキスト記述から,Modelicaのコード形式で動的化学反応器モデルを生成する。 Llama 3.1 8B 異なる反応器のシナリオに対して合成生成された Modelica 符号の指示を微調整する。 微調整モデルの性能をLlama 3.1 8BインストラクトモデルとGPT4oと比較した。 生成した動的モデルの構文的および意味論的精度に関するモデルの予測を手動で評価する。 モデルニカモデルのセマンティクスと構文的精度の両方に関して、微調整モデルによりかなりの改善が達成されていることが判明した。 しかし、微調整されたモデルには、GPT4oと比較して見当たらないシナリオに一般化する十分な能力が欠けている。

関連論文リスト

• Scalable Language Models with Posterior Inference of Latent Thought Vectors [52.63299874322121]
  Latent-Thought Language Models (LTM) には、潜在空間における明示的な事前モデルに従う明示的な潜在思考ベクトルが含まれている。 LTMは従来のLLMを超える拡張次元を持ち、構造化された設計空間を提供する。 LTMは従来の自己回帰モデルや離散拡散モデルよりも、検証の難易度やゼロショット言語モデリングにおいて著しく優れている。
  論文  参考訳（メタデータ） (2025-02-03T17:50:34Z)
• Scaling Diffusion Language Models via Adaptation from Autoregressive Models [105.70889434492143]
  拡散言語モデル(DLM)は、テキスト生成モデルのための将来性のある新しいパラダイムとして登場した。 170Mから7BまでのARモデルをDiffuGPTとDiffuLLaMAの拡散モデルに変換し、200B未満のトークンでトレーニングできることを示す。 実験の結果,これらのモデルは初期のDLMよりも優れており,ARと競合していることがわかった。
  論文  参考訳（メタデータ） (2024-10-23T14:04:22Z)
• Promises and Pitfalls of Generative Masked Language Modeling: Theoretical Framework and Practical Guidelines [74.42485647685272]
  GMLM(Generative Masked Language Models)に焦点を当てる。 我々は,マルコフ連鎖の入力として使用されるマスキングにより,データ分布の条件付き確率に適合するモデルを訓練し,モデルからサンプルを抽出する。 我々は,T5モデルを並列デコーディングに適応させ,最小品質の犠牲を伴って機械翻訳における2～3倍の高速化を実現した。
  論文  参考訳（メタデータ） (2024-07-22T18:00:00Z)
• EMR-Merging: Tuning-Free High-Performance Model Merging [55.03509900949149]
  Elect, Mask & Rescale-Merging (EMR-Merging) は既存のマージ手法と比較して優れた性能を示した。 EMR-Mergingはチューニング不要なので、データアベイラビリティや追加のトレーニングは必要ありません。
  論文  参考訳（メタデータ） (2024-05-23T05:25:45Z)
• Language-Guided World Models: A Model-Based Approach to AI Control [31.9089380929602]
  本稿では,LWM(Language-Guided World Models)の概念を紹介する。 LWMは、テキストを読むことで環境をシミュレートできる確率モデルである。 構成言語記述を一般化できる堅牢なLWMを開発するための最初のステップを採る。
  論文  参考訳（メタデータ） (2024-01-24T03:11:36Z)
• Reimagining Retrieval Augmented Language Models for Answering Queries [23.373952699385427]
  本稿では,大規模言語モデルに対する現実性チェックと,比較対象言語モデル検索の可能性を検証する。 このような言語モデルは半パラメトリックであり、モデルがモデルパラメータと外部データソースからの知識を統合して予測を行う。
  論文  参考訳（メタデータ） (2023-06-01T18:08:51Z)
• Towards an Automatic Optimisation Model Generator Assisted with Generative Pre-trained Transformer [0.0]
  本稿では,事前学習した生成変換器を用いて最適化モデルを生成するフレームワークを提案する。 このフレームワークは、最適化モデルが持つべき機能を定義し、言語モデルを使用してモデルの初期バージョンを生成する。
  論文  参考訳（メタデータ） (2023-05-09T23:51:14Z)
• Composing Ensembles of Pre-trained Models via Iterative Consensus [95.10641301155232]
  本稿では,異なる事前学習モデルのアンサンブルを構成するための統一的なフレームワークを提案する。 事前学習したモデルを「ジェネレータ」あるいは「スコーラ」として使用し、クローズドループ反復コンセンサス最適化により構成する。 スコアラーのアンサンブルによって達成されたコンセンサスは、シングルスコアラーのフィードバックよりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-10-20T18:46:31Z)
• Efficient Large Scale Language Modeling with Mixtures of Experts [61.45159383372181]
  エキスパート層(MoE)の混合により、条件付き計算による言語モデルの効率的なスケーリングが可能になる。 本稿では, 自己回帰型 MoE 言語モデルが, 広範囲な環境下での高密度モデルと比較して, どのようにスケールするかを示す実験的検討を行った。
  論文  参考訳（メタデータ） (2021-12-20T17:05:11Z)
• Towards Trustworthy Deception Detection: Benchmarking Model Robustness across Domains, Modalities, and Languages [10.131671217810581]
  我々は、ドメイン外データ、モダリティ特化特徴、および英語以外の言語に対するモデルロバスト性を評価する。 我々は、追加の画像コンテンツを入力として、ELMo埋め込みはBERTまたはGLoVeと比較して大幅に少ないエラーをもたらすことを発見しました。
  論文  参考訳（メタデータ） (2021-04-23T18:05:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。