論文の概要: FlowLLM: Flow Matching for Material Generation with Large Language Models as Base Distributions

• arxiv url: http://arxiv.org/abs/2410.23405v1
• Date: Wed, 30 Oct 2024 19:15:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-01 17:03:49.036489
• Title: FlowLLM: Flow Matching for Material Generation with Large Language Models as Base Distributions
• Title（参考訳）: FlowLLM:大規模言語モデルを用いた材料生成のためのフローマッチング
• Authors: Anuroop Sriram, Benjamin Kurt Miller, Ricky T. Q. Chen, Brandon M. Wood,
• Abstract要約: FlowLLMは、大きな言語モデル(LLM)とリーマンフローマッチング(RFM)を組み合わせて、新しい結晶材料を設計する新しい生成モデルである。 提案手法は最先端の手法よりも優れ, 安定物質の生成速度を3倍以上に向上させ, 安定, 特異, 新規結晶の生成速度を$sim50%以上向上させる。
• 参考スコア（独自算出の注目度）: 16.68310253042657
• License:
• Abstract: Material discovery is a critical area of research with the potential to revolutionize various fields, including carbon capture, renewable energy, and electronics. However, the immense scale of the chemical space makes it challenging to explore all possible materials experimentally. In this paper, we introduce FlowLLM, a novel generative model that combines large language models (LLMs) and Riemannian flow matching (RFM) to design novel crystalline materials. FlowLLM first fine-tunes an LLM to learn an effective base distribution of meta-stable crystals in a text representation. After converting to a graph representation, the RFM model takes samples from the LLM and iteratively refines the coordinates and lattice parameters. Our approach significantly outperforms state-of-the-art methods, increasing the generation rate of stable materials by over three times and increasing the rate for stable, unique, and novel crystals by $\sim50\%$ - a huge improvement on a difficult problem. Additionally, the crystals generated by FlowLLM are much closer to their relaxed state when compared with another leading model, significantly reducing post-hoc computational cost.
• Abstract（参考訳）: 物質発見は、炭素捕獲、再生可能エネルギー、エレクトロニクスなど様々な分野に革命をもたらす可能性を持つ重要な研究分野である。 しかし、化学空間の膨大な規模は、あらゆる可能な物質を実験的に探索することを困難にしている。 本稿では,大規模言語モデル (LLM) とリーマンフローマッチング (RFM) を組み合わせた新しい生成モデルであるFlowLLMを紹介する。 FlowLLMはまずLLMを微調整し、テキスト表現におけるメタ安定結晶の効果的な基底分布を学習する。 グラフ表現に変換すると、RAMモデルはLSMからサンプルを取り出し、座標と格子パラメータを反復的に洗練する。 提案手法は最先端の手法よりも優れ, 安定物質の生成速度を3倍以上に向上させ, 安定, 特異, 新規結晶の生成速度を$\sim50\%で向上させる。 さらに、FlowLLMによって生成された結晶は、他の先行モデルと比較して緩和状態に非常に近いため、ポストホック計算コストが大幅に削減される。

関連論文リスト

• FlowMM: Generating Materials with Riemannian Flow Matching [16.68310253042657]
  両タスクの最先端性能を実現するための生成モデルであるFlowMMを提案する。 われわれのフレームワークは,フローベース分布の選択の自由を可能とし,結晶構造学習の問題を劇的に単純化する。 標準ベンチマークに加えて, 量子化学計算によるFlowMMの生成構造を検証した。
  論文  参考訳（メタデータ） (2024-06-07T07:46:23Z)
• Multi-fidelity surrogate with heterogeneous input spaces for modeling melt pools in laser-directed energy deposition [0.0]
  MFモデリング(Multi-fidelity Modeling)は、様々なフィデリティソースからデータをインテリジェントにブレンドできる強力な統計手法である。 メルトプールモデルの階層をマージするためにMFサロゲートを使用する際の大きな課題は、入力空間における可変性である。 本稿では, 様々な複雑さのモデルを統合することで, 溶融プール形状を予測するためのMFサロゲート構築手法を提案する。
  論文  参考訳（メタデータ） (2024-03-19T20:12:46Z)
• A Microstructure-based Graph Neural Network for Accelerating Multiscale Simulations [0.0]
  本稿では,この問題のマルチスケール性を維持するための代替的な代理モデル戦略を提案する。 我々は, 顕微鏡材料モデルを維持しながら, グラフニューラルネットワーク(GNN)を用いて, フルフィールドの顕微鏡歪みを予測した。 本研究では,サロゲートが複雑なマクロな応力-ひずみ経路を予測可能であることを示す。
  論文  参考訳（メタデータ） (2024-02-20T15:54:24Z)
• Fine-Tuned Language Models Generate Stable Inorganic Materials as Text [57.01994216693825]
  テキストエンコードされた原子構造データに基づく微調整された大規模言語モデルは、実装が簡単で信頼性が高い。 我々の最強モデルは、CDVAEの約2倍の速度で準安定であると予測された物質を生成することができる。 テキストプロンプト固有の柔軟性のため、我々のモデルは安定物質を無条件に生成するために同時に使用することができる。
  論文  参考訳（メタデータ） (2024-02-06T20:35:28Z)
• Scalable Diffusion for Materials Generation [99.71001883652211]
  我々は任意の結晶構造(ユニマット)を表現できる統一された結晶表現を開発する。 UniMatはより大型で複雑な化学系から高忠実度結晶構造を生成することができる。 材料の生成モデルを評価するための追加指標を提案する。
  論文  参考訳（メタデータ） (2023-10-18T15:49:39Z)
• SE(3)-Stochastic Flow Matching for Protein Backbone Generation [54.951832422425454]
  我々はFoldFlowを紹介した。FoldFlowは,3mathrmD$の剛性運動に対するフローマッチングパラダイムに基づく,モデリング能力向上のための新しい生成モデルである。 FoldFlow生成モデルのファミリーは、タンパク質の生成モデルに対する従来のアプローチよりもいくつかの利点を提供している。
  論文  参考訳（メタデータ） (2023-10-03T19:24:24Z)
• Latent Diffusion Energy-Based Model for Interpretable Text Modeling [104.85356157724372]
  本稿では,拡散モデルと潜時空間ESMの共生を変動学習フレームワークで導入する。 我々は,学習した潜在空間の品質を向上させるために,情報ボトルネックと合わせて幾何学的クラスタリングに基づく正規化を開発する。
  論文  参考訳（メタデータ） (2022-06-13T03:41:31Z)
• Normalizing flows for atomic solids [67.70049117614325]
  原子状固体をモデル化するための正規化フローに基づく機械学習手法を提案する。 我々は,単原子水としてモデル化された立方晶および六角形氷のヘルムホルツ自由エネルギー推定と,切り離されたレナード・ジョーンズ系について報告する。 以上の結果から, 結晶形状に制約を加えることなく, 流動の正規化により, 固体の高品質な試料と自由エネルギー推定が可能であることが示唆された。
  論文  参考訳（メタデータ） (2021-11-16T18:54:49Z)
• Moser Flow: Divergence-based Generative Modeling on Manifolds [49.04974733536027]
  Moser Flow (MF) は連続正規化フロー(CNF)ファミリーにおける新しい生成モデルのクラスである MFは、訓練中にODEソルバを介して呼び出しやバックプロパゲートを必要としない。 一般曲面からのサンプリングにおけるフローモデルの利用を初めて実演する。
  論文  参考訳（メタデータ） (2021-08-18T09:00:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。