Fugu-MT 論文翻訳(概要): LLM-Prop: Predicting Physical And Electronic Properties Of Crystalline Solids From Their Text Descriptions

論文の概要: LLM-Prop: Predicting Physical And Electronic Properties Of Crystalline Solids From Their Text Descriptions

arxiv url: http://arxiv.org/abs/2310.14029v1
Date: Sat, 21 Oct 2023 14:49:58 GMT
ステータス: 処理完了
システム内更新日: 2023-10-25 03:59:36.946023
Title: LLM-Prop: Predicting Physical And Electronic Properties Of Crystalline Solids From Their Text Descriptions
Title（参考訳）: LLM-Prop: テキスト記述から結晶の物性と電子特性を予測する
Authors: Andre Niyongabo Rubungo, Craig Arnold, Barry P. Rand, Adji Bousso Dieng
Abstract要約: 結晶構造とその特性を記述したテキストを含むベンチマークデータセットを開発し,公開する。本研究では,大規模言語モデルの汎用学習能力を活用したLLM-Propを提案する。我々の経験的結果は、GNNが空間群対称性に関連する情報を捕捉できないことの現況を浮き彫りにするかもしれない。
参考スコア（独自算出の注目度）: 4.377555282482224
License: http://creativecommons.org/licenses/by/4.0/
Abstract: The prediction of crystal properties plays a crucial role in the crystal design process. Current methods for predicting crystal properties focus on modeling crystal structures using graph neural networks (GNNs). Although GNNs are powerful, accurately modeling the complex interactions between atoms and molecules within a crystal remains a challenge. Surprisingly, predicting crystal properties from crystal text descriptions is understudied, despite the rich information and expressiveness that text data offer. One of the main reasons is the lack of publicly available data for this task. In this paper, we develop and make public a benchmark dataset (called TextEdge) that contains text descriptions of crystal structures with their properties. We then propose LLM-Prop, a method that leverages the general-purpose learning capabilities of large language models (LLMs) to predict the physical and electronic properties of crystals from their text descriptions. LLM-Prop outperforms the current state-of-the-art GNN-based crystal property predictor by about 4% in predicting band gap, 3% in classifying whether the band gap is direct or indirect, and 66% in predicting unit cell volume. LLM-Prop also outperforms a finetuned MatBERT, a domain-specific pre-trained BERT model, despite having 3 times fewer parameters. Our empirical results may highlight the current inability of GNNs to capture information pertaining to space group symmetry and Wyckoff sites for accurate crystal property prediction.
Abstract（参考訳）: 結晶特性の予測は、結晶設計プロセスにおいて重要な役割を果たす。最近の結晶特性予測手法は、グラフニューラルネットワーク(gnns)を用いた結晶構造モデリングに焦点を当てている。 GNNは強力だが、結晶内の原子と分子の間の複雑な相互作用を正確にモデル化することは難しい。驚くべきことに、結晶テキスト記述からの結晶特性の予測は、テキストデータが提供する豊富な情報と表現力にもかかわらず、未検討である。主な理由の1つは、このタスクのための公開データがないことである。本稿では,結晶構造とその特性を記述したテキストを含むベンチマークデータセット(TextEdge)を開発し,公開する。次に,大規模言語モデル(llms)の汎用学習能力を活用して,テキスト記述から結晶の物理的および電子的特性を予測する手法であるllm-propを提案する。 llm-propは、現在のgnnベースの結晶特性予測装置よりもバンドギャップ予測で約4%、バンドギャップが直接的か間接的かの分類で3%、単位セル容積予測で66%上回る。 LLM-Propは3倍のパラメータを持つにもかかわらず、ドメイン固有の事前訓練されたBERTモデルであるMatBERTよりも優れている。実験結果から,gnnが空間群対称性やワイクホフサイトに関する情報を取り込み,正確な結晶特性の予測ができないことがわかった。

関連論文リスト

CrysAtom: Distributed Representation of Atoms for Crystal Property Prediction [0.0]
物質科学の文献では、結晶性物質がトポロジカルな構造を示すことはよく知られている。本稿では,原子の密度ベクトル表現を生成するために,無相関結晶データを用いた教師なしフレームワーク,CrysAtomを提案する。
論文参考訳（メタデータ） (2024-09-07T06:58:55Z)
CrysToGraph: A Comprehensive Predictive Model for Crystal Materials Properties and the Benchmark [16.456990796982186]
我々はCrysToGraph(textbfCrys$tals with $textbfT$ransformers $textbfo$n $textbfGraph$s)を提案する。 CrysToGraphは、トランスフォーマーベースのグラフ畳み込みブロックと、グラフワイドトランスフォーマーブロックとの長距離インタラクションを効果的にキャプチャする。これは既存のほとんどの方法より優れており、非伝統的な結晶と伝統的な結晶の両方のベンチマークで新しい最先端の結果を達成する。
論文参考訳（メタデータ） (2024-07-23T02:31:06Z)
A Space Group Symmetry Informed Network for O(3) Equivariant Crystal Tensor Prediction [89.38877696273364]
結晶材料の一般的な引張特性の予測について考察する。本稿では,必要な対称性を満たすために慎重に設計された汎用材料ネットワーク(GMTNet)を提案する。実験の結果, GMTNetは様々な順序の結晶テンソル上で有望な性能を達成できた。
論文参考訳（メタデータ） (2024-06-03T16:26:16Z)
Complete and Efficient Graph Transformers for Crystal Material Property Prediction [53.32754046881189]
結晶構造は、3次元空間の正則格子に沿って繰り返される原始単位セル内の原子塩基によって特徴づけられる。本稿では,各原子の格子に基づく表現を確立するために,単位細胞の周期パターンを利用する新しい手法を提案する。結晶材料に特化して設計されたSE(3)トランスであるComFormerを提案する。
論文参考訳（メタデータ） (2024-03-18T15:06:37Z)
Molecule Design by Latent Prompt Transformer [76.2112075557233]
本研究は、分子設計の課題を条件付き生成モデリングタスクとしてフレーミングすることによって検討する。本研究では,(1)学習可能な事前分布を持つ潜伏ベクトル,(2)プロンプトとして潜伏ベクトルを用いる因果トランスフォーマーに基づく分子生成モデル,(3)潜在プロンプトを用いた分子の目標特性および/または制約値を予測する特性予測モデルからなる新しい生成モデルを提案する。
論文参考訳（メタデータ） (2024-02-27T03:33:23Z)
Latent Conservative Objective Models for Data-Driven Crystal Structure Prediction [62.36797874900395]
計算化学において、結晶構造予測は最適化問題である。この問題に対処する1つのアプローチは、密度汎関数理論(DFT)に基づいてシミュレータを構築し、続いてシミュレーションで探索を実行することである。我々は,LCOM(最近の保守的客観モデル)と呼ばれる我々の手法が,構造予測の成功率の観点から,最も優れたアプローチと同等に機能することを示す。
論文参考訳（メタデータ） (2023-10-16T04:35:44Z)
Crystal-GFN: sampling crystals with desirable properties and constraints [103.79058968784163]
本稿では,結晶構造の生成モデルであるCrystal-GFNを紹介する。本稿では,MatBenchで学習した新しいプロキシ機械学習モデルにより予測された結晶構造の原子1個あたりの生成エネルギーを目的として利用する。その結果、Crystal-GFNは低(中間-3.1 eV/原子)で生成エネルギーが予測される非常に多様な結晶をサンプリングできることが示された。
論文参考訳（メタデータ） (2023-10-07T21:36:55Z)
DeepCrysTet: A Deep Learning Approach Using Tetrahedral Mesh for Predicting Properties of Crystalline Materials [0.0]
材料特性を予測するための新しい深層学習手法であるDeepCrysTetを提案する。 DeepCrysTetは、Delaunay四面体化によって生成される3次元四面体メッシュとして表される結晶構造を用いる。実験により、DeepCrysTetは既存のGNNモデルよりも結晶構造の分類や弾性特性の予測における最先端性能に優れていた。
論文参考訳（メタデータ） (2023-09-07T05:23:52Z)
CrysMMNet: Multimodal Representation for Crystal Property Prediction [22.576167897068956]
CrysMMNetは、構造的およびテキスト的表現を融合させ、結晶材料の共同マルチモーダル表現を生成する単純なマルチモーダルフレームワークである。我々は、CrysMMNetが既存の最先端のベースラインメソッドよりも優れたマージンを持つことを示すために、10の異なるプロパティにわたる2つのベンチマークデータセットに関する広範な実験を行った。
論文参考訳（メタデータ） (2023-06-09T11:16:01Z)
CrysGNN : Distilling pre-trained knowledge to enhance property prediction for crystalline materials [25.622724168215097]
本稿では結晶材料のための新しいトレーニング済みGNNフレームワークであるCrysGNNについて述べる。これは、未ラベルの材料データを用いて、結晶グラフのノードレベルとグラフレベルの構造情報をキャプチャする。我々は、事前訓練されたモデルから知識を抽出することで、全てのSOTAアルゴリズムがベニラバージョンを良好なマージンで上回ることができることを示す広範囲な実験を行った。
論文参考訳（メタデータ） (2023-01-14T08:12:01Z)
Graph neural networks for the prediction of molecular structure-property relationships [59.11160990637615]
グラフニューラルネットワーク(GNN)は、分子グラフ上で直接動作する新しい機械学習手法である。 GNNは、エンドツーエンドでプロパティを学習できるため、情報記述子の必要性を回避することができる。本稿では、分子特性予測のための2つの例を通して、GNNの基礎を説明し、GNNの応用を実証する。
論文参考訳（メタデータ） (2022-07-25T11:30:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。