論文の概要: Generative Hierarchical Materials Search
- arxiv url: http://arxiv.org/abs/2409.06762v1
- Date: Tue, 10 Sep 2024 17:51:28 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-12 17:19:05.392134
- Title: Generative Hierarchical Materials Search
- Title(参考訳): 生成的階層的材料探索
- Authors: Sherry Yang, Simon Batzner, Ruiqi Gao, Muratahan Aykol, Alexander L. Gaunt, Brendan McMorrow, Danilo J. Rezende, Dale Schuurmans, Igor Mordatch, Ekin D. Cubuk,
- Abstract要約: 結晶構造の制御可能な生成のための生成階層材料探索(GenMS)を提案する。
GenMSは(1)高レベル自然言語を入力とし、結晶に関する中間テキスト情報を生成する言語モデルからなる。
GenMSはまた、生成された結晶構造から特性(たとえば生成エネルギー)を予測するためにグラフニューラルネットワークを使用する。
- 参考スコア(独自算出の注目度): 91.93125016916463
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative models trained at scale can now produce text, video, and more recently, scientific data such as crystal structures. In applications of generative approaches to materials science, and in particular to crystal structures, the guidance from the domain expert in the form of high-level instructions can be essential for an automated system to output candidate crystals that are viable for downstream research. In this work, we formulate end-to-end language-to-structure generation as a multi-objective optimization problem, and propose Generative Hierarchical Materials Search (GenMS) for controllable generation of crystal structures. GenMS consists of (1) a language model that takes high-level natural language as input and generates intermediate textual information about a crystal (e.g., chemical formulae), and (2) a diffusion model that takes intermediate information as input and generates low-level continuous value crystal structures. GenMS additionally uses a graph neural network to predict properties (e.g., formation energy) from the generated crystal structures. During inference, GenMS leverages all three components to conduct a forward tree search over the space of possible structures. Experiments show that GenMS outperforms other alternatives of directly using language models to generate structures both in satisfying user request and in generating low-energy structures. We confirm that GenMS is able to generate common crystal structures such as double perovskites, or spinels, solely from natural language input, and hence can form the foundation for more complex structure generation in near future.
- Abstract(参考訳): スケールで訓練された生成モデルは、テキスト、ビデオ、さらに最近では結晶構造のような科学データを生成することができる。
材料科学、特に結晶構造への生成的アプローチの適用においては、下流研究に有効な候補結晶を自動生成する上で、ドメインエキスパートからの高レベルの指示が不可欠である。
本研究では,多目的最適化問題としてエンドツーエンドの言語-構造生成を定式化し,結晶構造の制御可能な生成のための生成階層材料探索(GenMS)を提案する。
GenMSは,(1)高レベル自然言語を入力とし,結晶(例えば化学式)に関する中間テキスト情報を生成する言語モデルと,(2)中間情報を入力とし,低レベル連続値結晶構造を生成する拡散モデルから構成される。
GenMSはまた、生成された結晶構造から特性(例えば生成エネルギー)を予測するためにグラフニューラルネットワークを使用する。
推論中、GenMSは3つのコンポーネントすべてを活用して、可能な構造空間をフォワードツリーで探索する。
実験により、GenMSは、ユーザ要求を満たすことと低エネルギー構造を生成することの両方において、言語モデルを直接使用する他の選択肢よりも優れていることが示された。
我々は,GenMSが自然言語入力のみから,二重ペロブスカイトやスピネルなどの共通結晶構造を生成できることを確認した。
関連論文リスト
- Efficient Symmetry-Aware Materials Generation via Hierarchical Generative Flow Networks [52.13486402193811]
新しい固体材料は、結晶構造の広大な空間を急速に探索し、安定した領域を探索する必要がある。
既存の手法では、大きな材料空間を探索し、望ましい特性と要求を持った多様なサンプルを生成するのに苦労している。
本研究では, 材料空間の対称性を効果的に活用し, 所望の特性を持つ結晶構造を生成するために, 階層的探索戦略を用いた新しい生成モデルを提案する。
論文 参考訳(メタデータ) (2024-11-06T23:53:34Z) - Generative Inverse Design of Crystal Structures via Diffusion Models with Transformers [1.2289361708127877]
有望な性質を持つ新しい無機材料は、科学的にも工業的にも重要な課題である。
有望な性質を持つ新しい無機材料の発見は、科学的にも工業的にも重要な課題である。
そこで本研究では,トランスフォーマーアーキテクチャに基づくバックボーンを用いた,結晶構造の生成的逆設計のための新しいタイプの拡散モデルについて検討する。
論文 参考訳(メタデータ) (2024-06-13T16:03:15Z) - Scalable Diffusion for Materials Generation [99.71001883652211]
我々は任意の結晶構造(ユニマット)を表現できる統一された結晶表現を開発する。
UniMatはより大型で複雑な化学系から高忠実度結晶構造を生成することができる。
材料の生成モデルを評価するための追加指標を提案する。
論文 参考訳(メタデータ) (2023-10-18T15:49:39Z) - Data-Driven Score-Based Models for Generating Stable Structures with
Adaptive Crystal Cells [1.515687944002438]
本研究は, 化学安定性や化学組成など, 新しい結晶構造を創出することを目的としている。
提案手法の新規性は、結晶細胞の格子が固定されていないという事実にある。
対称性の制約を尊重し、計算上の優位性をもたらす多グラフ結晶表現が導入された。
論文 参考訳(メタデータ) (2023-10-16T02:53:24Z) - CrysMMNet: Multimodal Representation for Crystal Property Prediction [22.576167897068956]
CrysMMNetは、構造的およびテキスト的表現を融合させ、結晶材料の共同マルチモーダル表現を生成する単純なマルチモーダルフレームワークである。
我々は、CrysMMNetが既存の最先端のベースラインメソッドよりも優れたマージンを持つことを示すために、10の異なるプロパティにわたる2つのベンチマークデータセットに関する広範な実験を行った。
論文 参考訳(メタデータ) (2023-06-09T11:16:01Z) - Grokking of Hierarchical Structure in Vanilla Transformers [72.45375959893218]
トランスフォーマー言語モデルでは,極端に長い訓練期間を経て階層的に一般化できることが示される。
中間深度モデルは、非常に深い変圧器と非常に浅い変圧器の両方よりも良く一般化される。
論文 参考訳(メタデータ) (2023-05-30T04:34:13Z) - Physics of Language Models: Part 1, Learning Hierarchical Language Structures [51.68385617116854]
トランスフォーマーベースの言語モデルは効率的だが複雑であり、内部動作を理解することは大きな課題である。
本稿では,長文を生成可能な階層規則を生成する合成CFGのファミリーを紹介する。
我々は、GPTのような生成モデルがこのCFG言語を正確に学習し、それに基づいて文を生成することを実証する。
論文 参考訳(メタデータ) (2023-05-23T04:28:16Z) - Model Criticism for Long-Form Text Generation [113.13900836015122]
我々は,テキストの高レベル構造を評価するために,潜在空間におけるモデル批判という統計ツールを適用した。
我々は,コヒーレンス,コア,トピックスという,ハイレベルな談話の3つの代表的な側面について実験を行った。
トランスフォーマーベースの言語モデルでは、トピック構造をキャプチャできるが、構造コヒーレンスやモデリングコアスを維持するのが難しくなる。
論文 参考訳(メタデータ) (2022-10-16T04:35:58Z) - Physics guided deep learning generative models for crystal materials
discovery [7.7755483163557155]
Deepfakeのようなディープラーニングベースの生成モデルは、素晴らしい画像やビデオを生成することができる。
ここでは, 物理的指向性データ拡張の活用と付加により, 我々のディープ・逆数ネットワーク(GAN)に基づく生成モデルにより, より高い物理実現性を持つ結晶構造を生成可能であることを示す。
論文 参考訳(メタデータ) (2021-12-07T06:54:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。