論文の概要: Universal crystal material property prediction via multi-view geometric fusion in graph transformers
- arxiv url: http://arxiv.org/abs/2507.15303v1
- Date: Mon, 21 Jul 2025 07:06:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-22 20:51:32.29697
- Title: Universal crystal material property prediction via multi-view geometric fusion in graph transformers
- Title(参考訳): グラフトランスにおける多視点幾何融合によるユニバーサル結晶材料特性予測
- Authors: Liang Zhang, Kong Chen, Yuen Wu,
- Abstract要約: MGTはSE3不変グラフ表現とSO3同変グラフ表現を融合した多視点グラフトランスフォーマーフレームワークである。
従来の最先端モデルと比較すると、MGTは平均絶対誤差を最大21%削減する。
MGTは、既存のベースラインよりも最大58%パフォーマンス改善を実現している。
- 参考スコア(独自算出の注目度): 2.6967931367932714
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Accurately and comprehensively representing crystal structures is critical for advancing machine learning in large-scale crystal materials simulations, however, effectively capturing and leveraging the intricate geometric and topological characteristics of crystal structures remains a core, long-standing challenge for most existing methods in crystal property prediction. Here, we propose MGT, a multi-view graph transformer framework that synergistically fuses SE3 invariant and SO3 equivariant graph representations, which respectively captures rotation-translation invariance and rotation equivariance in crystal geometries. To strategically incorporate these complementary geometric representations, we employ a lightweight mixture of experts router in MGT to adaptively adjust the weight assigned to SE3 and SO3 embeddings based on the specific target task. Compared with previous state-of-the-art models, MGT reduces the mean absolute error by up to 21% on crystal property prediction tasks through multi-task self-supervised pretraining. Ablation experiments and interpretable investigations confirm the effectiveness of each technique implemented in our framework. Additionally, in transfer learning scenarios including crystal catalyst adsorption energy and hybrid perovskite bandgap prediction, MGT achieves performance improvements of up to 58% over existing baselines, demonstrating domain-agnostic scalability across diverse application domains. As evidenced by the above series of studies, we believe that MGT can serve as useful model for crystal material property prediction, providing a valuable tool for the discovery of novel materials.
- Abstract(参考訳): 結晶構造を正確にかつ包括的に表現することは、大規模な結晶材料シミュレーションにおいて機械学習を前進させる上で重要であるが、結晶構造の複雑な幾何学的および位相的特性を効果的に捉え、活用することは、結晶特性予測における既存のほとんどの方法にとって長年の課題である。
本稿では,SE3不変量とSO3同変グラフ表現を相乗的に融合する多視点グラフ変換フレームワークMGTを提案する。
これらの相補的な幾何学的表現を戦略的に組み込むため、MGT では、特定の目標タスクに基づいてSE3 と SO3 の埋め込みに割り当てられた重量を適応的に調整するために、専門家ルータの軽量な混合を用いている。
MGTは従来の最先端モデルと比較して、マルチタスクによる自己教師付き事前トレーニングにより、結晶特性予測タスクにおいて平均絶対誤差を最大21%削減する。
アブレーション実験と解釈調査により,本フレームワークに実装された各手法の有効性が確認された。
さらに、結晶触媒吸着エネルギーやハイブリッドペロブスカイトバンドギャップ予測などの伝達学習シナリオでは、MGTは既存のベースラインよりも最大58%の性能向上を実現し、多様なアプリケーションドメインにまたがるドメインに依存しないスケーラビリティを示す。
以上の一連の研究によって証明されたように、MGTは結晶性物質の特性予測に有用なモデルとなり、新規物質の発見に有用なツールとなると信じている。
関連論文リスト
- CLOUD: A Scalable and Physics-Informed Foundation Model for Crystal Representation Learning [0.0]
CLOUD(Crystal Language mOdel for Unified and Differentiable Materials Modeling)は,新しいSCOPE(Symmetry-Consistent SCOPE)をトレーニングしたトランスフォーマーベースのフレームワークである。
CLOUDは600万以上の結晶構造で事前訓練されており、幅広い材料特性を予測する上での競争性能を達成する。
異種材料モデリングの概念の証明として, フォノン内部エネルギーと熱容量の予測にCLOUDを適用した。
論文 参考訳(メタデータ) (2025-06-19T15:45:24Z) - Weight Spectra Induced Efficient Model Adaptation [54.8615621415845]
微調整された大規模な基礎モデルは、計算コストを禁ずる。
微調整が最上位特異値を大きく増幅する一方で,残りはほとんど無傷であることを示す。
本稿では,トップ特異方向の学習可能な再スケーリングを利用する新しい手法を提案する。
論文 参考訳(メタデータ) (2025-05-29T05:03:29Z) - Large Language Models Are Innate Crystal Structure Generators [30.44669215588058]
本研究では,事前学習した大規模言語モデルが,追加のトレーニングを伴わずに本質的に安定な結晶構造を生成可能であることを示す。
私たちのフレームワークであるMatLLMSearchは、事前訓練されたLLMと進化的検索アルゴリズムを統合し、78.38%のメタスタブルレートを達成する。
論文 参考訳(メタデータ) (2025-02-28T10:41:16Z) - Transformer-Enhanced Variational Autoencoder for Crystal Structure Prediction [16.846289696048647]
結晶構造予測のための変圧器強化変分オートエンコーダ(TransVAE-CSP)を提案する。
TransVAE-CSPは安定物質の特性分布空間を学習し、結晶構造の再構築と生成を可能にする。
CO_24, perov_5, mp_20データセットの実験結果から, TransVAE-CSPは構造再構成および生成タスクにおいて, 既存の手法よりも優れていることが示された。
論文 参考訳(メタデータ) (2025-02-13T15:45:36Z) - Efficient Symmetry-Aware Materials Generation via Hierarchical Generative Flow Networks [52.13486402193811]
新しい固体材料は、結晶構造の広大な空間を急速に探索し、安定した領域を探索する必要がある。
既存の手法では、大きな材料空間を探索し、望ましい特性と要求を持った多様なサンプルを生成するのに苦労している。
本研究では, 材料空間の対称性を効果的に活用し, 所望の特性を持つ結晶構造を生成するために, 階層的探索戦略を用いた新しい生成モデルを提案する。
論文 参考訳(メタデータ) (2024-11-06T23:53:34Z) - Complete and Efficient Graph Transformers for Crystal Material Property Prediction [53.32754046881189]
結晶構造は、3次元空間の正則格子に沿って繰り返される原始単位セル内の原子塩基によって特徴づけられる。
本稿では,各原子の格子に基づく表現を確立するために,単位細胞の周期パターンを利用する新しい手法を提案する。
結晶材料に特化して設計されたSE(3)トランスであるComFormerを提案する。
論文 参考訳(メタデータ) (2024-03-18T15:06:37Z) - Data-free Weight Compress and Denoise for Large Language Models [96.68582094536032]
パラメータ行列を圧縮する手法として,データフリーなジョイントランクk近似を提案する。
キャリブレーションデータなしで、元の性能の93.43%を維持しながら80%のパラメータのモデルプルーニングを実現する。
論文 参考訳(メタデータ) (2024-02-26T05:51:47Z) - 3DReact: Geometric deep learning for chemical reactions [35.38031930589095]
反応物質と生成物の3次元構造から反応特性を予測する3DReactについて述べる。
反応特性予測の既存のモデルと比較して、3DReactは原子マッピング情報を利用する柔軟なフレームワークを提供する。
異なるデータセット、原子をマッピングするレシエーション、およびジオメトリと外挿タスクの両方にわたって、体系的にうまく機能する。
論文 参考訳(メタデータ) (2023-12-13T17:26:54Z) - Learning transformer-based heterogeneously salient graph representation for multimodal remote sensing image classification [42.15709954199397]
本稿では,変圧器を用いたヘテロジニアサリエントグラフ表現法(THSGR)を提案する。
まず、多モード不均一グラフエンコーダを用いて、非ユークリッド構造の特徴を異種データから符号化する。
自己アテンションフリーなマルチ畳み込み変調器は、効果的かつ効率的な長期依存性モデリングのために設計されている。
論文 参考訳(メタデータ) (2023-11-17T04:06:20Z) - Latent Conservative Objective Models for Data-Driven Crystal Structure
Prediction [62.36797874900395]
計算化学において、結晶構造予測は最適化問題である。
この問題に対処する1つのアプローチは、密度汎関数理論(DFT)に基づいてシミュレータを構築し、続いてシミュレーションで探索を実行することである。
我々は,LCOM(最近の保守的客観モデル)と呼ばれる我々の手法が,構造予測の成功率の観点から,最も優れたアプローチと同等に機能することを示す。
論文 参考訳(メタデータ) (2023-10-16T04:35:44Z) - Equivariant Message Passing Neural Network for Crystal Material
Discovery [8.481798330936975]
教師なしの方法で結晶格子変形を学習する周期的同変メッセージパッシングニューラルネットワークを提案する。
本モデルは, 結晶生成, 緩和, 最適化に適した変形作用により格子に等価に作用する。
論文 参考訳(メタデータ) (2023-02-01T14:48:18Z) - GeoMol: Torsional Geometric Generation of Molecular 3D Conformer
Ensembles [60.12186997181117]
分子グラフからの分子の3Dコンホメーラーアンサンブルの予測は、化学情報学と薬物発見の領域において重要な役割を担っている。
既存の生成モデルは、重要な分子幾何学的要素のモデリングの欠如を含むいくつかの欠点がある。
エンド・ツー・エンド、非自己回帰、SE(3)不変の機械学習手法であるGeoMolを提案し、3Dコンバータを生成する。
論文 参考訳(メタデータ) (2021-06-08T14:17:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。