論文の概要: A recipe for scalable attention-based MLIPs: unlocking long-range accuracy with all-to-all node attention
- arxiv url: http://arxiv.org/abs/2603.06567v1
- Date: Fri, 06 Mar 2026 18:57:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-09 13:17:46.408936
- Title: A recipe for scalable attention-based MLIPs: unlocking long-range accuracy with all-to-all node attention
- Title(参考訳): スケーラブルアテンションベースMLIPのレシピ:全ノードアテンションによる長距離精度の解放
- Authors: Eric Qu, Brandon M. Wood, Aditi S. Krishnapriyan, Zachary W. Ulissi,
- Abstract要約: AllScAIPは注意に基づく機械学習モデルで、O(1億)トレーニングサンプルにスケールする。
データ駆動のオールツーオールノードアテンションコンポーネントを使用して、長距離の課題に対処する。
本モデルでは,分子系のエネルギー/力の高精度化と,物理に基づく多くの評価を行う。
- 参考スコア(独自算出の注目度): 14.94564172199991
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine-learning interatomic potentials (MLIPs) have advanced rapidly, with many top models relying on strong physics-based inductive biases. However, as models scale to larger systems like biomolecules and electrolytes, they struggle to accurately capture long-range (LR) interactions, leading current approaches to rely on explicit physics-based terms or components. In this work, we propose AllScAIP, a straightforward, attention-based, and energy-conserving MLIP model that scales to O(100 million) training samples. It addresses the long-range challenge using an all-to-all node attention component that is data-driven. Extensive ablations reveal that in low-data/small-model regimes, inductive biases improve sample efficiency. However, as data and model size scale, these benefits diminish or even reverse, while all-to-all attention remains critical for capturing LR interactions. Our model achieves state-of-the-art energy/force accuracy on molecular systems, as well as a number of physics-based evaluations (OMol25), while being competitive on materials (OMat24) and catalysts (OC20). Furthermore, it enables stable, long-timescale MD simulations that accurately recover experimental observables, including density and heat of vaporization predictions.
- Abstract(参考訳): 機械学習原子間ポテンシャル(MLIP)は急速に進歩し、多くのトップモデルは強い物理学に基づく誘導バイアスに依存している。
しかし、モデルが生体分子や電解質のような大きなシステムにスケールするにつれて、彼らは長距離(LR)相互作用を正確に捉えるのに苦労し、現在のアプローチは明らかに物理学に基づく用語やコンポーネントに依存している。
本研究は,O(1億)トレーニングサンプルにスケールする,単純で注意力に基づくエネルギー保存型MLIPモデルであるAllScAIPを提案する。
データ駆動のオールツーオールノードアテンションコンポーネントを使用して、長距離の課題に対処する。
低データ/小モデル方式では、誘導バイアスはサンプル効率を向上させる。
しかし、データとモデルのサイズがスケールするにつれて、これらの利点は減少または逆転する。
本モデルでは,分子系のエネルギー・力の精度と物理に基づく評価(OMol25)を,材料(OMat24)と触媒(OC20)で競合しながら達成する。
さらに、蒸気化予測の密度や熱を含む実験観測対象を正確に回収する、安定で長期間のMDシミュレーションを可能にする。
関連論文リスト
- How accurate are foundational machine learning interatomic potentials for heterogeneous catalysis? [0.0]
基礎的な機械学習の原子間ポテンシャル(MLIP)は急速に発展しており、精度を向上するためにより近い近似を約束している。
そこで我々は,80種類のMLIPのゼロショット性能を系統的に解析し,異種タスクに典型的なタスクを評価する。
多くのMLIPが磁気材料に適用されると破滅的に失敗し、MLIPの構造緩和は一般的にエネルギー予測誤差を増大させる。
論文 参考訳(メタデータ) (2025-12-18T16:06:14Z) - A universal augmentation framework for long-range electrostatics in machine learning interatomic potentials [8.414405667524889]
静電相互作用, 分極, ボルン有効電荷(BECs)を推定する潜在エワルド置換法(LES)
短距離MLIPと互換性のあるスタンドアロンライブラリとしてLESを提示し、MACE、NequIP、CACE、CHGNetといったメソッドとの統合を実証する。
分子やクラスターを含むSPICEセット上でMACELES-OFFをトレーニングすることにより, LESを大規模かつ化学的に多様なデータに拡張する。
論文 参考訳(メタデータ) (2025-07-18T18:21:45Z) - Accurate Ab-initio Neural-network Solutions to Large-Scale Electronic Structure Problems [52.19558333652367]
有限範囲埋め込み(FiRE)を高精度なアブ・イニシアチブ電子構造計算に応用する。
FiREは、ニューラルネットワークの変異モンテカルロ(NN-VMC)の複雑さを$sim ntextel$, the number of electronsによって低減する。
バイオケミカル化合物や有機金属化合物など,様々な課題に対して,本手法の精度を検証した。
論文 参考訳(メタデータ) (2025-04-08T14:28:54Z) - Predicting ionic conductivity in solids from the machine-learned potential energy landscape [68.25662704255433]
本稿では, イオン伝導体の迅速かつ信頼性の高いスクリーニング手法として, 普遍的な原子間ポテンシャルの解析手法を提案する。
第一原理計算では,10種中8種が室温で超イオン性であることが確認された。
本手法は, 機械学習電位によって駆動される分子動力学と比較して約50倍の高速化係数を達成し, 第一原理分子動力学に比べて少なくとも3,000倍高速である。
論文 参考訳(メタデータ) (2024-11-11T09:01:36Z) - A Comprehensive Evaluation of Generative Models in Calorimeter Shower Simulation [0.0]
ファストシミュレーション」は計算ボトルネックを克服する上で重要な役割を担っている。
深部生成モデルの使用により、検出器シミュレーションのための代理モデルへの関心が高まった。
評価の結果,CaloDiffusionおよびCaloScore生成モデルが最も正確な粒子シャワーシミュレーションを行った。
論文 参考訳(メタデータ) (2024-06-08T11:17:28Z) - Conditional Generative Models for Simulation of EMG During Naturalistic
Movements [45.698312905115955]
本稿では、運動単位活性化電位波形を生成するために、逆向きに訓練された条件付き生成ニューラルネットワークを提案する。
本研究では,より少ない数の数値モデルの出力を高い精度で予測的に補間できることを実証する。
論文 参考訳(メタデータ) (2022-11-03T14:49:02Z) - Electronic-structure properties from atom-centered predictions of the
electron density [0.0]
分子や物質の電子密度は、最近機械学習モデルのターゲット量として大きな注目を集めている。
最適化された高度にスパースな特徴空間における回帰問題の損失関数を最小化するための勾配に基づく手法を提案する。
予測密度から1つのコーン・シャム対角化ステップを実行し、0.1mV/原子の誤差を持つ全エネルギー成分にアクセス可能であることを示す。
論文 参考訳(メタデータ) (2022-06-28T15:35:55Z) - Physics-informed CoKriging model of a redox flow battery [68.8204255655161]
レドックスフロー電池(RFB)は、大量のエネルギーを安価かつ効率的に貯蔵する機能を提供する。
RFBの充電曲線の高速かつ正確なモデルが必要であり、バッテリ容量と性能が向上する可能性がある。
RFBの電荷分配曲線を予測する多相モデルを構築した。
論文 参考訳(メタデータ) (2021-06-17T00:49:55Z) - BIGDML: Towards Exact Machine Learning Force Fields for Materials [55.944221055171276]
機械学習力場(MLFF)は正確で、計算的で、データ効率が良く、分子、材料、およびそれらのインターフェースに適用できなければならない。
ここでは、Bravais-Inspired Gradient-Domain Machine Learningアプローチを導入し、わずか10-200原子のトレーニングセットを用いて、信頼性の高い力場を構築する能力を実証する。
論文 参考訳(メタデータ) (2021-06-08T10:14:57Z) - Predicting molecular dipole moments by combining atomic partial charges
and atomic dipoles [3.0980025155565376]
高レベル結合クラスター理論を用いて計算した分子$boldsymbolmu$を再現するために、「MuML」モデルが組み合わされた。
校正委員会モデルを用いて予測の不確かさを確実に推定できることを実証する。
論文 参考訳(メタデータ) (2020-03-27T14:35:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。