Fugu-MT 論文翻訳(概要): Overcoming systematic softening in universal machine learning interatomic potentials by fine-tuning

論文の概要: Overcoming systematic softening in universal machine learning interatomic potentials by fine-tuning

arxiv url: http://arxiv.org/abs/2405.07105v1
Date: Sat, 11 May 2024 22:30:47 GMT
ステータス: 処理完了
システム内更新日: 2024-05-14 18:18:14.095752
Title: Overcoming systematic softening in universal machine learning interatomic potentials by fine-tuning
Title（参考訳）: 微調整による普遍的機械学習間ポテンシャルの系統的軟化の克服
Authors: Bowen Deng, Yunyeong Choi, Peichen Zhong, Janosh Riebesell, Shashwat Anand, Zhuohan Li, KyuJung Jun, Kristin A. Persson, Gerbrand Ceder,
Abstract要約: 機械学習原子間ポテンシャル(MLIP)は原子シミュレーションの新しいパラダイムを導入した。近年,多種多様な資料データセットで事前学習したユニバーサルMLIP(uMLIP)が出現している。分布外の複雑な原子環境に対する外挿性能はいまだに不明である。
参考スコア（独自算出の注目度）: 3.321322648845526
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Machine learning interatomic potentials (MLIPs) have introduced a new paradigm for atomic simulations. Recent advancements have seen the emergence of universal MLIPs (uMLIPs) that are pre-trained on diverse materials datasets, providing opportunities for both ready-to-use universal force fields and robust foundations for downstream machine learning refinements. However, their performance in extrapolating to out-of-distribution complex atomic environments remains unclear. In this study, we highlight a consistent potential energy surface (PES) softening effect in three uMLIPs: M3GNet, CHGNet, and MACE-MP-0, which is characterized by energy and force under-prediction in a series of atomic-modeling benchmarks including surfaces, defects, solid-solution energetics, phonon vibration modes, ion migration barriers, and general high-energy states. We find that the PES softening behavior originates from a systematic underprediction error of the PES curvature, which derives from the biased sampling of near-equilibrium atomic arrangements in uMLIP pre-training datasets. We demonstrate that the PES softening issue can be effectively rectified by fine-tuning with a single additional data point. Our findings suggest that a considerable fraction of uMLIP errors are highly systematic, and can therefore be efficiently corrected. This result rationalizes the data-efficient fine-tuning performance boost commonly observed with foundational MLIPs. We argue for the importance of a comprehensive materials dataset with improved PES sampling for next-generation foundational MLIPs.
Abstract（参考訳）: 機械学習原子間ポテンシャル(MLIP)は原子シミュレーションの新しいパラダイムを導入した。近年、多様な素材データセットで事前訓練されたユニバーサルMLIP(uMLIP)が出現し、使用可能なユニバーサルフォースフィールドと、下流機械学習の強化のための堅牢な基盤の両方の機会を提供している。しかし、分布外の複雑な原子環境への外挿性能は未だ不明である。本研究では,M3GNet,CHGNet,MACE-MP-0の3つのUMLIPにおける一貫したポテンシャルエネルギー表面 (PES) 軟化効果を明らかにする。 PES軟化挙動は,uMLIP事前学習データセットにおける近似原子配列のバイアスサンプリングから導かれるPSS曲率の系統的下降誤差から導かれる。我々は,PSS軟化問題を1つの追加データポイントで微調整することで,効果的に修正できることを実証した。以上の結果より, uMLIP エラーのかなりの部分が高度に体系的であり, 効率よく修正可能であることが示唆された。この結果は、基本MLIPでよく見られるデータ効率の良い微調整性能の向上を合理化する。次世代MLIPのためのPESサンプリングを改良した包括的資料データセットの重要性を論じる。

関連論文リスト

Interpolation and differentiation of alchemical degrees of freedom in machine learning interatomic potentials [1.1016723046079784]
原子性物質シミュレーションにおける連続的および微分可能なアルケミカル自由度の利用について報告する。提案手法は,MLIPのメッセージパッシングおよび読み出し機構の変更とともに,対応する重みを持つアルケミカル原子を入力グラフに導入する。 MLIPのエンドツーエンドの微分可能性により、構成重みに対するエネルギー勾配の効率的な計算が可能となる。
論文参考訳（メタデータ） (2024-04-16T17:24:22Z)
EL-MLFFs: Ensemble Learning of Machine Leaning Force Fields [1.8367772188990783]
機械学習力場(MLFF)は、量子力学的手法の精度を橋渡しするための有望なアプローチとして登場した。本稿では,多種多様なMLFFからの予測を統合するため,階層化手法を利用した新しいアンサンブル学習フレームワークEL-MLFFを提案する。我々は,Cu(100)表面に吸着したメタン分子とメタノールの2つの異なるデータセットに対するアプローチを評価した。
論文参考訳（メタデータ） (2024-03-26T09:09:40Z)
Simulation-Enhanced Data Augmentation for Machine Learning Pathloss Prediction [9.664420734674088]
本稿では,機械学習パスロス予測のための新しいシミュレーション強化データ拡張手法を提案する。本手法は,細胞被覆シミュレータから生成した合成データと,独立して収集した実世界のデータセットを統合する。合成データの統合は、異なる環境におけるモデルの一般化可能性を大幅に向上させる。
論文参考訳（メタデータ） (2024-02-03T00:38:08Z)
Filling the Missing: Exploring Generative AI for Enhanced Federated Learning over Heterogeneous Mobile Edge Devices [72.61177465035031]
ローカルデータのFIMI(FIlling the MIssing)部分を活用することにより,これらの課題に対処する,AIを活用した創発的なフェデレーション学習を提案する。実験の結果,FIMIはデバイス側エネルギーの最大50%を節約し,目標とするグローバルテスト精度を達成できることがわかった。
論文参考訳（メタデータ） (2023-10-21T12:07:04Z)
Electronic Structure Prediction of Multi-million Atom Systems Through Uncertainty Quantification Enabled Transfer Learning [5.4875371069660925]
基底状態電子密度 -- コーン・シャム密度汎関数理論(KS-DFT)シミュレーションで得られる -- は、豊富な物質情報を含んでいる。しかし、KS-DFTの計算コストは、トレーニングデータ生成を妨害する傾向にあるシステムサイズと3倍にスケールする。ここでは,この基本的課題に,移動学習を用いて学習データのマルチスケールな性質を活用する。
論文参考訳（メタデータ） (2023-08-24T21:41:29Z)
To Repeat or Not To Repeat: Insights from Scaling LLM under Token-Crisis [50.31589712761807]
大規模言語モデル(LLM)は、事前トレーニング中にトークンに悩まされていることで知られており、Web上の高品質なテキストデータは、LSMのスケーリング制限に近づいている。本研究では,事前学習データの再学習の結果について検討し,モデルが過度に適合する可能性が示唆された。第2に, マルチエポック劣化の原因となる要因について検討し, データセットのサイズ, モデルパラメータ, トレーニング目標など, 重要な要因について検討した。
論文参考訳（メタデータ） (2023-05-22T17:02:15Z)
Pre-training via Denoising for Molecular Property Prediction [53.409242538744444]
本稿では,3次元分子構造の大規模データセットを平衡に利用した事前学習手法について述べる。近年のノイズレギュラー化の進展に触発されて, 事前学習の目的は, 雑音の除去に基づくものである。
論文参考訳（メタデータ） (2022-05-31T22:28:34Z)
Pseudo-Spherical Contrastive Divergence [119.28384561517292]
エネルギーベースモデルの最大学習確率を一般化するために,擬球面コントラスト分散(PS-CD)を提案する。 PS-CDは難解な分割関数を避け、学習目的の一般化されたファミリーを提供する。
論文参考訳（メタデータ） (2021-11-01T09:17:15Z)
BIGDML: Towards Exact Machine Learning Force Fields for Materials [55.944221055171276]
機械学習力場(MLFF)は正確で、計算的で、データ効率が良く、分子、材料、およびそれらのインターフェースに適用できなければならない。ここでは、Bravais-Inspired Gradient-Domain Machine Learningアプローチを導入し、わずか10-200原子のトレーニングセットを用いて、信頼性の高い力場を構築する能力を実証する。
論文参考訳（メタデータ） (2021-06-08T10:14:57Z)
Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。分散による離散乗法雑音のパラメータによく現れることを示す。最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文参考訳（メタデータ） (2020-06-11T09:58:01Z)
Automated discovery of a robust interatomic potential for aluminum [4.6028828826414925]
機械学習(ML)ベースのポテンシャルは、量子力学(QM)計算の忠実なエミュレーションを、計算コストを大幅に削減することを目的としている。アクティブラーニング(AL)の原理を用いたデータセット構築のための高度に自動化されたアプローチを提案する。アルミニウム(ANI-Al)のMLポテンシャル構築によるこのアプローチの実証転写性を示すために、1.3M原子衝撃シミュレーションを行い、非平衡力学から採取した局所原子環境上でのDFT計算とANI-Al予測がよく一致することを示す。
論文参考訳（メタデータ） (2020-03-10T19:06:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。