論文の概要: Robust and Interpretable Adaptation of Equivariant Materials Foundation Models via Sparsity-promoting Fine-tuning
- arxiv url: http://arxiv.org/abs/2606.18691v1
- Date: Wed, 17 Jun 2026 05:10:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-18 17:16:51.01176
- Title: Robust and Interpretable Adaptation of Equivariant Materials Foundation Models via Sparsity-promoting Fine-tuning
- Title(参考訳): 疎性促進ファインチューニングによる同変材料基礎モデルのロバストかつ解釈可能な適応
- Authors: Youngwoo Cho, Seunghoon Yi, Wooil Yang, Sungmo Kang, Young-woo Son, Jaegul Choo, Joonseok Lee, Soo Kyung Kim, Hongkee Yoon,
- Abstract要約: そこで本研究では,モデルパラメータを選択的に更新するスポーシティ・プロモーティング・ファインチューニング手法を提案する。
エネルギーおよび力の予測タスクにおいて、本手法は完全な微調整および等変低ランク適応に適合するか、超越する。
本研究は, 同種材料基盤モデルのドメイン特殊化のためのフレキシブルかつ解釈可能な手法として, 疎性促進ファインタニングを確立した。
- 参考スコア(独自算出の注目度): 48.04423567569116
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Pre-trained materials foundation models, or machine learning interatomic potentials, leverage general physicochemical knowledge to effectively approximate potential energy surfaces. However, they often require domain-specific calibration due to physicochemical diversity as well as mismatches between practical computational settings and those used in constructing the pre-training data. To address this, we propose a sparsity-promoting fine-tuning method that selectively updates model parameters by exploiting the structural properties of E(3)-equivariant materials foundation models. On energy and force prediction tasks across molecular and crystalline benchmarks, our method matches or surpasses full fine-tuning and equivariant low-rank adaptation while updating only $\sim$3~\% of parameters, and in some cases as little as $\sim$0.5~\%. Beyond energy and force calibration, we further demonstrate task generalizability by applying our method to magnetic moment prediction and magnetism-aware total energy modeling. Finally, analysis of sparsity patterns reveals physically interpretable signatures, such as enhanced $d$-orbital contributions in transition metal systems. Overall, our results establish sparsity-promoting fine-tuning as a flexible and interpretable method for domain specialization of equivariant materials foundation models.
- Abstract(参考訳): 事前訓練された材料基盤モデル(機械学習の原子間ポテンシャル)は、一般的な物理化学的知識を利用してポテンシャルエネルギー表面を効果的に近似する。
しかし、それらは物理化学的多様性によるドメイン固有のキャリブレーションや、実際の計算設定と事前学習データの構築に使用されるデータとのミスマッチを必要とすることが多い。
そこで本研究では,E(3)-等価材料基盤モデルの構造特性を利用して,モデルパラメータを選択的に更新するスポーシティ・プロモーティング・ファインチューニング手法を提案する。
分子および結晶のベンチマークにおけるエネルギーおよび力の予測タスクについて、我々の手法はパラメータの$\sim$3~\%しか更新せず、場合によっては$\sim$0.5~\%程度しか更新することなく、完全な微調整および同変の低ランク適応に一致または超える。
エネルギーと力のキャリブレーション以外にも,磁気モーメント予測や磁力を考慮した全エネルギーモデリングに本手法を適用し,タスクの一般化性を示す。
最後に、スパーシティパターンの解析により、遷移金属系における$d$-orbitalの寄与の強化など、物理的に解釈可能なシグネチャが明らかにされる。
全体として,同変材料基礎モデルのドメイン特殊化のためのフレキシブルかつ解釈可能な手法として,スペーサ性促進ファインタニングが確立されている。
関連論文リスト
- Zatom-1: A Multimodal Flow Foundation Model for 3D Molecules and Materials [51.342983349686556]
汎用的な3Dケミカルモデリングは分子や材料を含み、生成能力と予測能力の両方を必要とする。
Zatom-1は、3D分子や材料の生成的および予測的学習を統一する、エンド・ツー・エンドの完全なオープンソース基盤モデルである。
論文 参考訳(メタデータ) (2026-02-24T20:52:39Z) - Equivariant Evidential Deep Learning for Interatomic Potentials [55.6997213490859]
不確かさの定量化は、分子動力学シミュレーションにおける機械学習の原子間ポテンシャルの信頼性を評価するために重要である。
既存のMLIPのUQアプローチは、高い計算コストや準最適性能によって制限されることが多い。
我々は,原子間ポテンシャルの定量的深層学習(texte2$IP)を提案する。
論文 参考訳(メタデータ) (2026-02-11T02:00:25Z) - Why Physics Still Matters: Improving Machine Learning Prediction of Material Properties with Phonon-Informed Datasets [0.32622301272834514]
2種類のデータセットに対して学習したグラフニューラルネットワーク(GNN)モデルの有効性を評価する。
ケーススタディでは,光電子材料の原型ファミリーの電子的および機械的特性を予測するという課題に対処する。
フォノンインフォームドモデルは、データポイントが少ないにもかかわらず、ランダムに訓練されたモデルよりも一貫して優れています。
論文 参考訳(メタデータ) (2025-11-19T08:16:10Z) - Foundation Models for Discovery and Exploration in Chemical Space [57.97784111110166]
MISTは、大規模なラベルなしデータセットに基づいて訓練された分子基盤モデルのファミリーである。
我々は、これらのモデルが化学空間をまたいだ現実世界の問題を解決する能力を実証する。
論文 参考訳(メタデータ) (2025-10-20T17:56:01Z) - Migration as a Probe: A Generalizable Benchmark Framework for Specialist vs. Generalist Machine-Learned Force Fields [1.572216094651749]
機械学習力場(MLFF)は、分子動力学スケールでのアブ初期レベルの精度を実現することによって、計算材料科学を変革している。
研究者たちは、スペシャリストモデルをスクラッチから訓練するか、ファウンデーショナリストのファンデーションモデルを使うべきか、ハイブリッドアプローチを使うべきか?
本稿では, 弾性バンドトラジェクトリを用いて診断プローブとして評価する, 欠陥マイグレーション経路を用いたベンチマークフレームワークを提案する。
微調整モデルでは、運動特性に対するゼロショットおよびゼロショットのアプローチよりも大幅に優れるが、長距離物理学の部分的な損失を示す。
論文 参考訳(メタデータ) (2025-08-27T13:24:41Z) - A Materials Foundation Model via Hybrid Invariant-Equivariant Architectures [53.273077346444886]
機械学習の原子間ポテンシャル(MLIP)は材料のエネルギー、力、ストレスを予測する。
MLIPにおける重要な設計選択は、不変アーキテクチャと同変アーキテクチャのトレードオフである。
HIENetは、不変層と同変層の両方を統合した、ハイブリッド不変・同変物質間ポテンシャルモデルである。
論文 参考訳(メタデータ) (2025-02-25T18:01:05Z) - Targeting the partition function of chemically disordered materials with a generative approach based on inverse variational autoencoders [0.0]
そこで本研究では,生成機械学習を用いて特性評価を行う手法を提案する。
本手法では,エンコーダとデコーダの逆の役割を持つ特定の種類の変分オートエンコーダを用いる。
本稿では, (U, Pu)O2混合酸化物燃料における点欠陥生成エネルギーと濃度の計算によるアプローチについて述べる。
論文 参考訳(メタデータ) (2024-08-27T10:05:37Z) - Multi-task learning for electronic structure to predict and explore
molecular potential energy surfaces [39.228041052681526]
我々はOrbNetモデルを洗練し、分子のエネルギー、力、その他の応答特性を正確に予測する。
このモデルは、すべての電子構造項に対する解析的勾配の導出により、エンドツーエンドで微分可能である。
ドメイン固有の特徴を用いることにより、化学空間をまたいで移動可能であることが示されている。
論文 参考訳(メタデータ) (2020-11-05T06:48:46Z) - Wavelet Scattering Networks for Atomistic Systems with Extrapolation of
Material Properties [7.555136209115944]
物質科学における機械学習の夢は、モデルが原子系の基礎となる物理学を学ぶことである。
本研究では、トレーニングセットに含まれていないプロパティに対する$textLi_alphatextSi$ Energy predictorの一般化性をテストする。
論文 参考訳(メタデータ) (2020-06-01T20:36:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。