論文の概要: Pretrained Model Representations as Acquisition Signals for Active Learning of MLIPs

• arxiv url: http://arxiv.org/abs/2605.03964v1
• Date: Tue, 05 May 2026 16:48:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-06 19:35:44.045333
• Title: Pretrained Model Representations as Acquisition Signals for Active Learning of MLIPs
• Title（参考訳）: MLIPの能動的学習のための獲得信号としての事前学習モデル表現
• Authors: Eszter Varga-Umbrich, Shikha Surana, Paul Duckworth, Jules Tilly, Olivier Peltre, Zachary Weller-Davies,
• Abstract要約: 本稿では,事前学習したMLIPの潜伏空間に,効果的な取得に必要な情報が含まれているかを検討する。 我々は、事前訓練されたMACE電位から直接引き起こされる2つの取得信号を紹介する。 この結果から,事前学習は遅延空間形状とモデル誤差とを一致させ,反応MLIP微調整のための実用的かつ十分な取得信号が得られることが示唆された。
• 参考スコア（独自算出の注目度）: 4.4406458484306555
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Training machine learning interatomic potentials (MLIPs) for reactive chemistry is often bottlenecked by the high cost of quantum chemical labels and the scarcity of transition state configurations in candidate pools. Active learning (AL) can mitigate these costs, but its effectiveness hinges on the acquisition rule. We investigate whether the latent space of a pretrained MLIP already contains the information necessary for effective acquisition, eliminating the need for auxiliary uncertainty heads, Bayesian training and fine-tuning, or committee ensembles. We introduce two acquisition signals derived directly from a pretrained MACE potential: a finite-width neural tangent kernel (NTK) and an activation kernel built from hidden latent space features. On reactive-chemistry benchmarks, both kernels consistently outperform fixed-descriptor baselines, committee disagreement, and random acquisition, reducing the data required to reach performance targets by an average of 38% for energy error and 28% for force error. We further show that the pretrained model induces similarity spaces that preserve chemically meaningful structure and provide more reliable residual uncertainty estimates than randomly initialised or fixed-descriptor-based kernels. Our results suggest that pretraining aligns latent-space geometry with model error, yielding a practical and sufficient acquisition signal for reactive MLIP fine-tuning.
• Abstract（参考訳）: 反応化学のための機械学習原子間ポテンシャル(MLIP)の訓練は、しばしば量子化学ラベルの高コストと、候補プールにおける遷移状態構成の不足によってボトルネックとなる。 アクティブラーニング(AL)はこれらのコストを軽減することができるが、その有効性は取得ルールに依存している。 事前訓練されたMLIPの潜伏空間には、有効な取得に必要な情報が含まれており、補助的な不確実性ヘッド、ベイズ訓練、微調整、委員会アンサンブルの必要性を排除している。 我々は、事前訓練されたMACE電位から直接、有限幅のニューラルタンジェントカーネル(NTK)と、隠れた潜在空間の特徴から構築されたアクティベーションカーネルという2つの取得信号を導入する。 反応化学ベンチマークでは、両カーネルは固定ディスクリプタベースライン、委員会不一致、ランダムな取得を一貫して上回り、エネルギーエラーで平均38%、強制エラーで28%の精度でパフォーマンス目標に到達するために必要なデータを削減した。 さらに, 事前学習モデルにより, 化学的に有意な構造を保ち, ランダムな初期化や固定ディスクリプタベースのカーネルよりも信頼性の高い不確実性推定を行う類似性空間が生じることを示す。 この結果から,事前学習は遅延空間形状とモデル誤差とを一致させ,反応MLIP微調整のための実用的かつ十分な取得信号が得られることが示唆された。

関連論文リスト

• daVinci-LLM:Towards the Science of Pretraining [58.6458452580545]
  daVinci-LLMは、産業規模の資源と完全な研究自由を組み合わせて、事前訓練の科学を前進させる。 完全なデータ処理パイプライン、完全なトレーニングプロセス、体系的な調査結果をリリースしています。
  論文  参考訳（メタデータ） (2026-03-28T07:00:49Z)
• Activation-Space Uncertainty Quantification for Pretrained Networks [2.001149416674759]
  本稿では,ベイズモデリングをウェイトからアクティベーションにシフトさせるポストホック法であるガウス過程活性化(GAPA)を紹介する。 GAPAは標準的な非線形性を、後部平均が元のアクティベーションと正確に一致するアクティベーションに置き換え、構築によるバックボーンのポイント予測を保存する。 現代のアーキテクチャにスケールするために、キャッシュされたトレーニングアクティベーションに対するスパース変分誘導点近似と、ローカルk-アレスト近傍条件の組み合わせを用いる。
  論文  参考訳（メタデータ） (2026-02-16T17:17:08Z)
• RADAR: Revealing Asymmetric Development of Abilities in MLLM Pre-training [59.493415006017635]
  事前訓練されたマルチモーダル大言語モデル(MLLM)は、ポストトレーニングのための知識豊富な基盤を提供する。 現在の評価は、厳格な追加トレーニングと自己回帰的復号コストを導入する、教師付き微調整後のテストに依存している。 MLLM pRe トレーニングにおける非対称性向上のための効率的な能力中心評価フレームワーク RADAR を提案する。
  論文  参考訳（メタデータ） (2026-02-13T12:56:31Z)
• Equivariant Evidential Deep Learning for Interatomic Potentials [55.6997213490859]
  不確かさの定量化は、分子動力学シミュレーションにおける機械学習の原子間ポテンシャルの信頼性を評価するために重要である。 既存のMLIPのUQアプローチは、高い計算コストや準最適性能によって制限されることが多い。 我々は,原子間ポテンシャルの定量的深層学習(texte2$IP)を提案する。
  論文  参考訳（メタデータ） (2026-02-11T02:00:25Z)
• Estimating Dense-Packed Zone Height in Liquid-Liquid Separation: A Physics-Informed Neural Network Approach [35.66975292316149]
  重力開拓地における液体-液体分散の分離は、化学、医薬品、リサイクルプロセスにおいて重要である。 密集したゾーンの高さは重要な性能と安全性の指標であるが、しばしば高価であり、測定することができない。 安価な体積流量測定のみを用いて位相高さを推定することを提案する。
  論文  参考訳（メタデータ） (2026-01-26T11:57:28Z)
• A Semi-supervised Molecular Learning Framework for Activity Cliff Estimation [10.640733919289643]
  そこで本研究では,SemiMolと呼ばれる新しい半教師付き学習手法を提案する。 SemiMolは、後続のトレーニングに擬似信号として、多くの無注釈データに対する予測を使用する。 また,SemiMolはグラフベースのMLアーキテクチャを大幅に強化し,最先端の事前トレーニングやSSLベースラインを克服することを示す。
  論文  参考訳（メタデータ） (2026-01-08T02:20:25Z)
• Toward Understanding BERT-Like Pre-Training for DNA Foundation Models [78.48760388079523]
  既存のDNA配列の事前訓練方法は、NLPからのBERT事前訓練の直接的な採用に依存している。 マスク境界を連続的に拡張することにより,BERTライクな事前学習作業の難易度を徐々に向上させるRandomMaskという新しい手法を提案する。 RandomMaskは、マシューのエピジェネティック・マーク・予測の相関係数の68.16%を突破し、ベースラインの19.85%を突破した。
  論文  参考訳（メタデータ） (2023-10-11T16:40:57Z)
• Unifying supervised learning and VAEs -- coverage, systematics and goodness-of-fit in normalizing-flow based neural network models for astro-particle reconstructions [0.0]
  統計的不確実性、包括性、体系的不確実性、あるいは適度な尺度はしばしば計算されない。 データとラベルの共分散のKL分割の目的は、教師付き学習と変分オートエンコーダの統合を可能にすることを示す。 本稿では,特定の「基本順序」輪郭の数値積分を伴わずにカバレッジ確率を計算する方法について論じる。
  論文  参考訳（メタデータ） (2020-08-13T11:28:57Z)
• Revisiting Initialization of Neural Networks [72.24615341588846]
  ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。 Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
  論文  参考訳（メタデータ） (2020-04-20T18:12:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。