論文の概要: Multi-Fidelity Training Reshapes Uncertainty Decomposition in Atomistic Models
- arxiv url: http://arxiv.org/abs/2610.35560v2
- Date: Tue, 27 Oct 2026 09:31:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.363556
- Title: Multi-Fidelity Training Reshapes Uncertainty Decomposition in Atomistic Models
- Title(参考訳): 原子論モデルにおける不確実性分解のマルチフィデリティトレーニング
- Abstract要約: マルチフィデリティトレーニングは、豊富な低フィデリティデータと少ない高フィデリティラベルを組み合わせる。
事前学習は予測誤差を低減し、全てのテストセットにおける不確実性に基づくランキングを改善する。
また,マルチフィデリティ微調整により,スクラッチから高フィデリティトレーニングを行うよりも,より効果的な不確実性ベースの獲得機能が得られることも見いだした。
- 参考スコア(独自算出の注目度): 18.436862471072477
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-fidelity training, which combines abundant low-fidelity data with scarce high-fidelity labels, is increasingly common in atomistic modeling, but its effect on predictive uncertainty remains largely unexplored. We investigate this question using deep ensembles of mean-variance MACE models trained on ANI-1x, contrasting high-fidelity training from scratch with low-fidelity pretraining followed by fine-tuning. We characterize aleatoric, epistemic, and total uncertainty throughout training and under two distribution shifts: unseen molecular systems and higher-energy configurations. We find that pretraining reduces prediction error and improves uncertainty-based ranking across all test sets, but does not yield well-calibrated predictive variances; calibration deteriorates more severely under energy extrapolation. Training-dynamics analysis localizes most of this calibration degradation to high-fidelity optimization, during which the learned aleatoric variance becomes overconfident on held-out data. Moreover, multi-fidelity fine-tuning produces a more effective uncertainty-based acquisition function than high-fidelity training from scratch. These findings show that uncertainty ranking and calibration capture distinct properties and must be assessed separately in multi-fidelity atomistic models, especially under extrapolation.
- Abstract(参考訳): 豊富な低忠実度データと希少な高忠実度ラベルを組み合わせた多忠実度トレーニングは、原子モデルではますます一般的になっているが、予測の不確実性に対するその影響は未解明のままである。
本研究では,ANI-1xで学習した平均分散MACEモデルの深層アンサンブルを用いて,高忠実度トレーニングと低忠実度プレトレーニング,微調整とを比較した。
我々は, 未確認分子系と高エネルギー構成の2つの分布シフトの下で, トレーニングを通じて, 総不確実性, てんかん, 総不確かさを特徴付ける。
予備学習は, 予測誤差を低減し, 全てのテストセットにおける不確実性に基づくランキングを改善するが, キャリブレーションがエネルギー外挿により著しく低下するので, 精度のよい予測分散は得られない。
トレーニング力学解析は、このキャリブレーションのほとんどを高忠実度最適化にローカライズする。
さらに、多要素微調整は、スクラッチから高忠実度トレーニングを行うよりも、より効果的な不確実性ベースの取得関数を生成する。
これらの結果は,不確実性ランキングとキャリブレーションが異なる特性を捉えることを示し,特に外挿下では,多面体原子モデルで別々に評価する必要があることを示唆している。
関連論文リスト
- Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2026-05-05T14:48:52Z) - Mitigating the Multiplicity Burden: The Role of Calibration in Reducing Predictive Multiplicity of Classifiers [0.0]
本稿では,分類校正と予測乗算の相互作用について検討する。
マイノリティクラスの観察は、不均等な多種多様性の重荷を負う。
ポストホックキャリブレーション法の適用は、ラショモン集合全体の低視認性と関連している。
論文 参考訳(メタデータ) (2026-03-12T09:54:07Z) - Uncertainty Awareness on Unsupervised Domain Adaptation for Time Series Data [49.36938105983916]
教師なし領域適応法は、ラベルのないテストデータに効果的に一般化しようとする。
本稿では,ドメイン間の一般化とロバスト性を改善するために,マルチスケールの特徴抽出と不確実性推定を導入することを提案する。
論文 参考訳(メタデータ) (2025-08-26T03:13:08Z) - Enhancing Robust Fairness via Confusional Spectral Regularization [6.041034366572273]
PAC-Bayesian フレームワーク内の最悪のクラスにおけるロバストなエラーに対して、ロバストな一般化を導出する。
本稿では,最低級のロバストな精度を向上し,ロバストな公正性を向上する新たな正則化手法を提案する。
論文 参考訳(メタデータ) (2025-01-22T23:32:19Z) - Generative Conformal Prediction with Vectorized Non-Conformity Scores [6.059745771017814]
コンフォーマル予測は、保証されたカバレッジでモデルに依存しない不確実性定量化を提供する。
ベクトル化された非整合性スコアを持つ生成共形予測フレームワークを提案する。
我々は密度ランクの不確かさ球を用いた適応不確かさ集合を構築する。
論文 参考訳(メタデータ) (2024-10-17T16:37:03Z) - Selective Learning: Towards Robust Calibration with Dynamic Regularization [79.92633587914659]
ディープラーニングにおけるミススキャリブレーションとは、予測された信頼とパフォーマンスの間には相違がある、という意味である。
トレーニング中に何を学ぶべきかを学ぶことを目的とした動的正規化(DReg)を導入し、信頼度調整のトレードオフを回避する。
論文 参考訳(メタデータ) (2024-02-13T11:25:20Z) - Graph Neural Network Interatomic Potential Ensembles with Calibrated
Aleatoric and Epistemic Uncertainty on Energy and Forces [9.378581265532006]
本稿では,エネルギーと力の正確な予測を行うために,グラフニューラルネットワークアンサンブルモデルのトレーニングと再構成のための完全なフレームワークを提案する。
提案手法は, てんかんとアラート的不確実性の両方を考慮し, 全不確実性はホック後に再検討する。
予測性能と不確実性校正の詳細な解析を行う。
論文 参考訳(メタデータ) (2023-05-10T13:03:06Z) - Learning Sample Difficulty from Pre-trained Models for Reliable
Prediction [55.77136037458667]
本稿では,大規模事前学習モデルを用いて,サンプル難易度を考慮したエントロピー正規化による下流モデルトレーニングを指導する。
我々は、挑戦的なベンチマークで精度と不確実性の校正を同時に改善する。
論文 参考訳(メタデータ) (2023-04-20T07:29:23Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳(メタデータ) (2021-11-11T14:28:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。