論文の概要: LTAU-FF: Loss Trajectory Analysis for Uncertainty in Atomistic Force
Fields
- arxiv url: http://arxiv.org/abs/2402.00853v1
- Date: Thu, 1 Feb 2024 18:50:42 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-02 13:48:33.951483
- Title: LTAU-FF: Loss Trajectory Analysis for Uncertainty in Atomistic Force
Fields
- Title(参考訳): LTAU-FF:原子間力場の不確かさの損失軌道解析
- Authors: Joshua A. Vita, Amit Samanta, Fei Zhou, Vincenzo Lordi
- Abstract要約: モデルアンサンブルを効率的に表現するために,トレーニング中に得られたサンプルごとの誤差の累積分布関数(CDF)を利用する。
LTAUと呼ばれる単純なUQメトリックを開発し、トレーニングや推論で複数のモデルの評価を必要とせず、アンサンブルベースの技法の強みを活用する。
- 参考スコア(独自算出の注目度): 5.895479908315789
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Model ensembles are simple and effective tools for estimating the prediction
uncertainty of deep learning atomistic force fields. Despite this, widespread
adoption of ensemble-based uncertainty quantification (UQ) techniques is
limited by the high computational costs incurred by ensembles during both
training and inference. In this work we leverage the cumulative distribution
functions (CDFs) of per-sample errors obtained over the course of training to
efficiently represent the model ensemble, and couple them with a distance-based
similarity search in the model latent space. Using these tools, we develop a
simple UQ metric (which we call LTAU) that leverages the strengths of
ensemble-based techniques without requiring the evaluation of multiple models
during either training or inference. As an initial test, we apply our method
towards estimating the epistemic uncertainty in atomistic force fields
(LTAU-FF) and demonstrate that it can be easily calibrated to accurately
predict test errors on multiple datasets from the literature. We then
illustrate the utility of LTAU-FF in two practical applications: 1) tuning the
training-validation gap for an example dataset, and 2) predicting errors in
relaxation trajectories on the OC20 IS2RS task. Though in this work we focus on
the use of LTAU with deep learning atomistic force fields, we emphasize that it
can be readily applied to any regression task, or any ensemble-generation
technique, to provide a reliable and easy-to-implement UQ metric.
- Abstract(参考訳): モデルアンサンブルは、深層学習原子間力場の予測不確実性を推定するためのシンプルで効果的なツールである。
これにもかかわらず、アンサンブルベースの不確実性定量化(UQ)技術の普及は、トレーニングと推論の両方においてアンサンブルによって引き起こされる高い計算コストによって制限される。
本研究では,学習過程で得られたサンプル単位誤差の累積分布関数(cdfs)を利用して,モデルのアンサンブルを効率的に表現し,モデルの潜在空間における距離に基づく類似性探索と結合する。
これらのツールを用いることで、トレーニングや推論において複数のモデルの評価を必要とせず、アンサンブルベースの技法の強みを活用するシンプルなUQメトリック(LTAUと呼ぶ)を開発する。
初期実験として, 本手法を用いて原子間力場(ltau-ff)における認識的不確かさを推定し, 文献から複数のデータセットにおけるテスト誤差を正確に予測できることを示す。
次に、LTAU-FFの実用性について説明する。
1)サンプルデータセットのトレーニング検証ギャップを調整し、
2) OC20 IS2RSタスクにおける緩和軌道誤差の予測
本研究は,LTAUを深層学習原子力場に応用することに焦点を当てるが,どの回帰タスクやアンサンブル生成技術にも容易に適用でき,信頼性と実装が容易なUQ指標を提供できることを強調する。
関連論文リスト
- Error-Driven Uncertainty Aware Training [7.702016079410588]
Error-Driven Uncertainty Aware Trainingは、ニューラル分類器が不確実性を正確に推定する能力を高めることを目的としている。
EUATアプローチは、モデルのトレーニングフェーズ中に、トレーニング例が正しく予測されているか、あるいは正しく予測されているかによって、2つの損失関数を選択的に使用することによって機能する。
画像認識領域における多様なニューラルモデルとデータセットを用いてEUATを評価する。
論文 参考訳(メタデータ) (2024-05-02T11:48:14Z) - Ensemble models outperform single model uncertainties and predictions
for operator-learning of hypersonic flows [43.148818844265236]
限られた高忠実度データに基づく科学機械学習(SciML)モデルのトレーニングは、これまで見たことのない状況に対する行動の迅速な予測に1つのアプローチを提供する。
高忠実度データは、探索されていない入力空間におけるSciMLモデルのすべての出力を検証するために、それ自体が限られた量である。
我々は3つの異なる不確実性メカニズムを用いてDeepONetを拡張した。
論文 参考訳(メタデータ) (2023-10-31T18:07:29Z) - B-Learner: Quasi-Oracle Bounds on Heterogeneous Causal Effects Under
Hidden Confounding [51.74479522965712]
本稿では,B-Learnerと呼ばれるメタラーナーを提案する。
我々は、その推定が有効で、鋭く、効率的であることを証明し、既存の方法よりも一般的な条件下で構成推定器に対して準オーラル特性を持つことを示した。
論文 参考訳(メタデータ) (2023-04-20T18:07:19Z) - Active learning for structural reliability analysis with multiple limit
state functions through variance-enhanced PC-Kriging surrogate models [0.0]
既存のサロゲートモデルをトレーニングするためのアクティブな戦略は、正確な構造的信頼度を推定する。
本研究は,限られた計算予算の下で学習サンプルを効率的に選択するための能動的学習手法の能力について検討する。
論文 参考訳(メタデータ) (2023-02-23T15:01:06Z) - Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。
本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。
本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
論文 参考訳(メタデータ) (2022-01-11T23:01:12Z) - Tight Mutual Information Estimation With Contrastive Fenchel-Legendre
Optimization [69.07420650261649]
我々はFLOと呼ばれる新しい,シンプルで強力なコントラストMI推定器を提案する。
実証的に、我々のFLO推定器は前者の限界を克服し、より効率的に学習する。
FLOの有効性は、広範囲なベンチマークを用いて検証され、実際のMI推定におけるトレードオフも明らかにされる。
論文 参考訳(メタデータ) (2021-07-02T15:20:41Z) - A Theoretical-Empirical Approach to Estimating Sample Complexity of DNNs [11.152761263415046]
本稿では,深層ニューラルネットワーク(DNN)のトレーニングデータ量と一般化誤差のスケールについて考察する。
我々は、ディープネットワークに保持され、到達不能な容量尺度に依存しない一般化誤差の推定を導出する。
論文 参考訳(メタデータ) (2021-05-05T05:14:08Z) - Machine learning for causal inference: on the use of cross-fit
estimators [77.34726150561087]
より優れた統計特性を得るために、二重ローバストなクロスフィット推定器が提案されている。
平均因果効果(ACE)に対する複数の推定器の性能評価のためのシミュレーション研究を行った。
機械学習で使用する場合、二重確率のクロスフィット推定器は、バイアス、分散、信頼区間のカバレッジで他のすべての推定器よりも大幅に優れていた。
論文 参考訳(メタデータ) (2020-04-21T23:09:55Z) - Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。
我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
論文 参考訳(メタデータ) (2020-03-04T12:27:36Z) - Localized Debiased Machine Learning: Efficient Inference on Quantile
Treatment Effects and Beyond [69.83813153444115]
因果推論における(局所)量子化処理効果((L)QTE)の効率的な推定式を検討する。
Debiased Machine Learning (DML)は、高次元のニュアンスを推定するデータ分割手法である。
本稿では、この負担のかかるステップを避けるために、局所的脱バイアス機械学習(LDML)を提案する。
論文 参考訳(メタデータ) (2019-12-30T14:42:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。