論文の概要: Single-model uncertainty quantification in neural network potentials
does not consistently outperform model ensembles
- arxiv url: http://arxiv.org/abs/2305.01754v1
- Date: Tue, 2 May 2023 19:41:17 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-04 16:37:27.706876
- Title: Single-model uncertainty quantification in neural network potentials
does not consistently outperform model ensembles
- Title（参考訳）: ニューラルネットワークポテンシャルにおける単一モデル不確かさの定量化は、一貫してモデルアンサンブルを上回るものではない
- Authors: Aik Rui Tan, Shingo Urata, Samuel Goldman, Johannes C.B. Dietschreit
and Rafael G\'omez-Bombarelli
- Abstract要約: ニューラルネットワーク(NN)は、遠く離れた地点であっても、予測に高い信頼性を割り当てることが多い。
不確かさ定量化(英: Uncertainty Quantification、UQ)は、物質系における原子間ポテンシャルのモデル化に使用されるときの課題である。
異なるUQ技術は、新しい情報データを見つけ、堅牢なポテンシャルのためにアクティブな学習ループを駆動することができる。
- 参考スコア（独自算出の注目度）: 0.7499722271664145
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural networks (NNs) often assign high confidence to their predictions, even
for points far out-of-distribution, making uncertainty quantification (UQ) a
challenge. When they are employed to model interatomic potentials in materials
systems, this problem leads to unphysical structures that disrupt simulations,
or to biased statistics and dynamics that do not reflect the true physics.
Differentiable UQ techniques can find new informative data and drive active
learning loops for robust potentials. However, a variety of UQ techniques,
including newly developed ones, exist for atomistic simulations and there are
no clear guidelines for which are most effective or suitable for a given case.
In this work, we examine multiple UQ schemes for improving the robustness of NN
interatomic potentials (NNIPs) through active learning. In particular, we
compare incumbent ensemble-based methods against strategies that use single,
deterministic NNs: mean-variance estimation, deep evidential regression, and
Gaussian mixture models. We explore three datasets ranging from in-domain
interpolative learning to more extrapolative out-of-domain generalization
challenges: rMD17, ammonia inversion, and bulk silica glass. Performance is
measured across multiple metrics relating model error to uncertainty. Our
experiments show that none of the methods consistently outperformed each other
across the various metrics. Ensembling remained better at generalization and
for NNIP robustness; MVE only proved effective for in-domain interpolation,
while GMM was better out-of-domain; and evidential regression, despite its
promise, was not the preferable alternative in any of the cases. More broadly,
cost-effective, single deterministic models cannot yet consistently match or
outperform ensembling for uncertainty quantification in NNIPs.
- Abstract（参考訳）: ニューラルネットワーク(NN)はしばしば予測に高い信頼度を割り当てるが、分布の極端な点であっても、不確実な定量化(UQ)が課題となる。
物質系の原子間ポテンシャルをモデル化するために用いられる場合、この問題はシミュレーションを混乱させる非物理的構造や、真の物理学を反映しない偏りのある統計や力学に繋がる。
異なるUQ技術は、新しい情報データを見つけ、堅牢なポテンシャルのためにアクティブな学習ループを駆動することができる。
しかし、新たに開発されたものを含む様々なUQ技術が原子論シミュレーションのために存在し、特定のケースに最も効果的または適した明確なガイドラインは存在しない。
本研究では,NN間ポテンシャル(NNIP)の能動的学習による堅牢性向上のための複数のUQスキームについて検討する。
特に,1つの決定論的NNを用いた戦略に対する既存アンサンブル法(平均分散推定,深部明度回帰,ガウス混合モデル)を比較した。
我々は、ドメイン内補間学習から、rmd17、アンモニアインバージョン、バルクシリカガラスというドメイン外一般化の課題まで、3つのデータセットを調査した。
パフォーマンスはモデルエラーと不確実性に関連する複数のメトリクスにわたって測定される。
実験の結果,いずれの手法も様々な指標で常に優れていなかったことがわかった。
mveはドメイン内補間にのみ有効であることを証明したが、gmmはドメイン外補間の方が優れており、証拠的回帰は、その約束にもかかわらず、いずれのケースでも望ましい選択肢ではなかった。
より広範に、コスト効率のよい単一決定論的モデルは、NNIPにおける不確実な定量化のために、一貫して一致したり、性能を向上することができない。
関連論文リスト
- Solving Inverse Problems with Model Mismatch using Untrained Neural Networks within Model-based Architectures [14.551812310439004]
モデルベースアーキテクチャでは,各インスタンスの計測領域におけるデータの一貫性を一致させるために,トレーニングされていないフォワードモデル残差ブロックを導入する。
提案手法は,パラメータ感受性が低く,追加データを必要としない統一解を提供し,前方モデルの同時適用と1パスの再構成を可能にする。
論文 参考訳（メタデータ） (2024-03-07T19:02:13Z) - DiffHybrid-UQ: Uncertainty Quantification for Differentiable Hybrid
Neural Modeling [4.76185521514135]
本稿では,ハイブリッドニューラル微分可能モデルにおける有効かつ効率的な不確実性伝播と推定のための新しい手法DiffHybrid-UQを提案する。
具体的には,データノイズとてんかんの不確かさから生じるアレタリック不確かさと,モデル形状の相違やデータ空間のばらつきから生じるエピステマティック不確かさの両方を効果的に識別し,定量化する。
論文 参考訳（メタデータ） (2023-12-30T07:40:47Z) - Uncertainty Quantification in Multivariable Regression for Material Property Prediction with Bayesian Neural Networks [37.69303106863453]
物理インフォームドBNNにおける不確実性定量化(UQ)のアプローチを提案する。
本稿では, 鋼のクリープ破断寿命を予測するためのケーススタディを提案する。
クリープ寿命予測の最も有望なフレームワークは、マルコフ・チェイン・モンテカルロによるネットワークパラメータの後方分布の近似に基づくBNNである。
論文 参考訳（メタデータ） (2023-11-04T19:40:16Z) - MISNN: Multiple Imputation via Semi-parametric Neural Networks [9.594714330925703]
バイオメディカル・ソーシャル・エコノメトリー研究において、多重計算(Multiple Imputation, MI)は、欠落した価値問題に広く応用されている。
提案するMISNNは,MIの特徴選択を取り入れた,新規で効率的なアルゴリズムである。
論文 参考訳（メタデータ） (2023-05-02T21:45:36Z) - Learning Low Dimensional State Spaces with Overparameterized Recurrent
Neural Nets [57.06026574261203]
我々は、長期記憶をモデル化できる低次元状態空間を学習するための理論的証拠を提供する。
実験は、線形RNNと非線形RNNの両方で低次元状態空間を学習することで、我々の理論を裏付けるものである。
論文 参考訳（メタデータ） (2022-10-25T14:45:15Z) - A Free Lunch with Influence Functions? Improving Neural Network
Estimates with Concepts from Semiparametric Statistics [41.99023989695363]
ニューラルネットワークや機械学習アルゴリズムの改善に使用される半パラメトリック理論の可能性を探る。
本稿では,単一アーキテクチャを用いてアンサンブルの柔軟性と多様性を求めるニューラルネットワーク手法であるMultiNetを提案する。
論文 参考訳（メタデータ） (2022-02-18T09:35:51Z) - Uncertainty Modeling for Out-of-Distribution Generalization [56.957731893992495]
特徴統計を適切に操作することで、ディープラーニングモデルの一般化能力を向上させることができると論じる。
一般的な手法では、特徴統計を学習した特徴から測定された決定論的値とみなすことが多い。
我々は、学習中に合成された特徴統計を用いて、領域シフトの不確かさをモデル化することにより、ネットワークの一般化能力を向上させる。
論文 参考訳（メタデータ） (2022-02-08T16:09:12Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳（メタデータ） (2021-11-11T14:28:12Z) - Post-mortem on a deep learning contest: a Simpson's paradox and the
complementary roles of scale metrics versus shape metrics [61.49826776409194]
我々は、ニューラルネットワーク(NN)モデルの一般化精度を予測するために、コンテストで公に利用可能にされたモデルのコーパスを分析する。
メトリクスが全体としてよく機能するが、データのサブパーティションではあまり機能しない。
本稿では,データに依存しない2つの新しい形状指標と,一連のNNのテスト精度の傾向を予測できるデータ依存指標を提案する。
論文 参考訳（メタデータ） (2021-06-01T19:19:49Z) - Attribute-Guided Adversarial Training for Robustness to Natural
Perturbations [64.35805267250682]
本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。
我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
論文 参考訳（メタデータ） (2020-12-03T10:17:30Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳（メタデータ） (2020-07-02T17:55:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。