論文の概要: Adversarial Attacks on Uncertainty Enable Active Learning for Neural
Network Potentials
- arxiv url: http://arxiv.org/abs/2101.11588v2
- Date: Mon, 1 Feb 2021 01:03:38 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-13 19:32:38.196330
- Title: Adversarial Attacks on Uncertainty Enable Active Learning for Neural
Network Potentials
- Title(参考訳): ニューラルネットワークポテンシャルのアクティブラーニングを可能にする不確実性に対する敵対的攻撃
- Authors: Daniel Schwalbe-Koda, Aik Rui Tan, Rafael G\'omez-Bombarelli
- Abstract要約: 我々は新しい分子ジオメトリとブートストラップnnポテンシャルをサンプリングするために、微分可能な不確実性メトリックを持つ敵攻撃を用いる。
アクティブな学習ループと組み合わせることで、NN電位の外挿能力は、元のトレーニングデータを超えて向上する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural network (NN)-based interatomic potentials provide fast prediction of
potential energy surfaces with the accuracy of electronic structure methods.
However, NN predictions are only reliable within well-learned training domains,
with unknown behavior when extrapolating. Uncertainty quantification through NN
committees identify domains with low prediction confidence, but thoroughly
exploring the configuration space for training NN potentials often requires
slow atomistic simulations. Here, we employ adversarial attacks with a
differentiable uncertainty metric to sample new molecular geometries and
bootstrap NN potentials. In combination with an active learning loop, the
extrapolation power of NN potentials is improved beyond the original training
data with few additional samples. The framework is demonstrated on multiple
examples, leading to better sampling of kinetic barriers and collective
variables without extensive prior data on the relevant geometries. Adversarial
attacks are new ways to simultaneously sample the phase space and bootstrap NN
potentials, increasing their robustness and enabling a faster, accurate
prediction of potential energy landscapes.
- Abstract(参考訳): ニューラルネットワーク(NN)ベースの原子間電位は、電子構造法の精度でポテンシャルエネルギー表面を迅速に予測する。
しかし、NN予測は十分に学習された訓練領域内でのみ信頼性があり、外挿時の未知の挙動を持つ。
NN委員会による不確実性定量化は、予測信頼度が低いドメインを特定するが、NNポテンシャルをトレーニングするための設定空間を徹底的に探索するには、しばしば遅い原子論シミュレーションが必要である。
ここでは,新しい分子ジオメトリとブートストラップnnポテンシャルをサンプリングするために,異種不確実性指標を用いた敵対的攻撃を用いる。
アクティブ学習ループと組み合わせることで、NNポテンシャルの補間力は、追加のサンプルが少ない元のトレーニングデータを超えて改善されます。
このフレームワークは複数の例で実証され、関連するジオメトリに関する広範な事前データなしで、運動障壁と集合変数のより良いサンプリングにつながります。
敵攻撃は、位相空間とブートストラップNN電位を同時にサンプリングし、その堅牢性を高め、ポテンシャルエネルギー景観のより高速で正確な予測を可能にする新しい方法である。
関連論文リスト
- Scaling Model Checking for DNN Analysis via State-Space Reduction and
Input Segmentation (Extended Version) [12.272381003294026]
既存のフレームワークは、トレーニングされたNNに対して堅牢性と/または安全性を保証する。
我々は、広範囲のNNプロパティを分析するための最初のモデルチェックベースのフレームワークであるFANNetを提案した。
本研究は,形式的NN解析のスケーラビリティとタイミング効率を向上させるために,状態空間の削減と入力セグメント化手法を開発する。
論文 参考訳(メタデータ) (2023-06-29T22:18:07Z) - Single-model uncertainty quantification in neural network potentials
does not consistently outperform model ensembles [0.7499722271664145]
ニューラルネットワーク(NN)は、遠く離れた地点であっても、予測に高い信頼性を割り当てることが多い。
不確かさ定量化(英: Uncertainty Quantification、UQ)は、物質系における原子間ポテンシャルのモデル化に使用されるときの課題である。
異なるUQ技術は、新しい情報データを見つけ、堅牢なポテンシャルのためにアクティブな学習ループを駆動することができる。
論文 参考訳(メタデータ) (2023-05-02T19:41:17Z) - Interpretable Self-Aware Neural Networks for Robust Trajectory
Prediction [50.79827516897913]
本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。
実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-11-16T06:28:20Z) - Learning Low Dimensional State Spaces with Overparameterized Recurrent
Neural Nets [57.06026574261203]
我々は、長期記憶をモデル化できる低次元状態空間を学習するための理論的証拠を提供する。
実験は、線形RNNと非線形RNNの両方で低次元状態空間を学習することで、我々の理論を裏付けるものである。
論文 参考訳(メタデータ) (2022-10-25T14:45:15Z) - Posterior Regularized Bayesian Neural Network Incorporating Soft and
Hard Knowledge Constraints [12.050265348673078]
本稿では,異なる種類の知識制約を組み込んだ後正規化ベイズニューラルネットワーク(PR-BNN)モデルを提案する。
航空機着陸予測と太陽エネルギー出力予測のシミュレーション実験と2つのケーススタディにより,提案モデルの知識制約と性能改善が示された。
論文 参考訳(メタデータ) (2022-10-16T18:58:50Z) - Backward Reachability Analysis of Neural Feedback Loops: Techniques for
Linear and Nonlinear Systems [59.57462129637796]
本稿では,ニューラルネットワークを用いた閉ループシステムの安全性検証のための後方到達性アプローチを提案する。
フィードバックループにおけるNNの存在は、その活性化関数の非線形性や、NNモデルは一般に可逆的ではないため、ユニークな問題セットを示す。
フィードフォワードNNで表される制御ポリシを持つ線形系と非線形系のBP過近似を計算するためのフレームワークを提案する。
論文 参考訳(メタデータ) (2022-09-28T13:17:28Z) - Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a
Polynomial Net Study [55.12108376616355]
NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。
本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。
我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
論文 参考訳(メタデータ) (2022-09-16T06:36:06Z) - Can pruning improve certified robustness of neural networks? [106.03070538582222]
ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。
実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。
さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
論文 参考訳(メタデータ) (2022-06-15T05:48:51Z) - Leveraging Stochastic Predictions of Bayesian Neural Networks for Fluid
Simulations [19.961746770975534]
流体シミュレーションにおけるベイズニューラルネットワーク(BNN)の非決定論的予測による不確実性推定と多モード性について検討する。
定常流体流予測の代理モデルとして用いる場合,BNNは精度の高い物理予測を行い,不確実性の推定を行う。
我々はNavier-Stokesシミュレーションの摂動時間列を実験し、BNNのマルチモーダル進化を捉える能力を評価する。
論文 参考訳(メタデータ) (2022-05-02T21:34:52Z) - Entropy-Based Modeling for Estimating Soft Errors Impact on Binarized
Neural Network Inference [2.249916681499244]
本稿では,SEU(Single-event upset)とMBU(Multi-bit upset)の影響を階層間および選択した畳み込みニューラルネットワークの各層で明らかにする比較的正確な統計モデルを提案する。
これらのモデルは、安全クリティカルなアプリケーションで採用する前に、NNトポロジのエラー-レジリエンスのマグニチュードを評価するために使用できる。
論文 参考訳(メタデータ) (2020-04-10T16:10:24Z) - Phase Detection with Neural Networks: Interpreting the Black Box [58.720142291102135]
ニューラルネットワーク(NN)は通常、予測の背後にある推論に対する洞察を妨げます。
本研究では,1次元拡張スピンレスFermi-Hubbardモデルの位相を半充足で予測するために,NNのブラックボックスをいかに影響関数が解き放つかを示す。
論文 参考訳(メタデータ) (2020-04-09T17:45:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。