論文の概要: Allegro-Legato: Scalable, Fast, and Robust Neural-Network Quantum Molecular Dynamics via Sharpness-Aware Minimization

• arxiv url: http://arxiv.org/abs/2303.08169v1
• Date: Tue, 14 Mar 2023 18:36:44 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-16 18:34:48.785551
• Title: Allegro-Legato: Scalable, Fast, and Robust Neural-Network Quantum Molecular Dynamics via Sharpness-Aware Minimization
• Title（参考訳）: Allegro-Legato: シャープネス認識最小化によるスケーラブルで高速でロバストなニューラルネットワーク量子分子動力学
• Authors: Hikaru Ibayashi, Taufeq Mohammed Razakh, Liqiu Yang, Thomas Linker, Marco Olguin, Shinnosuke Hattori, Ye Luo, Rajiv K. Kalia, Aiichiro Nakano, Ken-ichi Nomura, and Priya Vashishta
• Abstract要約: ニューラルネットワーク量子分子動力学(NNQMD)シミュレーションは、量子力学の精度を提供するが、より高速な秩序を与えることにより、物質の原子論的シミュレーションに革命をもたらしている。 回転同値と局所記述子を含む群論に基づく最先端(SOTA)NNQMDモデルは、これらのモデルよりもはるかに精度と速度を提供しており、Alregro(高速という意味)と名付けられた。 しかし、超並列スーパーコンピュータでは、原子間力の非物理的予測の数が増加し、より多くの原子が長期間にわたって関与するシミュレーションが禁止される、忠実スケーリング問題に悩まされている。 我が家
• 参考スコア（独自算出の注目度）: 1.8431330466822737
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural-network quantum molecular dynamics (NNQMD) simulations based on machine learning are revolutionizing atomistic simulations of materials by providing quantum-mechanical accuracy but orders-of-magnitude faster, illustrated by ACM Gordon Bell prize (2020) and finalist (2021). State-of-the-art (SOTA) NNQMD model founded on group theory featuring rotational equivariance and local descriptors has provided much higher accuracy and speed than those models, thus named Allegro (meaning fast). On massively parallel supercomputers, however, it suffers a fidelity-scaling problem, where growing number of unphysical predictions of interatomic forces prohibits simulations involving larger numbers of atoms for longer times. Here, we solve this problem by combining the Allegro model with sharpness aware minimization (SAM) for enhancing the robustness of model through improved smoothness of the loss landscape. The resulting Allegro-Legato (meaning fast and "smooth") model was shown to elongate the time-to-failure $t_\textrm{failure}$, without sacrificing computational speed or accuracy. Specifically, Allegro-Legato exhibits much weaker dependence of timei-to-failure on the problem size, $t_{\textrm{failure}} \propto N^{-0.14}$ ($N$ is the number of atoms) compared to the SOTA Allegro model $\left(t_{\textrm{failure}} \propto N^{-0.29}\right)$, i.e., systematically delayed time-to-failure, thus allowing much larger and longer NNQMD simulations without failure. The model also exhibits excellent computational scalability and GPU acceleration on the Polaris supercomputer at Argonne Leadership Computing Facility. Such scalable, accurate, fast and robust NNQMD models will likely find broad applications in NNQMD simulations on emerging exaflop/s computers, with a specific example of accounting for nuclear quantum effects in the dynamics of ammonia.
• Abstract（参考訳）: 機械学習に基づくニューラルネットワーク量子分子動力学(nnqmd)シミュレーションは、量子力学的正確性を提供するが、マグニチュードのオーダーは速く、acm gordon bell prize (2020) と finalist (2021) によって示されている。 回転同値と局所記述子を含む群論に基づく最先端(SOTA)NNQMDモデルはこれらのモデルよりもはるかに精度と速度を提供しており、Alregro(高速)と名付けられた。 しかし、超並列スーパーコンピュータでは、原子間力の非物理的予測の数が増加し、より多くの原子が長期間にわたって関与するシミュレーションが禁止される、忠実スケーリング問題に悩まされている。 本稿では,allegroモデルとシャープネス認識最小化(sam)を組み合わせることで,損失景観の滑らかさを改善することにより,モデルのロバスト性を向上させる。 結果として得られたallegro-legatoモデルは、計算速度や精度を犠牲にすることなく、時間から失敗までの$t_\textrm{failure}$を刺激することを示した。 特に、allegro-legato は問題サイズに対する timei-to-failure のより弱い依存を示す: $t_{\textrm{failure}} \propto n^{-0.14}$ (n$ is the number of atoms) sota allegro モデル $\left(t_{\textrm{failure}} \propto n^{-0.29}\right)$,すなわち系統的にタイム・トゥ・フェイルを遅らせる。 このモデルは、Argonne Leadership Computing FacilityのPolarisスーパーコンピュータ上で、優れた計算スケーラビリティとGPUアクセラレーションを示す。 このようなスケーラブルで正確で高速で堅牢なnnqmdモデルは、アンモニアの動力学における核量子効果を考慮に入れて、新興のexaflop/sコンピュータのnnqmdシミュレーションに広く応用される可能性が高い。

関連論文リスト

• NeuralStagger: accelerating physics-constrained neural PDE solver with spatial-temporal decomposition [67.46012350241969]
  本稿では,NeuralStaggerと呼ばれる一般化手法を提案する。 元の学習タスクをいくつかの粗い解像度のサブタスクに分解する。 本稿では,2次元および3次元流体力学シミュレーションにおけるNeuralStaggerの適用例を示す。
  論文  参考訳（メタデータ） (2023-02-20T19:36:52Z)
• Towards Neural Variational Monte Carlo That Scales Linearly with System Size [67.09349921751341]
  量子多体問題(Quantum many-body problem)は、例えば高温超伝導体のようなエキゾチックな量子現象をデミストする中心である。 量子状態を表すニューラルネットワーク(NN)と変分モンテカルロ(VMC)アルゴリズムの組み合わせは、そのような問題を解決する上で有望な方法であることが示されている。 ベクトル量子化技術を用いて,VMCアルゴリズムの局所エネルギー計算における冗長性を利用するNNアーキテクチャVector-Quantized Neural Quantum States (VQ-NQS)を提案する。
  論文  参考訳（メタデータ） (2022-12-21T19:00:04Z)
• Accelerating Numerical Solvers for Large-Scale Simulation of Dynamical System via NeurVec [72.4317023379049]
  我々は,NeurVecが,ステップサイズがはるかに大きい従来の解法と同等の精度で実現できることを示す。 我々は,高次元問題からカオスシステムまで,ベンチマーク問題に関する結果から,NeurVecが先行するエラー項を捕捉できる可能性が示唆された。
  論文  参考訳（メタデータ） (2022-08-07T09:02:18Z)
• MemSE: Fast MSE Prediction for Noisy Memristor-Based DNN Accelerators [5.553959304125023]
  我々は,行列ベクトル乗算(MVM)を計算するためにmemristorを用いたDNNの平均二乗誤差を理論的に解析する。 DNNモデルのサイズを小さくする必要性から量子化ノイズと、中間値のプログラミングにおける可変性から生じるプログラミングノイズの両方を考慮に入れている。 提案手法はモンテカルロシミュレーションよりも約2桁高速であり, 与えられた電力制約に対して最小限の誤差を達成するために, 実装パラメータを最適化することができる。
  論文  参考訳（メタデータ） (2022-05-03T18:10:43Z)
• Interfacing Finite Elements with Deep Neural Operators for Fast Multiscale Modeling of Mechanics Problems [4.280301926296439]
  本研究では,機械学習を用いたマルチスケールモデリングのアイデアを探求し,高コストソルバの効率的なサロゲートとしてニューラル演算子DeepONetを用いる。 DeepONetは、きめ細かい解法から取得したデータを使って、基礎とおそらく未知のスケールのダイナミクスを学習してオフラインでトレーニングされている。 精度とスピードアップを評価するための様々なベンチマークを提示し、特に時間依存問題に対する結合アルゴリズムを開発する。
  論文  参考訳（メタデータ） (2022-02-25T20:46:08Z)
• Decompositional Quantum Graph Neural Network [64.88906673698436]
  本稿では,DQGNN(Decompositional Quantum Graph Neural Network)と呼ばれるグラフ構造化データに対する新しいハイブリッド量子古典アルゴリズムを提案する。 DQGNNはテンソル積とユニタリ行列表現を用いてGNN理論フレームワークを実装し、モデルパラメータの数を大幅に削減する。 このアーキテクチャは、現実世界のデータからヒルベルト空間への新しいマッピングに基づいている。
  論文  参考訳（メタデータ） (2022-01-13T16:35:45Z)
• Learning Large-Time-Step Molecular Dynamics with Graph Neural Networks [14.388196138756195]
  グラフニューラルネットワーク(GNN)に基づくモデルMDNetを導入し、座標と運動量の進化を大きな時間ステップで予測する。 4000原子系におけるMDNetの性能を実測し, MDNetが良好な平衡特性と輸送特性を予測可能であることを示す。
  論文  参考訳（メタデータ） (2021-11-30T07:32:39Z)
• ForceNet: A Graph Neural Network for Large-Scale Quantum Calculations [86.41674945012369]
  スケーラブルで表現力のあるグラフニューラルネットワークモデルであるForceNetを開発し、原子力を近似します。 提案したForceNetは、最先端の物理ベースのGNNよりも正確に原子力を予測することができる。
  論文  参考訳（メタデータ） (2021-03-02T03:09:06Z)
• Learning to Simulate Complex Physics with Graph Networks [68.43901833812448]
  本稿では,機械学習のフレームワークとモデルの実装について紹介する。 グラフネットワーク・ベース・シミュレータ(GNS)と呼ばれる我々のフレームワークは、グラフ内のノードとして表現された粒子で物理系の状態を表現し、学習されたメッセージパスによって動的を計算します。 我々のモデルは,訓練中に数千の粒子による1段階の予測から,異なる初期条件,数千の時間ステップ,少なくとも1桁以上の粒子をテスト時に一般化できることを示す。
  論文  参考訳（メタデータ） (2020-02-21T16:44:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。