論文の概要: Towards a Foundation Model for Neural Network Wavefunctions
- arxiv url: http://arxiv.org/abs/2303.09949v1
- Date: Fri, 17 Mar 2023 16:03:10 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-20 14:33:35.769367
- Title: Towards a Foundation Model for Neural Network Wavefunctions
- Title(参考訳): ニューラルネットワーク波動関数の基礎モデルに向けて
- Authors: Michael Scherbela, Leon Gerard, Philipp Grohs
- Abstract要約: 本稿では,非相関で計算コストの低いHartree-Fock軌道を相関した高精度ニューラルネットワーク軌道にマッピングするニューラルネットワークアンサッツを提案する。
このアンザッツは本質的に複数の化合物とジオメトリーにわたる単一波動関数を学習することができる。
- 参考スコア(独自算出の注目度): 5.145741425164946
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks have become a highly accurate and powerful wavefunction
ansatz in combination with variational Monte Carlo methods for solving the
electronic Schr\"odinger equation. However, despite their success and favorable
scaling, these methods are still computationally too costly for wide adoption.
A significant obstacle is the requirement to optimize the wavefunction from
scratch for each new system, thus requiring long optimization. In this work, we
propose a novel neural network ansatz, which effectively maps uncorrelated,
computationally cheap Hartree-Fock orbitals, to correlated, high-accuracy
neural network orbitals. This ansatz is inherently capable of learning a single
wavefunction across multiple compounds and geometries, as we demonstrate by
successfully transferring a wavefunction model pre-trained on smaller fragments
to larger compounds. Furthermore, we provide ample experimental evidence to
support the idea that extensive pre-training of a such a generalized
wavefunction model across different compounds and geometries could lead to a
foundation wavefunction model. Such a model could yield high-accuracy ab-initio
energies using only minimal computational effort for fine-tuning and evaluation
of observables.
- Abstract(参考訳): 深部ニューラルネットワークは、電子的シュリンガー方程式を解くための変分モンテカルロ法と組み合わせて、非常に正確で強力な波動関数アンサッツとなった。
しかし、その成功と優れたスケーリングにもかかわらず、これらの手法は広く採用するには計算コストがかかりすぎる。
重要な障害は、新しいシステムのスクラッチから波動関数を最適化する必要があるため、長い最適化が必要であることである。
本研究では,非相関で計算コストの低いHartree-Fock軌道を相関した高精度ニューラルネットワーク軌道に効果的にマッピングするニューラルネットワークアンサッツを提案する。
このアンザッツは、複数の化合物とジオメトリーにまたがる単一波動関数を学習することが可能であり、より小さなフラグメント上で事前訓練された波動関数モデルをより大きな化合物に転送することに成功した。
さらに、このような一般化波動関数モデルの様々な化合物およびジオメトリーにわたる広範な事前学習が基礎波動関数モデルに繋がる可能性を支持するための十分な実験的な証拠を提供する。
このようなモデルは、可観測性の微調整と評価に最小限の計算労力しか使わず、高精度のab-initioエネルギーを得ることができる。
関連論文リスト
- Neural Pfaffians: Solving Many Many-Electron Schrödinger Equations [58.130170155147205]
神経波関数は、計算コストが高いにもかかわらず、多電子系の基底状態の近似において前例のない精度を達成した。
近年の研究では、個々の問題を個別に解くのではなく、様々な構造や化合物にまたがる一般化波動関数を学習することでコストを下げることが提案されている。
この研究は、分子間の一般化に適した過度にパラメータ化され、完全に学習可能なニューラルウェーブ関数を定義することで、この問題に取り組む。
論文 参考訳(メタデータ) (2024-05-23T16:30:51Z) - Physics-informed neural wavefields with Gabor basis functions [4.07926531936425]
本稿では,ニューラルネットワークのウェーブフィールド解の効率性と精度を高める手法を提案する。
具体的には、ヘルムホルツ方程式に対して、最後の隠れ層を構成するGabor層で完全に連結されたニューラルネットワークモデルを拡張する。
ガボル関数のこれらの/係数は、非線形活性化関数を含む以前の隠れ層から学習される。
論文 参考訳(メタデータ) (2023-10-16T17:30:33Z) - Ab-Initio Potential Energy Surfaces by Pairing GNNs with Neural Wave
Functions [2.61072980439312]
本研究では、グラフニューラルネットワーク(GNN)とニューラルウェーブ関数を組み合わせることで、VMCを介して複数の測地に対するシュル「オーディンガー方程式」を同時に解く。
既存の最先端ネットワークと比較して、私たちのポテンシャルエネルギーサーフェスネットワーク(PESNet)は、複数のジオメトリーのトレーニングを最大40倍スピードアップし、その精度をマッチングまたは超過します。
論文 参考訳(メタデータ) (2021-10-11T07:58:31Z) - Autoregressive neural-network wavefunctions for ab initio quantum
chemistry [3.5987961950527287]
新しい自己回帰型ニューラルネットワーク(ARN)による電子波動関数のパラメータ化
これにより、最大30個のスピン軌道を持つ分子上で電子構造計算を行うことができる。
論文 参考訳(メタデータ) (2021-09-26T13:44:41Z) - Autoencoder-driven Spiral Representation Learning for Gravitational Wave
Surrogate Modelling [47.081318079190595]
オートエンコーダを用いた経験的係数における基礎構造の存在について検討する。
ニューラルネットワークの第一層として使用される学習可能なパラメータを持つスパイラルモジュールを設計し,入力空間を係数にマッピングする方法を学習する。
スパイラルモジュールは複数のニューラルネットワークアーキテクチャ上で評価され、ベースラインモデルよりも一貫して速度-精度のトレードオフを実現している。
論文 参考訳(メタデータ) (2021-07-09T09:03:08Z) - Solving the electronic Schr\"odinger equation for multiple nuclear
geometries with weight-sharing deep neural networks [4.1201966507589995]
本稿では,異なる分子ジオメトリに対するニューラルネットワークモデル最適化において,重み共有制約を導入する。
この手法は、同じ分子の核ジオメトリの集合を等級で考えることで最適化を加速することができる。
論文 参考訳(メタデータ) (2021-05-18T08:23:09Z) - Variational Monte Carlo calculations of $\mathbf{A\leq 4}$ nuclei with
an artificial neural-network correlator ansatz [62.997667081978825]
光核の基底状態波動関数をモデル化するためのニューラルネットワーク量子状態アンサッツを導入する。
我々は、Aleq 4$核の結合エネルギーと点核密度を、上位のピオンレス実効場理論から生じるものとして計算する。
論文 参考訳(メタデータ) (2020-07-28T14:52:28Z) - Measuring Model Complexity of Neural Networks with Curve Activation
Functions [100.98319505253797]
本稿では,線形近似ニューラルネットワーク(LANN)を提案する。
ニューラルネットワークのトレーニングプロセスを実験的に検討し、オーバーフィッティングを検出する。
我々は、$L1$と$L2$正規化がモデルの複雑さの増加を抑制することを発見した。
論文 参考訳(メタデータ) (2020-06-16T07:38:06Z) - Flexible Transmitter Network [84.90891046882213]
現在のニューラルネットワークはMPモデルに基づいて構築されており、通常はニューロンを他のニューロンから受信した信号の実際の重み付け集約上での活性化関数の実行として定式化する。
本稿では,フレキシブル・トランスミッタ(FT)モデルを提案する。
本稿では、最も一般的な完全接続型フィードフォワードアーキテクチャ上に構築された、フレキシブルトランスミッタネットワーク(FTNet)について述べる。
論文 参考訳(メタデータ) (2020-04-08T06:55:12Z) - Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。
このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる
このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
論文 参考訳(メタデータ) (2020-03-13T13:11:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。