論文の概要: Provable Convergence of Variational Monte Carlo Methods
- arxiv url: http://arxiv.org/abs/2303.10599v1
- Date: Sun, 19 Mar 2023 08:29:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-21 18:23:09.355967
- Title: Provable Convergence of Variational Monte Carlo Methods
- Title(参考訳): 変分モンテカルロ法の証明可能な収束
- Authors: Tianyou Li, Fan Chen, Huajie Chen and Zaiwen Wen
- Abstract要約: 変分モンテカルロは、多体量子問題の基底状態エネルギーを計算するための有望なアプローチである。
VMCの最近のパラダイムは、実験波動関数としてニューラルネットワークを構築し、マルコフ連鎖モンテカルロ(MCMC)を用いたサンプル量子構成と勾配降下(SGD)法によるトレーニングニューラルネットワークを構築している。
VMCはサドルポイントから脱出し、$(epsilon,epsilon1/4)$-approximate 2次定常ポイントまたは少なくとも$O(epsilon-11/2log2 (1)で$(epsilon,epsilon1/4)$-epsilon1/2$-varianceポイントに達することが示されている。
- 参考スコア(独自算出の注目度): 4.889891507509606
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Variational Monte Carlo (VMC) is a promising approach for computing the
ground state energy of many-body quantum problems and attracts more and more
interests due to the development of machine learning. The recent paradigms in
VMC construct neural networks as trial wave functions, sample quantum
configurations using Markov chain Monte Carlo (MCMC) and train neural networks
with stochastic gradient descent (SGD) method. However, the theoretical
convergence of VMC is still unknown when SGD interacts with MCMC sampling given
a well-designed trial wave function. Since MCMC reduces the difficulty of
estimating gradients, it has inevitable bias in practice. Moreover, the local
energy may be unbounded, which makes it harder to analyze the error of MCMC
sampling. Therefore, we assume that the local energy is sub-exponential and use
the Bernstein inequality for non-stationary Markov chains to derive error
bounds of the MCMC estimator. Consequently, VMC is proven to have a first order
convergence rate $O(\log K/\sqrt{n K})$ with $K$ iterations and a sample size
$n$. It partially explains how MCMC influences the behavior of SGD.
Furthermore, we verify the so-called correlated negative curvature condition
and relate it to the zero-variance phenomena in solving eigenvalue functions.
It is shown that VMC escapes from saddle points and reaches
$(\epsilon,\epsilon^{1/4})$ -approximate second order stationary points or
$\epsilon^{1/2}$-variance points in at least
$O(\epsilon^{-11/2}\log^{2}(1/\epsilon) )$ steps with high probability. Our
analysis enriches the understanding of how VMC converges efficiently and can be
applied to general variational methods in physics and statistics.
- Abstract(参考訳): 変分モンテカルロ(VMC)は、多体量子問題の基底状態エネルギーを計算するための有望なアプローチであり、機械学習の開発によりますます関心を集めている。
VMCの最近のパラダイムは、実験波動関数としてニューラルネットワークを構築し、マルコフ連鎖モンテカルロ(MCMC)を用いたサンプル量子構成と確率勾配降下(SGD)法によるトレーニングニューラルネットワークを構築している。
しかし、sgdがよく設計された試行波関数を与えられたmcmcサンプリングと相互作用するとき、vmcの理論的収束はまだ不明である。
MCMCは勾配推定の難しさを減らすため、実際には避けられない偏見を持つ。
さらに、局所エネルギーは非有界であり、MCMCサンプリングの誤差を分析するのが難しくなる。
したがって、局所エネルギーは部分指数であり、非定常マルコフ鎖に対してベルンシュタイン不等式を用いてMCMC推定器の誤差境界を導出する。
したがって、VMC は 1 次収束率 $O(\log K/\sqrt{n K})$ と $K$ の反復とサンプルサイズ $n$ を持つことが証明されている。
MCMCがSGDの挙動にどのように影響するかを部分的に説明している。
さらに,いわゆる相関負曲率条件を検証し,固有値関数の解法におけるゼロ分散現象と関連づける。
VMC はサドル点から脱出して $(\epsilon,\epsilon^{1/4})$ -approximate 2次定常点または $\epsilon^{1/2}$-variance points in least $O(\epsilon^{-11/2}\log^{2}(1/\epsilon))$ steps with high probability に達する。
我々の分析は,VMCの収束の方法の理解を深め,物理学や統計学における一般的な変分法に適用することができる。
関連論文リスト
- Wasserstein Quantum Monte Carlo: A Novel Approach for Solving the
Quantum Many-Body Schr\"odinger Equation [56.9919517199927]
ワーッセルシュタイン量子モンテカルロ (WQMC) はフィッシャー・ラオ計量ではなくワーッセルシュタイン計量によって誘導される勾配流を用いており、テレポートではなく確率質量の輸送に対応する。
我々は、WQMCの力学が分子系の基底状態へのより高速な収束をもたらすことを実証的に実証した。
論文 参考訳(メタデータ) (2023-07-06T17:54:08Z) - Reverse Diffusion Monte Carlo [19.35592726471155]
逆拡散モンテカルロ(rdMC)と呼ばれる新しいモンテカルロサンプリングアルゴリズムを提案する。
rdMCはマルコフ連鎖モンテカルロ(MCMC)法とは異なる。
論文 参考訳(メタデータ) (2023-07-05T05:42:03Z) - When does Metropolized Hamiltonian Monte Carlo provably outperform
Metropolis-adjusted Langevin algorithm? [4.657614491309671]
本研究では, 磁化ハミルトン・モンテカルロ (HMC) と跳躍フロッグ積分器の混合時間について解析した。
連続HMC力学の離散化における位置と速度変数の結合分布は, ほぼ不変であることを示す。
論文 参考訳(メタデータ) (2023-04-10T17:35:57Z) - Variational Inference for Neyman-Scott Processes [1.4467794332678536]
Neyman-Scottプロセス(NSP)は、クラスタ階層のモデルポイントや時間イベントに、さまざまな分野に適用されている。
NSPに対する第1変分推論 (VI) アルゴリズムを開発し、適切な変分後点過程分布の2つの例を示す。
論文 参考訳(メタデータ) (2023-03-07T07:32:10Z) - Knowledge Removal in Sampling-based Bayesian Inference [86.14397783398711]
単一のデータ削除要求が来ると、企業は大量のリソースで学んだモデル全体を削除する必要があるかもしれない。
既存の研究は、明示的にパラメータ化されたモデルのためにデータから学んだ知識を取り除く方法を提案する。
本稿では,MCMCのための機械学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-03-24T10:03:01Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Overcoming barriers to scalability in variational quantum Monte Carlo [6.41594296153579]
変分量子モンテカルロ法(VQMC)は、多体量子系に固有の次元の呪いを克服する能力により、近年注目されている。
VQMCと変分量子アルゴリズムのハイブリッド量子古典計算パラダイムの間には、近接した並列性が存在する。
論文 参考訳(メタデータ) (2021-06-24T20:36:50Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - MCMC-Interactive Variational Inference [56.58416764959414]
本稿では, MCMC-interactive variational inference (MIVI) を提案し, 後部を時間制約で推定する。
MIVIは変分推論とMCMCの相補的特性を利用して相互改善を促進する。
実験により、MIVIは後部を正確に近似するだけでなく、勾配MCMCとギブスサンプリング遷移の設計を容易にすることが示された。
論文 参考訳(メタデータ) (2020-10-02T17:43:20Z) - Non-convex Learning via Replica Exchange Stochastic Gradient MCMC [25.47669573608621]
本稿では,適応的複製交換SGMCMC(reSGMCMC)を提案し,バイアスを自動的に補正し,対応する特性について検討する。
実験では,様々な設定の広範囲な実験を通じてアルゴリズムを検証し,その結果を得た。
論文 参考訳(メタデータ) (2020-08-12T15:02:59Z) - Sample Complexity of Asynchronous Q-Learning: Sharper Analysis and
Variance Reduction [63.41789556777387]
非同期Q-ラーニングはマルコフ決定過程(MDP)の最適行動値関数(またはQ-関数)を学習することを目的としている。
Q-関数の入出力$varepsilon$-正確な推定に必要なサンプルの数は、少なくとも$frac1mu_min (1-gamma)5varepsilon2+ fract_mixmu_min (1-gamma)$の順である。
論文 参考訳(メタデータ) (2020-06-04T17:51:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。