論文の概要: Optimizing Temperature Distributions for Training Neural Quantum States using Parallel Tempering
- arxiv url: http://arxiv.org/abs/2410.23018v2
- Date: Wed, 20 Nov 2024 03:28:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-21 16:10:28.377458
- Title: Optimizing Temperature Distributions for Training Neural Quantum States using Parallel Tempering
- Title(参考訳): 並列テンパリングを用いたニューラル量子状態の学習のための最適温度分布
- Authors: Conor Smith, Quinn T. Campbell, Tameem Albash,
- Abstract要約: 温度最適化は変分アルゴリズムの成功率を大幅に向上させることができることを示す。
我々はこれを、制限されたボルツマンマシンとフィードフォワードネットワークという2つの異なるニューラルネットワークを用いて実証する。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Parameterized artificial neural networks (ANNs) can be very expressive ansatzes for variational algorithms, reaching state-of-the-art energies on many quantum many-body Hamiltonians. Nevertheless, the training of the ANN can be slow and stymied by the presence of local minima in the parameter landscape. One approach to mitigate this issue is to use parallel tempering methods, and in this work we focus on the role played by the temperature distribution of the parallel tempering replicas. Using an adaptive method that adjusts the temperatures in order to equate the exchange probability between neighboring replicas, we show that this temperature optimization can significantly increase the success rate of the variational algorithm with negligible computational cost by eliminating bottlenecks in the replicas' random walk. We demonstrate this using two different neural networks, a restricted Boltzmann machine and a feedforward network, which we use to study a toy problem based on a permutation invariant Hamiltonian with a pernicious local minimum and the J1-J2 model on a rectangular lattice.
- Abstract(参考訳): パラメータ化人工ニューラルネットワーク(ANN)は変分アルゴリズムに対して非常に表現力に富み、多くの量子多体ハミルトニアンの最先端エネルギーに達する。
それでも、ANNのトレーニングは、パラメータのランドスケープに局所的なミニマの存在によって遅く、スタイマイズされる可能性がある。
この問題を緩和するための1つのアプローチは、並列テンパリング法を使用することであり、本研究では、並列テンパリングレプリカの温度分布が果たす役割に焦点を当てる。
近隣のレプリカ間の交換確率を等化するために温度を調整する適応的手法を用いて, この温度最適化は, レプリカのランダムウォークにおけるボトルネックを排除し, 計算コストを無視して, 変分アルゴリズムの成功率を大幅に向上させることができることを示す。
我々はこれを2つの異なるニューラルネットワーク、制限されたボルツマンマシンとフィードフォワードネットワークを用いて実証し、これは長方形格子上の悪質な局所最小値を持つ置換不変なハミルトン多様体とJ1-J2モデルに基づく玩具問題の研究に使用する。
関連論文リスト
- An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳(メタデータ) (2023-06-10T08:25:16Z) - A Stable and Scalable Method for Solving Initial Value PDEs with Neural
Networks [52.5899851000193]
我々は,ネットワークの条件が悪くなるのを防止し,パラメータ数で時間線形に動作するODEベースのIPPソルバを開発した。
このアプローチに基づく現在の手法は2つの重要な問題に悩まされていることを示す。
まず、ODEに従うと、問題の条件付けにおいて制御不能な成長が生じ、最終的に許容できないほど大きな数値誤差が生じる。
論文 参考訳(メタデータ) (2023-04-28T17:28:18Z) - Isometric tensor network representations of two-dimensional thermal
states [0.0]
我々は最近導入されたテンソルネットワーク状態のクラスを用いて、横場イジングモデルの熱状態を表す。
このアプローチは、有限温度における状態を表現するために、低い計算量で異なる方法を提供する。
論文 参考訳(メタデータ) (2023-02-15T19:00:11Z) - Entropic Neural Optimal Transport via Diffusion Processes [105.34822201378763]
本稿では,連続確率分布間のエントロピー最適輸送(EOT)計画を計算するための新しいアルゴリズムを提案する。
提案アルゴリズムは,シュリンガーブリッジ問題(Schr"odinger Bridge problem)として知られるEOTの動的バージョンのサドル点再構成に基づく。
大規模EOTの従来の手法とは対照的に,我々のアルゴリズムはエンドツーエンドであり,単一の学習ステップで構成されている。
論文 参考訳(メタデータ) (2022-11-02T14:35:13Z) - Quantum-Inspired Tempering for Ground State Approximation using
Artificial Neural Networks [0.0]
そこで本研究では,局所的なミニマムからの脱出を容易にする並列テンパリング手法を提案する。
量子並列テンパリングによるトレーニングの強化は、問題インスタンスの基底状態に対する良い近似を見つけるのに有用であることを示す。
論文 参考訳(メタデータ) (2022-10-20T16:50:32Z) - Conjugate Gradient Method for Generative Adversarial Networks [0.0]
深層ニューラルネットワークモデルの密度関数と密度関数のJensen-Shannon分散を計算することは不可能である。
GAN(Generative Adversarial Network)は、この問題をジェネレータと識別器という2つのモデルで識別する問題として定式化することができる。
本稿では,GANの局所的なナッシュ平衡問題の解法として共役勾配法を提案する。
論文 参考訳(メタデータ) (2022-03-28T04:44:45Z) - An application of the splitting-up method for the computation of a
neural network representation for the solution for the filtering equations [68.8204255655161]
フィルタ方程式は、数値天気予報、金融、工学など、多くの現実の応用において中心的な役割を果たす。
フィルタリング方程式の解を近似する古典的なアプローチの1つは、分割法と呼ばれるPDEにインスパイアされた方法を使うことである。
我々はこの手法をニューラルネットワーク表現と組み合わせて、信号プロセスの非正規化条件分布の近似を生成する。
論文 参考訳(メタデータ) (2022-01-10T11:01:36Z) - Dual Training of Energy-Based Models with Overparametrized Shallow
Neural Networks [41.702175127106784]
エネルギーベースモデル(英: Energy-based model、EBM)は、通常最大推定によって訓練される生成モデルである。
本稿では,データセットから引き出されたランダムなサンプルで粒子を再起動するEMMアルゴリズムの2つの定式化を提案し,その再起動が各ステップ毎にスコアに対応することを示す。
これらの結果は単純な数値実験で説明される。
論文 参考訳(メタデータ) (2021-07-11T21:43:18Z) - Study on the simulation control of neural network algorithm in thermally
coupled distillation [7.313669465917949]
ニューラルネットワークアルゴリズムは高速学習の利点があり、非線形関数に任意にアプローチすることができる。
本稿では, 人工ニューラルネットワークの研究の進展と, 熱結合蒸留におけるニューラルネットワークの適用について概説する。
論文 参考訳(メタデータ) (2021-02-06T04:18:04Z) - Communication-Efficient Distributed Stochastic AUC Maximization with
Deep Neural Networks [50.42141893913188]
本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。
我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。
いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
論文 参考訳(メタデータ) (2020-05-05T18:08:23Z) - Spatially Adaptive Inference with Stochastic Feature Sampling and
Interpolation [72.40827239394565]
スパースサンプリングされた場所のみの機能を計算することを提案する。
次に、効率的な手順で特徴写像を密に再構築する。
提案したネットワークは、様々なコンピュータビジョンタスクの精度を維持しながら、かなりの計算を省くために実験的に示されている。
論文 参考訳(メタデータ) (2020-03-19T15:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。