論文の概要: Variational Neural Annealing
- arxiv url: http://arxiv.org/abs/2101.10154v1
- Date: Mon, 25 Jan 2021 15:06:42 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-14 18:54:17.000571
- Title: Variational Neural Annealing
- Title(参考訳): 変性神経アニーリング
- Authors: Mohamed Hibat-Allah, Estelle M. Inack, Roeland Wiersema, Roger G.
Melko, Juan Carrasquilla
- Abstract要約: 本研究では, 変動原理に基づく自己回帰的枠組みを用いて, 基底状態解を探索できることを示した。
この手順をいくつかの原型スピンハミルトニアンの古典的および量子的な設定で実装する。
- 参考スコア(独自算出の注目度): 2.0545059308755853
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many important challenges in science and technology can be cast as
optimization problems. When viewed in a statistical physics framework, these
can be tackled by simulated annealing, where a gradual cooling procedure helps
search for groundstate solutions of a target Hamiltonian. While powerful,
simulated annealing is known to have prohibitively slow sampling dynamics when
the optimization landscape is rough or glassy. Here we show that by
generalizing the target distribution with a parameterized model, an analogous
annealing framework based on the variational principle can be used to search
for groundstate solutions. Modern autoregressive models such as recurrent
neural networks provide ideal parameterizations since they can be exactly
sampled without slow dynamics even when the model encodes a rough landscape. We
implement this procedure in the classical and quantum settings on several
prototypical spin glass Hamiltonians, and find that it significantly
outperforms traditional simulated annealing in the asymptotic limit,
illustrating the potential power of this yet unexplored route to optimization.
- Abstract(参考訳): 科学技術における多くの重要な課題を最適化問題とみなすことができる。
統計物理学の枠組みで見ると、これらは漸進冷却法がターゲットハミルトニアンの基底状態解を探索するのに役立つシミュレート・アニーリングによって取り組まれる。
強力なシミュレーションアニールは、最適化ランドスケープが粗い場合やガラス質の場合、サンプリングダイナミクスが著しく遅くなることが知られている。
ここでは, 対象分布をパラメータ化されたモデルで一般化することで, 変分原理に基づく類似のアニーリングフレームワークを用いて基底状態解を探索できることを示す。
リカレントニューラルネットワークなどの現代の自動回帰モデルは、モデルが荒い風景をエンコードしても、スローダイナミクスなしで正確にサンプリングできるため、理想的なパラメータ化を提供します。
この手順は、いくつかの原型スピンガラスハミルトン上の古典的および量子的設定で実行し、この最適化への未探索のルートの潜在的な力を示す、無症状限界における従来のシミュレートアニールを大幅に上回っていることを発見します。
関連論文リスト
- Latent Space Energy-based Neural ODEs [73.01344439786524]
本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。
マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。
発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
論文 参考訳(メタデータ) (2024-09-05T18:14:22Z) - Accelerate Neural Subspace-Based Reduced-Order Solver of Deformable Simulation by Lipschitz Optimization [9.364019847856714]
高DOFで物理シミュレーションを高速化する新しい手法として,低次シミュレーションがある。
本稿では,最適化された部分空間マッピングの探索手法を提案する。
準静的シミュレーションと動的シミュレーションの両方において,本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-09-05T12:56:03Z) - Unfolding Time: Generative Modeling for Turbulent Flows in 4D [49.843505326598596]
本研究では,4次元生成拡散モデルと物理インフォームドガイダンスを導入し,現実的な流れ状態列の生成を可能にする。
提案手法は, 乱流多様体からのサブシーケンス全体のサンプリングに有効であることが示唆された。
この進展は、乱流の時間的進化を分析するために生成モデリングを適用するための扉を開く。
論文 参考訳(メタデータ) (2024-06-17T10:21:01Z) - Optimized trajectory unraveling for classical simulation of noisy
quantum dynamics [4.772237365196053]
任意のデコヒーレンスチャネルでは、アンラベリング方式を最適化し、エンタングルメント相転移の閾値を下げることができることを示す。
また、与えられた雑音チャネルに対して、未発見の基底を適応的に最適化するアルゴリズムを提案する。
準局所アンラベリングを用いて、任意に小さいが有限なデコヒーレンス率で開系を効率的にシミュレートする可能性を評価する。
論文 参考訳(メタデータ) (2023-06-29T17:59:01Z) - A Three-regime Model of Network Pruning [47.92525418773768]
我々は、ニューラルネットワーク(NN)トレーニングのハイパーパラメータが刈り取り性能に与える影響をモデル化するために、温度のようなパラメータと負荷のようなパラメータを使用します。
プレプルーニングモデルにおける負荷様パラメータの値に依存すると、プレプルーニングモデルにおける温度様パラメータの値が増加するか、その後のプルーニング性能が向上または損なわれる可能性がある。
本モデルでは, 高温のダイコトモス効果は, ポストプランニングモデルにおいて, 異なるタイプの大域構造間の遷移と関係していることが明らかとなった。
論文 参考訳(メタデータ) (2023-05-28T08:09:25Z) - Globally Optimal Training of Neural Networks with Threshold Activation
Functions [63.03759813952481]
しきい値アクティベートを伴うディープニューラルネットワークの重み劣化正規化学習問題について検討した。
ネットワークの特定の層でデータセットを破砕できる場合に、簡易な凸最適化の定式化を導出する。
論文 参考訳(メタデータ) (2023-03-06T18:59:13Z) - Maximum entropy exploration in contextual bandits with neural networks
and energy based models [63.872634680339644]
モデルには2つのクラスがあり、1つはニューラルネットワークを報酬推定器とし、もう1つはエネルギーベースモデルを示す。
両手法は、エネルギーベースモデルが最も優れた性能を持つ、よく知られた標準アルゴリズムより優れていることを示す。
これは、静的および動的設定でよく機能する新しいテクニックを提供し、特に連続的なアクション空間を持つ非線形シナリオに適している。
論文 参考訳(メタデータ) (2022-10-12T15:09:45Z) - Likelihood-Free Inference in State-Space Models with Unknown Dynamics [71.94716503075645]
本研究では、状態空間モデルにおいて、観測をシミュレートすることしかできず、遷移ダイナミクスが不明な潜在状態の推測と予測を行う手法を提案する。
本研究では,限られた数のシミュレーションで状態予測と状態予測を行う手法を提案する。
論文 参考訳(メタデータ) (2021-11-02T12:33:42Z) - Rayleigh-Gauss-Newton optimization with enhanced sampling for
variational Monte Carlo [0.0]
変分モンテカルロで用いられる最適化とサンプリング手法を解析する。
パフォーマンスを改善するために変更を導入します。
特に、RGNをエネルギースパイクに対して堅牢にすることができることを示す。
論文 参考訳(メタデータ) (2021-06-19T19:05:52Z) - End-to-end neural network approach to 3D reservoir simulation and
adaptation [0.0]
貯留層シミュレーションと適応問題に対する統一的なアプローチを提示する。
単一のニューラルネットワークモデルは、3D貯留層モデルの初期地質パラメータから前方通過を可能にする。
提案手法は,数桁のシミュレーション速度アップの利点を生かして,正確な貯留層シミュレーションと履歴マッチングを提供する。
論文 参考訳(メタデータ) (2021-02-20T10:03:45Z) - CoolMomentum: A Method for Stochastic Optimization by Langevin Dynamics
with Simulated Annealing [23.87373187143897]
深層学習アプリケーションは、複数の局所ミニマを持つ非目的関数を大域的に最適化する必要がある。
物理シミュレーションでも同様の問題を解くために座標学習アルゴリズムが利用できることを示す。
論文 参考訳(メタデータ) (2020-05-29T14:44:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。