論文の概要: Self-Tuning Hamiltonian Monte Carlo for Accelerated Sampling
- arxiv url: http://arxiv.org/abs/2309.13593v1
- Date: Sun, 24 Sep 2023 09:35:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-26 18:41:55.426457
- Title: Self-Tuning Hamiltonian Monte Carlo for Accelerated Sampling
- Title(参考訳): 加速サンプリングのための自己調整型ハミルトンモンテカルロ
- Authors: Henrik Christiansen and Federico Errica and Francesco Alesiani
- Abstract要約: ハミルトンモンテカルロパラメータを自動的に調整する適応的汎用フレームワークを提案する。
注意のような損失が定義され、統合ステップの分布の勾配駆動学習が可能になる。
損失と自己相関時間との間には良好な対応関係が見られ、よく調整されたパラメータが得られます。
- 参考スコア(独自算出の注目度): 12.163119957680802
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The performance of Hamiltonian Monte Carlo crucially depends on its
parameters, in particular the integration timestep and the number of
integration steps. We present an adaptive general-purpose framework to
automatically tune these parameters based on a loss function which promotes the
fast exploration of phase-space. For this, we make use of a
fully-differentiable set-up and use backpropagation for optimization. An
attention-like loss is defined which allows for the gradient driven learning of
the distribution of integration steps. We also highlight the importance of
jittering for a smooth loss-surface. Our approach is demonstrated for the
one-dimensional harmonic oscillator and alanine dipeptide, a small protein
common as a test-case for simulation methods. We find a good correspondence
between our loss and the autocorrelation times, resulting in well-tuned
parameters for Hamiltonian Monte Carlo.
- Abstract(参考訳): ハミルトニアンモンテカルロのパフォーマンスは、そのパラメータ、特に積分の時間ステップと積分の回数に決定的に依存する。
本稿では,位相空間の高速探索を促進する損失関数に基づいてパラメータを自動的にチューニングする適応型汎用フレームワークを提案する。
そのため、完全に微分可能なセットアップを使用して、最適化にバックプロパゲーションを使用します。
注意のような損失が定義され、統合ステップの分布の勾配駆動学習が可能になる。
また,スムーズな損失表面に対するジッタリングの重要性を強調した。
本手法は, 1次元高調波発振器と, シミュレーション手法の試験ケースとして一般的な小さなタンパク質であるアラニンジペプチドに対して実証された。
我々の損失と自己相関時間との間には良好な対応関係が見られ、その結果、ハミルトン・モンテ・カルロのパラメータがよく調整される。
関連論文リスト
- Harmonic Path Integral Diffusion [0.4527270266697462]
本稿では,連続多変量確率分布から抽出する新しい手法を提案する。
本手法では,状態空間の起点を中心とするデルタ関数を$t=0$とし,ターゲット分布に$t=1$で変換する。
これらのアルゴリズムは他のサンプリング手法、特にシミュレートおよびパス積分サンプリングと対比し、解析制御、精度、計算効率の点でそれらの利点を強調した。
論文 参考訳(メタデータ) (2024-09-23T16:20:21Z) - Accelerating Real-Time Coupled Cluster Methods with Single-Precision
Arithmetic and Adaptive Numerical Integration [3.469636229370366]
単精度算術は,実時間シミュレーションの記憶コストと乗算コストを約2倍に削減することを示した。
水クラスターの試験シミュレーションにおいて, 最大14因子のさらなる高速化は, 素直な実装によって得られる。
論文 参考訳(メタデータ) (2022-05-10T21:21:49Z) - Spatio-Temporal Variational Gaussian Processes [26.60276485130467]
時空間フィルタリングと自然変動推論を組み合わせたガウス過程推論にスケーラブルなアプローチを導入する。
還元された誘導点集合上で状態空間モデルを構成するスパース近似を導出する。
分離可能なマルコフカーネルの場合、完全スパースケースは標準変分GPを正確に回復する。
論文 参考訳(メタデータ) (2021-11-02T16:53:31Z) - An automatic differentiation system for the age of differential privacy [65.35244647521989]
Tritiumは、微分プライベート(DP)機械学習(ML)のための自動微分ベース感度分析フレームワークである
我々は、微分プライベート(DP)機械学習(ML)のための自動微分に基づく感度分析フレームワークTritiumを紹介する。
論文 参考訳(メタデータ) (2021-09-22T08:07:42Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z) - Accurate methods for the analysis of strong-drive effects in parametric
gates [94.70553167084388]
正確な数値と摂動解析手法を用いて効率的にゲートパラメータを抽出する方法を示す。
我々は,$i$SWAP, Control-Z, CNOT など,異なる種類のゲートに対する最適操作条件を同定する。
論文 参考訳(メタデータ) (2021-07-06T02:02:54Z) - Improving the Transient Times for Distributed Stochastic Gradient
Methods [5.215491794707911]
拡散適応段階法(EDAS)と呼ばれる分散勾配アルゴリズムについて検討する。
EDASが集中勾配降下(SGD)と同じネットワーク独立収束率を達成することを示す。
我々の知る限り、EDASは$n$のコスト関数の平均が強い凸である場合に最も短い時間を達成する。
論文 参考訳(メタデータ) (2021-05-11T08:09:31Z) - DiffPD: Differentiable Projective Dynamics with Contact [65.88720481593118]
DiffPDは、暗黙の時間積分を持つ効率的な微分可能なソフトボディシミュレータである。
我々はDiffPDの性能を評価し,様々な応用における標準ニュートン法と比較して4~19倍のスピードアップを観測した。
論文 参考訳(メタデータ) (2021-01-15T00:13:33Z) - Fast and differentiable simulation of driven quantum systems [58.720142291102135]
我々は、ダイソン展開に基づく半解析手法を導入し、標準数値法よりもはるかに高速に駆動量子系を時間発展させることができる。
回路QEDアーキテクチャにおけるトランスモン量子ビットを用いた2量子ゲートの最適化結果を示す。
論文 参考訳(メタデータ) (2020-12-16T21:43:38Z) - Self-Tuning Stochastic Optimization with Curvature-Aware Gradient
Filtering [53.523517926927894]
サンプルごとのHessian-vector積と勾配を用いて、自己チューニングの二次構造を構築する。
モデルに基づく手続きが雑音勾配設定に収束することを証明する。
これは自己チューニング二次体を構築するための興味深いステップである。
論文 参考訳(メタデータ) (2020-11-09T22:07:30Z) - Convergence and sample complexity of gradient methods for the model-free
linear quadratic regulator problem [27.09339991866556]
本稿では,コントローラの空間を直接探索することにより,未知の計算系に対する最適制御を求める。
我々は、安定化フィードバックゲインの勾配-フローのダイナミクスセットに焦点をあてて、そのような手法の性能と効率を最小化するための一歩を踏み出した。
論文 参考訳(メタデータ) (2019-12-26T16:56:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。