論文の概要: Connecting the Dots: Numerical Randomized Hamiltonian Monte Carlo with
State-Dependent Event Rates
- arxiv url: http://arxiv.org/abs/2005.01285v3
- Date: Mon, 31 Jan 2022 17:25:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-07 01:32:53.934096
- Title: Connecting the Dots: Numerical Randomized Hamiltonian Monte Carlo with
State-Dependent Event Rates
- Title(参考訳): ドットを接続する: 数値ランダム化ハミルトンモンテカルロと状態依存イベントレート
- Authors: Tore Selland Kleppe
- Abstract要約: 連続目標分布に対するマルコフ連鎖モンテカルロ法に代わる,頑健で,使いやすく,計算的に高速な手法を提案する。
提案アルゴリズムは、関連するベンチマークと比較して大きなスピードアップと安定性の向上をもたらす可能性がある。
高品質なODEコードへのアクセスが保証され、提案手法は実装も使用も容易であり、高度に困難で高次元のターゲット分布に対しても有効である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Numerical Generalized Randomized Hamiltonian Monte Carlo is introduced, as a
robust, easy to use and computationally fast alternative to conventional Markov
chain Monte Carlo methods for continuous target distributions. A wide class of
piecewise deterministic Markov processes generalizing Randomized HMC (Bou-Rabee
and Sanz-Serna, 2017) by allowing for state-dependent event rates is defined.
Under very mild restrictions, such processes will have the desired target
distribution as an invariant distribution. Secondly, the numerical
implementation of such processes, based on adaptive numerical integration of
second order ordinary differential equations (ODEs) is considered. The
numerical implementation yields an approximate, yet highly robust algorithm
that, unlike conventional Hamiltonian Monte Carlo, enables the exploitation of
the complete Hamiltonian trajectories (hence the title). The proposed algorithm
may yield large speedups and improvements in stability relative to relevant
benchmarks, while incurring numerical biases that are negligible relative to
the overall Monte Carlo errors. Granted access to a high-quality ODE code, the
proposed methodology is both easy to implement and use, even for highly
challenging and high-dimensional target distributions.
- Abstract(参考訳): 数値一般化ランダム化ハミルトニアンモンテカルロは、連続目標分布に対する従来のマルコフ連鎖モンテカルロ法に代わる、頑健で、使いやすく、計算的に高速な方法として導入された。
ランダム化hmc(bou-rabee and sanz-serna, 2017)を一般化し、状態依存の事象率を許容する、分断的決定論的マルコフ過程の幅広いクラスを定義する。
非常に穏やかな制限の下では、そのようなプロセスは不変分布として望ましいターゲット分布を持つ。
第二に、二次常微分方程式(odes)の適応的数値積分に基づくそのような過程の数値的実装を考える。
数値的実装は、従来のハミルトニアンモンテカルロとは異なり、完全なハミルトニアン軌道(hence the title)の活用を可能にする近似的かつ高いロバストなアルゴリズムをもたらす。
提案アルゴリズムは,モンテカルロ全体の誤差に対して無視できる数値バイアスを生じる一方で,関連するベンチマークと比較して大きなスピードアップと安定性の向上をもたらす可能性がある。
高品質なODEコードへのアクセスが保証され、提案手法は、高度に困難かつ高次元のターゲット分布であっても、実装と使用が容易である。
関連論文リスト
- Multi-fidelity Hamiltonian Monte Carlo [1.86413150130483]
代理モデルを用いた2段階ハミルトニアンモンテカルロアルゴリズムを提案する。
受け入れられた確率は、標準のHMC提案によって第一段階で計算される。
提案が受理された場合、後部を高忠実度数値解法を用いて第2段階で評価する。
論文 参考訳(メタデータ) (2024-05-08T13:03:55Z) - Gaussian Process Regression with Soft Inequality and Monotonicity Constraints [0.0]
確率的手法で物理制約を強制する新しいGP法を提案する。
このGPモデルは量子に着想を得たハミルトンモンテカルロ(QHMC)によって訓練される
論文 参考訳(メタデータ) (2024-04-03T17:09:25Z) - Combining Normalizing Flows and Quasi-Monte Carlo [0.0]
近年の機械学習の進歩はモンテカルロ法を改良するための新しい手法の開発に繋がった。
数値実験により,この組み合わせにより,従来のモンテカルロを用いて流れをサンプリングした場合よりも,分散度が著しく低い推定器が得られることを示した。
論文 参考訳(メタデータ) (2024-01-11T14:17:06Z) - Automatic Rao-Blackwellization for Sequential Monte Carlo with Belief
Propagation [4.956977275061968]
状態空間モデル(SSM)に関する具体的なベイズ予想は、一般には難解である。
本稿では,信念の伝播を用いた閉形式解を可能な限り計算する混合推論アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-15T15:05:25Z) - Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。
我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。
対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
論文 参考訳(メタデータ) (2023-02-10T08:05:19Z) - Compound Batch Normalization for Long-tailed Image Classification [77.42829178064807]
本稿では,ガウス混合に基づく複合バッチ正規化法を提案する。
機能空間をより包括的にモデル化し、ヘッドクラスの優位性を減らすことができる。
提案手法は,画像分類における既存の手法よりも優れている。
論文 参考訳(メタデータ) (2022-12-02T07:31:39Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Parallel Stochastic Mirror Descent for MDPs [72.75921150912556]
無限水平マルコフ決定過程(MDP)における最適政策学習の問題を考える。
リプシッツ連続関数を用いた凸プログラミング問題に対してミラー・ディクセントの変種が提案されている。
このアルゴリズムを一般の場合において解析し,提案手法の動作中に誤差を蓄積しない収束率の推定値を得る。
論文 参考訳(メタデータ) (2021-02-27T19:28:39Z) - Community Detection in the Stochastic Block Model by Mixed Integer
Programming [3.8073142980733]
Degree-Corrected Block Model (DCSBM) は、コミュニティ構造を持つランダムグラフを生成する一般的なモデルである。
DCSBMに基づくコミュニティ検出の標準的なアプローチは、最大推定(MLE)により観測されたネットワークデータを生成する可能性が最も高いモデルパラメータを探索することである。
本稿では,モデルパラメータと最大確率のコミュニティ割当を観測グラフから確実に求める数学的計画式と厳密解法を提案する。
論文 参考訳(メタデータ) (2021-01-26T22:04:40Z) - Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。
この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。
古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
論文 参考訳(メタデータ) (2020-07-01T18:43:32Z) - Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。
分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
論文 参考訳(メタデータ) (2020-02-21T14:03:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。