論文の概要: Nonparametric Involutive Markov Chain Monte Carlo
- arxiv url: http://arxiv.org/abs/2211.01100v1
- Date: Wed, 2 Nov 2022 13:21:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-03 12:52:58.755128
- Title: Nonparametric Involutive Markov Chain Monte Carlo
- Title(参考訳): 非パラメトリックインボリューションマルコフ連鎖モンテカルロ
- Authors: Carol Mak, Fabian Zaiser, Luke Ong
- Abstract要約: NP-iMCMCは、多くの既存のiMCMCアルゴリズムを非パラメトリックモデルに応用できることを示す。
最近提案されたNP-iMCの例であるNonparametric HMCに適用することにより、いくつかの非パラメトリック拡張を構築した。
- 参考スコア(独自算出の注目度): 6.445605125467574
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A challenging problem in probabilistic programming is to develop inference
algorithms that work for arbitrary programs in a universal probabilistic
programming language (PPL). We present the nonparametric involutive Markov
chain Monte Carlo (NP-iMCMC) algorithm as a method for constructing MCMC
inference algorithms for nonparametric models expressible in universal PPLs.
Building on the unifying involutive MCMC framework, and by providing a general
procedure for driving state movement between dimensions, we show that NP-iMCMC
can generalise numerous existing iMCMC algorithms to work on nonparametric
models. We prove the correctness of the NP-iMCMC sampler. Our empirical study
shows that the existing strengths of several iMCMC algorithms carry over to
their nonparametric extensions. Applying our method to the recently proposed
Nonparametric HMC, an instance of (Multiple Step) NP-iMCMC, we have constructed
several nonparametric extensions (all of which new) that exhibit significant
performance improvements.
- Abstract(参考訳): 確率的プログラミングにおける課題は、普遍確率的プログラミング言語(PPL)において任意のプログラムで動作する推論アルゴリズムを開発することである。
普遍的なPPLで表現可能な非パラメトリックモデルに対するMCMC推論アルゴリズムを構築する方法として,非パラメトリックなマルコフ連鎖モンテカルロ(NP-iMCMC)アルゴリズムを提案する。
統一されたインボリューティブMCMCフレームワークを構築し,次元間の状態移動を駆動する一般的な手順を提供することで,NP-iMCMCが既存のICCMCアルゴリズムを一般化し,非パラメトリックモデルで動作可能であることを示す。
NP-iMCMCサンプルの正当性を検証した。
実験により, IMCMCアルゴリズムの既存の強度は, 非パラメトリック拡張に受け継がれていることがわかった。
本手法を最近提案したNP-iMCMCの例であるNonparametric HMCに適用し,いくつかの非パラメトリック拡張(いずれも新しいもの)を構築した。
関連論文リスト
- Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Bayesian Decision Trees Inspired from Evolutionary Algorithms [64.80360020499555]
我々は、マルコフ連鎖モンテカルロ(MCMC)を本質的に並列なアルゴリズムであるシーケンシャルモンテカルロ(SMC)に置き換えることを提案する。
実験により、SMCと進化的アルゴリズム(EA)を組み合わせることで、MCMCの100倍のイテレーションでより正確な結果が得られることが示された。
論文 参考訳(メタデータ) (2023-05-30T06:17:35Z) - Knowledge Removal in Sampling-based Bayesian Inference [86.14397783398711]
単一のデータ削除要求が来ると、企業は大量のリソースで学んだモデル全体を削除する必要があるかもしれない。
既存の研究は、明示的にパラメータ化されたモデルのためにデータから学んだ知識を取り除く方法を提案する。
本稿では,MCMCのための機械学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-03-24T10:03:01Z) - A Survey for Solving Mixed Integer Programming via Machine Learning [76.04988886859871]
本稿では、混合整数(MIP)問題を解くための機械学習の動向について調査する。
本稿では、まず、MIPの定式化とプリミナリーと、MIPを解くための従来のアルゴリズムについて紹介する。
そして、機械学習とMIPアルゴリズムの異なる統合をさらに促進することを提唱する。
論文 参考訳(メタデータ) (2022-03-06T05:03:37Z) - Cyclical Variational Bayes Monte Carlo for Efficient Multi-Modal
Posterior Distributions Evaluation [0.0]
変分推論は、後方近似を推定するためのサンプリング方法の代替手法である。
変分ベイジアンモンテカルロ法 (VBMC) は, 統計モデル更新問題に対処する目的で検討されている。
論文 参考訳(メタデータ) (2022-02-23T17:31:42Z) - Nonparametric Hamiltonian Monte Carlo [0.0]
本稿では,HMCを非パラメトリックモデルに一般化する非ハミルトンモンテカルロ(NP-HMC)アルゴリズムを提案する。
我々はNP-HMCの正当性証明を行い、いくつかの非パラメトリックな例において既存の手法よりも顕著な性能向上を実証的に示す。
論文 参考訳(メタデータ) (2021-06-18T17:03:05Z) - Non-convex Learning via Replica Exchange Stochastic Gradient MCMC [25.47669573608621]
本稿では,適応的複製交換SGMCMC(reSGMCMC)を提案し,バイアスを自動的に補正し,対応する特性について検討する。
実験では,様々な設定の広範囲な実験を通じてアルゴリズムを検証し,その結果を得た。
論文 参考訳(メタデータ) (2020-08-12T15:02:59Z) - Involutive MCMC: a Unifying Framework [64.46316409766764]
iMCMCでは,幅広いMCMCアルゴリズムについて述べる。
我々は、新しいMCMCアルゴリズムを開発するための設計原則として使用できる多くのトリックを定式化する。
後者は、既知の可逆MCMCアルゴリズムをより効率的な可逆アルゴリズムに変換する2つの例で示す。
論文 参考訳(メタデータ) (2020-06-30T10:21:42Z) - Planning in Markov Decision Processes with Gap-Dependent Sample
Complexity [48.98199700043158]
マルコフ決定過程における計画のための新しいトラジェクトリに基づくモンテカルロ木探索アルゴリズム MDP-GapE を提案する。
我々は, MDP-GapE に要求される生成モデルに対する呼び出し回数の上限を証明し, 確率の高い準最適動作を同定する。
論文 参考訳(メタデータ) (2020-06-10T15:05:51Z) - MetFlow: A New Efficient Method for Bridging the Gap between Markov
Chain Monte Carlo and Variational Inference [20.312106392307406]
変分推論(VI)とマルコフ・チェイン・モンテカルロ(MCMC)を組み合わせた計算効率の良い新しい手法を提案する。
このアプローチは汎用MCMCカーネルで使用することができるが,提案するMCMCアルゴリズムの新たなファミリである textitMetFlow に特に適している。
論文 参考訳(メタデータ) (2020-02-27T16:50:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。