論文の概要: Incorporating the ChEES Criterion into Sequential Monte Carlo Samplers

• arxiv url: http://arxiv.org/abs/2504.02627v1
• Date: Thu, 03 Apr 2025 14:25:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-04 12:57:27.872058
• Title: Incorporating the ChEES Criterion into Sequential Monte Carlo Samplers
• Title（参考訳）: シークエンシャルモンテカルロサンプリングへのChEES基準の適用
• Authors: Andrew Millard, Joshua Murphy, Daniel Frisch, Simon Maskell,
• Abstract要約: Hamiltonian Monte Carlo (HMC) は、非パラメトリックベイズ推論を行う強力な計算コストの方法である。 No-U-Turn Sampler (NUTS)は、これらのハイパーパラメータを選択するのに非常に効果的であるが、実行が遅く、GPUアーキテクチャには適していない。 NUTSの代替として、ChEES-HMC(ChEES-HMC)のエストリマトの変化は、GPU上でのNUTSよりも高速であるだけでなく、後方からのサンプリングをより効率的に行うことが示されている。 SMCサンプリングは、後方から重み付けされたサンプルを出力する別のサンプリング方法である。
• 参考スコア（独自算出の注目度）: 3.4798711340521638
• License:
• Abstract: Markov chain Monte Carlo (MCMC) methods are a powerful but computationally expensive way of performing non-parametric Bayesian inference. MCMC proposals which utilise gradients, such as Hamiltonian Monte Carlo (HMC), can better explore the parameter space of interest if the additional hyper-parameters are chosen well. The No-U-Turn Sampler (NUTS) is a variant of HMC which is extremely effective at selecting these hyper-parameters but is slow to run and is not suited to GPU architectures. An alternative to NUTS, Change in the Estimator of the Expected Square HMC (ChEES-HMC) was shown not only to run faster than NUTS on GPU but also sample from posteriors more efficiently. Sequential Monte Carlo (SMC) samplers are another sampling method which instead output weighted samples from the posterior. They are very amenable to parallelisation and therefore being run on GPUs while having additional flexibility in their choice of proposal over MCMC. We incorporate (ChEEs-HMC) as a proposal into SMC samplers and demonstrate competitive but faster performance than NUTS on a number of tasks.
• Abstract（参考訳）: マルコフ連鎖モンテカルロ法(MCMC)は、非パラメトリックベイズ推論を実行する強力な計算コストの方法である。 ハミルトニアン・モンテカルロ (HMC) のような勾配を利用するMCMCの提案は、追加のハイパーパラメータが適切に選択された場合、興味のあるパラメータ空間をよりよく探索することができる。 No-U-Turn Sampler (NUTS) は HMC の変種であり、これらのハイパーパラメータの選択には極めて有効であるが、動作が遅く、GPUアーキテクチャには適していない。 NUTSの代替として、ChEES-HMC(ChEES-HMC)のChEES-HMC(Change in the Estimator)が、GPU上でNUTSよりも高速に動作するだけでなく、後方からのサンプリングをより効率的に行うことが示されている。 シークエンシャルモンテカルロ (SMC) サンプリングは、後方から重み付けされたサンプルを出力する別のサンプリング方法である。 並列化に非常に適しており、GPU上で実行されると同時に、MCMCよりも提案を選択する際の柔軟性も向上している。 提案手法としてChEEs-HMC(ChEEs-HMC)をSMCサンプルに適用し,多くのタスクにおいてNUTSよりも競争力はあるが高速な性能を示す。

関連論文リスト

• AutoStep: Locally adaptive involutive MCMC [51.186543293659376]
  AutoStep MCMCは、ターゲット分布の局所幾何学に適合したイテレーション毎に適切なステップサイズを選択する。 本稿では,AutoStep MCMCが,単位コスト当たりの有効サンプルサイズの観点から,最先端の手法と競合することを示す。
  論文  参考訳（メタデータ） (2024-10-24T17:17:11Z)
• Online Variational Sequential Monte Carlo [49.97673761305336]
  我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。 オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
  論文  参考訳（メタデータ） (2023-12-19T21:45:38Z)
• SpreadNUTS -- Moderate Dynamic Extension of Paths for No-U-Turn Sampling & Partitioning Visited Regions [0.0]
  本稿では,no-U-turn sampler (NUTS) として知られる特定のハミルトンモンテカルロ (HMC) アルゴリズムの変更を紹介する。 NUTS は NUTS よりも早くサンプル空間を探索することを目的としており、真分布への収束が NUTS より高速なサンプリング器を提供する。
  論文  参考訳（メタデータ） (2023-07-09T05:00:25Z)
• Bayesian Decision Trees Inspired from Evolutionary Algorithms [64.80360020499555]
  我々は、マルコフ連鎖モンテカルロ(MCMC)を本質的に並列なアルゴリズムであるシーケンシャルモンテカルロ(SMC)に置き換えることを提案する。 実験により、SMCと進化的アルゴリズム(EA)を組み合わせることで、MCMCの100倍のイテレーションでより正確な結果が得られることが示された。
  論文  参考訳（メタデータ） (2023-05-30T06:17:35Z)
• Parallel Approaches to Accelerate Bayesian Decision Trees [1.9728521995447947]
  本稿では,MCMCにおける並列性を利用した2つの手法を提案する。 第一に、MCMCを別の数値ベイズ的アプローチで置き換える。 第2に、データのパーティショニングについて検討する。
  論文  参考訳（メタデータ） (2023-01-22T09:56:26Z)
• Compressed Monte Carlo with application in particle filtering [11.84836209560411]
  ランダムサンプルの集合に含まれる統計情報を圧縮するための圧縮MC(C-MC)スキームの理論と実践を紹介する。 C-MCは、この研究で導入された3つの新しいスキームで示されるように、粒子フィルタリングおよび適応ISアルゴリズムにおいて有用である。
  論文  参考訳（メタデータ） (2021-07-18T14:32:04Z)
• Variational Combinatorial Sequential Monte Carlo Methods for Bayesian Phylogenetic Inference [4.339931151475307]
  Vari Combinatorial Monte Carlo (VCSMC) は複雑な構造について学習するための変分探索を確立する強力なフレームワークである。 本稿では,VCSMC と CSMC が,従来のタスクよりも高い確率空間を探索できることを示す。
  論文  参考訳（メタデータ） (2021-05-31T19:44:24Z)
• What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
  ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。 また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
  論文  参考訳（メタデータ） (2021-04-29T15:38:46Z)
• Scaling Hamiltonian Monte Carlo Inference for Bayesian Neural Networks with Symmetric Splitting [6.684193501969829]
  ハミルトニアン・モンテカルロ(英: Hamiltonian Monte Carlo、HMC)は、マルコフ連鎖モンテカルロのアプローチであり、ニューラルネットワークのような高次元モデルにおいて好ましい探索特性を示す。 対称勾配に依存しない分割HMCに対する新たな積分方式を導入する。 提案手法は,大規模機械学習問題に対する推論スキームを考慮した場合,HMCを実現可能な選択肢として示す。
  論文  参考訳（メタデータ） (2020-10-14T01:58:34Z)
• Involutive MCMC: a Unifying Framework [64.46316409766764]
  iMCMCでは,幅広いMCMCアルゴリズムについて述べる。 我々は、新しいMCMCアルゴリズムを開発するための設計原則として使用できる多くのトリックを定式化する。 後者は、既知の可逆MCMCアルゴリズムをより効率的な可逆アルゴリズムに変換する2つの例で示す。
  論文  参考訳（メタデータ） (2020-06-30T10:21:42Z)
• Improving Sampling Accuracy of Stochastic Gradient MCMC Methods via Non-uniform Subsampling of Gradients [54.90670513852325]
  サンプリング精度を向上させるための一様でないサブサンプリング手法を提案する。 EWSGは、一様勾配MCMC法がバッチ勾配MCMC法の統計的挙動を模倣するように設計されている。 EWSGの実践的な実装では、データインデックス上のMetropolis-Hastingsチェーンを介して、一様でないサブサンプリングを効率的に行う。
  論文  参考訳（メタデータ） (2020-02-20T18:56:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。