論文の概要: Hess-MC2: Sequential Monte Carlo Squared using Hessian Information and Second Order Proposals

• arxiv url: http://arxiv.org/abs/2507.07461v1
• Date: Thu, 10 Jul 2025 06:26:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-11 16:40:15.293288
• Title: Hess-MC2: Sequential Monte Carlo Squared using Hessian Information and Second Order Proposals
• Title（参考訳）: Hess-MC2: Hessian 情報と2次提案を用いた連続モンテカルロ四角形
• Authors: Joshua Murphy, Conor Rosato, Andrew Millard, Lee Devlin, Paul Horridge, Simon Maskell,
• Abstract要約: 本稿では,Sequential Monte Carlo Squared (SMC$2$) フレームワーク内での2次提案を紹介する。 本稿では,このアイデアを2階情報,特にログターゲットのヘシアンを組み込むことで拡張する。 合成モデルの結果は,ステップサイズ選択と後部近似の精度の観点から,我々のアプローチの利点を浮き彫りにしている。
• 参考スコア（独自算出の注目度）: 2.170477444239546
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When performing Bayesian inference using Sequential Monte Carlo (SMC) methods, two considerations arise: the accuracy of the posterior approximation and computational efficiency. To address computational demands, Sequential Monte Carlo Squared (SMC$^2$) is well-suited for high-performance computing (HPC) environments. The design of the proposal distribution within SMC$^2$ can improve accuracy and exploration of the posterior as poor proposals may lead to high variance in importance weights and particle degeneracy. The Metropolis-Adjusted Langevin Algorithm (MALA) uses gradient information so that particles preferentially explore regions of higher probability. In this paper, we extend this idea by incorporating second-order information, specifically the Hessian of the log-target. While second-order proposals have been explored previously in particle Markov Chain Monte Carlo (p-MCMC) methods, we are the first to introduce them within the SMC$^2$ framework. Second-order proposals not only use the gradient (first-order derivative), but also the curvature (second-order derivative) of the target distribution. Experimental results on synthetic models highlight the benefits of our approach in terms of step-size selection and posterior approximation accuracy when compared to other proposals.
• Abstract（参考訳）: 逐次モンテカルロ法(SMC)を用いてベイズ推定を行う場合、後部近似の精度と計算効率の2つの考慮が生じる。 計算要求に対処するため、Sequential Monte Carlo Squared (SMC$^2$)は高性能コンピューティング(HPC)環境に適している。 SMC$^2$における提案分布の設計は、重要重量と粒子縮退のばらつきをもたらす可能性があるため、精度と後部の探索を改善することができる。 メトロポリス調整ランゲヴィンアルゴリズム(MALA)は勾配情報を用いて、粒子がより高い確率の領域を優先的に探索する。 本稿では,このアイデアを2階情報,特にログターゲットのヘシアンを組み込むことで拡張する。 2次提案は以前に粒子マルコフ・チェイン・モンテカルロ (p-MCMC) 法で検討されてきたが、SMC$^2$フレームワークに導入するのは初めてである。 2階提案は、勾配(一階微分)だけでなく、対象分布の曲率(二階微分)も用いる。 合成モデルの実験的結果は,他の提案と比較した場合のステップサイズ選択と後部近似の精度の観点から,我々のアプローチの利点を浮き彫りにしている。

関連論文リスト

• Sliced Wasserstein with Random-Path Projecting Directions [49.802024788196434]
  本稿では,モンテカルロ予想推定のための高速サンプリングを行う最適化自由スライシング分布を提案する。 我々はランダムパススライシング分布(RPSD)とスライスされたワッサースタインの2つの変種、すなわちランダムパススライシングワッサースタイン(RPSW)とIWRPSW(Importance Weighted Random-Path Projection Sliced Wasserstein)を導出する。
  論文  参考訳（メタデータ） (2024-01-29T04:59:30Z)
• Provable and Practical: Efficient Exploration in Reinforcement Learning via Langevin Monte Carlo [104.9535542833054]
  我々は、強化学習のためのトンプソンサンプリングに基づくスケーラブルで効果的な探索戦略を提案する。 代わりに、Langevin Monte Carlo を用いて、Q 関数をその後部分布から直接サンプリングする。 提案手法は,Atari57スイートからのいくつかの挑戦的な探索課題において,最先端の深部RLアルゴリズムと比較して,より優れた,あるいは類似した結果が得られる。
  論文  参考訳（メタデータ） (2023-05-29T17:11:28Z)
• Towards Practical Preferential Bayesian Optimization with Skew Gaussian Processes [8.198195852439946]
  本稿では,信頼度が2対比較に限定される優先ベイズ最適化(BO)について検討する。 優越性BOの重要な課題は、優越性ガウス過程(GP)モデルを用いてフレキシブルな選好構造を表現することである。 本研究では,高い計算効率と低いサンプル複雑性を両立させる新しい手法を開発し,その効果を広範囲な数値実験により実証する。
  論文  参考訳（メタデータ） (2023-02-03T03:02:38Z)
• A Two-step Metropolis Hastings Method for Bayesian Empirical Likelihood Computation with Application to Bayesian Model Selection [0.0]
  マルコフ連鎖の後部からサンプリングする2段階可逆モンテカルロアルゴリズムを提案する。 また、経験的可能性について議論し、2段階可逆モンテカルロアルゴリズムをジャンプチェーン手順に拡張し、その結果の集合からサンプリングする。
  論文  参考訳（メタデータ） (2022-09-02T20:40:21Z)
• The split Gibbs sampler revisited: improvements to its algorithmic structure and augmented target distribution [1.1279808969568252]
  現在の最先端の手法は、後部密度を滑らかな近似で置き換えることによってこれらの問題に対処することが多い。 別のアプローチはデータ拡張と緩和に基づいており、補助変数を導入して近似的な拡張後分布を構築する。 本稿では,2つの戦略の利点を密結合した潜在空間SK-ROCKと呼ばれる,新しい加速近位MCMC法を提案する。
  論文  参考訳（メタデータ） (2022-06-28T11:21:41Z)
• What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
  ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。 また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
  論文  参考訳（メタデータ） (2021-04-29T15:38:46Z)
• Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
  我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。 我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。 また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
  論文  参考訳（メタデータ） (2020-02-16T09:01:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。