論文の概要: Importance is Important: A Guide to Informed Importance Tempering
Methods
- arxiv url: http://arxiv.org/abs/2304.06251v1
- Date: Thu, 13 Apr 2023 04:04:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-14 15:39:55.742240
- Title: Importance is Important: A Guide to Informed Importance Tempering
Methods
- Title(参考訳): 重要度:インフォームド・インフォームド・インフォームド・インフルエンス・テンパリング・メソッドのガイド
- Authors: Guanxun Li, Aaron Smith, Quan Zhou
- Abstract要約: Informed importance tempering (IIT) は実装が容易なMCMCアルゴリズムであり、よく知られたメトロポリス・ハスティングスアルゴリズムの拡張と見なすことができる。
この研究は、多くの状況においてITIの使用を包括的かつ包括的にガイドする。
- 参考スコア(独自算出の注目度): 4.940218701735752
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Informed importance tempering (IIT) is an easy-to-implement MCMC algorithm
that can be seen as an extension of the familiar Metropolis-Hastings algorithm
with the special feature that informed proposals are always accepted, and which
was shown in Zhou and Smith (2022) to converge much more quickly in some common
circumstances. This work develops a new, comprehensive guide to the use of IIT
in many situations. First, we propose two IIT schemes that run faster than
existing informed MCMC methods on discrete spaces by not requiring the
posterior evaluation of all neighboring states. Second, we integrate IIT with
other MCMC techniques, including simulated tempering, pseudo-marginal and
multiple-try methods (on general state spaces), which have been conventionally
implemented as Metropolis-Hastings schemes and can suffer from low acceptance
rates. The use of IIT allows us to always accept proposals and brings about new
opportunities for optimizing the sampler which are not possible under the
Metropolis-Hastings framework. Numerical examples illustrating our findings are
provided for each proposed algorithm, and a general theory on the complexity of
IIT methods is developed.
- Abstract(参考訳): Informed importance tempering (IIT) は、よく知られたMetropolis-Hastingsアルゴリズムの拡張と見なせる実装が容易なMCMCアルゴリズムである。
この研究は、多くの状況においてITIの使用に関する新しい包括的ガイドを開発する。
まず,既存の情報MCMC法よりも高速な2つのIIT方式を提案する。
第2に,従来メトロポリス・ハスティングス方式として実装され,受入率の低下に悩まされていた,模擬テンパリング,疑似マルジナル,マルチトライといった他のMCMC手法とIITを統合した。
IITを使うことで、常に提案を受け入れ、メトロポリス・ハスティングスフレームワークでは不可能なサンプルを最適化する新たな機会をもたらすことができます。
提案するアルゴリズムについて,本研究の数値的な例を示し,IIT法の複雑さに関する一般的な理論を考案した。
関連論文リスト
- Covariance estimation using Markov chain Monte Carlo [2.209921757303168]
我々は、$pi$がポアンカーの不等式を満足し、その鎖がスペクトルギャップを持つ場合、MCMCを用いて同様のサンプル複雑性を達成できることを示した。
凸体を均一にサンプリングするための等方的丸め手順に関する保証を提供する。
論文 参考訳(メタデータ) (2024-10-22T16:27:29Z) - Markov chain Monte Carlo without evaluating the target: an auxiliary variable approach [9.426953273977496]
マルコフ連鎖モンテカルロアルゴリズムは単純な共通手順で統一することができる。
我々は,新たなフレームワークの理論を開発し,それを既存のアルゴリズムに適用し,その結果を簡素化し拡張する。
このフレームワークからいくつかの新しいアルゴリズムが登場し、合成データセットと実データセットの両方でパフォーマンスが改善された。
論文 参考訳(メタデータ) (2024-06-07T20:06:23Z) - Exploring the Algorithm-Dependent Generalization of AUPRC Optimization
with List Stability [107.65337427333064]
AUPRC(Area Under the Precision-Recall Curve)の最適化は、機械学習にとって重要な問題である。
本研究では, AUPRC最適化の単依存一般化における最初の試行について述べる。
3つの画像検索データセットの実験は、我々のフレームワークの有効性と健全性に言及する。
論文 参考訳(メタデータ) (2022-09-27T09:06:37Z) - Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。
提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
論文 参考訳(メタデータ) (2022-06-22T17:58:23Z) - A Survey of Monte Carlo Methods for Parameter Estimation [0.0]
本稿では,信号処理応用における静的パラメータ推定のためのモンテカルロ法について検討する。
MCスキームの開発に関する歴史的注記も提供され、続いて基本MC法とリジェクションサンプリング(RS)アルゴリズムの簡潔な記述がなされている。
論文 参考訳(メタデータ) (2021-07-25T14:57:58Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Accelerating MCMC algorithms through Bayesian Deep Networks [7.054093620465401]
マルコフ・チェイン・モンテカルロ(MCMC)アルゴリズムは、複雑な確率分布のサンプリングにおいて、その汎用性のために一般的に用いられる。
分布の次元が大きくなるにつれて、サンプリング空間を十分に探索する計算コストが困難になる。
マルコフ連鎖の最初の提案としてベイズニューラルネットワークの結果を用いて適応MCMCを実行する方法を示す。
論文 参考訳(メタデータ) (2020-11-29T04:29:00Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳(メタデータ) (2020-09-28T15:22:24Z) - A Parallel Evolutionary Multiple-Try Metropolis Markov Chain Monte Carlo
Algorithm for Sampling Spatial Partitions [0.0]
本研究では,空間状態空間内に存在する空間分割をサンプリングする進化的マルコフ連鎖モンテカルロ法(EMCMC)を提案する。
提案アルゴリズムは, 大規模かつ複雑な状態空間トラバーサルとしての進化的アルゴリズム(EA)の利点と, 未知分布からのサンプリングのためのマルコフ・チェイン・モンテカルロアルゴリズムの理論的収束特性を組み合わせたものである。
我々は,大規模並列アーキテクチャによる計算能力を活用して,EMCMCアルゴリズムの到達範囲をさらに拡大する。
論文 参考訳(メタデータ) (2020-07-22T14:28:44Z) - Active Model Estimation in Markov Decision Processes [108.46146218973189]
マルコフ決定過程(MDP)をモデル化した環境の正確なモデル学習のための効率的な探索の課題について検討する。
マルコフに基づくアルゴリズムは,本アルゴリズムと極大エントロピーアルゴリズムの両方を小サンプル方式で上回っていることを示す。
論文 参考訳(メタデータ) (2020-03-06T16:17:24Z) - Batch Stationary Distribution Estimation [98.18201132095066]
サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。
与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
論文 参考訳(メタデータ) (2020-03-02T09:10:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。