論文の概要: Sampling Algorithms, from Survey Sampling to Monte Carlo Methods: Tutorial and Literature Review

• arxiv url: http://arxiv.org/abs/2011.00901v1
• Date: Mon, 2 Nov 2020 11:27:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-30 12:59:10.353751
• Title: Sampling Algorithms, from Survey Sampling to Monte Carlo Methods: Tutorial and Literature Review
• Title（参考訳）: サーベイサンプリングからモンテカルロ法へのサンプリングアルゴリズム--チュートリアルと文献レビュー
• Authors: Benyamin Ghojogh, Hadi Nekoei, Aydin Ghojogh, Fakhri Karray, Mark Crowley
• Abstract要約: 最初のタイプは、集合や集団からサンプルを抽出するサーベイサンプリングである。 第2のタイプは、確率密度または質量関数を持つ確率分布からのサンプリングである。 この論文は統計学、機械学習、強化学習、計算物理学の様々な分野に有用である。
• 参考スコア（独自算出の注目度）: 11.927558300854656
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper is a tutorial and literature review on sampling algorithms. We have two main types of sampling in statistics. The first type is survey sampling which draws samples from a set or population. The second type is sampling from probability distribution where we have a probability density or mass function. In this paper, we cover both types of sampling. First, we review some required background on mean squared error, variance, bias, maximum likelihood estimation, Bernoulli, Binomial, and Hypergeometric distributions, the Horvitz-Thompson estimator, and the Markov property. Then, we explain the theory of simple random sampling, bootstrapping, stratified sampling, and cluster sampling. We also briefly introduce multistage sampling, network sampling, and snowball sampling. Afterwards, we switch to sampling from distribution. We explain sampling from cumulative distribution function, Monte Carlo approximation, simple Monte Carlo methods, and Markov Chain Monte Carlo (MCMC) methods. For simple Monte Carlo methods, whose iterations are independent, we cover importance sampling and rejection sampling. For MCMC methods, we cover Metropolis algorithm, Metropolis-Hastings algorithm, Gibbs sampling, and slice sampling. Then, we explain the random walk behaviour of Monte Carlo methods and more efficient Monte Carlo methods, including Hamiltonian (or hybrid) Monte Carlo, Adler's overrelaxation, and ordered overrelaxation. Finally, we summarize the characteristics, pros, and cons of sampling methods compared to each other. This paper can be useful for different fields of statistics, machine learning, reinforcement learning, and computational physics.
• Abstract（参考訳）: 本稿では,サンプリングアルゴリズムに関するチュートリアルと文献レビューを行う。 統計学では2つの主な種類がある。 最初のタイプは、集合や集団からサンプルを抽出するサーベイサンプリングである。 第2のタイプは、確率密度または質量関数がある確率分布からのサンプリングである。 本稿では,両種類のサンプリングについて述べる。 まず, 平均二乗誤差, 分散, バイアス, 最大確率推定, ベルヌーイ分布, 双項分布, および超幾何学分布, ホルヴィッツ・トンプソン推定器, マルコフ特性について, 必要な背景を考察する。 次に, 単純なランダムサンプリング, ブートストラップ, 階層化サンプリング, クラスタサンプリングの理論を説明する。 また,多段サンプリング,ネットワークサンプリング,雪球サンプリングについても簡単に紹介する。 その後、分布からサンプリングに切り替える。 累積分布関数からのサンプリング,モンテカルロ近似,単純モンテカルロ法,マルコフ連鎖モンテカルロ法について述べる。 反復が独立な単純なモンテカルロ法については,重要度サンプリングと拒否サンプリングについて述べる。 MCMC法では,Metropolisアルゴリズム,Metropolis-Hastingsアルゴリズム,Gibbsサンプリング,スライスサンプリングを網羅する。 次に,モンテカルロ法とより効率的なモンテカルロ法について,ハミルトニアン(あるいはハイブリッド)モンテカルロ法,アドラーのオーバーリラクシエーション法,順序付きオーバーリラクシエーション法について解説する。 最後に,サンプリング法の特徴,長所,短所をそれぞれ比較して要約する。 本稿では,統計学,機械学習,強化学習,計算物理学の分野において有用である。

関連論文リスト

• An Efficient Quasi-Random Sampling for Copulas [3.400056739248712]
  本稿では、GAN(Generative Adrial Networks)のような生成モデルを用いて、任意のコプラに対して準ランダムなサンプルを生成することを提案する。 GANは、複雑なデータの分布を学習するために使われる暗黙的な生成モデルの一種であり、簡単にサンプリングできる。
  論文  参考訳（メタデータ） (2024-03-08T13:01:09Z)
• Combining Normalizing Flows and Quasi-Monte Carlo [0.0]
  近年の機械学習の進歩はモンテカルロ法を改良するための新しい手法の開発に繋がった。 数値実験により,この組み合わせにより,従来のモンテカルロを用いて流れをサンプリングした場合よりも,分散度が著しく低い推定器が得られることを示した。
  論文  参考訳（メタデータ） (2024-01-11T14:17:06Z)
• Accelerate Langevin Sampling with Birth-Death process and Exploration Component [7.075259070586215]
  本研究では,出生死過程と探索成分を両立させる新しいサンプリング手法を提案する。 このメソッドの主なアイデアは、ジャンプする前のtextitlookです。 平均場限界を導出し、探索プロセスがサンプリング効率をどのように決定するかを示す。
  論文  参考訳（メタデータ） (2023-05-06T23:52:16Z)
• Unsupervised Learning of Sampling Distributions for Particle Filters [80.6716888175925]
  観測結果からサンプリング分布を学習する4つの方法を提案する。 実験により、学習されたサンプリング分布は、設計された最小縮退サンプリング分布よりも優れた性能を示すことが示された。
  論文  参考訳（メタデータ） (2023-02-02T15:50:21Z)
• Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
  Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。 提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
  論文  参考訳（メタデータ） (2022-06-22T17:58:23Z)
• Low-variance estimation in the Plackett-Luce model via quasi-Monte Carlo sampling [58.14878401145309]
  PLモデルにおいて,より標本効率の高い予測値を生成するための新しい手法を開発した。 Amazon MusicのリアルなレコメンデーションデータとYahooの学習からランクへの挑戦を理論的にも実証的にも使用しています。
  論文  参考訳（メタデータ） (2022-05-12T11:15:47Z)
• Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
  まず確率分布をモデル化し,そのモデルからサンプリングする。 これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
  論文  参考訳（メタデータ） (2021-10-20T12:25:22Z)
• Direct sampling of projected entangled-pair states [0.0]
  投射的絡み合ったペア状態(PEPS)を用いたモンテカルロ変分法(英語版)の研究は、長年の疑問に対する回答を提示できることを最近示した。 本稿では,PEPSから独立したサンプルを生成するサンプリングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-09-15T15:09:20Z)
• On Sampling-Based Training Criteria for Neural Language Modeling [97.35284042981675]
  我々はモンテカルロサンプリング、重要サンプリング、補償部分和と呼ばれる新しい方法、およびノイズコントラスト推定を検討する。 対象のクラス後部確率を補正しさえすれば,これらすべてのサンプリング手法が同等に動作可能であることを示す。 Switchboard と LibriSpeech における言語モデリングと音声認識の実験結果が,我々の主張を支持した。
  論文  参考訳（メタデータ） (2021-04-21T12:55:52Z)
• Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
  ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。 本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。 本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
  論文  参考訳（メタデータ） (2021-02-04T02:21:08Z)
• More Informed Random Sample Consensus [1.827510863075184]
  本稿では,L'evy分布とデータソートアルゴリズムを併用してデータをサンプリングする手法を提案する。 提案手法の仮説サンプリングステップでは, データをソートアルゴリズムでソートし, 不整集合にあるデータ点の確率に基づいてデータをソートする。 次に、L'evy分布のソートされたデータから仮説をサンプリングする。
  論文  参考訳（メタデータ） (2020-11-18T06:43:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。