論文の概要: Pareto Smoothed Importance Sampling
- arxiv url: http://arxiv.org/abs/1507.02646v9
- Date: Wed, 13 Mar 2024 15:54:02 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-17 17:28:01.832372
- Title: Pareto Smoothed Importance Sampling
- Title（参考訳）: Pareto Smoothed Importance Smpling
- Authors: Aki Vehtari, Daniel Simpson, Andrew Gelman, Yuling Yao, Jonah Gabry,
- Abstract要約: 重み付けはモンテカルロ積分を調整する一般的な方法であり、間違った分布からの引き分けを考慮に入れている。
これは、近似分布によってうまく捉えられていない対象分布の側面が存在する場合に、日常的に発生する。
シミュレーションされた重要度比の分布の上限に適合する一般化されたパレート分布を用いて、重要度重みを安定化する新しい方法を提案する。
- 参考スコア（独自算出の注目度）: 8.705872384531318
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Importance weighting is a general way to adjust Monte Carlo integration to account for draws from the wrong distribution, but the resulting estimate can be highly variable when the importance ratios have a heavy right tail. This routinely occurs when there are aspects of the target distribution that are not well captured by the approximating distribution, in which case more stable estimates can be obtained by modifying extreme importance ratios. We present a new method for stabilizing importance weights using a generalized Pareto distribution fit to the upper tail of the distribution of the simulated importance ratios. The method, which empirically performs better than existing methods for stabilizing importance sampling estimates, includes stabilized effective sample size estimates, Monte Carlo error estimates, and convergence diagnostics. The presented Pareto $\hat{k}$ finite sample convergence rate diagnostic is useful for any Monte Carlo estimator.
- Abstract（参考訳）: 重み付けはモンテカルロ積分を調整する一般的な方法であり、間違った分布からのドローを考慮に入れている。
これは、近似分布によってうまく捉えられていない対象分布の側面が存在し、その場合、極度に重要な比率を変更することでより安定した推定が得られる場合に、日常的に発生する。
シミュレーションされた重要度比の分布の上限に適合する一般化されたパレート分布を用いて、重要度重みを安定化する新しい方法を提案する。
本手法は, 有効試料サイズ推定値の安定化, モンテカルロ誤差推定値の安定化, 収束診断値の安定化など, 従来の手法よりも有効である。
Pareto $\hat{k}$ finite sample convergence rate diagnosis は任意のモンテカルロ推定器に有用である。
関連論文リスト
- On Tail Decay Rate Estimation of Loss Function Distributions [5.33024001730262]
我々は辺分布の尾部を推定する新しい理論を開発した。
一定の規則性条件下では、境界分布の形状パラメータは条件分布の族における最大尾形パラメータであることを示す。
論文 参考訳（メタデータ） (2023-06-05T11:58:25Z) - Concentration inequalities for leave-one-out cross validation [1.90365714903665]
評価器の安定性が十分であることを示すことで,残余のクロスバリデーションが健全な手順であることを示す。
対数的ソボレフの不等式を満たす分布を持つ確率変数に頼って結果を得る。
論文 参考訳（メタデータ） (2022-11-04T14:08:53Z) - A Bayesian Semiparametric Method For Estimating Causal Quantile Effects [1.1118668841431563]
擬似分布の任意の関数を推測できる半パラメトリックな条件分布回帰モデルを提案する。
共振調整に二重バランススコアを用いることで, 単一スコアのみの調整よりも性能が向上することを示す。
提案手法をノースカロライナ出生体重データセットに適用し,母体喫煙が幼児の出生体重に与える影響を解析した。
論文 参考訳（メタデータ） (2022-11-03T05:15:18Z) - Statistical Efficiency of Score Matching: The View from Isoperimetry [96.65637602827942]
本研究では, スコアマッチングの統計的効率と推定される分布の等尺性との間に, 密接な関係を示す。
これらの結果はサンプル状態と有限状態の両方で定式化する。
論文 参考訳（メタデータ） (2022-10-03T06:09:01Z) - RegMixup: Mixup as a Regularizer Can Surprisingly Improve Accuracy and
Out Distribution Robustness [94.69774317059122]
学習目的として使うのではなく、標準のクロスエントロピー損失に対する追加の正則化剤として利用すれば、良好なミックスアップの有効性がさらに向上できることが示される。
この単純な変更は、精度を大幅に改善するだけでなく、Mixupの予測不確実性推定の品質を大幅に改善する。
論文 参考訳（メタデータ） (2022-06-29T09:44:33Z) - Adaptive Importance Sampling meets Mirror Descent: a Bias-variance
tradeoff [7.538482310185135]
適応的な重要度サンプリングの大きな欠点は、重みの大きなばらつきである。
本稿では,一定のパワーで重み付けを行うことを基本原理とする正規化戦略について検討する。
論文 参考訳（メタデータ） (2021-10-29T07:45:24Z) - Variational Refinement for Importance Sampling Using the Forward
Kullback-Leibler Divergence [77.06203118175335]
変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。
重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。
近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
論文 参考訳（メタデータ） (2021-06-30T11:00:24Z) - Batch Stationary Distribution Estimation [98.18201132095066]
サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。
与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
論文 参考訳（メタデータ） (2020-03-02T09:10:01Z) - Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。
分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
論文 参考訳（メタデータ） (2020-02-21T14:03:16Z) - Distributionally Robust Bayesian Quadrature Optimization [60.383252534861136]
確率分布が未知な分布の不確実性の下でBQOについて検討する。
標準的なBQOアプローチは、固定されたサンプル集合が与えられたときの真の期待目標のモンテカルロ推定を最大化する。
この目的のために,新しい後方サンプリングに基づくアルゴリズム,すなわち分布的に堅牢なBQO(DRBQO)を提案する。
論文 参考訳（メタデータ） (2020-01-19T12:00:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。