論文の概要: Improving the Accuracy of Marginal Approximations in Likelihood-Free
Inference via Localisation
- arxiv url: http://arxiv.org/abs/2207.06655v1
- Date: Thu, 14 Jul 2022 04:56:44 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-15 14:55:43.868888
- Title: Improving the Accuracy of Marginal Approximations in Likelihood-Free
Inference via Localisation
- Title(参考訳): 局所化による確率自由推論における辺近似の精度向上
- Authors: Christopher Drovandi, David J Nott, David T Frazier
- Abstract要約: 高次元確率自由推論への有望なアプローチは、低次元の辺縁後部を推定する。
このような低次元近似は、一見直感的な要約統計選択において驚くほど貧弱であることを示す。
実装や自動化が容易な限界推定に対する代替手法を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Likelihood-free methods are an essential tool for performing inference for
implicit models which can be simulated from, but for which the corresponding
likelihood is intractable. However, common likelihood-free methods do not scale
well to a large number of model parameters. A promising approach to
high-dimensional likelihood-free inference involves estimating low-dimensional
marginal posteriors by conditioning only on summary statistics believed to be
informative for the low-dimensional component, and then combining the
low-dimensional approximations in some way. In this paper, we demonstrate that
such low-dimensional approximations can be surprisingly poor in practice for
seemingly intuitive summary statistic choices. We describe an idealized
low-dimensional summary statistic that is, in principle, suitable for marginal
estimation. However, a direct approximation of the idealized choice is
difficult in practice. We thus suggest an alternative approach to marginal
estimation which is easier to implement and automate. Given an initial choice
of low-dimensional summary statistic that might only be informative about a
marginal posterior location, the new method improves performance by first
crudely localising the posterior approximation using all the summary statistics
to ensure global identifiability, followed by a second step that hones in on an
accurate low-dimensional approximation using the low-dimensional summary
statistic. We show that the posterior this approach targets can be represented
as a logarithmic pool of posterior distributions based on the low-dimensional
and full summary statistics, respectively. The good performance of our method
is illustrated in several examples.
- Abstract(参考訳): Likelihood-freeメソッドは、暗黙のモデルに対する推論を行うための必須ツールであり、そこからシミュレートできるが、それに対応する確率は難解である。
しかし、一般的な可能性のない手法は、多数のモデルパラメータに対してうまくスケールしない。
高次元確率自由推論への有望なアプローチは、低次元成分に有益と思われる要約統計のみを条件付けし、ある方法で低次元近似を結合することで低次元辺縁後縁を推定することである。
本稿では,このような低次元近似が,一見直感的な要約統計選択において驚くほど貧弱であることを示す。
本稿では, 原理上, 限界推定に適した理想化低次元要約統計について述べる。
しかし、理想化された選択の直接的な近似は実際には難しい。
そこで我々は,実装や自動化が容易な限界推定手法を提案する。
本手法は, 後部位置についてのみ情報化できる低次元要約統計量の初期選択を前提として, 後部近似を大域的識別性を確保するため, 後部近似をまず粗末に局所化し, 続いて, 低次元要約統計量を用いた高精度な低次元近似に注目する第2ステップにより, 性能を向上する。
その結果,このアプローチの後方のターゲットは,低次元統計値と全要約統計値に基づいて,後方分布の対数プールとして表現できることがわかった。
本手法の優れた性能をいくつかの例に示す。
関連論文リスト
- Probabilistic Iterative Hard Thresholding for Sparse Learning [2.5782973781085383]
本稿では,基本性制約を用いた予測目標最適化問題の解法を提案する。
基礎となるプロセスの収束を証明し、2つの機械学習問題における性能を実証する。
論文 参考訳(メタデータ) (2024-09-02T18:14:45Z) - Scalable and non-iterative graphical model estimation [3.187381965457262]
反復的比例フィッティング(IPF)とその変種は、非方向性のグラフィカルモデル推定のデフォルト手法である。
高次元における正定値グラフィカルモデル推定のための新規で高速な非定性的手法を提案する。
論文 参考訳(メタデータ) (2024-08-21T15:46:00Z) - On the design-dependent suboptimality of the Lasso [27.970033039287884]
最小特異値が小さい場合、ラッソ推定器は、確実に最小値であることを示す。
我々の下限は、ラッソの全ての形態のまばらな統計的最適性を妨げるのに十分強い。
論文 参考訳(メタデータ) (2024-02-01T07:01:54Z) - A Dimensionality Reduction Method for Finding Least Favorable Priors
with a Focus on Bregman Divergence [108.28566246421742]
そこで本研究では,次元に明示的な有界な有限次元設定に最適化を移動させることができる次元削減法を開発した。
この問題を進展させるため、比較的大きな損失関数、すなわちブレグマンの発散によって引き起こされるベイズ的リスクに限定する。
論文 参考訳(メタデータ) (2022-02-23T16:22:28Z) - Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
まず確率分布をモデル化し,そのモデルからサンプリングする。
これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
論文 参考訳(メタデータ) (2021-10-20T12:25:22Z) - Barely Biased Learning for Gaussian Process Regression [19.772149500352945]
本稿では,ログ残差確率を推定する際に使用する計算量を適応的に選択する手法を提案する。
原理的には単純だが,本手法の現在の実装は既存の近似と競合するものではない。
論文 参考訳(メタデータ) (2021-09-20T10:35:59Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z) - Continuous Wasserstein-2 Barycenter Estimation without Minimax
Optimization [94.18714844247766]
ワッサーシュタイン・バリセンターは、最適輸送に基づく確率測度の重み付き平均の幾何学的概念を提供する。
本稿では,Wasserstein-2 バリセンタのサンプルアクセスを演算するスケーラブルなアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-02T21:01:13Z) - Maximum sampled conditional likelihood for informative subsampling [4.708378681950648]
サブサンプリングは、計算資源が限られているときに大量のデータセットから情報を抽出する、計算学的に効果的な手法である。
そこで本研究では,サンプルデータに基づく最大条件付き確率推定器(MSCLE)を提案する。
論文 参考訳(メタデータ) (2020-11-11T16:01:17Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。