論文の概要: Sequential Neural Score Estimation: Likelihood-Free Inference with Conditional Score Based Diffusion Models
- arxiv url: http://arxiv.org/abs/2210.04872v3
- Date: Mon, 3 Jun 2024 13:07:57 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-04 23:55:24.615347
- Title: Sequential Neural Score Estimation: Likelihood-Free Inference with Conditional Score Based Diffusion Models
- Title(参考訳): 逐次的ニューラルスコア推定:条件付きスコアに基づく拡散モデルによる自由推論
- Authors: Louis Sharrock, Jack Simons, Song Liu, Mark Beaumont,
- Abstract要約: シミュレーターベースモデルにおけるベイズ推定のためのスコアベース手法である逐次ニューラル後スコア推定を導入する。
このモデルを逐次訓練手順に組み込み、関心の観測における後部の現在の近似を用いてシミュレーションを導出する。
提案手法は, 既存の最先端手法に匹敵する, 優れた性能を示す数値例で, 非逐次的, 非逐次的, 変種性を検証した。
- 参考スコア(独自算出の注目度): 5.1986508753214915
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce Sequential Neural Posterior Score Estimation (SNPSE), a score-based method for Bayesian inference in simulator-based models. Our method, inspired by the remarkable success of score-based methods in generative modelling, leverages conditional score-based diffusion models to generate samples from the posterior distribution of interest. The model is trained using an objective function which directly estimates the score of the posterior. We embed the model into a sequential training procedure, which guides simulations using the current approximation of the posterior at the observation of interest, thereby reducing the simulation cost. We also introduce several alternative sequential approaches, and discuss their relative merits. We then validate our method, as well as its amortised, non-sequential, variant on several numerical examples, demonstrating comparable or superior performance to existing state-of-the-art methods such as Sequential Neural Posterior Estimation (SNPE).
- Abstract(参考訳): SNPSE(Sequential Neural Posterior Score Estimation)は,シミュレータに基づくモデルにおけるベイズ推定のためのスコアベース手法である。
生成モデルにおけるスコアベース手法の顕著な成功に触発された本手法は,条件付きスコアベース拡散モデルを用いて,関心の後方分布からサンプルを生成する。
モデルは、後部のスコアを直接推定する客観的関数を用いて訓練される。
このモデルを逐次訓練手順に組み込み、関心事の観測時に後部の現在の近似を用いてシミュレーションを誘導し、シミュレーションコストを低減させる。
また、いくつかの代替的なシーケンシャルアプローチを導入し、それらの相対的なメリットについて議論する。
次に,提案手法と,その非逐次的,非逐次的,変種をいくつかの数値例で検証し,逐次的ニューラルネットワーク後推定(SNPE)のような既存の最先端手法に匹敵する,あるいは優れた性能を示す。
関連論文リスト
- A variational neural Bayes framework for inference on intractable posterior distributions [1.0801976288811024]
トレーニングされたニューラルネットワークに観測データを供給することにより、モデルパラメータの後方分布を効率的に取得する。
理論的には、我々の後部はKulback-Leiblerの発散において真の後部に収束することを示す。
論文 参考訳(メタデータ) (2024-04-16T20:40:15Z) - Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。
本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。
提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文 参考訳(メタデータ) (2024-04-11T09:23:36Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - New Machine Learning Techniques for Simulation-Based Inference:
InferoStatic Nets, Kernel Score Estimation, and Kernel Likelihood Ratio
Estimation [4.415977307120616]
確率密度を標本化できるが直接計算できない場合のスコアと確率比推定器をモデル化する機械学習手法を提案する。
我々はそれぞれKernel Score Estimation (KSE) と Kernel Likelihood Ratio Estimation (KLRE) と呼ばれる新しい戦略を導入し、シミュレーションデータからスコアと確率比関数を学習する。
論文 参考訳(メタデータ) (2022-10-04T15:22:56Z) - Compositional Score Modeling for Simulation-based Inference [28.422049267537965]
両手法の利点を享受する条件付きスコアモデリングに基づく新しい手法を提案する。
提案手法は, サンプル効率が高く, 自然に複数の観測を推定時に集約し, 標準推定手法の欠点を回避することができる。
論文 参考訳(メタデータ) (2022-09-28T17:08:31Z) - Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
まず確率分布をモデル化し,そのモデルからサンプリングする。
これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
論文 参考訳(メタデータ) (2021-10-20T12:25:22Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Score Matched Conditional Exponential Families for Likelihood-Free
Inference [0.0]
Likelihood-Free Inference (LFI) はモデルからのシミュレーションに依存する。
モデルからパラメータシミュレーションペアを観測に基づいて独立に生成する。
重みをスコアマッチングで調整したニューラルネットワークを用いて,条件付き指数関数的家族度近似を学習する。
論文 参考訳(メタデータ) (2020-12-20T11:57:30Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z) - Document Ranking with a Pretrained Sequence-to-Sequence Model [56.44269917346376]
関連ラベルを「ターゲット語」として生成するためにシーケンス・ツー・シーケンス・モデルをどのように訓練するかを示す。
提案手法は,データポーラ方式におけるエンコーダのみのモデルよりも大幅に優れている。
論文 参考訳(メタデータ) (2020-03-14T22:29:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。