論文の概要: Pseudo-Likelihood Inference

• arxiv url: http://arxiv.org/abs/2311.16656v1
• Date: Tue, 28 Nov 2023 10:17:52 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-29 18:57:58.179121
• Title: Pseudo-Likelihood Inference
• Title（参考訳）: Pseudo-likelihood推論
• Authors: Theo Gruner, Boris Belousov, Fabio Muratore, Daniel Palenicek, Jan Peters
• Abstract要約: Pseudo-Likelihood Inference (PLI)は、ABCに神経近似をもたらす新しい方法であり、ベイズシステムの識別に挑戦するタスクと競合する。 PLIは、勾配降下による神経後葉の最適化を可能にし、要約統計に頼らず、入力として複数の観察を可能にする。 PLIの有効性は、4つの古典的SBIベンチマークタスクと非常にダイナミックな物理システムで評価される。
• 参考スコア（独自算出の注目度）: 16.934708242852558
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Simulation-Based Inference (SBI) is a common name for an emerging family of approaches that infer the model parameters when the likelihood is intractable. Existing SBI methods either approximate the likelihood, such as Approximate Bayesian Computation (ABC) or directly model the posterior, such as Sequential Neural Posterior Estimation (SNPE). While ABC is efficient on low-dimensional problems, on higher-dimensional tasks, it is generally outperformed by SNPE, which leverages function approximation. In this paper, we propose Pseudo-Likelihood Inference (PLI), a new method that brings neural approximation into ABC, making it competitive on challenging Bayesian system identification tasks. By utilizing integral probability metrics, we introduce a smooth likelihood kernel with an adaptive bandwidth that is updated based on information-theoretic trust regions. Thanks to this formulation, our method (i) allows for optimizing neural posteriors via gradient descent, (ii) does not rely on summary statistics, and (iii) enables multiple observations as input. In comparison to SNPE, it leads to improved performance when more data is available. The effectiveness of PLI is evaluated on four classical SBI benchmark tasks and on a highly dynamic physical system, showing particular advantages on stochastic simulations and multi-modal posterior landscapes.
• Abstract（参考訳）: シミュレーションベース推論(SBI: Simulation-Based Inference)は、モデルパラメータを推論する新しいアプローチのファミリーの一般的な名称である。 既存のSBI法は、近似ベイズ計算(ABC)のような確率を近似するか、逐次ニューラル後推定(SNPE)のような後部を直接モデル化するかのいずれかである。 ABCは低次元問題や高次元問題では効率的であるが、一般に関数近似を利用するSNPEよりも優れている。 本稿では,abcにニューラルネットワーク近似を導入する新しい手法であるpseudo-likelihood inference (pli)を提案する。 積分確率メトリクスを利用することにより,情報理論的な信頼領域に基づいて更新される適応帯域幅を持つスムース・ラバース・カーネルを提案する。 この定式化のおかげで、我々の手法は (i)勾配降下による神経後肢の最適化が可能。 (ii)要約統計に頼らず、 (iii)入力として複数の観察が可能。 SNPEと比較して、より多くのデータが利用可能になるとパフォーマンスが向上する。 PLIの有効性は、4つの古典的SBIベンチマークタスクと非常にダイナミックな物理システムで評価され、確率的シミュレーションやマルチモーダルな後部景観に特に利点がある。

関連論文リスト

• Bayesian Estimation and Tuning-Free Rank Detection for Probability Mass Function Tensors [17.640500920466984]
  本稿では,関節のPMFを推定し,そのランクを観測データから自動的に推定する新しい枠組みを提案する。 我々は、様々なモデルパラメータの後方分布を近似するために、変分推論(VI)に基づく決定論的解を導出し、さらに、変分推論(SVI)を利用して、VVIベースのアプローチのスケーラブルバージョンを開発する。 合成データと実映画レコメンデーションデータの両方を含む実験は、推定精度、自動ランク検出、計算効率の点で、VVIおよびSVIベースの手法の利点を示している。
  論文  参考訳（メタデータ） (2024-10-08T20:07:49Z)
• Preconditioned Neural Posterior Estimation for Likelihood-free Inference [5.651060979874024]
  本稿では,低次元問題においても,神経後部推定法(NPE)の精度は高くないことを示す。 我々は,ABCの短い動作でパラメータ空間の領域を効果的に排除し,シミュレーションとデータ間の大きな相違を生じさせる,プレコンディション付きNPEとそのシーケンシャルバージョン(PSNPE)を提案する。 本稿では, ニューラルネットワークと統計的SBI法を融合させることにより, 様々な事例において性能が向上することを示す。
  論文  参考訳（メタデータ） (2024-04-21T07:05:38Z)
• A variational neural Bayes framework for inference on intractable posterior distributions [1.0801976288811024]
  トレーニングされたニューラルネットワークに観測データを供給することにより、モデルパラメータの後方分布を効率的に取得する。 理論的には、我々の後部はKulback-Leiblerの発散において真の後部に収束することを示す。
  論文  参考訳（メタデータ） (2024-04-16T20:40:15Z)
• Fast, accurate and lightweight sequential simulation-based inference using Gaussian locally linear mappings [0.820217860574125]
  シミュレーションベース推論(SBI)の代替として,確率と後部分布の両方を近似する手法を提案する。 提案手法は,マルチモーダル後部であっても,最先端NNベースのSBI法と比較して正確な後部推測を導出する。 本研究は,SBI文献から得られたいくつかのベンチマークモデルと,mRNAトランスフェクション後の翻訳動態の生物学的モデルについて述べる。
  論文  参考訳（メタデータ） (2024-03-12T09:48:17Z)
• Poisson Process for Bayesian Optimization [126.51200593377739]
  本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。 従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
  論文  参考訳（メタデータ） (2024-02-05T02:54:50Z)
• Calibrating Neural Simulation-Based Inference with Differentiable Coverage Probability [50.44439018155837]
  ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。 古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。 既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
  論文  参考訳（メタデータ） (2023-10-20T10:20:45Z)
• Provably Efficient UCB-type Algorithms For Learning Predictive State Representations [55.00359893021461]
  逐次決定問題は、予測状態表現(PSR)によってモデル化された低ランク構造が認められる場合、統計的に学習可能である 本稿では,推定モデルと実モデル間の全変動距離を上限とする新しいボーナス項を特徴とする,PSRに対する最初のUCB型アプローチを提案する。 PSRに対する既存のアプローチとは対照的に、UCB型アルゴリズムは計算的トラクタビリティ、最優先の準最適ポリシー、モデルの精度が保証される。
  論文  参考訳（メタデータ） (2023-07-01T18:35:21Z)
• Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
  疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。 パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。 提案手法はRパッケージプローブに実装されている。
  論文  参考訳（メタデータ） (2022-09-16T19:15:50Z)
• Estimating smooth and sparse neural receptive fields with a flexible spline basis [5.612292166628669]
  時空間受容野(STRF)モデルは感覚ニューロンによって実行される計算を近似するために頻繁に使用される。 経験的ベイズに基づくSTRFを推定するための現在の最先端のアプローチは、高次元環境では計算効率が良くないことが多い。 そこで本研究では,所望の特性を持つ基底関数の集合を選択することにより,STRF推定のための事前知識を符号化する手法を提案する。
  論文  参考訳（メタデータ） (2021-08-17T09:49:50Z)
• Probabilistic Case-based Reasoning for Open-World Knowledge Graph Completion [59.549664231655726]
  ケースベース推論(CBR)システムは,与えられた問題に類似した事例を検索することで,新たな問題を解決する。 本稿では,知識ベース(KB)の推論において,そのようなシステムが実現可能であることを示す。 提案手法は,KB内の類似エンティティからの推論パスを収集することにより,エンティティの属性を予測する。
  論文  参考訳（メタデータ） (2020-10-07T17:48:12Z)
• Optimistic Exploration even with a Pessimistic Initialisation [57.41327865257504]
  最適初期化は強化学習(RL)における効率的な探索のための効果的な戦略である 特に、正の報酬しか持たないシナリオでは、Q-値はその最低値で初期化される。 本稿では、ニューラルネットワークから楽観性の源を分離する、悲観的に初期化されたQ値に対する単純なカウントベースの拡張を提案する。
  論文  参考訳（メタデータ） (2020-02-26T17:15:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。