論文の概要: Variational Inference for Neyman-Scott Processes
- arxiv url: http://arxiv.org/abs/2303.03701v1
- Date: Tue, 7 Mar 2023 07:32:10 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-08 16:07:29.139146
- Title: Variational Inference for Neyman-Scott Processes
- Title(参考訳): Neyman-Scottプロセスの変分推論
- Authors: Chengkuan Hong and Christian R. Shelton
- Abstract要約: Neyman-Scottプロセス(NSP)は、クラスタ階層のモデルポイントや時間イベントに、さまざまな分野に適用されている。
NSPに対する第1変分推論 (VI) アルゴリズムを開発し、適切な変分後点過程分布の2つの例を示す。
- 参考スコア(独自算出の注目度): 1.4467794332678536
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neyman-Scott processes (NSPs) have been applied across a range of fields to
model points or temporal events with a hierarchy of clusters. Markov chain
Monte Carlo (MCMC) is typically used for posterior sampling in the model.
However, MCMC's mixing time can cause the resulting inference to be slow, and
thereby slow down model learning and prediction. We develop the first
variational inference (VI) algorithm for NSPs, and give two examples of
suitable variational posterior point process distributions. Our method
minimizes the inclusive Kullback-Leibler (KL) divergence for VI to obtain the
variational parameters. We generate samples from the approximate posterior
point processes much faster than MCMC, as we can directly estimate the
approximate posterior point processes without any MCMC steps or gradient
descent. We include synthetic and real-world data experiments that demonstrate
our VI algorithm achieves better prediction performance than MCMC when
computational time is limited.
- Abstract(参考訳): Neyman-Scottプロセス(NSP)は、クラスタ階層のモデルポイントや時間イベントに、さまざまな分野に適用されている。
マルコフ連鎖モンテカルロ(mcmc)は一般的にモデルにおける後方サンプリングに用いられる。
しかし、mcmcの混合時間は、結果として生じる推論が遅くなり、モデル学習と予測が遅くなる可能性がある。
NSPに対する第1変分推論 (VI) アルゴリズムを開発し、適切な変分後点過程分布の2つの例を示す。
提案手法は, 変動パラメータを求めるために, 包括的Kullback-Leibler(KL)分散を最小化する。
我々は,mcmcのステップや勾配降下を伴わずに近似後点過程を直接推定できるため,mcmcよりはるかに高速に近似後点過程からサンプルを生成する。
我々のVIアルゴリズムは計算時間に制限がある場合、MCMCよりも優れた予測性能が得られることを示す合成および実世界のデータ実験を含む。
関連論文リスト
- Recursive Learning of Asymptotic Variational Objectives [49.69399307452126]
一般状態空間モデル(英: General State-space Model, SSM)は、統計機械学習において広く用いられ、時系列データに対して最も古典的な生成モデルの一つである。
オンラインシーケンシャルIWAE(OSIWAE)は、潜在状態の推測のためのモデルパラメータとマルコフ認識モデルの両方のオンライン学習を可能にする。
このアプローチは、最近提案されたオンライン変分SMC法よりも理論的によく確立されている。
論文 参考訳(メタデータ) (2024-11-04T16:12:37Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Reverse Diffusion Monte Carlo [19.35592726471155]
逆拡散モンテカルロ(rdMC)と呼ばれる新しいモンテカルロサンプリングアルゴリズムを提案する。
rdMCはマルコフ連鎖モンテカルロ(MCMC)法とは異なる。
論文 参考訳(メタデータ) (2023-07-05T05:42:03Z) - Bayesian Decision Trees Inspired from Evolutionary Algorithms [64.80360020499555]
我々は、マルコフ連鎖モンテカルロ(MCMC)を本質的に並列なアルゴリズムであるシーケンシャルモンテカルロ(SMC)に置き換えることを提案する。
実験により、SMCと進化的アルゴリズム(EA)を組み合わせることで、MCMCの100倍のイテレーションでより正確な結果が得られることが示された。
論文 参考訳(メタデータ) (2023-05-30T06:17:35Z) - Reconstructing the Universe with Variational self-Boosted Sampling [7.922637707393503]
ハミルトニアン・モンテカルロ (HMC) のような伝統的なアルゴリズムは、相関サンプルを生成するために計算的に非効率である。
本稿では,両アルゴリズムの欠点を軽減するために,変分自己ブーストサンプリング(VBS)と呼ばれるハイブリッド方式を開発する。
VBSは、単純なVIアプローチよりも優れた品質のサンプルを生成し、HMCのみを用いてサンプリングフェーズの相関長を10~50倍に削減する。
論文 参考訳(メタデータ) (2022-06-28T21:30:32Z) - A new perspective on probabilistic image modeling [92.89846887298852]
本稿では,密度推定,サンプリング,トラクタブル推論が可能な画像モデリングのための新しい確率論的手法を提案する。
DCGMMは、CNNのように、ランダムな初期条件からSGDによってエンドツーエンドに訓練することができる。
本研究は,近年のPCおよびSPNモデルと,推論,分類,サンプリングの観点から比較した。
論文 参考訳(メタデータ) (2022-03-21T14:53:57Z) - Structured Stochastic Gradient MCMC [20.68905354115655]
近似した後方関数形式を仮定しない新しい非パラメトリック変分近似を提案する。
完全なSGMCMCよりも優れた予測可能性と有効試料サイズが得られる。
論文 参考訳(メタデータ) (2021-07-19T17:18:10Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - The Variational Method of Moments [65.91730154730905]
条件モーメント問題は、観測可能量の観点から構造因果パラメータを記述するための強力な定式化である。
OWGMMの変動最小値再構成により、条件モーメント問題に対する非常に一般的な推定器のクラスを定義する。
同じ種類の変分変換に基づく統計的推測のためのアルゴリズムを提供する。
論文 参考訳(メタデータ) (2020-12-17T07:21:06Z) - An adaptive Hessian approximated stochastic gradient MCMC method [12.93317525451798]
後方からのサンプリング中に局所的幾何情報を組み込む適応型ヘッセン近似勾配MCMC法を提案する。
我々は,ネットワークの空間性を高めるために,等級に基づく重み付け法を採用する。
論文 参考訳(メタデータ) (2020-10-03T16:22:15Z) - Stein Variational Gaussian Processes [1.6114012813668934]
ガウス過程(GP)モデルにおいて,非ガウス的確率と大規模データ量を持つモデルにおいて,Stein variational descent (SVGD) を用いて推論を行う方法を示す。
本手法は, 回帰と分類の両面でのベンチマーク問題, 多モード後部, 550,134 回観測による空気品質の例で実証された。
論文 参考訳(メタデータ) (2020-09-25T11:47:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。