論文の概要: Particle Mean Field Variational Bayes
- arxiv url: http://arxiv.org/abs/2303.13930v1
- Date: Fri, 24 Mar 2023 11:38:35 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-27 14:47:14.210779
- Title: Particle Mean Field Variational Bayes
- Title(参考訳): 粒子平均場変動ベイズ
- Authors: Minh-Ngoc Tran, Paco Tseng, Robert Kohn
- Abstract要約: 平均場変分ベイズ (MFVB) はベイズ推論の最も効率的な手法の1つである。
本稿では,MFVB法の適用性を大幅に拡大する新しい粒子ベースMFVB法を提案する。
- 参考スコア(独自算出の注目度): 3.4355075318742165
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Mean Field Variational Bayes (MFVB) method is one of the most
computationally efficient techniques for Bayesian inference. However, its use
has been restricted to models with conjugate priors or those that require
analytical calculations. This paper proposes a novel particle-based MFVB
approach that greatly expands the applicability of the MFVB method. We
establish the theoretical basis of the new method by leveraging the connection
between Wasserstein gradient flows and Langevin diffusion dynamics, and
demonstrate the effectiveness of this approach using Bayesian logistic
regression, stochastic volatility, and deep neural networks.
- Abstract(参考訳): 平均場変分ベイズ法 (MFVB) はベイズ推論において最も計算効率のよい手法の1つである。
しかし、その用途は共役前のモデルや解析計算を必要とするモデルに限られている。
本稿では,MFVB法の適用性を大幅に拡大する粒子ベースMFVB法を提案する。
本研究では,wasserstein勾配流とlangevin拡散ダイナミクスの結合を利用して,新しい手法の理論的基礎を確立し,ベイズロジスティック回帰,確率的ボラティリティ,ディープニューラルネットワークを用いた手法の有効性を示す。
関連論文リスト
- Flexible Bayesian Last Layer Models Using Implicit Priors and Diffusion Posterior Sampling [7.084307990641011]
ベイズ最後の層重みの変分学習に拡散法と暗黙の先行法を組み合わせた新しい手法を提案する。
そこで本手法は,BLLモデルの表現能力を高めることを目的とする。
論文 参考訳(メタデータ) (2024-08-07T12:59:58Z) - Statistical Mechanics Calculations Using Variational Autoregressive Networks and Quantum Annealing [0.552480439325792]
近年,変分自己回帰ネットワーク(VAN)を用いた近似法が提案されている。
本研究では, 量子アニール装置から得られた試料をVANと併用した新しい近似法を提案する。
有限サイズシェリントン・カークパトリックモデルに適用すると,従来のVAN手法と比較して精度が向上することを示す。
論文 参考訳(メタデータ) (2024-04-30T05:41:49Z) - Improved off-policy training of diffusion samplers [93.66433483772055]
本研究では,非正規化密度やエネルギー関数を持つ分布からサンプルを抽出する拡散モデルの訓練問題について検討する。
シミュレーションに基づく変分法や非政治手法など,拡散構造推論手法のベンチマークを行った。
我々の結果は、過去の研究の主張に疑問を投げかけながら、既存のアルゴリズムの相対的な利点を浮き彫りにした。
論文 参考訳(メタデータ) (2024-02-07T18:51:49Z) - Adaptive deep density approximation for fractional Fokker-Planck
equations [6.066542157374599]
本稿では,フローベース深層生成モデルKRnetによって誘導される明示的なPDFモデルについて述べる。
分数ラプラシアンを近似する2つの方法を考える。
これらの2種類のラプラシアン近似法に基づいて、定常FPEと時間依存FPEを近似するために、MCNFとGRBFNFの2つのモデルを提案する。
論文 参考訳(メタデータ) (2022-10-26T00:58:17Z) - Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-10-24T16:54:18Z) - Gauge-equivariant flow models for sampling in lattice field theories
with pseudofermions [51.52945471576731]
本研究は,フェルミオン行列式の推定器として擬フェルミオンを用いたフェルミオン格子場理論におけるフローベースサンプリングのためのゲージ不変アーキテクチャを提案する。
これは最先端の格子場理論計算におけるデフォルトのアプローチであり、QCDのような理論へのフローモデルの実践的応用に欠かせない。
論文 参考訳(メタデータ) (2022-07-18T21:13:34Z) - Mean-field Variational Inference via Wasserstein Gradient Flow [8.05603983337769]
平均場(MF)近似のような変分推論は、効率的な計算のためにある種の共役構造を必要とする。
We introduced a general computer framework to implement MFal inference for Bayesian model with or without latent variables, using the Wasserstein gradient flow (WGF)。
本稿では,ニューラルネットワークを用いた制約のない関数近似手法を提案する。
論文 参考訳(メタデータ) (2022-07-17T04:05:32Z) - How Much is Enough? A Study on Diffusion Times in Score-based Generative
Models [76.76860707897413]
現在のベストプラクティスは、フォワードダイナミクスが既知の単純なノイズ分布に十分に近づくことを確実にするために大きなTを提唱している。
本稿では, 理想とシミュレーションされたフォワードダイナミクスのギャップを埋めるために補助モデルを用いて, 標準的な逆拡散過程を導出する方法について述べる。
論文 参考訳(メタデータ) (2022-06-10T15:09:46Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Normalizing Field Flows: Solving forward and inverse stochastic
differential equations using Physics-Informed flow model [8.455584500599807]
本研究では,散乱測定からランダム場を学習する場流の正規化(NFF)について紹介する。
我々は、非ガウス過程、混合ガウス過程、前方および逆偏微分方程式を学習するためのNFFモデルの有効性を実証する。
論文 参考訳(メタデータ) (2021-08-30T01:58:01Z) - Interpolation Technique to Speed Up Gradients Propagation in Neural ODEs [71.26657499537366]
本稿では,ニューラルネットワークモデルにおける勾配の効率的な近似法を提案する。
我々は、分類、密度推定、推論近似タスクにおいて、ニューラルODEをトレーニングするリバースダイナミック手法と比較する。
論文 参考訳(メタデータ) (2020-03-11T13:15:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。