論文の概要: Extended Stochastic Gradient MCMC for Large-Scale Bayesian Variable
Selection
- arxiv url: http://arxiv.org/abs/2002.02919v1
- Date: Fri, 7 Feb 2020 17:47:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-03 04:36:27.739253
- Title: Extended Stochastic Gradient MCMC for Large-Scale Bayesian Variable
Selection
- Title(参考訳): 大規模ベイズ可変選択のための拡張確率勾配MCMC
- Authors: Qifan Song, Yan Sun, Mao Ye, Faming Liang
- Abstract要約: 勾配マルコフ連鎖モンテカルロ (MCMC) アルゴリズムは、ビッグデータ問題に対するベイズ計算において多くの注目を集めている。
本稿では,より一般的な大規模ベイズ計算問題に適用可能な拡張勾配 lgoriathm を提案する。
数値解析により、提案アルゴリズムは従来のMCMCアルゴリズムよりも非常にスケーラブルで効率的であることが示されている。
- 参考スコア(独自算出の注目度): 17.236755290790327
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Stochastic gradient Markov chain Monte Carlo (MCMC) algorithms have received
much attention in Bayesian computing for big data problems, but they are only
applicable to a small class of problems for which the parameter space has a
fixed dimension and the log-posterior density is differentiable with respect to
the parameters. This paper proposes an extended stochastic gradient MCMC
lgoriathm which, by introducing appropriate latent variables, can be applied to
more general large-scale Bayesian computing problems, such as those involving
dimension jumping and missing data. Numerical studies show that the proposed
algorithm is highly scalable and much more efficient than traditional MCMC
algorithms. The proposed algorithms have much alleviated the pain of Bayesian
methods in big data computing.
- Abstract(参考訳): 確率勾配マルコフ連鎖モンテカルロ (MCMC) アルゴリズムは、ビッグデータ問題に対するベイズ計算において多くの注目を集めているが、パラメータ空間が固定次元を持ち、対数後続密度がパラメータに関して微分可能であるような小さな問題にのみ適用可能である。
本稿では,適切な潜伏変数を導入することで,次元跳躍や欠落データなど,より一般的な大規模ベイズ計算問題に適用可能な拡張確率勾配MCMC lgoriathmを提案する。
数値実験により,本アルゴリズムは従来のmcmcアルゴリズムよりもスケーラブルで効率的であることが判明した。
提案するアルゴリズムは,ビッグデータコンピューティングにおけるベイズ手法の苦痛を和らげるものである。
関連論文リスト
- Computation-Aware Kalman Filtering and Smoothing [27.55456716194024]
本稿では,高次元ガウス・オヴモデルに対する確率論的数値推論を提案する。
我々のアルゴリズムはGPUアクセラレーションを活用し、予測コストと不確実性の間の調整可能なトレードオフを可能にする。
論文 参考訳(メタデータ) (2024-05-14T21:31:11Z) - Large-scale Bayesian Structure Learning for Gaussian Graphical Models using Marginal Pseudo-likelihood [0.26249027950824516]
我々は2つの新しいマルコフ連鎖モンテカルロ探索アルゴリズムを導入する。
これらのアルゴリズムは、1000変数の大規模問題であっても、標準コンピュータ上でわずか数分で信頼性の高い結果を提供できる。
また,ヒトおよびマウスの遺伝子発現研究における中・大規模応用における本手法の有用性について述べる。
論文 参考訳(メタデータ) (2023-06-30T20:37:40Z) - Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood
Estimation for Latent Gaussian Models [69.22568644711113]
我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。
理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。
シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
論文 参考訳(メタデータ) (2023-06-05T21:08:34Z) - Linearized Wasserstein dimensionality reduction with approximation
guarantees [65.16758672591365]
LOT Wassmap は、ワーッサーシュタイン空間の低次元構造を明らかにするための計算可能なアルゴリズムである。
我々は,LOT Wassmapが正しい埋め込みを実現し,サンプルサイズの増加とともに品質が向上することを示す。
また、LOT Wassmapがペア距離計算に依存するアルゴリズムと比較して計算コストを大幅に削減することを示す。
論文 参考訳(メタデータ) (2023-02-14T22:12:16Z) - Optimal Algorithms for the Inhomogeneous Spiked Wigner Model [89.1371983413931]
不均一な問題に対する近似メッセージパッシングアルゴリズム(AMP)を導出する。
特に,情報理論の閾値よりも大きい信号と雑音の比を必要とする既知のアルゴリズムが,ランダムよりも優れた処理を行うための統計的・計算的ギャップの存在を同定する。
論文 参考訳(メタデータ) (2023-02-13T19:57:17Z) - Gaussian process regression and conditional Karhunen-Lo\'{e}ve models
for data assimilation in inverse problems [68.8204255655161]
偏微分方程式モデルにおけるデータ同化とパラメータ推定のためのモデル逆アルゴリズムCKLEMAPを提案する。
CKLEMAP法は標準的なMAP法に比べてスケーラビリティがよい。
論文 参考訳(メタデータ) (2023-01-26T18:14:12Z) - Stochastic Gradient MCMC with Multi-Armed Bandit Tuning [2.2559617939136505]
本稿では,SGMCMCハイパーパラメータを調整し,後部近似の精度を最大化するバンディットに基づく新しいアルゴリズムを提案する。
シミュレーションと実データの両方で実験を行い,本手法が広範囲の応用分野に適用可能であることを確認した。
論文 参考訳(メタデータ) (2021-05-27T11:00:31Z) - An adaptive Hessian approximated stochastic gradient MCMC method [12.93317525451798]
後方からのサンプリング中に局所的幾何情報を組み込む適応型ヘッセン近似勾配MCMC法を提案する。
我々は,ネットワークの空間性を高めるために,等級に基づく重み付け法を採用する。
論文 参考訳(メタデータ) (2020-10-03T16:22:15Z) - Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。
この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。
古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
論文 参考訳(メタデータ) (2020-07-01T18:43:32Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z) - Scaling Bayesian inference of mixed multinomial logit models to very
large datasets [9.442139459221785]
本稿では,バックプロパゲーション,自動微分,GPU加速計算を活用するアモルティファイド変分推論手法を提案する。
本研究では, 後部近似の柔軟性を高めるために, フローの正規化がいかに有効かを示す。
論文 参考訳(メタデータ) (2020-04-11T15:30:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。