論文の概要: Multilevel Gibbs Sampling for Bayesian Regression

• arxiv url: http://arxiv.org/abs/2009.12132v1
• Date: Fri, 25 Sep 2020 11:18:17 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-14 22:48:48.601969
• Title: Multilevel Gibbs Sampling for Bayesian Regression
• Title（参考訳）: ベイズ回帰のための多レベルgibbsサンプリング
• Authors: Joris Tavernier, Jaak Simm, Adam Arany, Karl Meerbergen, Yves Moreau
• Abstract要約: データ行列のレベル階層は、データ行列の特徴やサンプルをクラスタリングすることによって作成されます。 マルコフ連鎖の収束を改善するために, 相関試料を用いた分散還元について検討した。 スピードアップは、予測性能に大きな損失を被ることなく、ほぼすべてに対して達成される。
• 参考スコア（独自算出の注目度）: 6.2997667081978825
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Bayesian regression remains a simple but effective tool based on Bayesian inference techniques. For large-scale applications, with complicated posterior distributions, Markov Chain Monte Carlo methods are applied. To improve the well-known computational burden of Markov Chain Monte Carlo approach for Bayesian regression, we developed a multilevel Gibbs sampler for Bayesian regression of linear mixed models. The level hierarchy of data matrices is created by clustering the features and/or samples of data matrices. Additionally, the use of correlated samples is investigated for variance reduction to improve the convergence of the Markov Chain. Testing on a diverse set of data sets, speed-up is achieved for almost all of them without significant loss in predictive performance.
• Abstract（参考訳）: ベイズ回帰は、ベイズ推論技術に基づく単純だが効果的なツールである。 複雑な後方分布を持つ大規模応用では、マルコフ連鎖モンテカルロ法が適用される。 マルコフ・チェイン・モンテカルロのベイズ回帰に対する計算負荷を改善するために,線形混合モデルのベイズ回帰のための多レベルギブスサンプリング器を開発した。 データ行列のレベル階層は、データ行列の特徴やサンプルをクラスタリングすることによって生成される。 さらに, マルコフ連鎖の収束を改善するために, 相関試料を用いた分散還元について検討した。 多様なデータセットでテストすると、ほぼすべてのデータセットでスピードアップが達成され、予測性能が大幅に低下する。

関連論文リスト

• Low-rank Bayesian matrix completion via geodesic Hamiltonian Monte Carlo on Stiefel manifolds [0.18416014644193066]
  低ランクベイズ行列の効率的な計算を可能にするための新しいサンプリングベース手法を提案する。 提案手法は, 標準ギブスサンプリング器で発生するサンプリング困難を, 行列完備化に使用される一般的な2つの行列因子化のために解決することを示す。 数値的な例は、より優れた混合と定常分布への高速収束を含む優れたサンプリング性能を示す。
  論文  参考訳（メタデータ） (2024-10-27T03:12:53Z)
• Regression-aware Inference with LLMs [52.764328080398805]
  提案手法は,一般的な回帰と評価指標に準最適であることを示す。 本稿では,ベイズ最適解を推定し,サンプル応答からクローズド形式の評価指標を推定する代替推論手法を提案する。
  論文  参考訳（メタデータ） (2024-03-07T03:24:34Z)
• Gradient-flow adaptive importance sampling for Bayesian leave one out cross-validation with application to sigmoidal classification models [0.9895793818721335]
  勾配流誘導適応重要度サンプリング(IS)変換によるモンテカルロ近似の安定化 我々は、モデルヘッセンに関するヤコビ行列式に対して閉形式完全式を導出する。
  論文  参考訳（メタデータ） (2024-02-13T01:03:39Z)
• Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood Estimation for Latent Gaussian Models [69.22568644711113]
  我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。 理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。 シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
  論文  参考訳（メタデータ） (2023-06-05T21:08:34Z)
• Dimension-free mixing times of Gibbs samplers for Bayesian hierarchical models [0.0]
  階層モデルを対象としたギブス試料の総変動混合時間の挙動を解析した。 2段階モデルの幅広いクラスに対するランダムなデータ生成仮定の下で収束結果を得る。
  論文  参考訳（メタデータ） (2023-04-14T08:30:40Z)
• Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
  Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。 提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
  論文  参考訳（メタデータ） (2022-06-22T17:58:23Z)
• A fast asynchronous MCMC sampler for sparse Bayesian inference [10.535140830570256]
  本稿では,非常に高速なマルコフ・チェイン・モンテカルロ(MCMC)サンプリングフレームワークを提案する。 本研究では, 高次元線形回帰問題において, 提案アルゴリズムで生成したマルコフ連鎖は, 主信号の正確な復元を行う不変分布を持つことを示す。
  論文  参考訳（メタデータ） (2021-08-14T02:20:49Z)
• T-LoHo: A Bayesian Regularization Model for Structured Sparsity and Smoothness on Graphs [0.0]
  グラフ構造化データでは、構造化されたスパーシリティと滑らかさが団結する傾向にある。 グラフィカルな関係を持つ高次元パラメータに先立って提案する。 構造された空間と滑らかさを同時に検出するために使用します。
  論文  参考訳（メタデータ） (2021-07-06T10:10:03Z)
• Solving weakly supervised regression problem using low-rank manifold regularization [77.34726150561087]
  我々は弱い教師付き回帰問題を解く。 weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。 数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
  論文  参考訳（メタデータ） (2021-04-13T23:21:01Z)
• Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
  高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。 分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
  論文  参考訳（メタデータ） (2020-02-21T14:03:16Z)
• Particle-Gibbs Sampling For Bayesian Feature Allocation Models [77.57285768500225]
  最も広く使われているMCMC戦略は、特徴割り当て行列のギブス更新に頼っている。 単一移動で特徴割り当て行列の全行を更新できるギブスサンプリング器を開発した。 このサンプルは、計算複雑性が特徴数で指数関数的にスケールするにつれて、多数の特徴を持つモデルにとって実用的ではない。 我々は,行ワイズギブズ更新と同じ分布を目標としたパーティクルギブズサンプルの開発を行うが,特徴数でのみ線形に増大する計算複雑性を有する。
  論文  参考訳（メタデータ） (2020-01-25T22:11:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。