論文の概要: Fast Bayesian Inference with Batch Bayesian Quadrature via Kernel
Recombination
- arxiv url: http://arxiv.org/abs/2206.04734v1
- Date: Thu, 9 Jun 2022 19:14:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-13 15:16:42.468148
- Title: Fast Bayesian Inference with Batch Bayesian Quadrature via Kernel
Recombination
- Title(参考訳): Batch Bayesian Quadrature を用いた Kernel Recombination による高速ベイズ推定
- Authors: Masaki Adachi, Satoshi Hayakawa, Martin J{\o}rgensen, Harald
Oberhauser, Michael A. Osborne
- Abstract要約: 確率収束率を有する並列(バッチ)ベイズ二次法(BQ)を提案する。
提案手法は,各種実世界のデータセットにおける最先端BQ手法とNested Smplingの両方のサンプリング効率を大幅に向上させる。
- 参考スコア(独自算出の注目度): 23.6031259333814
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Calculation of Bayesian posteriors and model evidences typically requires
numerical integration. Bayesian quadrature (BQ), a surrogate-model-based
approach to numerical integration, is capable of superb sample efficiency, but
its lack of parallelisation has hindered its practical applications. In this
work, we propose a parallelised (batch) BQ method, employing techniques from
kernel quadrature, that possesses a provably-exponential convergence rate.
Additionally, just as with Nested Sampling, our method permits simultaneous
inference of both posteriors and model evidence. Samples from our BQ surrogate
model are re-selected to give a sparse set of samples, via a kernel
recombination algorithm, requiring negligible additional time to increase the
batch size. Empirically, we find that our approach significantly outperforms
the sampling efficiency of both state-of-the-art BQ techniques and Nested
Sampling in various real-world datasets, including lithium-ion battery
analytics.
- Abstract(参考訳): ベイズ的後続とモデル証拠の計算は通常、数値積分を必要とする。
数値積分に対するサロゲートモデルに基づくアプローチであるベイズ二次(bq)は、サンプル効率を超越することができるが、並列化の欠如は実用的応用を妨げている。
本研究では,並列化(バッチ)BQ手法を提案する。
さらに、Nested Smplingと同様に、我々の手法は後部およびモデル証拠の同時推論を可能にする。
我々のBQサロゲートモデルのサンプルは、カーネル組換えアルゴリズムを介してスパースセットのサンプルを与えるために再選択され、バッチサイズを増やすために無視できない追加時間が必要になります。
実験により,リチウムイオン電池分析を含む実世界のさまざまなデータセットにおいて,最先端のBQ技術とNested Samplingのサンプリング効率を大きく上回ることがわかった。
関連論文リスト
- Stable generative modeling using Schrödinger bridges [0.22499166814992438]
本稿では,Schr"odinger BridgesとLangevin dynamicsを組み合わせた生成モデルを提案する。
我々のフレームワークは自然に条件付きサンプルを生成し、ベイズ推論問題に拡張することができる。
論文 参考訳(メタデータ) (2024-01-09T06:15:45Z) - Bayesian Pseudo-Coresets via Contrastive Divergence [5.479797073162603]
対照的な発散を利用して擬似コアセットを構築するための新しい手法を提案する。
これは擬似コアセット構築プロセスにおける近似の必要性を排除する。
複数のデータセットに対して広範な実験を行い、既存のBPC技術よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-03-20T17:13:50Z) - Fast post-process Bayesian inference with Variational Sparse Bayesian Quadrature [13.36200518068162]
本稿では,既存の目標密度評価から高速な後続近似を得る手段として,プロセス後ベイズ推定の枠組みを提案する。
この枠組みでは,ブラックボックスと潜在的ノイズの可能性のあるモデルに対して,プロセス後近似推定法である変分スパースベイズ近似(VSBQ)を導入する。
本手法は,計算神経科学による難解な合成シナリオと実世界の応用について検証する。
論文 参考訳(メタデータ) (2023-03-09T13:58:35Z) - Importance sampling for stochastic quantum simulations [68.8204255655161]
我々は、係数に応じてハミルトン式からサンプリングしてランダムな積公式を構築するqDriftプロトコルを導入する。
サンプリング段階における個別のシミュレーションコストを考慮し、同じ精度でシミュレーションコストを削減可能であることを示す。
格子核効果場理論を用いて数値シミュレーションを行った結果, 実験結果が得られた。
論文 参考訳(メタデータ) (2022-12-12T15:06:32Z) - Arithmetic Sampling: Parallel Diverse Decoding for Large Language Models [65.52639709094963]
ビームサーチやガンベルトップkサンプリングのような手法は、ビームの各要素に対して異なる出力を保証できるが、並列化は容易ではない。
本稿では,大言語モデルによって暗黙的に定義された算術符号書に従ってサンプリングを行うフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-18T22:19:41Z) - Applying Regularized Schr\"odinger-Bridge-Based Stochastic Process in
Generative Modeling [0.0]
本研究は,時間ステップ数とトレーニング時間を削減し,双方向プロセスと時間ステップ数との整合性を確保するための正規化条件を提案する。
この正規化を様々なタスクに適用することにより、より高速なサンプリング速度のプロセスに基づく生成モデリングの可能性を確認することができる。
論文 参考訳(メタデータ) (2022-08-15T11:52:33Z) - Posterior Coreset Construction with Kernelized Stein Discrepancy for
Model-Based Reinforcement Learning [78.30395044401321]
我々は、強化学習(MBRL)のための新しいモデルベースアプローチを開発する。
ターゲット遷移モデルの仮定を緩和し、混合モデルの一般的な族に属する。
連続的な制御環境では、壁時計の時間を最大50%削減することができる。
論文 参考訳(メタデータ) (2022-06-02T17:27:49Z) - A Stochastic Newton Algorithm for Distributed Convex Optimization [62.20732134991661]
均質な分散凸最適化のためのNewtonアルゴリズムを解析し、各マシンが同じ人口目標の勾配を計算する。
提案手法は,既存の手法と比較して,性能を損なうことなく,必要な通信ラウンドの数,頻度を低減できることを示す。
論文 参考訳(メタデータ) (2021-10-07T17:51:10Z) - Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。
分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
論文 参考訳(メタデータ) (2020-02-21T14:03:16Z) - Distributed, partially collapsed MCMC for Bayesian Nonparametrics [68.5279360794418]
ディリクレ法やベータ・ベルヌーリ法のようなモデルでよく用いられる完全無作為測度は独立な部分測度に分解可能であるという事実を利用する。
この分解を用いて、潜在測度を、インスタンス化された成分のみを含む有限測度と、他のすべての成分を含む無限測度に分割する。
得られたハイブリッドアルゴリズムは、収束保証を犠牲にすることなくスケーラブルな推論を可能にすることができる。
論文 参考訳(メタデータ) (2020-01-15T23:10:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。