論文の概要: Transforming Gaussian Processes With Normalizing Flows
- arxiv url: http://arxiv.org/abs/2011.01596v2
- Date: Thu, 25 Feb 2021 17:19:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-30 05:38:46.209193
- Title: Transforming Gaussian Processes With Normalizing Flows
- Title(参考訳): 正規化フローによるガウス過程の変換
- Authors: Juan Maro\~nas, Oliver Hamelijnck, Jeremias Knoblauch, Theodoros
Damoulas
- Abstract要約: パラメトリックな非可逆変換を入力依存にし、解釈可能な事前知識を符号化できることを示す。
結果の推測問題に対する変分近似を導出するが、これは変分GP回帰と同じくらい高速である。
得られたアルゴリズムの計算性能と推論性能は優れており,これを様々なデータセットで示す。
- 参考スコア(独自算出の注目度): 15.886048234706633
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Gaussian Processes (GPs) can be used as flexible, non-parametric function
priors. Inspired by the growing body of work on Normalizing Flows, we enlarge
this class of priors through a parametric invertible transformation that can be
made input-dependent. Doing so also allows us to encode interpretable prior
knowledge (e.g., boundedness constraints). We derive a variational
approximation to the resulting Bayesian inference problem, which is as fast as
stochastic variational GP regression (Hensman et al., 2013; Dezfouli and
Bonilla,2015). This makes the model a computationally efficient alternative to
other hierarchical extensions of GP priors (Lazaro-Gredilla,2012; Damianou and
Lawrence, 2013). The resulting algorithm's computational and inferential
performance is excellent, and we demonstrate this on a range of data sets. For
example, even with only 5 inducing points and an input-dependent flow, our
method is consistently competitive with a standard sparse GP fitted using 100
inducing points.
- Abstract(参考訳): ガウス過程 (GP) はフレキシブルで非パラメトリックな関数として使うことができる。
フローの正規化に関する作業の増加に触発されて、入力依存にできるパラメトリックな可逆変換を通じて、このクラスを前もって拡大します。
そうすることで、解釈可能な事前知識(例えば有界性制約)をエンコードすることもできる。
これは確率的変分gp回帰と同じくらい高速である(hensman et al., 2013; dezfouli and bonilla, 2015)。
これにより、GP事前の他の階層的拡張(Lazaro-Gredilla, 2012; Damianou and Lawrence, 2013)の計算的に効率的な代替となる。
結果として得られるアルゴリズムの計算と推論のパフォーマンスは優れており、様々なデータセットでこれを実証する。
例えば、わずか5個の誘導点と入力依存フローであっても、本手法は100個の誘導点を用いた標準スパースGPと一貫して競合する。
関連論文リスト
- Shallow and Deep Nonparametric Convolutions for Gaussian Processes [0.0]
GPの非パラメトリックプロセス畳み込み定式化を導入し,機能サンプリング手法を用いて弱点を緩和する。
古典的ディープGPモデルの代替となるこれらの非パラメトリック畳み込みの合成を提案する。
論文 参考訳(メタデータ) (2022-06-17T19:03:04Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - Scaling Gaussian Process Optimization by Evaluating a Few Unique
Candidates Multiple Times [119.41129787351092]
GPに基づく逐次ブラックボックス最適化は,複数の評価ステップの候補解に固執することで効率よく行うことができることを示す。
GP-UCB と GP-EI の2つのよく確立されたGP-Opt アルゴリズムを改良し,バッチ化された GP-Opt の規則を適応させる。
論文 参考訳(メタデータ) (2022-01-30T20:42:14Z) - Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。
NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
論文 参考訳(メタデータ) (2021-10-26T10:45:25Z) - MuyGPs: Scalable Gaussian Process Hyperparameter Estimation Using Local
Cross-Validation [1.2233362977312945]
本稿では,新しいGPハイパーパラメータ推定法であるMuyGPを提案する。
MuyGPsは、データの最も近い隣人構造を利用する事前のメソッドの上に構築される。
提案手法は, 解法と予測値の平均二乗誤差の両方において, 既知の競合よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-04-29T18:10:21Z) - Scalable Gaussian Process Variational Autoencoders [17.345687261000045]
本稿では,実行時およびメモリフットプリントの観点から既存手法より優れた拡張性を持つGP-VAEモデルを提案する。
論文 参考訳(メタデータ) (2020-10-26T10:26:02Z) - Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。
本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。
本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
論文 参考訳(メタデータ) (2020-06-18T14:24:05Z) - Sparse Gaussian Processes Revisited: Bayesian Approaches to
Inducing-Variable Approximations [27.43948386608]
変数の誘導に基づく変分推論手法はガウス過程(GP)モデルにおけるスケーラブルな推定のためのエレガントなフレームワークを提供する。
この研究において、変分フレームワークにおけるインプットの最大化は最適な性能をもたらすという共通の知恵に挑戦する。
論文 参考訳(メタデータ) (2020-03-06T08:53:18Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z) - Gaussianization Flows [113.79542218282282]
そこで本研究では,サンプル生成における効率のよい繰り返しと効率のよい逆変換を両立できる新しい型正規化フローモデルを提案する。
この保証された表現性のため、サンプル生成の効率を損なうことなく、マルチモーダルなターゲット分布をキャプチャできる。
論文 参考訳(メタデータ) (2020-03-04T08:15:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。