論文の概要: MuyGPs: Scalable Gaussian Process Hyperparameter Estimation Using Local
Cross-Validation
- arxiv url: http://arxiv.org/abs/2104.14581v1
- Date: Thu, 29 Apr 2021 18:10:21 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-04 04:08:22.319440
- Title: MuyGPs: Scalable Gaussian Process Hyperparameter Estimation Using Local
Cross-Validation
- Title(参考訳): MuyGPs:ローカルクロスバリデーションを用いたスケーラブルガウスプロセスハイパーパラメータ推定
- Authors: Amanda Muyskens, Benjamin Priest, Im\`ene Goumiri, and Michael
Schneider
- Abstract要約: 本稿では,新しいGPハイパーパラメータ推定法であるMuyGPを提案する。
MuyGPsは、データの最も近い隣人構造を利用する事前のメソッドの上に構築される。
提案手法は, 解法と予測値の平均二乗誤差の両方において, 既知の競合よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 1.2233362977312945
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Gaussian processes (GPs) are non-linear probabilistic models popular in many
applications. However, na\"ive GP realizations require quadratic memory to
store the covariance matrix and cubic computation to perform inference or
evaluate the likelihood function. These bottlenecks have driven much investment
in the development of approximate GP alternatives that scale to the large data
sizes common in modern data-driven applications. We present in this manuscript
MuyGPs, a novel efficient GP hyperparameter estimation method. MuyGPs builds
upon prior methods that take advantage of the nearest neighbors structure of
the data, and uses leave-one-out cross-validation to optimize covariance
(kernel) hyperparameters without realizing a possibly expensive likelihood. We
describe our model and methods in detail, and compare our implementations
against the state-of-the-art competitors in a benchmark spatial statistics
problem. We show that our method outperforms all known competitors both in
terms of time-to-solution and the root mean squared error of the predictions.
- Abstract(参考訳): ガウス過程 (GP) は、多くのアプリケーションで人気のある非線形確率モデルである。
しかし、共分散行列と立方体計算を格納し、推測や可能性関数の評価を行うために、na\ GP の実現には二次記憶が必要である。
これらのボトルネックは、現代のデータ駆動アプリケーションで一般的な大規模データサイズにスケールするgp代替品の開発に多大な投資をしてきた。
本稿では,新しいGPハイパーパラメータ推定法であるMuyGPsについて述べる。
MuyGPは、データに最も近い隣り合う構造を利用する事前の手法の上に構築され、余剰のクロスバリデーションを使用して、コストのかかる可能性に気付かずに共分散(カーネル)ハイパーパラメータを最適化する。
本稿では,我々のモデルと手法を詳細に記述し,その実装をベンチマーク空間統計問題における最先端の競合相手と比較する。
提案手法は, 解法と予測値の平均二乗誤差の両方において, 既知の競合よりも優れていることを示す。
関連論文リスト
- Compactly-supported nonstationary kernels for computing exact Gaussian processes on big data [2.8377382540923004]
スパーシリティと非定常性の両方を発見およびエンコードできる代替カーネルを導出する。
我々は,既存の精密かつ近似的なGP法と比較して,新しいカーネルの性能を実証する。
また,1日当たりの最大気温を100万回以上測定し,時空間予測を行った。
論文 参考訳(メタデータ) (2024-11-07T20:07:21Z) - Computation-Aware Gaussian Processes: Model Selection And Linear-Time Inference [55.150117654242706]
我々は、1.8万のデータポイントでトレーニングされた計算対応GPのモデル選択が、1つのGPU上で数時間以内に可能であることを示す。
この研究の結果、ガウス過程は、不確実性を定量化する能力を著しく妥協することなく、大規模なデータセットで訓練することができる。
論文 参考訳(メタデータ) (2024-11-01T21:11:48Z) - AcceleratedLiNGAM: Learning Causal DAGs at the speed of GPUs [57.12929098407975]
既存の因果探索法を効率的に並列化することにより,数千次元まで拡張可能であることを示す。
具体的には、DirectLiNGAMの因果順序付けサブプロデューサに着目し、GPUカーネルを実装して高速化する。
これにより、遺伝子介入による大規模遺伝子発現データに対する因果推論にDirectLiNGAMを適用することで、競争結果が得られる。
論文 参考訳(メタデータ) (2024-03-06T15:06:11Z) - FaDIn: Fast Discretized Inference for Hawkes Processes with General
Parametric Kernels [82.53569355337586]
この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。
脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。
その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
論文 参考訳(メタデータ) (2022-10-10T12:35:02Z) - Revisiting Active Sets for Gaussian Process Decoders [0.0]
我々は最近発見されたクロスバリデーションのリンクに基づいて,ログマージ可能性の新たな推定法を開発した。
結果の能動集合 (SAS) 近似がGPデコーダトレーニングの堅牢性を大幅に向上することを示す。
論文 参考訳(メタデータ) (2022-09-10T10:49:31Z) - Shallow and Deep Nonparametric Convolutions for Gaussian Processes [0.0]
GPの非パラメトリックプロセス畳み込み定式化を導入し,機能サンプリング手法を用いて弱点を緩和する。
古典的ディープGPモデルの代替となるこれらの非パラメトリック畳み込みの合成を提案する。
論文 参考訳(メタデータ) (2022-06-17T19:03:04Z) - Scaling Gaussian Process Optimization by Evaluating a Few Unique
Candidates Multiple Times [119.41129787351092]
GPに基づく逐次ブラックボックス最適化は,複数の評価ステップの候補解に固執することで効率よく行うことができることを示す。
GP-UCB と GP-EI の2つのよく確立されたGP-Opt アルゴリズムを改良し,バッチ化された GP-Opt の規則を適応させる。
論文 参考訳(メタデータ) (2022-01-30T20:42:14Z) - Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。
NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
論文 参考訳(メタデータ) (2021-10-26T10:45:25Z) - On MCMC for variationally sparse Gaussian processes: A pseudo-marginal
approach [0.76146285961466]
ガウス過程(GP)は、機械学習や統計学において強力なモデルを構築するために頻繁に用いられる。
本稿では,2重推定器による確率と大規模データセットの正確な推測と計算的ゲインを提供する擬似マージナル(PM)方式を提案する。
論文 参考訳(メタデータ) (2021-03-04T20:48:29Z) - Scalable Gaussian Process Variational Autoencoders [17.345687261000045]
本稿では,実行時およびメモリフットプリントの観点から既存手法より優れた拡張性を持つGP-VAEモデルを提案する。
論文 参考訳(メタデータ) (2020-10-26T10:26:02Z) - Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。
本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。
本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
論文 参考訳(メタデータ) (2020-06-18T14:24:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。