論文の概要: Maximum likelihood estimation and uncertainty quantification for
Gaussian process approximation of deterministic functions
- arxiv url: http://arxiv.org/abs/2001.10965v3
- Date: Mon, 11 May 2020 15:39:18 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-05 21:39:46.752950
- Title: Maximum likelihood estimation and uncertainty quantification for
Gaussian process approximation of deterministic functions
- Title(参考訳): 決定論的関数のガウス過程近似のための最大確率推定と不確実量化
- Authors: Toni Karvonen, George Wynne, Filip Tronarp, Chris J. Oates, Simo
S\"arkk\"a
- Abstract要約: 本稿は、ガウス過程の回帰の文脈において、ノイズのないデータセットを用いた最初の理論的分析の1つを提供する。
本稿では,スケールパラメータのみの最大推定がガウス過程モデルの不特定に対する顕著な適応をもたらすことを示す。
- 参考スコア(独自算出の注目度): 10.319367855067476
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite the ubiquity of the Gaussian process regression model, few
theoretical results are available that account for the fact that parameters of
the covariance kernel typically need to be estimated from the dataset. This
article provides one of the first theoretical analyses in the context of
Gaussian process regression with a noiseless dataset. Specifically, we consider
the scenario where the scale parameter of a Sobolev kernel (such as a
Mat\'{e}rn kernel) is estimated by maximum likelihood. We show that the maximum
likelihood estimation of the scale parameter alone provides significant
adaptation against misspecification of the Gaussian process model in the sense
that the model can become "slowly" overconfident at worst, regardless of the
difference between the smoothness of the data-generating function and that
expected by the model. The analysis is based on a combination of techniques
from nonparametric regression and scattered data interpolation. Empirical
results are provided in support of the theoretical findings.
- Abstract(参考訳): ガウス過程回帰モデルの普遍性にもかかわらず、共分散核のパラメータがデータセットから推定される必要があるという事実を考慮した理論的な結果はほとんど得られない。
本稿では、ガウス過程回帰の文脈における最初の理論的分析の1つをノイズレスデータセットで提供する。
具体的には、ソボレフ核(例えばmat\'{e}rn核)のスケールパラメータが最大確率で推定されるシナリオを考える。
本研究は,データ生成関数の滑らかさとモデルが期待する値との差に拘わらず,モデルが最悪の場合には"低い"過信頼になり得るという意味で,スケールパラメータの最大推定がガウス過程モデルの誤特定に対して重要な適応を与えることを示す。
この分析は、非パラメトリック回帰と散乱データ補間による手法の組み合わせに基づいている。
理論的結果を支持する実験結果が提供される。
関連論文リスト
- Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Leveraging Self-Consistency for Data-Efficient Amortized Bayesian Inference [9.940560505044122]
本稿では,償却ベイズ推定の効率と精度を向上させる手法を提案する。
我々は,関節モデルの近似表現に基づいて限界確率を推定する。
論文 参考訳(メタデータ) (2023-10-06T17:41:41Z) - Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳(メタデータ) (2023-09-02T01:27:53Z) - Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood
Estimation for Latent Gaussian Models [69.22568644711113]
我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。
理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。
シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
論文 参考訳(メタデータ) (2023-06-05T21:08:34Z) - Posterior and Computational Uncertainty in Gaussian Processes [52.26904059556759]
ガウスのプロセスはデータセットのサイズとともに違法にスケールする。
多くの近似法が開発されており、必然的に近似誤差を導入している。
この余分な不確実性の原因は、計算が限られているため、近似後部を使用すると完全に無視される。
本研究では,観測された有限個のデータと有限個の計算量の両方から生じる組合せ不確実性を一貫した推定を行う手法の開発を行う。
論文 参考訳(メタデータ) (2022-05-30T22:16:25Z) - Nonparametric likelihood-free inference with Jensen-Shannon divergence
for simulator-based models with categorical output [1.4298334143083322]
シミュレータに基づく統計モデルに対する自由な推論は、機械学習と統計のコミュニティの両方において、関心の高まりを招いている。
本稿では、Jensen-Shannon- divergenceの計算特性を用いて、モデルパラメータに対する推定、仮説テスト、信頼区間の構築を可能にする理論的結果のセットを導出する。
このような近似はより集中的なアプローチの素早い代替手段であり、シミュレーターベースモデルの多種多様な応用には魅力的である。
論文 参考訳(メタデータ) (2022-05-22T18:00:13Z) - Maximum Likelihood Estimation in Gaussian Process Regression is
Ill-Posed [7.018149356115115]
最大極大推定が適切である状況を確立することは、依然として未解決の問題である。
本稿は、最大可能性推定器が正しく提示されないシナリオを特定する。
最大推定の失敗はガウス過程の民俗学の一部ではあるが、これらの厳密な理論的な結果はそれらの種類の最初のものと思われる。
論文 参考訳(メタデータ) (2022-03-17T09:00:39Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Latent Gaussian Model Boosting [0.0]
ツリーブースティングは多くのデータセットに対して優れた予測精度を示す。
シミュレーションおよび実世界のデータ実験において,既存の手法と比較して予測精度が向上した。
論文 参考訳(メタデータ) (2021-05-19T07:36:30Z) - Robust Gaussian Process Regression with a Bias Model [0.6850683267295248]
既存のほとんどのアプローチは、重い尾の分布から誘導される非ガウス的確率に、外れやすいガウス的確率を置き換えるものである。
提案手法は、未知の回帰関数の雑音および偏りの観測として、外れ値をモデル化する。
バイアス推定に基づいて、ロバストなGP回帰を標準のGP回帰問題に還元することができる。
論文 参考訳(メタデータ) (2020-01-14T06:21:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。