論文の概要: Robust Gaussian Process Regression with a Bias Model
- arxiv url: http://arxiv.org/abs/2001.04639v1
- Date: Tue, 14 Jan 2020 06:21:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-11 12:26:24.663087
- Title: Robust Gaussian Process Regression with a Bias Model
- Title(参考訳): バイアスモデルを用いたロバストガウス過程回帰
- Authors: Chiwoo Park, David J. Borth, Nicholas S. Wilson, Chad N. Hunter, and
Fritz J. Friedersdorf
- Abstract要約: 既存のほとんどのアプローチは、重い尾の分布から誘導される非ガウス的確率に、外れやすいガウス的確率を置き換えるものである。
提案手法は、未知の回帰関数の雑音および偏りの観測として、外れ値をモデル化する。
バイアス推定に基づいて、ロバストなGP回帰を標準のGP回帰問題に還元することができる。
- 参考スコア(独自算出の注目度): 0.6850683267295248
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper presents a new approach to a robust Gaussian process (GP)
regression. Most existing approaches replace an outlier-prone Gaussian
likelihood with a non-Gaussian likelihood induced from a heavy tail
distribution, such as the Laplace distribution and Student-t distribution.
However, the use of a non-Gaussian likelihood would incur the need for a
computationally expensive Bayesian approximate computation in the posterior
inferences. The proposed approach models an outlier as a noisy and biased
observation of an unknown regression function, and accordingly, the likelihood
contains bias terms to explain the degree of deviations from the regression
function. We entail how the biases can be estimated accurately with other
hyperparameters by a regularized maximum likelihood estimation. Conditioned on
the bias estimates, the robust GP regression can be reduced to a standard GP
regression problem with analytical forms of the predictive mean and variance
estimates. Therefore, the proposed approach is simple and very computationally
attractive. It also gives a very robust and accurate GP estimate for many
tested scenarios. For the numerical evaluation, we perform a comprehensive
simulation study to evaluate the proposed approach with the comparison to the
existing robust GP approaches under various simulated scenarios of different
outlier proportions and different noise levels. The approach is applied to data
from two measurement systems, where the predictors are based on robust
environmental parameter measurements and the response variables utilize more
complex chemical sensing methods that contain a certain percentage of outliers.
The utility of the measurement systems and value of the environmental data are
improved through the computationally efficient GP regression and bias model.
- Abstract(参考訳): 本稿では,ロバストガウス過程(gp)回帰に対する新しいアプローチを提案する。
既存のアプローチのほとんどは、ラプラス分布や学生-t分布のような重い尾分布から誘導される非ガウス確率に置き換えるものである。
しかし、非ガウス的可能性の使用は、後部推論における計算コストの高いベイズ近似計算の必要性をもたらす。
提案手法は,未知回帰関数の雑音および偏りの観測として外乱をモデル化し,従って回帰関数からの偏差の程度を説明するバイアス項を含む。
偏りを他のハイパーパラメータと正確に推定する方法を正則化された最大確率推定によって記述する。
バイアス推定を条件に、頑健なGP回帰を予測平均と分散推定の分析形式を持つ標準GP回帰問題に還元することができる。
したがって,提案手法は単純で計算上非常に魅力的である。
また、多くのテストシナリオに対して非常に堅牢で正確なGP推定を提供する。
数値評価では, 既往の頑健なGP手法と比較して, 異なる外周比と異なる雑音レベルの様々なシミュレーションシナリオにおいて, 提案手法を総合的に評価する。
このアプローチは、2つの測定システムからのデータに適用され、予測器はロバストな環境パラメータの測定に基づいており、応答変数は特定の外れ値を含むより複雑な化学センシング手法を使用している。
計算効率の高いgp回帰モデルとバイアスモデルにより,計測システムの有用性と環境データの価値が向上した。
関連論文リスト
- Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Model-Based Reparameterization Policy Gradient Methods: Theory and
Practical Algorithms [88.74308282658133]
Reization (RP) Policy Gradient Methods (PGM) は、ロボット工学やコンピュータグラフィックスにおける連続的な制御タスクに広く採用されている。
近年の研究では、長期強化学習問題に適用した場合、モデルベースRP PGMはカオス的かつ非滑らかな最適化環境を経験する可能性があることが示されている。
本稿では,長期モデルアンロールによる爆発的分散問題を緩和するスペクトル正規化法を提案する。
論文 参考訳(メタデータ) (2023-10-30T18:43:21Z) - Engression: Extrapolation through the Lens of Distributional Regression [2.519266955671697]
我々は、エングレースと呼ばれるニューラルネットワークに基づく分布回帰手法を提案する。
エングレスモデル(engression model)は、適合した条件分布からサンプリングできるという意味で生成され、高次元結果にも適している。
一方、最小二乗法や量子回帰法のような従来の回帰手法は、同じ仮定の下では不十分である。
論文 参考訳(メタデータ) (2023-07-03T08:19:00Z) - Robust Gaussian Process Regression with Huber Likelihood [2.7184224088243365]
本稿では,ハマー確率分布として表される観測データの可能性を考慮した,ガウス過程フレームワークにおけるロバストなプロセスモデルを提案する。
提案モデルでは、予測統計に基づく重みを用いて、残差を拡大し、潜伏関数推定における垂直外れ値と悪レバレッジ点の影響を限定する。
論文 参考訳(メタデータ) (2023-01-19T02:59:33Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Maximum Likelihood Estimation in Gaussian Process Regression is
Ill-Posed [7.018149356115115]
最大極大推定が適切である状況を確立することは、依然として未解決の問題である。
本稿は、最大可能性推定器が正しく提示されないシナリオを特定する。
最大推定の失敗はガウス過程の民俗学の一部ではあるが、これらの厳密な理論的な結果はそれらの種類の最初のものと思われる。
論文 参考訳(メタデータ) (2022-03-17T09:00:39Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z) - SLOE: A Faster Method for Statistical Inference in High-Dimensional
Logistic Regression [68.66245730450915]
実用データセットに対する予測の偏見を回避し、頻繁な不確実性を推定する改善された手法を開発している。
私たちの主な貢献は、推定と推論の計算時間をマグニチュードの順序で短縮する収束保証付き信号強度の推定器SLOEです。
論文 参考訳(メタデータ) (2021-03-23T17:48:56Z) - Robust Gaussian Process Regression Based on Iterative Trimming [6.912744078749024]
本稿では、最も極端なデータポイントを反復的にトリムする、新しい頑健なGP回帰アルゴリズムを提案する。
極端または豊富な外れ値が存在する場合でも、汚染されたデータのモデル精度を大幅に向上させることができる。
天体物理学的な研究の実践例として、星団の色-マグニチュード図の主系列尾根線を正確に決定できることが示されている。
論文 参考訳(メタデータ) (2020-11-22T16:43:35Z) - Maximum likelihood estimation and uncertainty quantification for
Gaussian process approximation of deterministic functions [10.319367855067476]
本稿は、ガウス過程の回帰の文脈において、ノイズのないデータセットを用いた最初の理論的分析の1つを提供する。
本稿では,スケールパラメータのみの最大推定がガウス過程モデルの不特定に対する顕著な適応をもたらすことを示す。
論文 参考訳(メタデータ) (2020-01-29T17:20:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。