論文の概要: Robust Gaussian Process Regression with Huber Likelihood
- arxiv url: http://arxiv.org/abs/2301.07858v1
- Date: Thu, 19 Jan 2023 02:59:33 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-20 15:43:37.621804
- Title: Robust Gaussian Process Regression with Huber Likelihood
- Title(参考訳): フーバー確率を用いたロバストなガウス過程回帰
- Authors: Pooja Algikar and Lamine Mili
- Abstract要約: 本稿では,ハマー確率分布として表される観測データの可能性を考慮した,ガウス過程フレームワークにおけるロバストなプロセスモデルを提案する。
提案モデルでは、予測統計に基づく重みを用いて、残差を拡大し、潜伏関数推定における垂直外れ値と悪レバレッジ点の影響を限定する。
- 参考スコア(独自算出の注目度): 2.7184224088243365
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Gaussian process regression in its most simplified form assumes normal
homoscedastic noise and utilizes analytically tractable mean and covariance
functions of predictive posterior distribution using Gaussian conditioning. Its
hyperparameters are estimated by maximizing the evidence, commonly known as
type II maximum likelihood estimation. Unfortunately, Bayesian inference based
on Gaussian likelihood is not robust to outliers, which are often present in
the observational training data sets. To overcome this problem, we propose a
robust process model in the Gaussian process framework with the likelihood of
observed data expressed as the Huber probability distribution. The proposed
model employs weights based on projection statistics to scale residuals and
bound the influence of vertical outliers and bad leverage points on the latent
functions estimates while exhibiting a high statistical efficiency at the
Gaussian and thick tailed noise distributions. The proposed method is
demonstrated by two real world problems and two numerical examples using
datasets with additive errors following thick tailed distributions such as
Students t, Laplace, and Cauchy distribution.
- Abstract(参考訳): 最も単純化された形でのガウス過程の回帰は、通常のホモシデスティックノイズを仮定し、ガウス条件を用いた予測後続分布の解析的に扱いやすい平均と共分散関数を利用する。
そのハイパーパラメータは、II型最大推定と呼ばれる証拠の最大化によって推定される。
残念ながら、ガウスの確率に基づくベイズ推論は、観測訓練データセットでしばしば見られる外れ値に対して頑健ではない。
この問題を克服するために,ガウス過程の枠組みにおいて,フーバー確率分布として表される観測データの可能性を持つロバストなプロセスモデルを提案する。
提案モデルでは, 残差を計測するために投影統計量に基づく重みを用い, 潜在関数推定に対する鉛直異常値と悪レバレッジ点の影響を限定し, ガウス型および厚いテール型雑音分布において高い統計効率を示す。
提案手法は,生徒t,ラプラス,コーシー分布などの厚い尾付き分布に追従した加算誤差のあるデータセットを用いて,実世界の2問題と2つの数値例を用いて実証された。
関連論文リスト
- von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。
後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - A Heavy-Tailed Algebra for Probabilistic Programming [53.32246823168763]
本稿では,確率変数の尾を解析するための体系的アプローチを提案する。
本稿では,確率型プログラミング言語コンパイラの静的解析(サンプル作成前)において,この手法をどのように利用できるかを示す。
実験結果から,重み付き代数を利用する推論アルゴリズムは,多数の密度モデリングおよび変分推論タスクにおいて優れた性能が得られることを確認した。
論文 参考訳(メタデータ) (2023-06-15T16:37:36Z) - Bayesian approach to Gaussian process regression with uncertain inputs [0.0]
本研究では,ガウス過程の回帰に入力データの可変性を統合するベイズ法を提案する。
この新しい回帰手法の有効性は、いくつかの数値的な例を通して示される。
論文 参考訳(メタデータ) (2023-05-19T10:53:08Z) - Maximum Likelihood Estimation in Gaussian Process Regression is
Ill-Posed [7.018149356115115]
最大極大推定が適切である状況を確立することは、依然として未解決の問題である。
本稿は、最大可能性推定器が正しく提示されないシナリオを特定する。
最大推定の失敗はガウス過程の民俗学の一部ではあるが、これらの厳密な理論的な結果はそれらの種類の最初のものと思われる。
論文 参考訳(メタデータ) (2022-03-17T09:00:39Z) - A Robust and Flexible EM Algorithm for Mixtures of Elliptical
Distributions with Missing Data [71.9573352891936]
本稿では、ノイズや非ガウス的なデータに対するデータ計算の欠如に対処する。
楕円分布と潜在的な欠落データを扱う特性を混合した新しいEMアルゴリズムについて検討した。
合成データの実験的結果は,提案アルゴリズムが外れ値に対して頑健であり,非ガウスデータで使用可能であることを示す。
論文 参考訳(メタデータ) (2022-01-28T10:01:37Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Latent Gaussian Model Boosting [0.0]
ツリーブースティングは多くのデータセットに対して優れた予測精度を示す。
シミュレーションおよび実世界のデータ実験において,既存の手法と比較して予測精度が向上した。
論文 参考訳(メタデータ) (2021-05-19T07:36:30Z) - Distributionally Robust Parametric Maximum Likelihood Estimation [13.09499764232737]
パラメトリックな名目分布に対して,最悪の場合のログロスを均一に最小化する,分布的に頑健な最大確率推定器を提案する。
我々の新しい頑健な推定器は、統計的整合性も享受し、回帰と分類の両方に有望な実験結果を提供する。
論文 参考訳(メタデータ) (2020-10-11T19:05:49Z) - Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。
分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
論文 参考訳(メタデータ) (2020-02-21T14:03:16Z) - Bayesian Deep Learning and a Probabilistic Perspective of Generalization [56.69671152009899]
ディープアンサンブルはベイズ辺化を近似する有効なメカニズムであることを示す。
また,アトラクションの流域内での辺縁化により,予測分布をさらに改善する関連手法を提案する。
論文 参考訳(メタデータ) (2020-02-20T15:13:27Z) - Robust Gaussian Process Regression with a Bias Model [0.6850683267295248]
既存のほとんどのアプローチは、重い尾の分布から誘導される非ガウス的確率に、外れやすいガウス的確率を置き換えるものである。
提案手法は、未知の回帰関数の雑音および偏りの観測として、外れ値をモデル化する。
バイアス推定に基づいて、ロバストなGP回帰を標準のGP回帰問題に還元することができる。
論文 参考訳(メタデータ) (2020-01-14T06:21:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。