論文の概要: GP-BART: a novel Bayesian additive regression trees approach using
Gaussian processes
- arxiv url: http://arxiv.org/abs/2204.02112v1
- Date: Tue, 5 Apr 2022 11:18:44 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-06 19:26:45.448839
- Title: GP-BART: a novel Bayesian additive regression trees approach using
Gaussian processes
- Title(参考訳): gp-bart:ガウス過程を用いた新しいベイズ加法回帰木アプローチ
- Authors: Mateus Maia, Keefe Murphy, Andrew C. Parnell
- Abstract要約: ベイズ加法的回帰木(Bayesian additive Regressive Tree, BART)モデルは、回帰タスクで広く使われ、うまく使われるアンサンブル法である。
GP-BARTをBARTの拡張として提案し,各終点ノードの予測にガウス過程(GP)を前提とした。
シミュレーションデータと実データについてモデルを説明し、その性能を従来のモデリング手法と比較し、多くのシナリオで性能を向上する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Bayesian additive regression trees (BART) model is an ensemble method
extensively and successfully used in regression tasks due to its consistently
strong predictive performance and its ability to quantify uncertainty. BART
combines "weak" tree models through a set of shrinkage priors, whereby each
tree explains a small portion of the variability in the data. However, the lack
of smoothness and the absence of a covariance structure over the observations
in standard BART can yield poor performance in cases where such assumptions
would be necessary. We propose Gaussian processes Bayesian additive regression
trees (GP-BART) as an extension of BART which assumes Gaussian process (GP)
priors for the predictions of each terminal node among all trees. We illustrate
our model on simulated and real data and compare its performance to traditional
modelling approaches, outperforming them in many scenarios. An implementation
of our method is available in the \textsf{R} package \texttt{rGPBART} available
at: https://github.com/MateusMaiaDS/gpbart
- Abstract(参考訳): ベイズ加法的回帰木(Bayesian additive Regressive Tree, BART)モデルは、連続的に強い予測性能と不確かさを定量化する能力により、回帰タスクにおいて広範囲にかつうまく使用されるアンサンブル法である。
BARTは「弱」ツリーモデルと一連の縮小前のモデルを組み合わせることで、各ツリーはデータの変動性のごく一部を説明する。
しかし、平滑さの欠如と標準バートでの観測よりも共分散構造がないことは、そのような仮定が必要となる場合、性能が低下する可能性がある。
ガウス過程 (gaussian process) は, ガウス過程 (gaussian process, gp) を前提とするbartの拡張として, ベイズ加法回帰木 (gp-bart) を提案する。
シミュレーションおよび実データに基づくモデルを説明し,その性能を従来のモデリング手法と比較し,多くのシナリオでそれを上回っている。
我々のメソッドの実装は、 https://github.com/MateusMaiaDS/gpbart.com/gpbartで利用可能である。
関連論文リスト
- Theory of Posterior Concentration for Generalized Bayesian Additive
Regression Trees [0.685316573653194]
ベイズ木とその加法的アンサンブルに対する一般化された枠組みについて述べる。
応答分布について十分な条件を導出し, 後部が最小マックスで集中する条件を対数係数まで導出する。
論文 参考訳(メタデータ) (2023-04-25T00:52:48Z) - Training Discrete Deep Generative Models via Gapped Straight-Through
Estimator [72.71398034617607]
再サンプリングのオーバーヘッドを伴わずに分散を低減するため, GST (Gapped Straight-Through) 推定器を提案する。
この推定子は、Straight-Through Gumbel-Softmaxの本質的な性質に着想を得たものである。
実験により,提案したGST推定器は,2つの離散的な深部生成モデリングタスクの強いベースラインと比較して,優れた性能を享受できることが示された。
論文 参考訳(メタデータ) (2022-06-15T01:46:05Z) - Local Gaussian process extrapolation for BART models with applications
to causal inference [0.7734726150561088]
本稿では, ガウス過程をBARTの葉ノードに移植し, 観測データの範囲外の点を予測するための新しい外挿法を提案する。
シミュレーション研究において、新しいアプローチはJackknife+のような一般的な代替手段よりも優れたパフォーマンスを誇っている。
論文 参考訳(メタデータ) (2022-04-23T00:37:53Z) - Hierarchical Embedded Bayesian Additive Regression Trees [0.0]
HE-BARTは、レグレッションツリーのセットの終端ノードレベルにランダムエフェクトを含めることができる。
シミュレーションおよび実世界の例を用いて、HE-BARTは標準的な混合効果モデルのサンプルデータセットの多くに対して優れた予測が得られることを示した。
この論文の今後のバージョンでは、より大きく、より高度なデータセットと構造での使用について概説する。
論文 参考訳(メタデータ) (2022-04-14T19:56:03Z) - Distributional Gradient Boosting Machines [77.34726150561087]
私たちのフレームワークはXGBoostとLightGBMをベースにしています。
我々は,このフレームワークが最先端の予測精度を実現することを示す。
論文 参考訳(メタデータ) (2022-04-02T06:32:19Z) - Generalized Bayesian Additive Regression Trees Models: Beyond
Conditional Conjugacy [2.969705152497174]
本稿では,BARTの適用範囲を任意の一般化BARTモデルに拡大する。
我々のアルゴリズムは、ユーザがその勾配とフィッシャー情報を(任意に)計算できることのみを要求する。
我々は生存分析、構造化ヘテロスケダスティック回帰、ガンマ形状回帰の例を考察する。
論文 参考訳(メタデータ) (2022-02-20T22:52:07Z) - BCD Nets: Scalable Variational Approaches for Bayesian Causal Discovery [97.79015388276483]
構造方程式モデル(SEM)は、有向非巡回グラフ(DAG)を介して表される因果関係を推論する効果的な枠組みである。
近年の進歩により、観測データからDAGの有効最大点推定が可能となった。
線形ガウス SEM を特徴付ける DAG 上の分布を推定するための変分フレームワークである BCD Nets を提案する。
論文 参考訳(メタデータ) (2021-12-06T03:35:21Z) - A cautionary tale on fitting decision trees to data from additive
models: generalization lower bounds [9.546094657606178]
本研究では,異なる回帰モデルに対する決定木の一般化性能について検討する。
これにより、アルゴリズムが新しいデータに一般化するために(あるいは作らない)仮定する帰納的バイアスが引き起こされる。
スパース加法モデルに適合する大規模な決定木アルゴリズムに対して、シャープな2乗誤差一般化を低い境界で証明する。
論文 参考訳(メタデータ) (2021-10-18T21:22:40Z) - Estimation of Bivariate Structural Causal Models by Variational Gaussian
Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
因果機構は構造因果モデルによって記述できる。
最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
論文 参考訳(メタデータ) (2021-09-06T14:52:58Z) - Evaluating State-of-the-Art Classification Models Against Bayes
Optimality [106.50867011164584]
正規化フローを用いて学習した生成モデルのベイズ誤差を正確に計算できることを示す。
われわれの手法を用いて、最先端の分類モデルについて徹底的な調査を行う。
論文 参考訳(メタデータ) (2021-06-07T06:21:20Z) - Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。
本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。
本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
論文 参考訳(メタデータ) (2020-06-18T14:24:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。