論文の概要: Seeing the Forest for the Trees: The Gaussian Process Limit of BART
- arxiv url: http://arxiv.org/abs/2607.28844v1
- Date: Thu, 30 Jul 2026 21:13:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.488914
- Title: Seeing the Forest for the Trees: The Gaussian Process Limit of BART
- Title(参考訳): 樹木の森を見る:BARTのガウス過程限界
- Abstract要約: Bayesian Additive Regression Trees (BART) は、予測と因果推論の両方において最先端の性能を示している。
従来の理論的研究は、標準的なBARTモデルに対する後部収縮率を確立することによって、BARTの優れた性能を説明しようとした。
我々は,木数が無限に増加するにつれて,異なるアプローチを採り,BARTの挙動を研究する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian Additive Regression Trees (BART) have shown state-of-the-art performance in both prediction and causal inference problems. Previous theoretical work has attempted to explain BART's superior performance by establishing posterior contraction rates for standard BART models, but these rates depend strongly on the number of covariates. Here, we take a different approach and study the behavior of BART as the number of trees grows towards infinity. We show that in this regime, BART converges to a Gaussian process (GP) with a particular kernel. The kernel and its corresponding reproducing kernel Hilbert space (RKHS) have favorable inferential properties that help explain BART's excellent performance. We introduce *random tree features* as an approximation to this limiting GP, and establish minimax-optimal learning rates for ridge regression on these random features that depend only logarithmically on dimension. In addition to providing insight into the empirical success of BART, random tree features offer a computational benefit over traditional MCMC estimation. The random-features approximation also allows practitioners to easily incorporate BART into any model which has a linear predictor, expanding the applicability and flexibility of BART.
- Abstract(参考訳): Bayesian Additive Regression Trees (BART) は、予測と因果推論の両方において最先端の性能を示している。
従来の理論的研究は、標準BARTモデルの後部収縮率を確立することによってBARTの優れた性能を説明しようとしたが、これらの速度は共変量数に強く依存している。
ここでは,木数が無限に増加するにつれて,異なるアプローチでBARTの挙動を研究する。
この状態において、BARTは特定のカーネルを持つガウス過程(GP)に収束することを示す。
カーネルとその対応する再生カーネルヒルベルト空間(RKHS)は、BARTの優れた性能を説明するのに役立つ推論特性を持つ。
本稿では,この制限されたGPの近似として *random tree features* を導入し,次元の対数的のみに依存するこれらのランダムな特徴に対して,リッジ回帰の最小最適学習率を確立する。
BARTの実証的な成功についての洞察を提供するのに加えて、ランダムツリーの特徴は従来のMCMC推定よりも計算上の利点を提供する。
このランダムな近似により、BARTを線形予測器を持つモデルに簡単に組み込むことができ、BARTの適用性と柔軟性が拡張される。
関連論文リスト
- Probit Monotone BART [0.0]
結果変数がバイナリである場合,BARTフレームワークが条件平均関数を推定できるプロビットモノトンBARTを提案する。
BART of Chipman et al. (2010) は非パラメトリックなモデリングと予測のための強力なツールであることが証明されている。
論文 参考訳(メタデータ) (2025-08-29T22:19:02Z) - On the Gaussian process limit of Bayesian Additive Regression Trees [0.0]
無限木の極限において、BARTはガウス過程(GP)回帰と同値となる。
本研究は,BARTとGPレグレッションの理解と開発を行う新しい方法を開く。
GPとしてのBARTの実装はPythonパッケージ lsqfitgpで利用可能である。
論文 参考訳(メタデータ) (2024-10-26T23:18:33Z) - On the Sublinear Regret of GP-UCB [58.25014663727544]
ガウス過程上信頼境界 (GP-UCB) アルゴリズムは, ほぼ最適の後悔率を有することを示す。
私たちの改善は、基盤となるカーネルの滑らかさに比例してカーネルリッジ推定を正規化するという、重要な技術的貢献に依存しています。
論文 参考訳(メタデータ) (2023-07-14T13:56:11Z) - Graph Signal Sampling for Inductive One-Bit Matrix Completion: a
Closed-form Solution [112.3443939502313]
グラフ信号解析と処理の利点を享受する統合グラフ信号サンプリングフレームワークを提案する。
キーとなる考え方は、各ユーザのアイテムのレーティングをアイテムイットグラフの頂点上の関数(信号)に変換することである。
オンライン設定では、グラフフーリエ領域における連続ランダムガウス雑音を考慮したベイズ拡張(BGS-IMC)を開発する。
論文 参考訳(メタデータ) (2023-02-08T08:17:43Z) - A Mixing Time Lower Bound for a Simplified Version of BART [5.149859291357858]
我々は,BARTの簡易バージョンに対する混合時間に関する第1の下位境界を提供する。
混合時間とデータ点数との新たな接続にインスパイアされ、BART上で厳密なシミュレーションを行う。
我々は,BARTの混合時間がデータ点数とともに増加することを定性的に示す。
論文 参考訳(メタデータ) (2022-10-17T18:45:36Z) - GP-BART: a novel Bayesian additive regression trees approach using
Gaussian processes [1.03590082373586]
GP-BARTモデル(GP-BART model)は、すべての木間の各終端ノードの予測にGP先行を仮定することで制限に対処するBARTの拡張である。
モデルの有効性は、シミュレーションおよび実世界のデータへの応用を通じて実証され、様々なシナリオにおける従来のモデリング手法のパフォーマンスを上回る。
論文 参考訳(メタデータ) (2022-04-05T11:18:44Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Bayesian Bellman Operators [55.959376449737405]
ベイズ強化学習(RL)の新しい視点について紹介する。
我々のフレームワークは、ブートストラップが導入されたとき、モデルなしアプローチは実際には値関数ではなくベルマン作用素よりも後部を推測する、という洞察に動機づけられている。
論文 参考訳(メタデータ) (2021-06-09T12:20:46Z) - KG-BART: Knowledge Graph-Augmented BART for Generative Commonsense
Reasoning [78.81080813406177]
本稿では,学習前言語生成モデルKG-BARTを改良した知識グラフを提案する。
KG-BARTは知識グラフを通じて概念の複雑な関係を包含し、より論理的で自然な文を出力として生成する。
論文 参考訳(メタデータ) (2020-09-26T19:57:49Z) - Bayesian Additive Regression Trees with Model Trees [0.0]
モデルツリーBART(MOTR-BART)と呼ばれるBARTの拡張を導入する。
MOTR-BARTは、分数定数ではなく、ノードレベルでの分数線形関数を考える。
提案手法では, 局所的な線形性がより効率的に取得され, BARTと同等以上の性能を達成するために, 木を少なくする。
論文 参考訳(メタデータ) (2020-06-12T22:19:58Z) - Learning Near Optimal Policies with Low Inherent Bellman Error [115.16037976819331]
エピソード強化学習における近似線形作用値関数を用いた探索問題について検討する。
我々は,検討した設定に対して最適な統計率を達成するアルゴリズムを用いて,Emphbatch仮定のみを用いて探索を行うことが可能であることを示す。
論文 参考訳(メタデータ) (2020-02-29T02:02:40Z) - Near-linear Time Gaussian Process Optimization with Adaptive Batching
and Resparsification [119.41129787351092]
BBKBは非回帰GP最適化アルゴリズムで、ほぼ直線的に実行し、バッチで候補を選択する。
また,同じバウンダリを用いて,スパルスGP近似の更新コストを適応的に遅延させることで,ステップ毎の償却コストをほぼ一定に抑えることができることを示した。
論文 参考訳(メタデータ) (2020-02-23T17:43:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。