論文の概要: Oblique Bayesian additive regression trees
- arxiv url: http://arxiv.org/abs/2411.08849v1
- Date: Wed, 13 Nov 2024 18:29:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-14 16:11:49.055577
- Title: Oblique Bayesian additive regression trees
- Title(参考訳): 斜めベイズ加法的回帰木
- Authors: Paul-Hieu V. Nguyen, Ryan Yee, Sameer K. Deshpande,
- Abstract要約: BART(Bayesian Additive Regression Tree)の現在の実装は軸整列決定規則に基づいている。
我々は、データ適応型決定ルールを利用するBARTの斜めバージョンを開発する。
斜めのBARTと軸方向のBARTや他の木のアンサンブル手法を体系的に比較し、斜めのBARTが -- 時として -- より優れていたことを発見した。
- 参考スコア(独自算出の注目度): 0.5356944479760104
- License:
- Abstract: Current implementations of Bayesian Additive Regression Trees (BART) are based on axis-aligned decision rules that recursively partition the feature space using a single feature at a time. Several authors have demonstrated that oblique trees, whose decision rules are based on linear combinations of features, can sometimes yield better predictions than axis-aligned trees and exhibit excellent theoretical properties. We develop an oblique version of BART that leverages a data-adaptive decision rule prior that recursively partitions the feature space along random hyperplanes. Using several synthetic and real-world benchmark datasets, we systematically compared our oblique BART implementation to axis-aligned BART and other tree ensemble methods, finding that oblique BART was competitive with -- and sometimes much better than -- those methods.
- Abstract(参考訳): BART(Bayesian Additive Regression Tree)の現在の実装は、1つの機能を使って機能空間を再帰的に分割する軸整列決定規則に基づいている。
幾人かの著者は、決定規則が特徴の線形結合に基づいている斜め木は、時として軸整列木よりも優れた予測を導き、優れた理論的特性を示すことができることを示した。
我々は、乱超平面に沿って特徴空間を再帰的に分割するデータ適応型決定規則を利用するBARTの斜め版を開発する。
いくつかの合成および実世界のベンチマークデータセットを使用して、斜めのBART実装を軸整合のBARTや他のツリーアンサンブルメソッドと体系的に比較し、斜めのBARTが -- 時には -- より優れた -- それらのメソッドと競合していることを発見した。
関連論文リスト
- Learning a Decision Tree Algorithm with Transformers [75.96920867382859]
メタ学習によってトレーニングされたトランスフォーマーベースのモデルであるMetaTreeを導入し、強力な決定木を直接生成する。
我々は、多くのデータセットに欲求決定木とグローバルに最適化された決定木の両方を適合させ、MetaTreeを訓練して、強力な一般化性能を実現する木のみを生成する。
論文 参考訳(メタデータ) (2024-02-06T07:40:53Z) - flexBART: Flexible Bayesian regression trees with categorical predictors [0.6577148087211809]
ベイズ加法回帰木 (BART) のほとんどの実装は、カテゴリ予測を符号化し、それぞれを複数のバイナリインジケータに置き換えている。
決定ツリーノードの両ブランチに複数のレベルを割り当てるレグレッションツリーでBARTを再実装します。
flexBARTパッケージで利用可能な再実装は、しばしばサンプル外の予測性能を改善し、より大きなデータセットにスケールする。
論文 参考訳(メタデータ) (2022-11-08T18:52:37Z) - Contextual Decision Trees [62.997667081978825]
学習アンサンブルの1つの浅い木を特徴量ベースで選択するための,マルチアームのコンテキスト付きバンドレコメンデーションフレームワークを提案する。
トレーニングされたシステムはランダムフォレスト上で動作し、最終的な出力を提供するためのベース予測器を動的に識別する。
論文 参考訳(メタデータ) (2022-07-13T17:05:08Z) - Hierarchical Embedded Bayesian Additive Regression Trees [0.0]
HE-BARTは、レグレッションツリーのセットの終端ノードレベルにランダムエフェクトを含めることができる。
シミュレーションおよび実世界の例を用いて、HE-BARTは標準的な混合効果モデルのサンプルデータセットの多くに対して優れた予測が得られることを示した。
この論文の今後のバージョンでは、より大きく、より高度なデータセットと構造での使用について概説する。
論文 参考訳(メタデータ) (2022-04-14T19:56:03Z) - GP-BART: a novel Bayesian additive regression trees approach using
Gaussian processes [1.03590082373586]
GP-BARTモデル(GP-BART model)は、すべての木間の各終端ノードの予測にGP先行を仮定することで制限に対処するBARTの拡張である。
モデルの有効性は、シミュレーションおよび実世界のデータへの応用を通じて実証され、様々なシナリオにおける従来のモデリング手法のパフォーマンスを上回る。
論文 参考訳(メタデータ) (2022-04-05T11:18:44Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳(メタデータ) (2021-09-10T07:01:15Z) - Accounting for shared covariates in semi-parametric Bayesian additive regression trees [0.0]
ベイズ加法回帰木(BART)に基づく半パラメトリックモデルの拡張を提案する。
このアプローチの主な斬新さは、このバイアスに対処するために、BARTのツリージェネレーションの動きを変える方法にあります。
回帰モデル、半パラメトリックBARTの代替定式化、その他の木に基づく手法と比較した場合の競合性能を示す。
論文 参考訳(メタデータ) (2021-08-17T13:58:44Z) - Improved Branch and Bound for Neural Network Verification via Lagrangian
Decomposition [161.09660864941603]
ニューラルネットワークの入出力特性を公式に証明するためのブランチとバウンド(BaB)アルゴリズムのスケーラビリティを改善します。
活性化に基づく新しい分岐戦略とBaBフレームワークであるブランチとデュアルネットワーク境界(BaDNB)を提案する。
BaDNBは、従来の完全検証システムを大きなマージンで上回り、対数特性で平均検証時間を最大50倍に削減した。
論文 参考訳(メタデータ) (2021-04-14T09:22:42Z) - Rethinking Learnable Tree Filter for Generic Feature Transform [71.77463476808585]
Learnable Tree Filterはセマンティックセグメンテーションのためのモデル構造保存関係に対する顕著なアプローチを示す。
幾何学的制約を緩和するために,マルコフ確率場として再構成して解析を行い,学習可能な不定項を導入する。
セマンティックセグメンテーションでは、ベルとホイッスルなしでCityscapesベンチマークでトップパフォーマンス(82.1% mIoU)を達成しています。
論文 参考訳(メタデータ) (2020-12-07T07:16:47Z) - Convex Polytope Trees [57.56078843831244]
コンベックスポリトープ木(CPT)は、決定境界の解釈可能な一般化によって決定木の系統を拡張するために提案される。
木構造が与えられたとき,木パラメータに対するCPTおよび拡張性のあるエンドツーエンドトレーニングアルゴリズムを効率的に構築する。
論文 参考訳(メタデータ) (2020-10-21T19:38:57Z) - Bayesian Additive Regression Trees with Model Trees [0.0]
モデルツリーBART(MOTR-BART)と呼ばれるBARTの拡張を導入する。
MOTR-BARTは、分数定数ではなく、ノードレベルでの分数線形関数を考える。
提案手法では, 局所的な線形性がより効率的に取得され, BARTと同等以上の性能を達成するために, 木を少なくする。
論文 参考訳(メタデータ) (2020-06-12T22:19:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。