論文の概要: SBAMDT: Bayesian Additive Decision Trees with Adaptive Soft Semi-multivariate Split Rules

• arxiv url: http://arxiv.org/abs/2501.09900v1
• Date: Fri, 17 Jan 2025 01:13:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-20 14:00:13.381519
• Title: SBAMDT: Bayesian Additive Decision Trees with Adaptive Soft Semi-multivariate Split Rules
• Title（参考訳）: SBAMDT:適応性半多変量スプリット規則を持つベイズ加法的決定木
• Authors: Stamatina Lamprinakou, Huiyan Sang, Bledar A. Konomi, Ligang Lu,
• Abstract要約: ソフトスプリットルールを用いた確率的加法決定木モデルを提案する。 本稿では,合成データセットとニューヨーク市の教育データセットを用いた既存ツリーベースモデルとの比較により,提案モデルの有用性を実証する。
• 参考スコア（独自算出の注目度）: 7.324728751991983
• License:
• Abstract: Bayesian Additive Regression Trees [BART, Chipman et al., 2010] have gained significant popularity due to their remarkable predictive performance and ability to quantify uncertainty. However, standard decision tree models rely on recursive data splits at each decision node, using deterministic decision rules based on a single univariate feature. This approach limits their ability to effectively capture complex decision boundaries, particularly in scenarios involving multiple features, such as spatial domains, or when transitions are either sharp or smoothly varying. In this paper, we introduce a novel probabilistic additive decision tree model that employs a soft split rule. This method enables highly flexible splits that leverage both univariate and multivariate features, while also respecting the geometric properties of the feature domain. Notably, the probabilistic split rule adapts dynamically across decision nodes, allowing the model to account for varying levels of smoothness in the regression function. We demonstrate the utility of the proposed model through comparisons with existing tree-based models on synthetic datasets and a New York City education dataset.
• Abstract（参考訳）: ベイジアン付加回帰木(BART, Chipman et al, 2010)は, 顕著な予測性能と不確かさの定量化能力により, 高い人気を得ている。 しかし、標準的な決定木モデルは、各決定ノードで再帰的なデータ分割に依存し、単一の単変量特徴に基づく決定論的決定ルールを使用する。 このアプローチは、特に空間領域のような複数の特徴を含むシナリオや、トランジションがシャープであるかスムーズに変化する場合において、複雑な決定境界を効果的にキャプチャする能力を制限する。 本稿では,ソフトスプリットルールを用いた確率的加法決定木モデルを提案する。 この方法は、特徴領域の幾何学的性質を尊重しつつ、一変量特徴と多変量特徴の両方を活用する、非常に柔軟な分割を可能にする。 特に確率的分割規則は決定ノード間で動的に適応し、回帰関数の様々なレベルの滑らかさをモデルが説明できる。 本稿では,合成データセットとニューヨーク市の教育データセットを用いた既存ツリーベースモデルとの比較により,提案モデルの有用性を実証する。

関連論文リスト

• Structural Entropy Guided Probabilistic Coding [52.01765333755793]
  構造エントロピー誘導型確率的符号化モデルSEPCを提案する。 我々は、構造エントロピー正規化損失を提案することにより、潜在変数間の関係を最適化に組み込む。 分類タスクと回帰タスクの両方を含む12の自然言語理解タスクに対する実験結果は、SEPCの優れた性能を示す。
  論文  参考訳（メタデータ） (2024-12-12T00:37:53Z)
• SMART: A Flexible Approach to Regression using Spline-Based Multivariate Adaptive Regression Trees [0.0]
  決定木は予測モデリングには強力だが、連続的な関係をモデル化する場合、しばしば高いばらつきに悩まされる。 我々は、決定木を用いて、異なる連続関係を持つデータのサブセットを識別するSpline-based Multivariate Adaptive Regression Trees (MARS)を紹介する。 MARSの高次項を扱うネイティブな能力により、ツリーは関係における不連続性のみに焦点を絞ることができる。
  論文  参考訳（メタデータ） (2024-10-08T01:18:08Z)
• Statistical Advantages of Oblique Randomized Decision Trees and Forests [0.0]
  リッジ関数のフレキシブル次元縮小モデルクラスに対して一般化誤差と収束率を求める。 軸方向のモンドリアン木のリスクに対する低い境界は、これらの線形次元減少モデルに対してこれらの推定値が最適であることを示す。
  論文  参考訳（メタデータ） (2024-07-02T17:35:22Z)
• Distributional Adaptive Soft Regression Trees [0.0]
  本稿では,多変量ソフトスプリットルールを用いた分布回帰木の新しいタイプを提案する。 ソフトスプリットの大きな利点の1つは、滑らかな高次元函数を1つの木で見積もることができることである。 シミュレーションにより,アルゴリズムは優れた特性を有し,様々なベンチマーク手法より優れていることを示す。
  論文  参考訳（メタデータ） (2022-10-19T08:59:02Z)
• TreeFlow: Going beyond Tree-based Gaussian Probabilistic Regression [0.0]
  ツリーアンサンブルを使うことの利点と柔軟な確率分布をモデル化する能力を組み合わせたツリーベースアプローチであるTreeFlowを紹介した。 提案手法は, 諸量, 特徴量, 目標寸法の異なる回帰ベンチマークを用いて評価する。
  論文  参考訳（メタデータ） (2022-06-08T20:06:23Z)
• Nonparametric Variable Screening with Optimal Decision Stumps [19.493449206135296]
  単レベルCART決定木を用いた非パラメトリックモデルにおける変数選択に対する有限サンプル性能保証を導出する。 切削された基底展開を通じて各辺縁射影を直接推定しようとする従来の辺縁検定方法とは異なり、ここで用いられる適合モデルは単純で同相な決定スタンプである。
  論文  参考訳（メタデータ） (2020-11-05T06:56:12Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)
• Convex Polytope Trees [57.56078843831244]
  コンベックスポリトープ木(CPT)は、決定境界の解釈可能な一般化によって決定木の系統を拡張するために提案される。 木構造が与えられたとき,木パラメータに対するCPTおよび拡張性のあるエンドツーエンドトレーニングアルゴリズムを効率的に構築する。
  論文  参考訳（メタデータ） (2020-10-21T19:38:57Z)
• Identification of Probability weighted ARX models with arbitrary domains [75.91002178647165]
  PieceWise Affineモデルは、ハイブリッドシステムの他のクラスに対する普遍近似、局所線型性、同値性を保証する。 本研究では,任意の領域を持つ固有入力モデル(NPWARX)を用いたPieceWise Auto Regressiveの同定に着目する。 このアーキテクチャは、機械学習の分野で開発されたMixture of Expertの概念に従って考案された。
  論文  参考訳（メタデータ） (2020-09-29T12:50:33Z)
• Slice Sampling for General Completely Random Measures [74.24975039689893]
  本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。 提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
  論文  参考訳（メタデータ） (2020-06-24T17:53:53Z)
• Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
  変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。 これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。 おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
  論文  参考訳（メタデータ） (2020-02-17T19:23:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。