論文の概要: SMART: A Flexible Approach to Regression using Spline-Based Multivariate Adaptive Regression Trees
- arxiv url: http://arxiv.org/abs/2410.05597v1
- Date: Tue, 8 Oct 2024 01:18:08 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-01 17:48:36.333954
- Title: SMART: A Flexible Approach to Regression using Spline-Based Multivariate Adaptive Regression Trees
- Title（参考訳）: SMART:スプラインベース多変量適応回帰木を用いた回帰に対する柔軟なアプローチ
- Authors: William Pattie, Arvind Krishna,
- Abstract要約: 決定木は予測モデリングには強力だが、連続的な関係をモデル化する場合、しばしば高いばらつきに悩まされる。
我々は、決定木を用いて、異なる連続関係を持つデータのサブセットを識別するSpline-based Multivariate Adaptive Regression Trees (MARS)を紹介する。
MARSの高次項を扱うネイティブな能力により、ツリーは関係における不連続性のみに焦点を絞ることができる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Decision trees are powerful for predictive modeling but often suffer from high variance when modeling continuous relationships. While algorithms like Multivariate Adaptive Regression Splines (MARS) excel at capturing such continuous relationships, they perform poorly when modeling discontinuities. To address the limitations of both approaches, we introduce Spline-based Multivariate Adaptive Regression Trees (SMART), which uses a decision tree to identify subsets of data with distinct continuous relationships and then leverages MARS to fit these relationships independently. Unlike other methods that rely on the tree structure to model interaction and higher-order terms, SMART leverages MARS's native ability to handle these terms, allowing the tree to focus solely on identifying discontinuities in the relationship. We test SMART on various datasets, demonstrating its improvement over state-of-the-art methods in such cases. Additionally, we provide an open-source implementation of our method to be used by practitioners.
- Abstract（参考訳）: 決定木は予測モデリングには強力だが、連続的な関係をモデル化する場合、しばしば高いばらつきに悩まされる。
Multivariate Adaptive Regression Splines (MARS)のようなアルゴリズムは、このような連続的な関係を捉えるのに優れていますが、不連続をモデル化する場合には、パフォーマンスが悪くなります。
両アプローチの限界に対処するため,Spline ベースの多変量適応回帰木 (SMART) を導入し,決定木を用いて連続関係の異なるデータのサブセットを識別し,MARS を利用してそれらの関係を独立に適合させる。
モデル相互作用や高次項に木構造に依存する他の方法とは異なり、SMARTはMARSのこれらの用語を扱うネイティブな能力を活用しており、ツリーは関係における不連続性のみにフォーカスすることができる。
SMARTを様々なデータセットでテストし、その場合の最先端手法よりも改善したことを示す。
さらに,実践者が使用する手法のオープンソース実装も提供する。
関連論文リスト
- Decision Mamba: A Multi-Grained State Space Model with Self-Evolution Regularization for Offline RL [57.202733701029594]
決定マンバ(Decision Mamba)は、自己進化的な政策学習戦略を持つ、新しい多粒状態空間モデルである。
雑音性軌道上における過度に適合する問題を緩和するために,進行正則化を用いて自己進化政策を提案する。
この政策は、自身の過去の知識を用いて、準最適動作を洗練させ、ノイズの多い実演における堅牢性を高めることで進化する。
論文 参考訳（メタデータ） (2024-06-08T10:12:00Z) - An efficient solution to Hidden Markov Models on trees with coupled branches [0.0]
木上の隠れモデル(HMM)のフレームワークを拡張して、データのツリーのような構造が結合されたブランチを含むシナリオに対処する。
本研究では,木系HMMと分岐した分岐木に対する確率,復号化,パラメータ学習問題を効率的に解くプログラミングアルゴリズムを開発した。
論文 参考訳（メタデータ） (2024-06-03T18:00:00Z) - Linear Mode Connectivity in Differentiable Tree Ensembles [13.704584231053675]
線形モード接続性(英: Linear Mode Connectivity, LMC)は、パラメータ空間における線形補間モデルに対して一貫して存在する現象である。
我々はまず,木に基づく微分可能モデルであるソフトツリーニューロンのLCCを実現する。
論文 参考訳（メタデータ） (2024-05-23T14:11:26Z) - Multi-Target XGBoostLSS Regression [91.3755431537592]
本稿では,複数の目標とその依存関係を確率論的回帰設定でモデル化するXGBoostLSSの拡張について述べる。
提案手法は,既存のGBMよりも実行時の方が優れており,精度も良好に比較できる。
論文 参考訳（メタデータ） (2022-10-13T08:26:14Z) - TreeFlow: Going beyond Tree-based Gaussian Probabilistic Regression [0.0]
ツリーアンサンブルを使うことの利点と柔軟な確率分布をモデル化する能力を組み合わせたツリーベースアプローチであるTreeFlowを紹介した。
提案手法は, 諸量, 特徴量, 目標寸法の異なる回帰ベンチマークを用いて評価する。
論文 参考訳（メタデータ） (2022-06-08T20:06:23Z) - Scalable Bayesian Network Structure Learning with Splines [2.741266294612776]
ベイズネットワーク(英: Bayesian Network, BN)は、有向非巡回グラフ(DAG)からなる確率的グラフィカルモデルである。
本稿では,BNのグローバルDAG構造を学習し,変数間の線形および非線形な局所関係をモデル化する新しい手法を提案する。
論文 参考訳（メタデータ） (2021-10-27T17:54:53Z) - Trees-Based Models for Correlated Data [8.629912408966147]
相関構造を無視する標準木に基づく回帰モデルを実装する際に生じる問題を示す。
新しいアプローチでは,相関構造を分割基準で明示的に考慮する。
相関を考慮しない木モデルに対する新たなアプローチの優位性は,シミュレーション実験と実データ解析によって裏付けられている。
論文 参考訳（メタデータ） (2021-02-16T12:30:48Z) - Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。
本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。
次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
論文 参考訳（メタデータ） (2020-10-25T18:51:15Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳（メタデータ） (2020-10-24T07:01:24Z) - Estimation of Switched Markov Polynomial NARX models [75.91002178647165]
非線形自己回帰(NARX)成分を特徴とするハイブリッド力学系のモデル群を同定する。
提案手法は, 特定の回帰器を持つ3つの非線形サブモデルからなるSMNARX問題に対して実証される。
論文 参考訳（メタデータ） (2020-09-29T15:00:47Z) - Adaptive Correlated Monte Carlo for Contextual Categorical Sequence
Generation [77.7420231319632]
我々は,モンテカルロ (MC) ロールアウトの集合を分散制御のために評価する政策勾配推定器に,カテゴリー列の文脈的生成を適用する。
また,二分木ソフトマックスモデルに相関したMCロールアウトを用いることで,大語彙シナリオにおける高生成コストを低減できることを示す。
論文 参考訳（メタデータ） (2019-12-31T03:01:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。