論文の概要: Distributional Adaptive Soft Regression Trees

• arxiv url: http://arxiv.org/abs/2210.10389v1
• Date: Wed, 19 Oct 2022 08:59:02 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-20 15:20:55.658101
• Title: Distributional Adaptive Soft Regression Trees
• Title（参考訳）: 分布適応型ソフト回帰木
• Authors: Nikolaus Umlauf and Nadja Klein
• Abstract要約: 本稿では,多変量ソフトスプリットルールを用いた分布回帰木の新しいタイプを提案する。 ソフトスプリットの大きな利点の1つは、滑らかな高次元函数を1つの木で見積もることができることである。 シミュレーションにより,アルゴリズムは優れた特性を有し,様々なベンチマーク手法より優れていることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Random forests are an ensemble method relevant for many problems, such as regression or classification. They are popular due to their good predictive performance (compared to, e.g., decision trees) requiring only minimal tuning of hyperparameters. They are built via aggregation of multiple regression trees during training and are usually calculated recursively using hard splitting rules. Recently regression forests have been incorporated into the framework of distributional regression, a nowadays popular regression approach aiming at estimating complete conditional distributions rather than relating the mean of an output variable to input features only - as done classically. This article proposes a new type of a distributional regression tree using a multivariate soft split rule. One great advantage of the soft split is that smooth high-dimensional functions can be estimated with only one tree while the complexity of the function is controlled adaptive by information criteria. Moreover, the search for the optimal split variable is obsolete. We show by means of extensive simulation studies that the algorithm has excellent properties and outperforms various benchmark methods, especially in the presence of complex non-linear feature interactions. Finally, we illustrate the usefulness of our approach with an example on probabilistic forecasts for the Sun's activity.
• Abstract（参考訳）: ランダム・フォレストは回帰や分類といった多くの問題に関係したアンサンブル法である。 これらは、ハイパーパラメータの最小限のチューニングしか必要としない優れた予測性能(例えば決定木)のために人気がある。 トレーニング中に複数の回帰木の集約を通じて構築され、通常はハードスプリッティングルールを使用して再帰的に計算される。 近年、回帰フォレストは、出力変数の平均を入力特徴のみに関連づけるのではなく、完全な条件分布を推定することを目的とした、現在では一般的な回帰アプローチである分布回帰の枠組みに取り入れられている。 本稿では,多変量ソフトスプリットルールを用いた分布回帰木の新しいタイプを提案する。 ソフトスプリットの大きな利点は、滑らかな高次元関数は1つの木だけで推定できるが、関数の複雑さは情報基準によって制御される。 さらに、最適分割変数の探索は時代遅れである。 本研究では, アルゴリズムが優れた特性を有し, 複雑な非線形特徴相互作用の存在下で, 様々なベンチマーク手法より優れていることを示す。 最後に、我々のアプローチの有用性を、太陽の活動の確率論的予測の例で説明する。

関連論文リスト

• A Unified Approach to Extract Interpretable Rules from Tree Ensembles via Integer Programming [2.1408617023874443]
  木アンサンブル法は、教師付き分類と回帰タスクにおいて有効であることが知られている。 我々の研究は、訓練された木アンサンブルから最適化されたルールのリストを抽出することを目的としており、利用者に凝縮された解釈可能なモデルを提供する。
  論文  参考訳（メタデータ） (2024-06-30T22:33:47Z)
• Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
  量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。 本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。 これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
  論文  参考訳（メタデータ） (2024-06-05T13:36:38Z)
• Inference with Mondrian Random Forests [6.97762648094816]
  我々は、モンドリアンのランダムな森林回帰推定器に対して、ベリー・エッセイン型中央極限定理とともに、正確なバイアスと分散特性を与える。 未知回帰関数に対する有効な統計的推測法を提案する。 効率的で実装可能なアルゴリズムは、バッチとオンラインの学習設定の両方に考案されている。
  論文  参考訳（メタデータ） (2023-10-15T01:41:42Z)
• Structured Radial Basis Function Network: Modelling Diversity for Multiple Hypotheses Prediction [51.82628081279621]
  多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。 構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。 この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
  論文  参考訳（メタデータ） (2023-09-02T01:27:53Z)
• Optimal Sparse Regression Trees [24.03491277969824]
  本研究は,確率的最適スパース回帰木の構築に対する動的プログラミングとバウンドのアプローチを提案する。 ラベル集合上の1次元におけるk平均クラスタリングアルゴリズムの最適解に基づいて、新しい下界を利用する。
  論文  参考訳（メタデータ） (2022-11-28T00:43:21Z)
• Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
  疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。 パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。 提案手法はRパッケージプローブに実装されている。
  論文  参考訳（メタデータ） (2022-09-16T19:15:50Z)
• TreeFlow: Going beyond Tree-based Gaussian Probabilistic Regression [0.0]
  ツリーアンサンブルを使うことの利点と柔軟な確率分布をモデル化する能力を組み合わせたツリーベースアプローチであるTreeFlowを紹介した。 提案手法は, 諸量, 特徴量, 目標寸法の異なる回帰ベンチマークを用いて評価する。
  論文  参考訳（メタデータ） (2022-06-08T20:06:23Z)
• Machine Learning for Multi-Output Regression: When should a holistic multivariate approach be preferred over separate univariate ones? [62.997667081978825]
  ランダムフォレストのような木に基づくアンサンブルは、統計学の手法の中で近代的な古典である。 これらの手法を広範囲なシミュレーションで比較し,多変量アンサンブル技術を用いた場合の主問題に答える。
  論文  参考訳（メタデータ） (2022-01-14T08:44:25Z)
• Flexible Model Aggregation for Quantile Regression [92.63075261170302]
  量子回帰は、予測の不確実性を定量化する必要性によって動機付けられた統計学習の基本的な問題である。 条件付き量子モデルの任意の数を集約する手法について検討する。 この論文で検討するモデルはすべて、現代のディープラーニングツールキットに適合します。
  論文  参考訳（メタデータ） (2021-02-26T23:21:16Z)
• Multivariate Boosted Trees and Applications to Forecasting and Control [0.0]
  勾配強化木は、特定の損失関数を最小限に抑えるために、逐次モデルフィッティングと勾配降下を利用する非パラメトリック回帰木である。 本稿では,多変量隆起木を適応する計算効率のよいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-03-08T19:26:59Z)
• Adaptive Correlated Monte Carlo for Contextual Categorical Sequence Generation [77.7420231319632]
  我々は,モンテカルロ (MC) ロールアウトの集合を分散制御のために評価する政策勾配推定器に,カテゴリー列の文脈的生成を適用する。 また,二分木ソフトマックスモデルに相関したMCロールアウトを用いることで,大語彙シナリオにおける高生成コストを低減できることを示す。
  論文  参考訳（メタデータ） (2019-12-31T03:01:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。