論文の概要: Ensembles of Double Random Forest

• arxiv url: http://arxiv.org/abs/2111.02010v1
• Date: Wed, 3 Nov 2021 04:19:41 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-04 12:45:44.009243
• Title: Ensembles of Double Random Forest
• Title（参考訳）: 二重ランダム林のアンサンブル
• Authors: M.A. Ganaie, M. Tanveer, P.N. Suganthan, V. Snasel
• Abstract要約: 二重ランダム森林のアンサンブルを生成するための2つの手法を提案する。 第1のアプローチでは、二重ランダム森林の回転に基づくアンサンブルを提案する。 第2のアプローチでは、二重ランダム森林の斜めアンサンブルを提案する。
• 参考スコア（独自算出の注目度）: 1.7205106391379026
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: An ensemble of decision trees is known as Random Forest. As suggested by Breiman, the strength of unstable learners and the diversity among them are the ensemble models' core strength. In this paper, we propose two approaches for generating ensembles of double random forest. In the first approach, we propose a rotation based ensemble of double random forest. In rotation based double random forests, transformation or rotation of the feature space is generated at each node. At each node different random feature subspace is chosen for evaluation, hence the transformation at each node is different. Different transformations result in better diversity among the base learners and hence, better generalization performance. With the double random forest as base learner, the data at each node is transformed via two different transformations namely, principal component analysis and linear discriminant analysis. In the second approach, we propose oblique ensembles of double random forest. Decision trees in random forest and double random forest are univariate, and this results in the generation of axis parallel split which fails to capture the geometric structure of the data. Also, the standard random forest may not grow sufficiently large decision trees resulting in suboptimal performance. To capture the geometric properties and to grow the decision trees of sufficient depth, we propose oblique ensembles of double random forest. The oblique ensembles of double random forest models are multivariate decision trees. At each non-leaf node, multisurface proximal support vector machine generates the optimal plane for better generalization performance. Also, different regularization techniques (Tikhonov regularisation and axis-parallel split regularisation) are employed for tackling the small sample size problems in the decision trees of oblique ensembles of double random forest.
• Abstract（参考訳）: 決定木のアンサンブルはランダムフォレストとして知られている。 Breimanが示唆したように、不安定な学習者の強さとそれらの多様性は、アンサンブルモデルのコア強度である。 本稿では,二重ランダム林のアンサンブルを生成する2つの手法を提案する。 最初のアプローチでは、二重ランダム森林の回転に基づくアンサンブルを提案する。 回転に基づく二重ランダムフォレストでは、各ノードで特徴空間の変換または回転が生成される。 各ノードで異なるランダム特徴部分空間が評価のために選択されるため、各ノードでの変換が異なる。 異なる変換により、基礎学習者間の多様性が向上し、したがって一般化性能が向上する。 ダブルランダムフォレストをベース学習機として、各ノードのデータは主成分分析と線形判別分析という2つの異なる変換によって変換される。 第2のアプローチでは、二重ランダム森林の斜めアンサンブルを提案する。 ランダム林と二重ランダム林における決定木は単変量であり、この結果、データの幾何学的構造を捉えるのに失敗する軸平行分割が発生する。 また、標準のランダム林は、最適以下の性能をもたらす十分な大きな決定木を成長させることができない。 地形特性を把握し, 十分な深さの決定木を育成するために, 二重ランダム林の斜めアンサンブルを提案する。 二重ランダム森林モデルの斜めアンサンブルは多変量決定木である。 各非リーフノードにおいて、多面的近位支持ベクトルマシンは、最適化性能を向上させるために最適な平面を生成する。 また、二重ランダム林の斜めアンサンブル決定木において、小さなサンプルサイズ問題に対処するために異なる正則化技術(ティコノフ正則化と軸平行分割正則化)を用いる。

関連論文リスト

• Adaptive Split Balancing for Optimal Random Forest [8.916614661563893]
  そこで本研究では,新しい適応型分割バランス法を用いて木を構築するランダムフォレストアルゴリズムを提案する。 本手法は,データから木構造を適応的に学習しながら,シンプルでスムーズなシナリオで最適性を実現する。
  論文  参考訳（メタデータ） (2024-02-17T09:10:40Z)
• Learning a Decision Tree Algorithm with Transformers [75.96920867382859]
  メタ学習によってトレーニングされたトランスフォーマーベースのモデルであるMetaTreeを導入し、強力な決定木を直接生成する。 我々は、多くのデータセットに欲求決定木とグローバルに最適化された決定木の両方を適合させ、MetaTreeを訓練して、強力な一般化性能を実現する木のみを生成する。
  論文  参考訳（メタデータ） (2024-02-06T07:40:53Z)
• Contextual Decision Trees [62.997667081978825]
  学習アンサンブルの1つの浅い木を特徴量ベースで選択するための,マルチアームのコンテキスト付きバンドレコメンデーションフレームワークを提案する。 トレーニングされたシステムはランダムフォレスト上で動作し、最終的な出力を提供するためのベース予測器を動的に識別する。
  論文  参考訳（メタデータ） (2022-07-13T17:05:08Z)
• Explaining random forest prediction through diverse rulesets [0.0]
  Local Tree eXtractor (LTreeX)は、与えられたテストインスタンスのフォレスト予測を、いくつかの異なるルールで説明することができる。 提案手法は予測性能の点で他の説明可能な手法よりも大幅に優れていることを示す。
  論文  参考訳（メタデータ） (2022-03-29T12:54:57Z)
• Minimax Rates for High-Dimensional Random Tessellation Forests [0.0]
  モンドリアン林は、任意の次元でミニマックスレートが得られた最初のランダム林である。 概略分割方向を持つ多種多様なランダム林は任意の次元における最小収束率も達成できることを示す。
  論文  参考訳（メタデータ） (2021-09-22T06:47:38Z)
• Growing Deep Forests Efficiently with Soft Routing and Learned Connectivity [79.83903179393164]
  この論文は、いくつかの重要な側面で深い森林のアイデアをさらに拡張します。 我々は、ノードがハードバイナリ決定ではなく、確率的ルーティング決定、すなわちソフトルーティングを行う確率的ツリーを採用する。 MNISTデータセットの実験は、私たちの力のある深部森林が[1]、[3]よりも優れたまたは匹敵するパフォーマンスを達成できることを示しています。
  論文  参考訳（メタデータ） (2020-12-29T18:05:05Z)
• Convex Polytope Trees [57.56078843831244]
  コンベックスポリトープ木(CPT)は、決定境界の解釈可能な一般化によって決定木の系統を拡張するために提案される。 木構造が与えられたとき,木パラメータに対するCPTおよび拡張性のあるエンドツーエンドトレーニングアルゴリズムを効率的に構築する。
  論文  参考訳（メタデータ） (2020-10-21T19:38:57Z)
• Improved Weighted Random Forest for Classification Problems [3.42658286826597]
  優れたアンサンブルモデルを作るための鍵は、ベースモデルの多様性にある。 そこで本研究では,正規林の重み付け戦略を改良するアルゴリズムを提案する。 提案したモデルでは,通常のランダム林に比べて大幅な改善が可能である。
  論文  参考訳（メタデータ） (2020-09-01T16:08:45Z)
• Stochastic Optimization Forests [60.523606291705214]
  標準的なランダムな森林アルゴリズムのように予測精度を向上させるために分割するのではなく、分割を選択した木を栽培し、下流の意思決定品質を直接最適化することで、森林決定政策の訓練方法を示す。 概略分割基準は、各候補分割に対して正確に最適化された森林アルゴリズムに近い性能を保ちながら、100倍のランニング時間を短縮できることを示す。
  論文  参考訳（メタデータ） (2020-08-17T16:56:06Z)
• Generalized and Scalable Optimal Sparse Decision Trees [56.35541305670828]
  様々な目的に対して最適な決定木を生成する手法を提案する。 また,連続変数が存在する場合に最適な結果が得られるスケーラブルなアルゴリズムも導入する。
  論文  参考訳（メタデータ） (2020-06-15T19:00:11Z)
• Fr\'echet random forests for metric space valued regression with non euclidean predictors [0.0]
  我々はFr'echet木とFr'echetランダムフォレストを導入し、入力変数と出力変数が一般的な距離空間で値を取るデータを処理する。 データ駆動分割を用いたFr'echet回帰図予測器の一貫性定理をFr'echetの純粋にランダムな木に適用する。
  論文  参考訳（メタデータ） (2019-06-04T22:07:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。