論文の概要: The Role of Depth, Width, and Tree Size in Expressiveness of Deep Forest
- arxiv url: http://arxiv.org/abs/2407.05108v1
- Date: Sat, 6 Jul 2024 15:32:54 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-09 21:08:14.125111
- Title: The Role of Depth, Width, and Tree Size in Expressiveness of Deep Forest
- Title(参考訳): 深い森林の表現性における深さ・幅・木の大きさの役割
- Authors: Shen-Huan Lyu, Jin-Hui Wu, Qin-Cheng Zheng, Baoliu Ye,
- Abstract要約: 本稿では,多層林を用いた深層林アルゴリズムを提案する。
citetzhou 2019deepはさらに、多層森林を用いた深い森林アルゴリズムを提案し、様々なタスクにおいてランダム森林よりも優れている。
- 参考スコア(独自算出の注目度): 3.852357340211482
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Random forests are classical ensemble algorithms that construct multiple randomized decision trees and aggregate their predictions using naive averaging. \citet{zhou2019deep} further propose a deep forest algorithm with multi-layer forests, which outperforms random forests in various tasks. The performance of deep forests is related to three hyperparameters in practice: depth, width, and tree size, but little has been known about its theoretical explanation. This work provides the first upper and lower bounds on the approximation complexity of deep forests concerning the three hyperparameters. Our results confirm the distinctive role of depth, which can exponentially enhance the expressiveness of deep forests compared with width and tree size. Experiments confirm the theoretical findings.
- Abstract(参考訳): ランダムフォレスト(Random forests)は、複数のランダム化された決定木を構築し、その予測を単純平均化を用いて集約する古典的なアンサンブルアルゴリズムである。
さらに,多層林を用いた深い森林アルゴリズムを提案し,様々なタスクにおいてランダム林よりも優れていた。
深い森林のパフォーマンスは、実際には3つのハイパーパラメータ(深さ、幅、木の大きさ)に関連しているが、その理論的な説明はほとんど分かっていない。
この研究は、3つのハイパーパラメーターに関する深い森林の近似複雑性について、最初の上下境界を与える。
その結果,深部林の表現力は,幅や木の大きさと比較して指数関数的に向上することが明らかとなった。
実験は理論的な結果を確認します。
関連論文リスト
- DepthSplat: Connecting Gaussian Splatting and Depth [90.06180236292866]
ガウススプラッティングと深さ推定を結合するDepthSplatを提案する。
まず,事前学習した単眼深度特徴を生かして,頑健な多眼深度モデルを提案する。
また,ガウス的スプラッティングは教師なし事前学習の目的として機能することを示す。
論文 参考訳(メタデータ) (2024-10-17T17:59:58Z) - Why do Random Forests Work? Understanding Tree Ensembles as
Self-Regularizing Adaptive Smoothers [68.76846801719095]
統計学で広く普及している偏りと分散還元に対する現在の高次二分法は、木のアンサンブルを理解するには不十分である、と我々は主張する。
森林は、通常暗黙的に絡み合っている3つの異なるメカニズムによって、樹木を改良できることを示す。
論文 参考訳(メタデータ) (2024-02-02T15:36:43Z) - Improve Deep Forest with Learnable Layerwise Augmentation Policy
Schedule [22.968268349995853]
本稿では,学習可能な階層的なデータ拡張ポリシを特徴とする最適化されたDeep Forestを提案する。
オーバフィッティングを緩和し,各層に対して拡張強度を調整するための集団探索アルゴリズムを開発するために,タブラルデータ用カットミックス(CMT)拡張技術を導入する。
実験の結果,本手法は様々な分類タスクに新たなSOTA(State-of-the-art)ベンチマークを設定し,浅い樹木のアンサンブル,深い森林,ディープニューラルネットワーク,AutoMLコンペティターを上回る結果を得た。
論文 参考訳(メタデータ) (2023-09-16T15:54:25Z) - ForensicsForest Family: A Series of Multi-scale Hierarchical Cascade Forests for Detecting GAN-generated Faces [53.739014757621376]
我々は,GAN生成顔を検出するために,EmforensicsForest Familyと呼ばれる簡易かつ効果的な森林法について述べる。
ForenscisForestは、新しく提案された多層階層のカスケード林である。
Hybrid ForensicsForestはCNNレイヤをモデルに統合する。
Divide-and-Conquer ForensicsForestは、トレーニングサンプリングの一部のみを使用して、森林モデルを構築することができる。
論文 参考訳(メタデータ) (2023-08-02T06:41:19Z) - Interpreting Deep Forest through Feature Contribution and MDI Feature
Importance [6.475147482292634]
ディープ・フォレストは微分不可能なディープ・モデルであり、様々な応用において印象的な経験的成功を収めた。
アプリケーションフィールドの多くは、各予測に局所的な説明を提供するような特徴のあるランダムフォレストのような説明可能なモデルを好む。
我々は,森林深度に対する特徴貢献とMDI特徴重要度算出ツールを提案する。
論文 参考訳(メタデータ) (2023-05-01T13:10:24Z) - Contextual Decision Trees [62.997667081978825]
学習アンサンブルの1つの浅い木を特徴量ベースで選択するための,マルチアームのコンテキスト付きバンドレコメンデーションフレームワークを提案する。
トレーニングされたシステムはランダムフォレスト上で動作し、最終的な出力を提供するためのベース予測器を動的に識別する。
論文 参考訳(メタデータ) (2022-07-13T17:05:08Z) - ForestPrune: Compact Depth-Controlled Tree Ensembles [7.538482310185135]
我々は,個々の木から深度層を刈り取ることで,木アンサンブルを後処理する新しいフレームワークであるフォレストプルーを紹介する。
本研究では,フォレストプルーネにおける問題に対する高品質な解を効率的に得るための最適化アルゴリズムを開発した。
実験により、フォレストプルーンは既存の後処理アルゴリズムによって抽出されたモデルより優れたパシモニアスモデルを生成することを示した。
論文 参考訳(メタデータ) (2022-05-31T22:04:18Z) - Trees, Forests, Chickens, and Eggs: When and Why to Prune Trees in a
Random Forest [8.513154770491898]
木深度はプロセス全体にわたって自然な正規化の形式と見なされるべきである。
特に,データの信号対雑音比が低ければ,樹木が浅いランダムな森林が有利であることが示唆された。
論文 参考訳(メタデータ) (2021-03-30T21:57:55Z) - Growing Deep Forests Efficiently with Soft Routing and Learned
Connectivity [79.83903179393164]
この論文は、いくつかの重要な側面で深い森林のアイデアをさらに拡張します。
我々は、ノードがハードバイナリ決定ではなく、確率的ルーティング決定、すなわちソフトルーティングを行う確率的ツリーを採用する。
MNISTデータセットの実験は、私たちの力のある深部森林が[1]、[3]よりも優れたまたは匹敵するパフォーマンスを達成できることを示しています。
論文 参考訳(メタデータ) (2020-12-29T18:05:05Z) - Non-Local Spatial Propagation Network for Depth Completion [82.60915972250706]
本研究では,深度完了のための堅牢で効率的な非局所的空間伝搬ネットワークを提案する。
提案するネットワークは,RGBとスパース深度画像を入力とし,各画素の非局所的近傍とその親和性を推定する。
提案アルゴリズムは,混合深度問題に対する深度補完精度とロバスト性の観点から,従来のアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2020-07-20T12:26:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。