論文の概要: Random Planted Forest: a directly interpretable tree ensemble
- arxiv url: http://arxiv.org/abs/2012.14563v1
- Date: Tue, 29 Dec 2020 01:51:59 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-18 20:42:25.519767
- Title: Random Planted Forest: a directly interpretable tree ensemble
- Title(参考訳): ランダム植林:直接解釈可能な木のアンサンブル
- Authors: Munir Hiabu, Enno Mammen, Joseph T. Meyer
- Abstract要約: 回帰設定における予測のための新しい解釈可能木ベースアルゴリズムを提案する。
本アルゴリズムの動機は、機能的ANOVA分解の観点から未知の回帰関数を推定することである。
シミュレーション研究により,無作為植林手法の予測と可視化特性について検討した。
- 参考スコア(独自算出の注目度): 0.2320417845168326
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a novel interpretable and tree-based algorithm for prediction in
a regression setting in which each tree in a classical random forest is
replaced by a family of planted trees that grow simultaneously. The motivation
for our algorithm is to estimate the unknown regression function from a
functional ANOVA decomposition perspective, where each tree corresponds to a
function within that decomposition. Therefore, planted trees are limited in the
number of interaction terms. The maximal order of approximation in the ANOVA
decomposition can be specified or left unlimited. If a first order
approximation is chosen, the result is an additive model. In the other extreme
case, if the order of approximation is not limited, the resulting model puts no
restrictions on the form of the regression function. In a simulation study we
find encouraging prediction and visualisation properties of our random planted
forest method. We also develop theory for an idealised version of random
planted forests in the case of an underlying additive model. We show that in
the additive case, the idealised version achieves up to a logarithmic factor
asymptotically optimal one-dimensional convergence rates of order $n^{-2/5}$.
- Abstract(参考訳): 本稿では,古典的ランダム林の各木を同時に生育する植林木群に置き換えた回帰設定において,予測のための新しい解釈可能かつ木ベースアルゴリズムを提案する。
このアルゴリズムの動機は、各木がその分解内の関数に対応する関数 anova decomposition perspective から未知の回帰関数を推定することである。
したがって、植木は相互作用項の数に制限される。
ANOVA分解における近似の最大順序を指定または無制限にすることができる。
第一次近似が選択されると、結果は加法モデルとなる。
他の極端な場合、近似の順序が制限されない場合、結果として得られるモデルは回帰関数の形式に制限を与えない。
シミュレーション研究により,無作為植林手法の予測と可視化特性について検討した。
また,基盤となる付加物モデルの場合,ランダム植林の理想化版に対する理論を考案する。
加法の場合、理想化されたバージョンは、次数$n^{-2/5}$の対数係数漸近的に最適な1次元収束率に達する。
関連論文リスト
- Free Lunch in the Forest: Functionally-Identical Pruning of Boosted Tree Ensembles [45.962492329047215]
木アンサンブルを原モデルと「機能的に同一」な縮小版にプルークする方法を提案する。
我々は,アンサンブル上での機能的同一プルーニングの問題を形式化し,正確な最適化モデルを導入し,大規模なアンサンブルをプルーする高速かつ高効率な方法を提供する。
論文 参考訳(メタデータ) (2024-08-28T23:15:46Z) - Adaptive Split Balancing for Optimal Random Forest [8.916614661563893]
そこで本研究では,新しい適応型分割バランス法を用いて木を構築するランダムフォレストアルゴリズムを提案する。
本手法は,データから木構造を適応的に学習しながら,シンプルでスムーズなシナリオで最適性を実現する。
論文 参考訳(メタデータ) (2024-02-17T09:10:40Z) - Inference with Mondrian Random Forests [6.97762648094816]
我々は、モンドリアンのランダムな森林回帰推定器に対して、ベリー・エッセイン型中央極限定理とともに、正確なバイアスと分散特性を与える。
未知回帰関数に対する有効な統計的推測法を提案する。
効率的で実装可能なアルゴリズムは、バッチとオンラインの学習設定の両方に考案されている。
論文 参考訳(メタデータ) (2023-10-15T01:41:42Z) - SoftTreeMax: Exponential Variance Reduction in Policy Gradient via Tree
Search [68.66904039405871]
我々は,計画を考慮したソフトマックスの一般化であるSoftTreeMaxを紹介する。
この分散を緩和する上で,木の拡大政策が果たす役割を初めて示す。
我々の分化可能なツリーベースのポリシーは、従来の単一サンプルベースの勾配ではなく、各環境における木の葉のすべての勾配を利用する。
論文 参考訳(メタデータ) (2023-01-30T19:03:14Z) - An Approximation Method for Fitted Random Forests [0.0]
本研究では,葉にデータポイントを割り当てたランダムフォレストモデルを用いて,各木を近似する手法について検討した。
具体的には,多項ロジスティック回帰の適合が予測品質を保ちながらサイズを減少させるかどうかを考察することから始める。
論文 参考訳(メタデータ) (2022-07-05T17:28:52Z) - Explaining random forest prediction through diverse rulesets [0.0]
Local Tree eXtractor (LTreeX)は、与えられたテストインスタンスのフォレスト予測を、いくつかの異なるルールで説明することができる。
提案手法は予測性能の点で他の説明可能な手法よりも大幅に優れていることを示す。
論文 参考訳(メタデータ) (2022-03-29T12:54:57Z) - Generalised Boosted Forests [0.9899017174990579]
リンク空間におけるMLE型推定から始まり、それから一般化された残余を定義する。
これらの残差とそれに対応する重みをベースとなるランダムフォレストに適合させ、これを繰り返してブーストランダムフォレストを得る。
我々は、ランダムな森林ステップの両方がテストセットのログ類似度を減少させることをシミュレーションおよび実データで示す。
論文 参考訳(メタデータ) (2021-02-24T21:17:31Z) - Growing Deep Forests Efficiently with Soft Routing and Learned
Connectivity [79.83903179393164]
この論文は、いくつかの重要な側面で深い森林のアイデアをさらに拡張します。
我々は、ノードがハードバイナリ決定ではなく、確率的ルーティング決定、すなわちソフトルーティングを行う確率的ツリーを採用する。
MNISTデータセットの実験は、私たちの力のある深部森林が[1]、[3]よりも優れたまたは匹敵するパフォーマンスを達成できることを示しています。
論文 参考訳(メタデータ) (2020-12-29T18:05:05Z) - An Efficient Adversarial Attack for Tree Ensembles [91.05779257472675]
傾斜促進決定木(DT)や無作為林(RF)などの木に基づくアンサンブルに対する敵対的攻撃
提案手法は,従来のMILP (Mixed-integer linear programming) よりも数千倍高速であることを示す。
私たちのコードはhttps://chong-z/tree-ensemble- attackで利用可能です。
論文 参考訳(メタデータ) (2020-10-22T10:59:49Z) - Convex Polytope Trees [57.56078843831244]
コンベックスポリトープ木(CPT)は、決定境界の解釈可能な一般化によって決定木の系統を拡張するために提案される。
木構造が与えられたとき,木パラメータに対するCPTおよび拡張性のあるエンドツーエンドトレーニングアルゴリズムを効率的に構築する。
論文 参考訳(メタデータ) (2020-10-21T19:38:57Z) - Censored Quantile Regression Forest [81.9098291337097]
我々は、検閲に適応し、データが検閲を示さないときに量子スコアをもたらす新しい推定方程式を開発する。
提案手法は, パラメトリックなモデリング仮定を使わずに, 時間単位の定量を推定することができる。
論文 参考訳(メタデータ) (2020-01-08T23:20:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。