論文の概要: Random Forest (RF) Kernel for Regression, Classification and Survival

• arxiv url: http://arxiv.org/abs/2009.00089v1
• Date: Mon, 31 Aug 2020 20:21:27 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-23 06:42:20.840821
• Title: Random Forest (RF) Kernel for Regression, Classification and Survival
• Title（参考訳）: 回帰・分類・生存のためのランダムフォレスト(RF)カーネル
• Authors: Dai Feng and Richard Baumgartner
• Abstract要約: 正規化線形モデルを用いたデータ駆動RFカーネルの性能と特性を解明する。 連続的および生存的目標に対して、RFカーネルは高次元シナリオにおいてRFと競合することを示す。 また、回帰、分類、生存のための実生活データセットから、これらの知見が実際にどのように活用されるかを示す結果も提供する。
• 参考スコア（独自算出の注目度）: 1.8275108630751844
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Breiman's random forest (RF) can be interpreted as an implicit kernel generator,where the ensuing proximity matrix represents the data-driven RF kernel. Kernel perspective on the RF has been used to develop a principled framework for theoretical investigation of its statistical properties. However, practical utility of the links between kernels and the RF has not been widely explored and systematically evaluated.Focus of our work is investigation of the interplay between kernel methods and the RF. We elucidate the performance and properties of the data driven RF kernels used by regularized linear models in a comprehensive simulation study comprising of continuous, binary and survival targets. We show that for continuous and survival targets, the RF kernels are competitive to RF in higher dimensional scenarios with larger number of noisy features. For the binary target, the RF kernel and RF exhibit comparable performance. As the RF kernel asymptotically converges to the Laplace kernel, we included it in our evaluation. For most simulation setups, the RF and RFkernel outperformed the Laplace kernel. Nevertheless, in some cases the Laplace kernel was competitive, showing its potential value for applications. We also provide the results from real life data sets for the regression, classification and survival to illustrate how these insights may be leveraged in practice.Finally, we discuss further extensions of the RF kernels in the context of interpretable prototype and landmarking classification, regression and survival. We outline future line of research for kernels furnished by Bayesian counterparts of the RF.
• Abstract（参考訳）: ブレイマンのランダム・フォレスト(RF)は暗黙のカーネル・ジェネレータと解釈でき、続く近接行列はデータ駆動のRFカーネルを表す。 RFのカーネル・パースペクティブは、その統計的性質を理論的に研究するための原則的な枠組みの開発に使用されている。 しかし,カーネルとrf間のリンクの実用性は広く研究されておらず,系統的に評価されていない。 正規化線形モデルによって使用されるデータ駆動rfカーネルの性能と特性を,連続的,二元的および生存的ターゲットからなる包括的シミュレーション研究で明らかにする。 連続的および生存的目標に対して、RFカーネルはノイズの多い特徴を持つ高次元シナリオにおいてRFと競合することを示す。 バイナリターゲットでは、RFカーネルとRFは同等の性能を示す。 RFカーネルは漸近的にLaplaceカーネルに収束するので、評価に含めました。 ほとんどのシミュレーション設定では、RFとRFカーネルはLaplaceカーネルよりも優れていた。 それでも、Laplaceカーネルは競争力があり、アプリケーションの潜在的な価値を示していた。 また,これらの知見が実際にどのように活用されるかを示すために,実生活データから得られた結果について述べるとともに,解釈可能なプロトタイプやランドマーク化,回帰,生存の文脈におけるRFカーネルのさらなる拡張について考察する。 RFのベイジアン版で提供されるカーネルの今後の研究線について概説する。

関連論文リスト

• Optimal Kernel Quantile Learning with Random Features [0.9208007322096533]
  本稿では、ランダムな特徴を持つカーネル量子化回帰(KQR-RF)の一般化研究について述べる。 本研究は,KQR-RFの能力依存学習率を,RF数に対する軽度条件下で確立する。 我々の仮定を少し修正することによって、キャパシティに依存した誤差解析が、リプシッツ連続損失のケースにも適用できる。
  論文  参考訳（メタデータ） (2024-08-24T14:26:09Z)
• Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
  ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。 カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。 我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-10-09T03:55:09Z)
• Learning "best" kernels from data in Gaussian process regression. With application to aerodynamics [0.4588028371034406]
  本稿では,ガウス過程の回帰/クリギングサロゲートモデリング手法におけるカーネルの選択/設計アルゴリズムを紹介する。 アルゴリズムの最初のクラスはカーネルフローであり、機械学習の分類の文脈で導入された。 アルゴリズムの第2のクラスはスペクトル核リッジ回帰と呼ばれ、近似される関数のノルムが最小となるような「最良の」カーネルを選択することを目的としている。
  論文  参考訳（メタデータ） (2022-06-03T07:50:54Z)
• Meta-Learning Hypothesis Spaces for Sequential Decision-making [79.73213540203389]
  オフラインデータ(Meta-KeL)からカーネルをメタ学習することを提案する。 穏やかな条件下では、推定されたRKHSが有効な信頼セットを得られることを保証します。 また,ベイズ最適化におけるアプローチの有効性を実証的に評価した。
  論文  参考訳（メタデータ） (2022-02-01T17:46:51Z)
• Hybrid Random Features [60.116392415715275]
  ハイブリッドランダム特徴(HRF)と呼ばれるソフトマックスとガウス核の線形化のための新しいランダム特徴法を提案する。 HRFは、カーネル推定の品質を自動的に適応し、定義された関心領域の最も正確な近似を提供する。
  論文  参考訳（メタデータ） (2021-10-08T20:22:59Z)
• Kernel Identification Through Transformers [54.3795894579111]
  カーネル選択はガウス過程(GP)モデルの性能決定において中心的な役割を果たす。 この研究は、高次元GP回帰モデルのためのカスタムカーネル関数を構築するという課題に対処する。 KITT: Kernel Identification through Transformersを提案する。
  論文  参考訳（メタデータ） (2021-06-15T14:32:38Z)
• Early Detection of COVID-19 Hotspots Using Spatio-Temporal Data [66.70036251870988]
  疾病予防管理センター(CDC)は他の連邦機関と協力して、新型コロナウイルス(COVID-19)の感染が増加する郡(ホットスポット)を特定する。 本稿では,米国における新型コロナウイルスホットスポットの早期発見のためのスパースモデルを提案する。 深層ニューラルネットワークは、カーネルの解釈可能性を維持しながらモデルの代表的なパワーを高めるために導入されている。
  論文  参考訳（メタデータ） (2021-05-31T19:28:17Z)
• Flow-based Kernel Prior with Application to Blind Super-Resolution [143.21527713002354]
  カーネル推定は一般にブラインド画像超解像(SR)の鍵となる問題の一つである 本稿では,カーネルモデリングのための正規化フローベースカーネルプリレント(fkp)を提案する。 合成および実世界の画像の実験により、提案したFKPがカーネル推定精度を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2021-03-29T22:37:06Z)
• (Decision and regression) tree ensemble based kernels for regression and classification [2.28438857884398]
  Breiman's random forest (RF) や Gradient Boosted Trees (GBT) のような木に基づくアンサンブルは暗黙のカーネルジェネレータとして解釈できる。 連続目標に対して、RF/GBTカーネルは高次元シナリオにおいてそれぞれのアンサンブルと競合することを示す。 回帰と分類のための実際のデータセットの結果を提供し、これらの洞察が実際にどのように活用されるかを示します。
  論文  参考訳（メタデータ） (2020-12-19T16:52:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。