論文の概要: Riemann-Lebesgue Forest for Regression
- arxiv url: http://arxiv.org/abs/2402.04550v1
- Date: Wed, 7 Feb 2024 03:13:11 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-08 16:51:36.541691
- Title: Riemann-Lebesgue Forest for Regression
- Title(参考訳): Riemann-Lebesgue Forest for Regression
- Authors: Tian Qin, Wei-Min Huang
- Abstract要約: 本稿では,レグレッションのためのRLF(Riemann-Lebesgue Forest)と呼ばれる新しいアンサンブル手法を提案する。
RLFの中核となる考え方は、測定可能な関数を数区間に分割することで近似する方法を模倣することである。
RLFの原生無作為林に対する競争性能はシミュレーションデータと実世界のデータセットで実証された。
- 参考スコア(独自算出の注目度): 8.580054721729473
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a novel ensemble method called Riemann-Lebesgue Forest (RLF) for
regression. The core idea of RLF is to mimic the way how a measurable function
can be approximated by partitioning its range into a few intervals. With this
idea in mind, we develop a new tree learner named Riemann-Lebesgue Tree which
has a chance to split the node from response $Y$ or a direction in feature
space $\mathbf{X}$ at each non-terminal node. We generalize the asymptotic
performance of RLF under different parameter settings mainly through Hoeffding
decomposition \cite{Vaart} and Stein's method \cite{Chen2010NormalAB}. When the
underlying function $Y=f(\mathbf{X})$ follows an additive regression model, RLF
is consistent with the argument from \cite{Scornet2014ConsistencyOR}. The
competitive performance of RLF against original random forest
\cite{Breiman2001RandomF} is demonstrated by experiments in simulation data and
real world datasets.
- Abstract(参考訳): 本稿では,レグレッションのためのRLF(Riemann-Lebesgue Forest)と呼ばれる新しいアンサンブル手法を提案する。
RLFの中核となる考え方は、測定可能な関数を数区間に分割することで近似する方法を模倣することである。
このアイデアを念頭に置いて、我々はRiemann-Lebesgue Treeと呼ばれる新しいツリー学習者を開発し、応答$Y$や特徴空間$\mathbf{X}$の各非終端ノードの方向からノードを分割する機会を得る。
本稿では,主にHoeffding decomposition \cite{Vaart} と Stein のメソッド \cite{Chen2010NormalAB} を用いて,異なるパラメータ設定下での RLF の漸近性能を一般化する。
基底関数 $Y=f(\mathbf{X})$ が加法回帰モデルに従うとき、RLF は \cite{Scornet2014ConsistencyOR} の引数と一致する。
RLFの原生無作為林に対する競争性能はシミュレーションデータと実世界のデータセットの実験によって実証された。
関連論文リスト
- Optimal Design for Reward Modeling in RLHF [83.3614658277817]
我々は,人間からの強化学習における報酬訓練モデルを定式化する。
有効なデータセットの選択は、単純な後悔の最小化タスクとしてフレーム化します。
適切な前提の下では、単純な後悔に縛られる。
論文 参考訳(メタデータ) (2024-10-22T14:36:44Z) - Highly Adaptive Ridge [84.38107748875144]
直交可積分な部分微分を持つ右連続函数のクラスにおいて,$n-2/3$自由次元L2収束率を達成する回帰法を提案する。
Harは、飽和ゼロオーダーテンソル積スプライン基底展開に基づいて、特定のデータ適応型カーネルで正確にカーネルリッジレグレッションを行う。
我々は、特に小さなデータセットに対する最先端アルゴリズムよりも経験的性能が優れていることを示す。
論文 参考訳(メタデータ) (2024-10-03T17:06:06Z) - Streamlining in the Riemannian Realm: Efficient Riemannian Optimization
with Loopless Variance Reduction [4.578425862931332]
本研究はユークリッドとリーマンの設定の両方で用いられる決定的な還元機構に焦点を当てる。
ユークリッド法により動機付け, コインフリップによって引き起こされる計算で外ループを置換するR法を導入する。
フレームワークとしてR-を用いることで、様々な重要な設定に適用可能であることを示す。
論文 参考訳(メタデータ) (2024-03-11T12:49:37Z) - Adaptive Split Balancing for Optimal Random Forest [8.916614661563893]
そこで本研究では,新しい適応型分割バランス法を用いて木を構築するランダムフォレストアルゴリズムを提案する。
本手法は,データから木構造を適応的に学習しながら,シンプルでスムーズなシナリオで最適性を実現する。
論文 参考訳(メタデータ) (2024-02-17T09:10:40Z) - Inference with Mondrian Random Forests [6.97762648094816]
我々は、モンドリアンのランダムな森林回帰推定器に対して、ベリー・エッセイン型中央極限定理とともに、正確なバイアスと分散特性を与える。
未知回帰関数に対する有効な統計的推測法を提案する。
効率的で実装可能なアルゴリズムは、バッチとオンラインの学習設定の両方に考案されている。
論文 参考訳(メタデータ) (2023-10-15T01:41:42Z) - Provably Efficient Offline Reinforcement Learning with Trajectory-Wise
Reward [66.81579829897392]
我々はPessimistic vAlue iteRaTionとrEward Decomposition (PARTED)という新しいオフライン強化学習アルゴリズムを提案する。
PartEDは、最小2乗ベースの報酬再分配を通じて、ステップごとのプロキシ報酬に軌道を分解し、学習したプロキシ報酬に基づいて悲観的な値を実行する。
私たちの知る限りでは、PartEDは、トラジェクティブな報酬を持つ一般のMDPにおいて、証明可能な効率のよい最初のオフラインRLアルゴリズムである。
論文 参考訳(メタデータ) (2022-06-13T19:11:22Z) - Random Forest Weighted Local Fréchet Regression with Random Objects [18.128663071848923]
本稿では,新しいランダム森林重み付き局所Fr'echet回帰パラダイムを提案する。
最初の方法は、これらの重みを局所平均として、条件付きFr'echet平均を解くことである。
第二の手法は局所線形Fr'echet回帰を行い、どちらも既存のFr'echet回帰法を大幅に改善した。
論文 参考訳(メタデータ) (2022-02-10T09:10:59Z) - Generalised Boosted Forests [0.9899017174990579]
リンク空間におけるMLE型推定から始まり、それから一般化された残余を定義する。
これらの残差とそれに対応する重みをベースとなるランダムフォレストに適合させ、これを繰り返してブーストランダムフォレストを得る。
我々は、ランダムな森林ステップの両方がテストセットのログ類似度を減少させることをシミュレーションおよび実データで示す。
論文 参考訳(メタデータ) (2021-02-24T21:17:31Z) - HiPaR: Hierarchical Pattern-aided Regression [71.22664057305572]
HiPaRは、$p Rightarrow y = f(X)$という形式のハイブリッドルールをマイニングします。ここでは、$p$はデータ領域の特性付けであり、$f(X)$は興味ある$y$の変数上の線形回帰モデルです。
HiPaRはパターンマイニング技術を利用して、ターゲット変数が局所線形モデルによって正確に説明できるデータの領域を特定する。
実験が示すように、hipalは既存のパターンベースの回帰法よりも少ないルールをマイニングしながら、最先端の予測性能を実現しています。
論文 参考訳(メタデータ) (2021-02-24T15:53:17Z) - Bayesian Quadrature on Riemannian Data Manifolds [79.71142807798284]
データに固有の非線形幾何学構造をモデル化する原則的な方法が提供される。
しかし、これらの演算は通常計算的に要求される。
特に、正規法則上の積分を数値計算するためにベイズ二次(bq)に焦点を当てる。
先行知識と活発な探索手法を両立させることで,BQは必要な評価回数を大幅に削減できることを示す。
論文 参考訳(メタデータ) (2021-02-12T17:38:04Z) - Provable Model-based Nonlinear Bandit and Reinforcement Learning: Shelve
Optimism, Embrace Virtual Curvature [61.22680308681648]
決定論的報酬を有する1層ニューラルネットバンディットにおいても,グローバル収束は統計的に難解であることを示す。
非線形バンディットとRLの両方に対して,オンラインモデル学習者による仮想アセンジ(Virtual Ascent with Online Model Learner)というモデルベースアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-08T12:41:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。