論文の概要: On Uncertainty Estimation by Tree-based Surrogate Models in Sequential Model-based Optimization

• arxiv url: http://arxiv.org/abs/2202.10669v1
• Date: Tue, 22 Feb 2022 04:50:37 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-23 15:43:20.671127
• Title: On Uncertainty Estimation by Tree-based Surrogate Models in Sequential Model-based Optimization
• Title（参考訳）: 逐次モデルに基づく最適化における木ベースサロゲートモデルによる不確実性推定について
• Authors: Jungtaek Kim, Seungjin Choi
• Abstract要約: 予測不確実性推定の観点から,ランダム化木の様々なアンサンブルを再検討し,その挙動について検討する。 BwO林と呼ばれる無作為な樹木のアンサンブルを構築するための新しい手法を提案する。 実験により,既存の樹木モデルに対するBwO林の有効性と性能について様々な状況で検証した。
• 参考スコア（独自算出の注目度）: 13.52611859628841
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Sequential model-based optimization sequentially selects a candidate point by constructing a surrogate model with the history of evaluations, to solve a black-box optimization problem. Gaussian process (GP) regression is a popular choice as a surrogate model, because of its capability of calculating prediction uncertainty analytically. On the other hand, an ensemble of randomized trees is another option and has practical merits over GPs due to its scalability and easiness of handling continuous/discrete mixed variables. In this paper we revisit various ensembles of randomized trees to investigate their behavior in the perspective of prediction uncertainty estimation. Then, we propose a new way of constructing an ensemble of randomized trees, referred to as BwO forest, where bagging with oversampling is employed to construct bootstrapped samples that are used to build randomized trees with random splitting. Experimental results demonstrate the validity and good performance of BwO forest over existing tree-based models in various circumstances.
• Abstract（参考訳）: 逐次モデルに基づく最適化は評価履歴を持つサロゲートモデルを構築して候補点を順次選択し、ブラックボックス最適化問題を解決する。 ガウス過程(gp)回帰は、予測の不確かさを解析的に計算できるため、代理モデルとして一般的な選択である。 一方、ランダム化された木々のアンサンブルは別の選択肢であり、連続/離散混合変数の扱いのスケーラビリティと容易さから、GPよりも実践的な利点がある。 本稿では,予測不確実性推定の観点から,ランダム化木の様々なアンサンブルを再検討する。 そこで,本研究では,ランダム化木をランダムに分割して構築するブートストラップ型サンプル構築に,オーバーサンプリングを用いたバッグを用いたランダム化木群を新たに構築する手法を提案する。 実験結果から, 既存の樹木モデルに対するBwO林の有効性と性能が示された。

関連論文リスト

• Ensembles of Probabilistic Regression Trees [46.53457774230618]
  木に基づくアンサンブル法は多くの応用や研究で回帰問題に成功している。 本研究では,確率分布に関する各領域の観察を割り当てることで,目的関数のスムーズな近似を提供する確率回帰木のアンサンブルバージョンについて検討する。
  論文  参考訳（メタデータ） (2024-06-20T06:51:51Z)
• Adaptive Split Balancing for Optimal Random Forest [8.916614661563893]
  そこで本研究では,新しい適応型分割バランス法を用いて木を構築するランダムフォレストアルゴリズムを提案する。 本手法は,データから木構造を適応的に学習しながら,シンプルでスムーズなシナリオで最適性を実現する。
  論文  参考訳（メタデータ） (2024-02-17T09:10:40Z)
• Tree ensemble kernels for Bayesian optimization with known constraints over mixed-feature spaces [54.58348769621782]
  木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。 ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。 我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
  論文  参考訳（メタデータ） (2022-07-02T16:59:37Z)
• GP-BART: a novel Bayesian additive regression trees approach using Gaussian processes [1.03590082373586]
  GP-BARTモデル(GP-BART model)は、すべての木間の各終端ノードの予測にGP先行を仮定することで制限に対処するBARTの拡張である。 モデルの有効性は、シミュレーションおよび実世界のデータへの応用を通じて実証され、様々なシナリオにおける従来のモデリング手法のパフォーマンスを上回る。
  論文  参考訳（メタデータ） (2022-04-05T11:18:44Z)
• Distributional Gradient Boosting Machines [77.34726150561087]
  私たちのフレームワークはXGBoostとLightGBMをベースにしています。 我々は,このフレームワークが最先端の予測精度を実現することを示す。
  論文  参考訳（メタデータ） (2022-04-02T06:32:19Z)
• Probabilistic Gradient Boosting Machines for Large-Scale Probabilistic Regression [51.770998056563094]
  PGBM(Probabilistic Gradient Boosting Machines)は、確率的予測を生成する手法である。 既存の最先端手法と比較してPGBMの利点を実証的に示す。
  論文  参考訳（メタデータ） (2021-06-03T08:32:13Z)
• Goal-directed Generation of Discrete Structures with Conditional Generative Models [85.51463588099556]
  本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。 提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
  論文  参考訳（メタデータ） (2020-10-05T20:03:13Z)
• Improved Weighted Random Forest for Classification Problems [3.42658286826597]
  優れたアンサンブルモデルを作るための鍵は、ベースモデルの多様性にある。 そこで本研究では,正規林の重み付け戦略を改良するアルゴリズムを提案する。 提案したモデルでは,通常のランダム林に比べて大幅な改善が可能である。
  論文  参考訳（メタデータ） (2020-09-01T16:08:45Z)
• Efficient Ensemble Model Generation for Uncertainty Estimation with Bayesian Approximation in Segmentation [74.06904875527556]
  アンサンブルセグメンテーションモデルを構築するための汎用的で効率的なセグメンテーションフレームワークを提案する。 提案手法では,層選択法を用いて効率よくアンサンブルモデルを生成することができる。 また,新たな画素単位の不確実性損失を考案し,予測性能を向上する。
  論文  参考訳（メタデータ） (2020-05-21T16:08:38Z)
• Multivariate Boosted Trees and Applications to Forecasting and Control [0.0]
  勾配強化木は、特定の損失関数を最小限に抑えるために、逐次モデルフィッティングと勾配降下を利用する非パラメトリック回帰木である。 本稿では,多変量隆起木を適応する計算効率のよいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-03-08T19:26:59Z)
• Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
  変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。 これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。 おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
  論文  参考訳（メタデータ） (2020-02-17T19:23:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。