論文の概要: Simulation Based Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2401.10811v1
• Date: Fri, 19 Jan 2024 16:56:11 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-22 15:07:54.939451
• Title: Simulation Based Bayesian Optimization
• Title（参考訳）: シミュレーションに基づくベイズ最適化
• Authors: Roi Naveiro, Becky Tang
• Abstract要約: 本稿では,獲得関数を最適化するための新しいアプローチとして,シミュレーションベースベイズ最適化(SBBO)を提案する。 SBBOは、離散変数を持つ空間に適した代理モデルを使用することができる。 代理モデルの様々な選択を用いたSBBO法の有効性を実証的に実証した。
• 参考スコア（独自算出の注目度）: 0.6526824510982799
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bayesian Optimization (BO) is a powerful method for optimizing black-box functions by combining prior knowledge with ongoing function evaluations. BO constructs a probabilistic surrogate model of the objective function given the covariates, which is in turn used to inform the selection of future evaluation points through an acquisition function. For smooth continuous search spaces, Gaussian Processes (GPs) are commonly used as the surrogate model as they offer analytical access to posterior predictive distributions, thus facilitating the computation and optimization of acquisition functions. However, in complex scenarios involving optimizations over categorical or mixed covariate spaces, GPs may not be ideal. This paper introduces Simulation Based Bayesian Optimization (SBBO) as a novel approach to optimizing acquisition functions that only requires \emph{sampling-based} access to posterior predictive distributions. SBBO allows the use of surrogate probabilistic models tailored for combinatorial spaces with discrete variables. Any Bayesian model in which posterior inference is carried out through Markov chain Monte Carlo can be selected as the surrogate model in SBBO. In applications involving combinatorial optimization, we demonstrate empirically the effectiveness of SBBO method using various choices of surrogate models.
• Abstract（参考訳）: ベイズ最適化(BO)は、事前知識と継続する関数評価を組み合わせることでブラックボックス関数を最適化する強力な手法である。 BOは、共変数が与えられた目的関数の確率的サロゲートモデルを構築し、そのモデルを用いて、取得関数を介して将来の評価点の選択を知らせる。 滑らかな連続探索空間に対して、ガウス過程(gps)は後続予測分布に対する解析的アクセスを提供し、取得関数の計算と最適化を容易にするため、サロゲートモデルとして一般的に用いられる。 しかし、分類的あるいは混合共変量空間上の最適化を含む複雑なシナリオでは、GPは理想的ではないかもしれない。 本稿では, 後続予測分布への 'emph{sampling-based} アクセスのみを必要とする獲得関数を最適化するための新しい手法として, シミュレーションベースベイズ最適化 (SBBO) を提案する。 SBBOは、離散変数を持つ組合せ空間に適した代理確率モデルの使用を可能にする。 マルコフ連鎖モンテカルロによって後進推論が行われるベイズモデルはすべて、sbboのサロゲートモデルとして選択することができる。 組合せ最適化を含むアプリケーションでは、様々な代理モデルの選択肢を用いてSBBO法の有効性を実証的に示す。

関連論文リスト

• PMBO: Enhancing Black-Box Optimization through Multivariate Polynomial Surrogates [0.0]
  我々は、PMBO(Polynomial-based Optimization)と呼ばれるサロゲートベースのブラックボックス最適化手法を導入する。 PMBOの性能を解析的テスト関数の集合に対するいくつかの最適化手法と比較する。 興味深いことに、PMBOは最先端の進化アルゴリズムと互換性がある。
  論文  参考訳（メタデータ） (2024-03-12T10:21:21Z)
• Poisson Process for Bayesian Optimization [126.51200593377739]
  本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。 従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
  論文  参考訳（メタデータ） (2024-02-05T02:54:50Z)
• Predictive Modeling through Hyper-Bayesian Optimization [60.586813904500595]
  本稿では,モデル選択とBOを統合する新しい手法を提案する。 このアルゴリズムは、モデル空間のBOと関数空間のBOの間を行き来する。 サンプル効率の改善に加えて、ブラックボックス機能に関する情報も出力する。
  論文  参考訳（メタデータ） (2023-08-01T04:46:58Z)
• Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
  疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。 パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。 提案手法はRパッケージプローブに実装されている。
  論文  参考訳（メタデータ） (2022-09-16T19:15:50Z)
• Tree ensemble kernels for Bayesian optimization with known constraints over mixed-feature spaces [54.58348769621782]
  木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。 ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。 我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
  論文  参考訳（メタデータ） (2022-07-02T16:59:37Z)
• A General Recipe for Likelihood-free Bayesian Optimization [115.82591413062546]
  我々は,BOをより広範なモデルやユーティリティに拡張する可能性のないBO(LFBO)を提案する。 LFBOは、確率的代理モデルと個別に推論を行うことなく、取得関数を直接モデル化する。 LFBOにおける取得関数の計算は、重み付けされた分類問題を最適化することで削減できることを示す。
  論文  参考訳（メタデータ） (2022-06-27T03:55:27Z)
• Surrogate modeling for Bayesian optimization beyond a single Gaussian process [62.294228304646516]
  本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。 拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。 提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
  論文  参考訳（メタデータ） (2022-05-27T16:43:10Z)
• Approximate Bayesian Optimisation for Neural Networks [6.921210544516486]
  モデル選択の重要性を強調するために、機械学習アルゴリズムを自動化するための一連の作業が行われた。 理想主義的な方法で解析的トラクタビリティと計算可能性を解決する必要性は、効率と適用性を確保することを可能にしている。
  論文  参考訳（メタデータ） (2021-08-27T19:03:32Z)
• Combinatorial Bayesian Optimization with Random Mapping Functions to Convex Polytopes [43.19936635161588]
  大規模空間でうまく動作するような空間におけるベイズ最適化法を提案する。 提案アルゴリズムは,既存手法と比較して良好な性能を示す。
  論文  参考訳（メタデータ） (2020-11-26T02:22:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。