論文の概要: CobBO: Coordinate Backoff Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2101.05147v2
- Date: Tue, 16 Feb 2021 10:18:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-30 08:08:39.679458
- Title: CobBO: Coordinate Backoff Bayesian Optimization
- Title(参考訳): cobbo:座標バックオフベイズ最適化
- Authors: Jian Tan, Niv Nayman, Mengchang Wang, Feifei Li, Rong Jin
- Abstract要約: グローバルな景観のスムーズな近似を捉えるために,CobBO(Coordinate Backoff Bayesian Optimization)を導入する。
CobBOは、数十から数百の次元に対する他の最先端の手法に匹敵するソリューションを見つける。
- 参考スコア(独自算出の注目度): 45.53400129323848
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization is a popular method for optimizing expensive black-box
functions. The objective functions of hard real world problems are oftentimes
characterized by a fluctuated landscape of many local optima. Bayesian
optimization risks in over-exploiting such traps, remaining with insufficient
query budget for exploring the global landscape. We introduce Coordinate
Backoff Bayesian Optimization (CobBO) to alleviate those challenges. CobBO
captures a smooth approximation of the global landscape by interpolating the
values of queried points projected to randomly selected promising subspaces.
Thus also a smaller query budget is required for the Gaussian process
regressions applied over the lower dimensional subspaces. This approach can be
viewed as a variant of coordinate ascent, tailored for Bayesian optimization,
using a stopping rule for backing off from a certain subspace and switching to
another coordinate subset. Extensive evaluations show that CobBO finds
solutions comparable to or better than other state-of-the-art methods for
dimensions ranging from tens to hundreds, while reducing the trial complexity.
- Abstract(参考訳): ベイズ最適化は高価なブラックボックス関数を最適化する一般的な方法である。
実世界の難解な問題の客観的機能は、しばしば多くの局所最適の変動した風景によって特徴づけられる。
ベイズ最適化はそのようなトラップを過剰に露呈するリスクがあり、グローバルな景観を探索するのに十分なクエリ予算が残されている。
これらの課題を軽減するために、CobBO(Coordinate Backoff Bayesian Optimization)を導入します。
CobBOは、ランダムに選択された有望な部分空間に投影されるクエリされた点の値を補間することにより、世界景観の滑らかな近似を捉える。
したがって、低次元部分空間に適用されるガウス過程の回帰に対して、より小さなクエリ予算が要求される。
このアプローチは、ある種の部分空間からバックオフし、別の座標部分集合に切り替える停止規則を用いて、ベイズ最適化に適した座標昇華の変種と見なすことができる。
大規模な評価の結果、CobBOは数十から数百の次元に対する他の最先端の手法に匹敵するソリューションを見つけながら、試行の複雑さを減らしている。
関連論文リスト
- High-dimensional Bayesian Optimization via Covariance Matrix Adaptation
Strategy [16.521207412129833]
本稿では,CMA(Covariance Matrix Adaptation)戦略を用いて局所領域を定義する手法を提案する。
この探索分布に基づいて,大域的最適である確率の高いデータポイントからなる局所領域を定義する。
提案手法は,BO,TuRBO,BAxUSなどの既存のブラックボックスBOを組み込んでグローバルな最適解を求めるメタアルゴリズムとして機能する。
論文 参考訳(メタデータ) (2024-02-05T15:32:10Z) - LABCAT: Locally adaptive Bayesian optimization using principal-component-aligned trust regions [0.0]
信頼領域に基づくBOを拡張した LABCAT アルゴリズムを提案する。
このアルゴリズムは、最先端のBOや他のブラックボックス最適化アルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-19T13:56:24Z) - Advancing Bayesian Optimization via Learning Correlated Latent Space [15.783344085533187]
本稿では,コラーレント空間ベイズ最適化(CoBO)を提案する。
具体的には, リプシッツ正則化, 損失重み付け, 信頼領域再コーディネートを導入し, 期待する領域の内在的なギャップを最小化する。
本稿では,分子設計や算術式整合など,離散データにおけるいくつかの最適化タスクに対するアプローチの有効性を示す。
論文 参考訳(メタデータ) (2023-10-31T08:24:41Z) - Learning Regions of Interest for Bayesian Optimization with Adaptive
Level-Set Estimation [84.0621253654014]
本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。
理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
論文 参考訳(メタデータ) (2023-07-25T09:45:47Z) - SOBER: Highly Parallel Bayesian Optimization and Bayesian Quadrature
over Discrete and Mixed Spaces [6.573393706476156]
離散および混合空間上の任意のカーネルを持つ新しい大域最適化法を提案する。
バッチ二次法は、搾取的ベイズ二次法の利点のバランスをとることによって、両方の問題を効率的に解くことができる。
我々は、SOBERが競合するベースライン効率のバッチとスケーラブルな実世界のタスクより優れていることを示す。
論文 参考訳(メタデータ) (2023-01-27T16:36:33Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search
Spaces [63.22864716473051]
本稿では,反復により探索空間を拡大(およびシフト)する新しいBOアルゴリズムを提案する。
理論的には、どちらのアルゴリズムにおいても、累積的後悔は線形以下の速度で増大する。
論文 参考訳(メタデータ) (2020-09-05T14:24:40Z) - Global Optimization of Gaussian processes [52.77024349608834]
少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。
このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。
提案手法の順序の順序による時間収束を,総じて低減する。
論文 参考訳(メタデータ) (2020-05-21T20:59:11Z) - Incorporating Expert Prior in Bayesian Optimisation via Space Warping [54.412024556499254]
大きな探索空間では、アルゴリズムは関数の最適値に達する前に、いくつかの低関数値領域を通過する。
このコールドスタートフェーズの1つのアプローチは、最適化を加速できる事前知識を使用することである。
本稿では,関数の事前分布を通じて,関数の最適性に関する事前知識を示す。
先行分布は、探索空間を最適関数の高確率領域の周りに拡張し、最適関数の低確率領域の周りに縮小するようにワープする。
論文 参考訳(メタデータ) (2020-03-27T06:18:49Z) - Scalable Constrained Bayesian Optimization [10.820024633762596]
ブラックボックス制約下での高次元ブラックボックス関数のグローバルな最適化は、機械学習、制御、科学コミュニティにおける普及的なタスクである。
本稿では,上記の課題を克服し,現状を推し進めるスケーラブルな制約付きベイズ最適化(SCBO)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-02-20T01:48:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。