論文の概要: Combinatorial Bayesian Optimization with Random Mapping Functions to
Convex Polytopes
- arxiv url: http://arxiv.org/abs/2011.13094v2
- Date: Mon, 20 Jun 2022 05:33:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-20 08:30:43.846401
- Title: Combinatorial Bayesian Optimization with Random Mapping Functions to
Convex Polytopes
- Title(参考訳): 凸ポリトープに対するランダムマッピング関数を用いた組合せベイズ最適化
- Authors: Jungtaek Kim, Seungjin Choi, Minsu Cho
- Abstract要約: 大規模空間でうまく動作するような空間におけるベイズ最適化法を提案する。
提案アルゴリズムは,既存手法と比較して良好な性能を示す。
- 参考スコア(独自算出の注目度): 43.19936635161588
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization is a popular method for solving the problem of global
optimization of an expensive-to-evaluate black-box function. It relies on a
probabilistic surrogate model of the objective function, upon which an
acquisition function is built to determine where next to evaluate the objective
function. In general, Bayesian optimization with Gaussian process regression
operates on a continuous space. When input variables are categorical or
discrete, an extra care is needed. A common approach is to use one-hot encoded
or Boolean representation for categorical variables which might yield a
combinatorial explosion problem. In this paper we present a method for Bayesian
optimization in a combinatorial space, which can operate well in a large
combinatorial space. The main idea is to use a random mapping which embeds the
combinatorial space into a convex polytope in a continuous space, on which all
essential process is performed to determine a solution to the black-box
optimization in the combinatorial space. We describe our combinatorial Bayesian
optimization algorithm and present its regret analysis. Numerical experiments
demonstrate that our method shows satisfactory performance compared to existing
methods.
- Abstract(参考訳): ベイズ最適化は、高価なブラックボックス関数のグローバル最適化の問題を解決する一般的な方法である。
これは目的関数の確率的サロゲートモデルに依存しており、目的関数を次に評価する場所を決定するために獲得関数が構築される。
一般に、ガウス過程回帰によるベイズ最適化は連続空間上で作用する。
入力変数が分類的あるいは離散的である場合、追加の注意が必要である。
一般的なアプローチは、組合せ爆発問題を引き起こすカテゴリ変数に対して1-hotエンコードまたはブール表現を使用することである。
本稿では,大きな組合せ空間においてうまく動作する組合せ空間におけるベイズ最適化手法を提案する。
主なアイデアは、連続空間内の凸ポリトープに組合せ空間を埋め込むランダムマッピングを使用することであり、その上ですべての本質的なプロセスを実行し、組合せ空間におけるブラックボックス最適化の解を求める。
本稿では,組合せベイズ最適化アルゴリズムについて述べる。
数値実験により,本手法は既存手法と比較して良好な性能を示した。
関連論文リスト
- Simulation Based Bayesian Optimization [0.6526824510982799]
本稿では,獲得関数を最適化するための新しいアプローチとして,シミュレーションベースベイズ最適化(SBBO)を提案する。
SBBOは、離散変数を持つ空間に適した代理モデルを使用することができる。
代理モデルの様々な選択を用いたSBBO法の有効性を実証的に実証した。
論文 参考訳(メタデータ) (2024-01-19T16:56:11Z) - SOBER: Highly Parallel Bayesian Optimization and Bayesian Quadrature
over Discrete and Mixed Spaces [6.573393706476156]
離散および混合空間上の任意のカーネルを持つ新しい大域最適化法を提案する。
バッチ二次法は、搾取的ベイズ二次法の利点のバランスをとることによって、両方の問題を効率的に解くことができる。
我々は、SOBERが競合するベースライン効率のバッチとスケーラブルな実世界のタスクより優れていることを示す。
論文 参考訳(メタデータ) (2023-01-27T16:36:33Z) - Tree ensemble kernels for Bayesian optimization with known constraints
over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。
ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。
我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文 参考訳(メタデータ) (2022-07-02T16:59:37Z) - Bayesian Optimization over Permutation Spaces [30.650753803587794]
BOPS (Permutation Spaces) に対する2つのアルゴリズムの提案と評価を行った。
BOPS-Tの性能を理論的に解析し,その後悔がサブリニアに増加することを示す。
複数の合成および実世界のベンチマーク実験により、BOPS-TとBOPS-Hは、空間に対する最先端のBOアルゴリズムよりも優れた性能を示した。
論文 参考訳(メタデータ) (2021-12-02T08:20:50Z) - Sparse Quadratic Optimisation over the Stiefel Manifold with Application
to Permutation Synchronisation [71.27989298860481]
二次目的関数を最大化するスティーフェル多様体上の行列を求める非最適化問題に対処する。
そこで本研究では,支配的固有空間行列を求めるための,単純かつ効果的なスパーシティプロモーティングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-09-30T19:17:35Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Bayesian Variational Optimization for Combinatorial Spaces [0.0]
幅広い応用としては、分子、タンパク質、DNA、デバイス構造、量子回路の設計などが挙げられる。
最適解や最適解を見つけるためには、圏空間上の最適化が不可欠である。
本稿では,変分最適化と連続緩和を組み合わせた変分ベイズ最適化手法を提案する。
論文 参考訳(メタデータ) (2020-11-03T20:56:13Z) - Sequential Subspace Search for Functional Bayesian Optimization
Incorporating Experimenter Intuition [63.011641517977644]
本アルゴリズムは,実験者のガウス過程から引き出された一組の引き数で区切られた関数空間の有限次元ランダム部分空間列を生成する。
標準ベイズ最適化は各部分空間に適用され、次の部分空間の出発点(オリジン)として用いられる最良の解である。
シミュレーションおよび実世界の実験,すなわちブラインド関数マッチング,アルミニウム合金の最適析出強化関数の探索,深層ネットワークの学習速度スケジュール最適化において,本アルゴリズムを検証した。
論文 参考訳(メタデータ) (2020-09-08T06:54:11Z) - Incorporating Expert Prior in Bayesian Optimisation via Space Warping [54.412024556499254]
大きな探索空間では、アルゴリズムは関数の最適値に達する前に、いくつかの低関数値領域を通過する。
このコールドスタートフェーズの1つのアプローチは、最適化を加速できる事前知識を使用することである。
本稿では,関数の事前分布を通じて,関数の最適性に関する事前知識を示す。
先行分布は、探索空間を最適関数の高確率領域の周りに拡張し、最適関数の低確率領域の周りに縮小するようにワープする。
論文 参考訳(メタデータ) (2020-03-27T06:18:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。