Fugu-MT 論文翻訳(概要): Think Global and Act Local: Bayesian Optimisation over High-Dimensional Categorical and Mixed Search Spaces

論文の概要: Think Global and Act Local: Bayesian Optimisation over High-Dimensional Categorical and Mixed Search Spaces

arxiv url: http://arxiv.org/abs/2102.07188v1
Date: Sun, 14 Feb 2021 16:18:36 GMT
ステータス: 処理完了
システム内更新日: 2021-02-16 16:04:08.349543
Title: Think Global and Act Local: Bayesian Optimisation over High-Dimensional Categorical and Mixed Search Spaces
Title（参考訳）: グローバルとローカライズを考える:高次元圏と複合検索空間に対するベイズ最適化
Authors: Xingchen Wan, Vu Nguyen, Huong Ha, Binxin Ru, Cong Lu, Michael A. Osborne
Abstract要約: 高次元ブラックボックス最適化は、未だに重要な課題である。そこで我々は,局所最適化とカーネル設計を組み合わせ,高次元のカテゴリと混合探索空間を効果的に扱う新しい手法を提案する。
参考スコア（独自算出の注目度）: 26.08218231365666
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: High-dimensional black-box optimisation remains an important yet notoriously challenging problem. Despite the success of Bayesian optimisation methods on continuous domains, domains that are categorical, or that mix continuous and categorical variables, remain challenging. We propose a novel solution -- we combine local optimisation with a tailored kernel design, effectively handling high-dimensional categorical and mixed search spaces, whilst retaining sample efficiency. We further derive convergence guarantee for the proposed approach. Finally, we demonstrate empirically that our method outperforms the current baselines on a variety of synthetic and real-world tasks in terms of performance, computational costs, or both.
Abstract（参考訳）: 高次元ブラックボックス最適化は、未だに重要な課題である。連続領域上のベイズ最適化法の成功にもかかわらず、連続変数とカテゴリ変数を混合する圏は依然として困難である。我々は,局所最適化とカーネル設計を組み合わせ,高次元の分類と混合の探索空間を効果的に扱えるようにし,サンプル効率を保ちながら提案する。さらに,提案手法に対する収束保証を導出する。最後に,本手法は,性能,計算コスト,あるいはその両方の観点から,各種の合成および実世界のタスクにおいて,現在のベースラインを上回っていることを実証的に示す。

関連論文リスト

A Novel Unified Parametric Assumption for Nonconvex Optimization [53.943470475510196]
非最適化は機械学習の中心であるが、一般の非凸性は弱い収束を保証するため、他方に比べて悲観的すぎる。非凸アルゴリズムに新しい統一仮定を導入する。
論文参考訳（メタデータ） (2025-02-17T21:25:31Z)
A survey and benchmark of high-dimensional Bayesian optimization of discrete sequences [12.248793682283964]
個々のブラックボックス機能を最適化することは、タンパク質工学や薬物設計など、いくつかの領域において重要である。我々は,高次元ベイズ最適化手法と標準化されたブラックボックス関数の集合を幅広くテストするための統一的なフレームワークを開発する。これらのベンチマークの2つのコンポーネントはそれぞれ、柔軟でスケーラブルで容易に拡張可能なソフトウェアライブラリによってサポートされています。
論文参考訳（メタデータ） (2024-06-07T08:39:40Z)
Localized Zeroth-Order Prompt Optimization [54.964765668688806]
そこで我々は,ZOPO(Localized zeroth-order prompt optimization)という新しいアルゴリズムを提案する。 ZOPOはニューラル・タンジェント・カーネルをベースとしたガウス法を標準ゼロ階次最適化に取り入れ、高速な局所最適探索を高速化する。注目すべきは、ZOPOは最適化性能とクエリ効率の両方の観点から、既存のベースラインを上回っていることだ。
論文参考訳（メタデータ） (2024-03-05T14:18:15Z)
SOBER: Highly Parallel Bayesian Optimization and Bayesian Quadrature over Discrete and Mixed Spaces [6.573393706476156]
離散および混合空間上の任意のカーネルを持つ新しい大域最適化法を提案する。バッチ二次法は、搾取的ベイズ二次法の利点のバランスをとることによって、両方の問題を効率的に解くことができる。我々は、SOBERが競合するベースライン効率のバッチとスケーラブルな実世界のタスクより優れていることを示す。
論文参考訳（メタデータ） (2023-01-27T16:36:33Z)
Tree ensemble kernels for Bayesian optimization with known constraints over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文参考訳（メタデータ） (2022-07-02T16:59:37Z)
Bayesian Optimisation for Mixed-Variable Inputs using Value Proposals [10.40799693791025]
カテゴリー変数と連続変数の両方で定義される最適化問題。包括的視点を採用し、分類的および連続的な部分空間の最適化を統合することを目的としている。この統一アプローチは、既存の混合変数最適化アプローチよりも大幅に優れていることを示す。
論文参考訳（メタデータ） (2022-02-10T04:42:48Z)
Optimization on manifolds: A symplectic approach [127.54402681305629]
本稿では、最適化問題を解くための一般的な枠組みとして、ディラックの制約付きハミルトン系理論の散逸拡張を提案する。我々の(加速された)アルゴリズムのクラスは単純で効率的なだけでなく、幅広い文脈にも適用できる。
論文参考訳（メタデータ） (2021-07-23T13:43:34Z)
Are we Forgetting about Compositional Optimisers in Bayesian Optimisation? [66.39551991177542]
本稿では,グローバル最適化のためのサンプル手法を提案する。この中、重要なパフォーマンス決定の自明さは、取得機能を最大化することです。 3958実験における機能最適化手法の実証的利点を強調する。
論文参考訳（メタデータ） (2020-12-15T12:18:38Z)
Adaptive Local Bayesian Optimization Over Multiple Discrete Variables [9.860437640748113]
本稿では,チームKAIST OSIのアプローチをステップワイズで記述し,ベースラインアルゴリズムを最大20.39%向上させる。同様の方法では,ベイジアンとマルチアームドバンディット(mab)の手法を組み合わせ,変数型を考慮した値選択を行う。経験的評価により,提案手法は既存の手法を異なるタスクにまたがる性能を示す。
論文参考訳（メタデータ） (2020-12-07T07:51:23Z)
Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search Spaces [63.22864716473051]
本稿では,反復により探索空間を拡大(およびシフト)する新しいBOアルゴリズムを提案する。理論的には、どちらのアルゴリズムにおいても、累積的後悔は線形以下の速度で増大する。
論文参考訳（メタデータ） (2020-09-05T14:24:40Z)
Upper Trust Bound Feasibility Criterion for Mixed Constrained Bayesian Optimization with Application to Aircraft Design [41.74498230885008]
我々は、より正確に混合された制約問題を解決するために、いわゆる超効率的なグローバル最適化アルゴリズムを適用する。本研究は, 数値実験におけるアプローチの可能性を示すものである。
論文参考訳（メタデータ） (2020-05-11T12:59:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。