論文の概要: Increasing the Scope as You Learn: Adaptive Bayesian Optimization in
Nested Subspaces
- arxiv url: http://arxiv.org/abs/2304.11468v1
- Date: Sat, 22 Apr 2023 19:20:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-25 18:08:47.145925
- Title: Increasing the Scope as You Learn: Adaptive Bayesian Optimization in
Nested Subspaces
- Title(参考訳): 学習する範囲を増やす:ネステッド部分空間における適応ベイズ最適化
- Authors: Leonard Papenmeier, Luigi Nardi, Matthias Poloczek
- Abstract要約: HDBOの最先端手法は、寸法が増加するにつれて性能が低下する。
本稿では,ネストしたランダムな部分空間の新たなファミリを利用したBAxUSを提案する。
包括的な評価により、BAxUSは幅広いアプリケーションに対して最先端の手法よりも優れた結果が得られることが示された。
- 参考スコア(独自算出の注目度): 5.484903028195502
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent advances have extended the scope of Bayesian optimization (BO) to
expensive-to-evaluate black-box functions with dozens of dimensions, aspiring
to unlock impactful applications, for example, in the life sciences, neural
architecture search, and robotics. However, a closer examination reveals that
the state-of-the-art methods for high-dimensional Bayesian optimization (HDBO)
suffer from degrading performance as the number of dimensions increases or even
risk failure if certain unverifiable assumptions are not met. This paper
proposes BAxUS that leverages a novel family of nested random subspaces to
adapt the space it optimizes over to the problem. This ensures high performance
while removing the risk of failure, which we assert via theoretical guarantees.
A comprehensive evaluation demonstrates that BAxUS achieves better results than
the state-of-the-art methods for a broad set of applications.
- Abstract(参考訳): 近年の進歩は、ベイズ最適化(BO)の範囲を数十次元の高価なブラックボックス関数にまで拡大し、例えば生命科学、ニューラルアーキテクチャサーチ、ロボティクスなどの影響のある応用を解き放つことを目指している。
しかし,高次元ベイズ最適化(HDBO)の最先端手法は,ある不確定な仮定が満たされていない場合,次元数の増加やリスク失敗などによって性能低下に悩まされることが明らかとなった。
本稿では、ネストしたランダムな部分空間の新たなファミリを利用したBAxUSを提案し、その問題に最適化する空間を適応させる。
これにより、理論的保証を通じて断定する失敗のリスクを取り除きながら、高いパフォーマンスが保証されます。
包括的な評価により、BAxUSは幅広いアプリケーションに対して最先端の手法よりも優れた結果が得られることが示された。
関連論文リスト
- STBA: Towards Evaluating the Robustness of DNNs for Query-Limited Black-box Scenario [50.37501379058119]
本研究では,クエリ制限シナリオにおいて,悪意のある逆の例を作成するために,空間変換ブラックボックス攻撃(STBA)を提案する。
そこで本研究では,STBAが対向例の認識不能性を効果的に改善し,クエリ制限条件下での攻撃成功率を大幅に向上できることを示す。
論文 参考訳(メタデータ) (2024-03-30T13:28:53Z) - An Adaptive Dimension Reduction Estimation Method for High-dimensional
Bayesian Optimization [6.79843988450982]
BOを高次元設定に拡張するための2段階最適化フレームワークを提案する。
私たちのアルゴリズムは、これらのステップを並列またはシーケンスで操作する柔軟性を提供します。
数値実験により,困難シナリオにおける本手法の有効性が検証された。
論文 参考訳(メタデータ) (2024-03-08T16:21:08Z) - Boundary Exploration for Bayesian Optimization With Unknown Physical Constraints [37.095510211590984]
本稿では,実現不可能な設計と実現不可能な設計の境界を効率的に探索する新しいベイズ最適化手法であるBE-CBOを提案する。
提案手法は,合成および実世界のベンチマークに関する総合的な実験を通じて,最先端手法に対する優れた性能を示す。
論文 参考訳(メタデータ) (2024-02-12T14:59:40Z) - Model-based Causal Bayesian Optimization [78.120734120667]
モデルに基づく因果ベイズ最適化(MCBO)を提案する。
MCBOは介入と逆のペアをモデリングするのではなく、完全なシステムモデルを学ぶ。
標準的なベイズ最適化とは異なり、我々の取得関数は閉形式では評価できない。
論文 参考訳(メタデータ) (2022-11-18T14:28:21Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Designing Biological Sequences via Meta-Reinforcement Learning and
Bayesian Optimization [68.28697120944116]
メタ強化学習を用いて自己回帰生成モデルを訓練し、選択のための有望なシーケンスを提案する。
我々は,データのサブセットのサンプリングによって誘導されるMDPの分布に対する最適ポリシーを求める問題として,この問題を提起する。
このようなアンサンブルに対するメタラーニングは,報酬の過小評価に対して頑健であり,競争的な結果が得られることを示す。
論文 参考訳(メタデータ) (2022-09-13T18:37:27Z) - Bayesian Optimisation for Constrained Problems [0.0]
本稿では,制約を扱える知恵グラディエント獲得関数の新たな変種を提案する。
我々は、このアルゴリズムを、他の4つの最先端制約されたベイズ最適化アルゴリズムと比較し、その優れた性能を実証する。
論文 参考訳(メタデータ) (2021-05-27T15:43:09Z) - High-Dimensional Bayesian Optimization via Nested Riemannian Manifolds [0.0]
本研究では,様々な領域によく現れる非ユークリッド探索空間の幾何学を利用して,構造保存写像を学習することを提案する。
我々のアプローチは、ネストした多様体の埋め込みを共同で学習する幾何学的ガウス過程と、潜在空間における目的関数の表現を特徴付ける。
論文 参考訳(メタデータ) (2020-10-21T11:24:11Z) - Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search
Spaces [63.22864716473051]
本稿では,反復により探索空間を拡大(およびシフト)する新しいBOアルゴリズムを提案する。
理論的には、どちらのアルゴリズムにおいても、累積的後悔は線形以下の速度で増大する。
論文 参考訳(メタデータ) (2020-09-05T14:24:40Z) - An Asymptotically Optimal Multi-Armed Bandit Algorithm and
Hyperparameter Optimization [48.5614138038673]
本稿では,高パラメータ探索評価のシナリオにおいて,SS (Sub-Sampling) と呼ばれる効率的で堅牢な帯域幅に基づくアルゴリズムを提案する。
また,BOSSと呼ばれる新しいパラメータ最適化アルゴリズムを開発した。
実験的な研究は、SSの理論的議論を検証し、多くのアプリケーションにおけるBOSSの優れた性能を実証する。
論文 参考訳(メタデータ) (2020-07-11T03:15:21Z) - Scalable Constrained Bayesian Optimization [10.820024633762596]
ブラックボックス制約下での高次元ブラックボックス関数のグローバルな最適化は、機械学習、制御、科学コミュニティにおける普及的なタスクである。
本稿では,上記の課題を克服し,現状を推し進めるスケーラブルな制約付きベイズ最適化(SCBO)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-02-20T01:48:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。