論文の概要: High dimensional Bayesian Optimization via Condensing-Expansion Projection

• arxiv url: http://arxiv.org/abs/2408.04860v1
• Date: Fri, 9 Aug 2024 04:47:38 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-12 16:38:47.699760
• Title: High dimensional Bayesian Optimization via Condensing-Expansion Projection
• Title（参考訳）: 凝縮拡大射影による高次元ベイズ最適化
• Authors: Jiaming Lu, Rong J. B. Zhu,
• Abstract要約: 高次元設定では、ベイズ最適化(BO)は高価で実現不可能である。 実効的な部分空間仮定に応答しない高次元BOに対して、新しいランダムなプロジェクションに基づくアプローチを導入する。 実験の結果、どちらのアルゴリズムも既存のランダムな埋め込みに基づくアルゴリズムよりも優れていることがわかった。
• 参考スコア（独自算出の注目度）: 1.6355174910200032
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In high-dimensional settings, Bayesian optimization (BO) can be expensive and infeasible. The random embedding Bayesian optimization algorithm is commonly used to address high-dimensional BO challenges. However, this method relies on the effective subspace assumption on the optimization problem's objective function, which limits its applicability. In this paper, we introduce Condensing-Expansion Projection Bayesian optimization (CEPBO), a novel random projection-based approach for high-dimensional BO that does not reply on the effective subspace assumption. The approach is both simple to implement and highly practical. We present two algorithms based on different random projection matrices: the Gaussian projection matrix and the hashing projection matrix. Experimental results demonstrate that both algorithms outperform existing random embedding-based algorithms in most cases, achieving superior performance on high-dimensional BO problems. The code is available in \url{https://anonymous.4open.science/r/CEPBO-14429}.
• Abstract（参考訳）: 高次元設定では、ベイズ最適化(BO)は高価で実現不可能である。 ランダム埋め込みベイズ最適化アルゴリズムは、高次元BO問題に対処するために一般的に用いられる。 しかし、この手法は最適化問題の目的関数に対する効果的な部分空間仮定に依存しており、適用性は制限される。 本稿では,実効的な部分空間仮定に応答しない高次元BOに対する新しいランダムなプロジェクションベースアプローチであるCondensing-Expansion Projection Bayesian Optimization (CEPBO)を紹介する。 このアプローチは実装も簡単で、非常に実践的です。 本稿では、ガウス射影行列とハッシュ射影行列という、異なるランダム射影行列に基づく2つのアルゴリズムを提案する。 実験により, 2つのアルゴリズムが既存のランダム埋め込みアルゴリズムよりも優れており, 高次元BO問題において優れた性能を発揮することが示された。 コードは \url{https://anonymous.4open.science/r/CEPBO-14429} で公開されている。

関連論文リスト

• Expected Coordinate Improvement for High-Dimensional Bayesian Optimization [0.0]
  本研究では,高次元ベイズ最適化のための予測座標改善(ECI)基準を提案する。 提案手法では,各イテレーションにおいて最も高いECI値の座標を選択し,座標を反復することで座標を徐々にカバーする。 数値実験により,提案アルゴリズムは5つの最先端高次元BOと比較して,標準的なBOアルゴリズムよりもはるかに優れた結果が得られることが示された。
  論文  参考訳（メタデータ） (2024-04-18T05:48:15Z)
• An Adaptive Dimension Reduction Estimation Method for High-dimensional Bayesian Optimization [6.79843988450982]
  BOを高次元設定に拡張するための2段階最適化フレームワークを提案する。 私たちのアルゴリズムは、これらのステップを並列またはシーケンスで操作する柔軟性を提供します。 数値実験により,困難シナリオにおける本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-03-08T16:21:08Z)
• Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
  2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。 本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
  論文  参考訳（メタデータ） (2023-01-30T15:46:39Z)
• Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
  疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。 パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。 提案手法はRパッケージプローブに実装されている。
  論文  参考訳（メタデータ） (2022-09-16T19:15:50Z)
• Bayesian Optimization for Macro Placement [48.55456716632735]
  本研究では,系列対上のベイズ最適化(BO)を用いた新しいマクロ配置法を提案する。 BOは確率的代理モデルと獲得関数を利用する機械学習技術である。 固定アウトラインマクロ配置問題に対して, 半周波線長目標を用いたアルゴリズムを実証する。
  論文  参考訳（メタデータ） (2022-07-18T06:17:06Z)
• Computationally Efficient High-Dimensional Bayesian Optimization via Variable Selection [0.5439020425818999]
  本稿では,変数選択を利用した計算効率の高い高次元BO法を提案する。 提案手法では,選択変数を含む空間を軸整列した部分空間を自動的に学習することができる。 我々は,いくつかの合成および実問題に対する本手法の有効性を実証的に示す。
  論文  参考訳（メタデータ） (2021-09-20T01:55:43Z)
• Sequential Subspace Search for Functional Bayesian Optimization Incorporating Experimenter Intuition [63.011641517977644]
  本アルゴリズムは,実験者のガウス過程から引き出された一組の引き数で区切られた関数空間の有限次元ランダム部分空間列を生成する。 標準ベイズ最適化は各部分空間に適用され、次の部分空間の出発点(オリジン)として用いられる最良の解である。 シミュレーションおよび実世界の実験,すなわちブラインド関数マッチング,アルミニウム合金の最適析出強化関数の探索,深層ネットワークの学習速度スケジュール最適化において,本アルゴリズムを検証した。
  論文  参考訳（メタデータ） (2020-09-08T06:54:11Z)
• Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search Spaces [63.22864716473051]
  本稿では,反復により探索空間を拡大(およびシフト)する新しいBOアルゴリズムを提案する。 理論的には、どちらのアルゴリズムにおいても、累積的後悔は線形以下の速度で増大する。
  論文  参考訳（メタデータ） (2020-09-05T14:24:40Z)
• Semi-supervised Embedding Learning for High-dimensional Bayesian Optimization [12.238019485880583]
  本稿では,半教師付き次元の縮小によりベイズ最適化を反復的に行うための低次元空間を求める新しい枠組みを提案する。 SILBOは、取得関数から取得したラベル付き点とラベルなし点の両方を組み込んで、埋め込み空間学習をガイドする。 SILBOは既存の最先端高次元ベイズ最適化法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-05-29T14:37:12Z)
• Incorporating Expert Prior in Bayesian Optimisation via Space Warping [54.412024556499254]
  大きな探索空間では、アルゴリズムは関数の最適値に達する前に、いくつかの低関数値領域を通過する。 このコールドスタートフェーズの1つのアプローチは、最適化を加速できる事前知識を使用することである。 本稿では,関数の事前分布を通じて,関数の最適性に関する事前知識を示す。 先行分布は、探索空間を最適関数の高確率領域の周りに拡張し、最適関数の低確率領域の周りに縮小するようにワープする。
  論文  参考訳（メタデータ） (2020-03-27T06:18:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。