論文の概要: High-dimensional Bayesian Optimization via Covariance Matrix Adaptation Strategy

• arxiv url: http://arxiv.org/abs/2402.03104v1
• Date: Mon, 5 Feb 2024 15:32:10 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-06 15:17:51.675465
• Title: High-dimensional Bayesian Optimization via Covariance Matrix Adaptation Strategy
• Title（参考訳）: 共分散行列適応戦略による高次元ベイズ最適化
• Authors: Lam Ngo, Huong Ha, Jeffrey Chan, Vu Nguyen, Hongyu Zhang
• Abstract要約: 本稿では,CMA(Covariance Matrix Adaptation)戦略を用いて局所領域を定義する手法を提案する。 この探索分布に基づいて,大域的最適である確率の高いデータポイントからなる局所領域を定義する。 提案手法は,BO,TuRBO,BAxUSなどの既存のブラックボックスBOを組み込んでグローバルな最適解を求めるメタアルゴリズムとして機能する。
• 参考スコア（独自算出の注目度）: 16.521207412129833
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bayesian Optimization (BO) is an effective method for finding the global optimum of expensive black-box functions. However, it is well known that applying BO to high-dimensional optimization problems is challenging. To address this issue, a promising solution is to use a local search strategy that partitions the search domain into local regions with high likelihood of containing the global optimum, and then use BO to optimize the objective function within these regions. In this paper, we propose a novel technique for defining the local regions using the Covariance Matrix Adaptation (CMA) strategy. Specifically, we use CMA to learn a search distribution that can estimate the probabilities of data points being the global optimum of the objective function. Based on this search distribution, we then define the local regions consisting of data points with high probabilities of being the global optimum. Our approach serves as a meta-algorithm as it can incorporate existing black-box BO optimizers, such as BO, TuRBO, and BAxUS, to find the global optimum of the objective function within our derived local regions. We evaluate our proposed method on various benchmark synthetic and real-world problems. The results demonstrate that our method outperforms existing state-of-the-art techniques.
• Abstract（参考訳）: ベイズ最適化(BO)は、高価なブラックボックス関数のグローバルな最適化を見つける効果的な方法である。 しかし,高次元最適化問題に対するboの適用は困難であることが知られている。 この問題に対処するために,探索領域をグローバルな最適度を含む確率の高い地域に分割するローカル検索戦略を用いて,BOを用いてこれらの領域内の目的関数を最適化することが,有望な解決策である。 本稿では,共分散行列適応(cma)戦略を用いて局所領域を定義する新しい手法を提案する。 具体的には,CMAを用いて対象関数の大域的最適データ点の確率を推定できる探索分布を学習する。 この探索分布に基づいて,大域的最適である確率の高いデータポイントからなる局所領域を定義する。 提案手法は,BO,TuRBO,BAxUSなどの既存のブラックボックスBOオプティマイザを組み込んだメタアルゴリズムとして機能する。 提案手法は,様々なベンチマークの合成および実世界の問題に対して評価する。 その結果,本手法は既存の最先端技術よりも優れていることがわかった。

関連論文リスト

• Indirect Query Bayesian Optimization with Integrated Feedback [17.66813850517961]
  我々は,未知関数の条件付き期待値$f$を最適化することで,統合されたフィードバックが与えられるような,ベイズ最適化の新たなクラスを開発する。 目的は、条件分布によって変換された空間を適応的にクエリし、観察することで、$f$のグローバルな最適値を見つけることである。 これは、プライバシ、ハードウェア、計算上の制約による直接的なフィードバックにアクセスできない現実世界のアプリケーションによって動機付けられている。
  論文  参考訳（メタデータ） (2024-12-18T07:20:33Z)
• HiBO: Hierarchical Bayesian Optimization via Adaptive Search Space Partitioning [0.7737746260673106]
  HiBOは,グローバルレベルの検索空間分割情報をローカルBOベースの取得戦略に統合した,新しい階層型アルゴリズムである。 一連の評価は、HiBOが高次元の合成ベンチマークにおいて最先端の手法より優れていることを示している。
  論文  参考訳（メタデータ） (2024-10-30T16:04:16Z)
• Localized Zeroth-Order Prompt Optimization [54.964765668688806]
  そこで我々は,ZOPO(Localized zeroth-order prompt optimization)という新しいアルゴリズムを提案する。 ZOPOはニューラル・タンジェント・カーネルをベースとしたガウス法を標準ゼロ階次最適化に取り入れ、高速な局所最適探索を高速化する。 注目すべきは、ZOPOは最適化性能とクエリ効率の両方の観点から、既存のベースラインを上回っていることだ。
  論文  参考訳（メタデータ） (2024-03-05T14:18:15Z)
• LABCAT: Locally adaptive Bayesian optimization using principal-component-aligned trust regions [0.0]
  信頼領域に基づくBOを拡張した LABCAT アルゴリズムを提案する。 このアルゴリズムは、最先端のBOや他のブラックボックス最適化アルゴリズムよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-11-19T13:56:24Z)
• Learning Regions of Interest for Bayesian Optimization with Adaptive Level-Set Estimation [84.0621253654014]
  本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。 理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
  論文  参考訳（メタデータ） (2023-07-25T09:45:47Z)
• A Bayesian Optimization Framework for Finding Local Optima in Expensive Multi-Modal Functions [18.570591025615453]
  本稿では,高コストで評価可能なマルチモーダル目的関数に対する局所的・言語的ソリューションの集合を見つけるためのマルチモーダルBOフレームワークを開発する。 目的関数とその一階微分の結合分布を解析的に導出する。 本稿では、マルチモーダル設定によく知られたBO取得関数の変種を導入し、提案フレームワークの性能を実証する。
  論文  参考訳（メタデータ） (2022-10-13T00:10:13Z)
• Learning Space Partitions for Path Planning [54.475949279050596]
  PlaLaMは2次元ナビゲーションタスクにおける既存の経路計画手法よりも優れており、特に難解な局所最適化の存在下では優れている。 これらは高マルチモーダルな実世界のタスクに移行し、コンパイラフェーズでは最大245%、分子設計では最大0.4の強いベースラインを0-1スケールで上回ります。
  論文  参考訳（メタデータ） (2021-06-19T18:06:11Z)
• Bayesian Algorithm Execution: Estimating Computable Properties of Black-box Functions Using Mutual Information [78.78486761923855]
  多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。 本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。 これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
  論文  参考訳（メタデータ） (2021-04-19T17:22:11Z)
• TREGO: a Trust-Region Framework for Efficient Global Optimization [63.995130144110156]
  信頼領域型EGO法(TREGO)の提案と解析を行う。 TREGOは、信頼領域内の通常のEGOステップとローカルステップを交互に使用する。 我々のアルゴリズムは、最適化ステップのサブセットのみのために、EGOから離脱しながら、強いグローバル収束特性を享受する。
  論文  参考訳（メタデータ） (2021-01-18T00:14:40Z)
• Incorporating Expert Prior in Bayesian Optimisation via Space Warping [54.412024556499254]
  大きな探索空間では、アルゴリズムは関数の最適値に達する前に、いくつかの低関数値領域を通過する。 このコールドスタートフェーズの1つのアプローチは、最適化を加速できる事前知識を使用することである。 本稿では,関数の事前分布を通じて,関数の最適性に関する事前知識を示す。 先行分布は、探索空間を最適関数の高確率領域の周りに拡張し、最適関数の低確率領域の周りに縮小するようにワープする。
  論文  参考訳（メタデータ） (2020-03-27T06:18:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。