論文の概要: Spectral Mixture Kernels for Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2505.17393v1
- Date: Fri, 23 May 2025 02:07:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-26 18:08:33.766786
- Title: Spectral Mixture Kernels for Bayesian Optimization
- Title(参考訳): ベイズ最適化のためのスペクトル混合カーネル
- Authors: Yi Zhang, Cheng Hua,
- Abstract要約: 本稿では,スペクトル混合カーネルを組み込んだガウス過程に基づく新しいBO法を提案する。
この手法は効率と最適化性能の両方において大幅に向上する。
最適な情報を得る際の情報獲得と累積的後悔の限界を提供する。
- 参考スコア(独自算出の注目度): 3.8601741392210434
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian Optimization (BO) is a widely used approach for solving expensive black-box optimization tasks. However, selecting an appropriate probabilistic surrogate model remains an important yet challenging problem. In this work, we introduce a novel Gaussian Process (GP)-based BO method that incorporates spectral mixture kernels, derived from spectral densities formed by scale-location mixtures of Cauchy and Gaussian distributions. This method achieves a significant improvement in both efficiency and optimization performance, matching the computational speed of simpler kernels while delivering results that outperform more complex models and automatic BO methods. We provide bounds on the information gain and cumulative regret associated with obtaining the optimum. Extensive numerical experiments demonstrate that our method consistently outperforms existing baselines across a diverse range of synthetic and real-world problems, including both low- and high-dimensional settings.
- Abstract(参考訳): ベイズ最適化(英: Bayesian Optimization、BO)は、高価なブラックボックス最適化タスクを解くために広く用いられる手法である。
しかし、適切な確率的サロゲートモデルを選択することは依然として重要な問題である。
本研究では,コーシー分布とガウス分布のスケール配置混合によって形成されるスペクトル密度から,スペクトル混合カーネルを組み込んだ新しいガウス過程(GP)に基づくBO法を提案する。
この手法は、より複雑なモデルや自動BO法よりも優れた結果を提供するとともに、より単純なカーネルの計算速度を一致させ、効率と最適化性能の両方において大幅に向上する。
最適な情報を得るための情報獲得と累積的後悔に関するバウンダリを提供する。
大規模な数値実験により,本手法は,低次元と高次元の両方の設定を含む,多種多様な合成および実世界の問題において,既存のベースラインを一貫して上回ることを示した。
関連論文リスト
- Bayesian Optimization by Kernel Regression and Density-based Exploration [12.074000212223446]
本稿では,カーネル回帰と密度に基づく探索(BOKE)アルゴリズムによるベイズ最適化を提案する。
BOKEは、効率的な関数近似、探索のためのカーネル密度にカーネル回帰を使用し、それらを信頼境界基準に統合して最適化プロセスの導出を行う。
我々は,BOKEがガウスのプロセスベース手法と競合するだけでなく,計算効率も優れていることを示した。
論文 参考訳(メタデータ) (2025-02-10T06:16:51Z) - Sample-efficient Bayesian Optimisation Using Known Invariances [56.34916328814857]
バニラと制約付きBOアルゴリズムは、不変目的を最適化する際の非効率性を示す。
我々はこれらの不変カーネルの最大情報ゲインを導出する。
核融合炉用電流駆動システムの設計に本手法を用い, 高性能溶液の探索を行った。
論文 参考訳(メタデータ) (2024-10-22T12:51:46Z) - Covariance-Adaptive Sequential Black-box Optimization for Diffusion Targeted Generation [60.41803046775034]
ユーザのブラックボックス目標スコアのみを用いた拡散モデルを用いて,ユーザ優先のターゲット生成を行う方法を示す。
数値実験問題と目標誘導型3次元分子生成タスクの両方の実験により,より優れた目標値を得る上で,本手法の優れた性能が示された。
論文 参考訳(メタデータ) (2024-06-02T17:26:27Z) - Enhancing Gaussian Process Surrogates for Optimization and Posterior Approximation via Random Exploration [2.984929040246293]
ガウス過程シュロゲートモデルの精度を高めるために、ランダムな探索ステップに依存する新しいノイズフリーベイズ最適化戦略。
新しいアルゴリズムは、古典的なGP-UCBの実装の容易さを維持しているが、さらなる探索がそれらの収束を促進する。
論文 参考訳(メタデータ) (2024-01-30T14:16:06Z) - Parallel Bayesian Optimization Using Satisficing Thompson Sampling for
Time-Sensitive Black-Box Optimization [0.0]
本稿では,Thompsonサンプリングに基づく並列BO手法を提案する。
ターゲットを最適なソリューションから、学習しやすい満足できるソリューションにシフトします。
リチウムイオン電池の高速充電設計問題に対して提案手法の有効性を実証した。
論文 参考訳(メタデータ) (2023-10-19T07:03:51Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳(メタデータ) (2022-10-27T01:58:10Z) - Tree ensemble kernels for Bayesian optimization with known constraints
over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。
ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。
我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文 参考訳(メタデータ) (2022-07-02T16:59:37Z) - Global Optimization of Gaussian processes [52.77024349608834]
少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。
このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。
提案手法の順序の順序による時間収束を,総じて低減する。
論文 参考訳(メタデータ) (2020-05-21T20:59:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。