論文の概要: Diversified Sampling for Batched Bayesian Optimization with Determinantal Point Processes

• arxiv url: http://arxiv.org/abs/2110.11665v1
• Date: Fri, 22 Oct 2021 08:51:28 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-25 13:51:48.330738
• Title: Diversified Sampling for Batched Bayesian Optimization with Determinantal Point Processes
• Title（参考訳）: 決定点プロセスを用いたバッチベイズ最適化のための多様化サンプリング
• Authors: Elvis Nava, Mojm\'ir Mutn\'y, Andreas Krause
• Abstract要約: DPP-Batch Bayesian Optimization (DPP-BBO)を導入する。 DPP-Thompson Smpling (DPP-TS) を一般的なトンプソンサンプリング (TS) アルゴリズムの変種として定式化し、マルコフ・チェインモンテカルロ法をサンプルとして導入することによって、この枠組みを説明する。
• 参考スコア（独自算出の注目度）: 48.09817971375995
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In Bayesian Optimization (BO) we study black-box function optimization with noisy point evaluations and Bayesian priors. Convergence of BO can be greatly sped up by batching, where multiple evaluations of the black-box function are performed in a single round. The main difficulty in this setting is to propose at the same time diverse and informative batches of evaluation points. In this work, we introduce DPP-Batch Bayesian Optimization (DPP-BBO), a universal framework for inducing batch diversity in sampling based BO by leveraging the repulsive properties of Determinantal Point Processes (DPP) to naturally diversify the batch sampling procedure. We illustrate this framework by formulating DPP-Thompson Sampling (DPP-TS) as a variant of the popular Thompson Sampling (TS) algorithm and introducing a Markov Chain Monte Carlo procedure to sample from it. We then prove novel Bayesian simple regret bounds for both classical batched TS as well as our counterpart DPP-TS, with the latter bound being tighter. Our real-world, as well as synthetic, experiments demonstrate improved performance of DPP-BBO over classical batching methods with Gaussian process and Cox process models.
• Abstract（参考訳）: ベイジアン最適化(BO)では,ノイズ点評価とベイジアン先行値を用いてブラックボックス関数の最適化を検討した。 boの収束は、ブラックボックス関数の複数の評価を1ラウンドで行うバッチ処理によって大幅に加速することができる。 この設定における主な難点は、評価点の多様で有意義なバッチを同時に提案することである。 本稿では,dpp(decisionantal point process)の反発特性を利用して,サンプリングベースboにおけるバッチの多様性を誘導する汎用フレームワークであるdpp-batch bayesian optimization (dpp-bbo)を提案する。 我々は,dpp-thompson sampling (dpp-ts) をポピュラー・トンプソンサンプリング (ts) アルゴリズムの変種として定式化し,マルコフ連鎖モンテカルロ手順を導入した。 次に、古典的バッチTSと DPP-TS の双方に対して、ベイズ的単純後悔境界を証明し、後者はより厳密である。 我々の実世界と合成実験は、ガウス過程とコックス過程モデルによる古典的バッチ法よりも優れたDPP-BBO性能を示す。

関連論文リスト

• Batched Energy-Entropy acquisition for Bayesian Optimization [0.0]
  本稿では,バッチ処理が可能なガウス過程を持つBOの統計物理学に基づく獲得関数を提案する。 BEEBOは最適化プロセスの探索・探索トレードオフの厳密な制御を可能にし、ヘテロスケダスティックブラックボックス問題に一般化する。
  論文  参考訳（メタデータ） (2024-10-11T13:39:47Z)
• Batched Bayesian optimization with correlated candidate uncertainties [44.38372821900645]
  純粋に活用する qPO (multipoint of Optimality) による離散最適化のための獲得戦略を提案する。 本研究では, 大規模化学ライブラリのモデル誘導探索に適用し, バッチ化ベイズ最適化における最先端手法と同等以上の性能を示すことを示す。
  論文  参考訳（メタデータ） (2024-10-08T20:13:12Z)
• Poisson Process for Bayesian Optimization [126.51200593377739]
  本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。 従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
  論文  参考訳（メタデータ） (2024-02-05T02:54:50Z)
• Plug-and-Play split Gibbs sampler: embedding deep generative priors in Bayesian inference [12.91637880428221]
  本稿では, 後方分布から効率的にサンプリングするために, 可変分割を利用したプラグアンドプレイサンプリングアルゴリズムを提案する。 後方サンプリングの課題を2つの単純なサンプリング問題に分割する。 その性能は最近の最先端の最適化とサンプリング手法と比較される。
  論文  参考訳（メタデータ） (2023-04-21T17:17:51Z)
• Surrogate modeling for Bayesian optimization beyond a single Gaussian process [62.294228304646516]
  本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。 拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。 提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
  論文  参考訳（メタデータ） (2022-05-27T16:43:10Z)
• Variational Refinement for Importance Sampling Using the Forward Kullback-Leibler Divergence [77.06203118175335]
  変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。 重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。 近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
  論文  参考訳（メタデータ） (2021-06-30T11:00:24Z)
• Preferential Bayesian optimisation with Skew Gaussian Processes [0.225596179391365]
  選好関数の真の後続分布はスキューガウス過程(SkewGP)であることを示す。 我々は、正確なSkiwGP後部を計算し、標準取得関数を用いたPBOの代理モデルとして利用する効率的な手法を導出する。 また、我々のフレームワークは、混合優先カテゴリーBOを扱うように拡張可能であることも示している。
  論文  参考訳（メタデータ） (2020-08-15T08:23:17Z)
• Statistical Efficiency of Thompson Sampling for Combinatorial Semi-Bandits [56.31950477139053]
  半帯域フィードバック(CMAB)を用いたマルチアームバンディットの検討 我々は Combinatorial Thompson Smpling Policy (CTS) の変種を解析する。 この最終結果は,Y Combinatorial Bandit Policy (ESCB) の効率的なサンプリングに代わるものだ。
  論文  参考訳（メタデータ） (2020-06-11T17:12:11Z)
• Randomised Gaussian Process Upper Confidence Bound for Bayesian Optimisation [60.93091603232817]
  改良されたガウス過程上信頼境界(GP-UCB)取得関数を開発した。 これは、分布から探索・探索トレードオフパラメータをサンプリングすることによって行われる。 これにより、期待されるトレードオフパラメータが、関数のベイズ的後悔に縛られることなく、問題によりよく適合するように変更できることが証明される。
  論文  参考訳（メタデータ） (2020-06-08T00:28:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。