論文の概要: qPOTS: Efficient batch multiobjective Bayesian optimization via Pareto
optimal Thompson sampling
- arxiv url: http://arxiv.org/abs/2310.15788v1
- Date: Tue, 24 Oct 2023 12:35:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-25 18:50:31.227557
- Title: qPOTS: Efficient batch multiobjective Bayesian optimization via Pareto
optimal Thompson sampling
- Title(参考訳): qPOTS: Pareto 最適トンプソンサンプリングによる効率的なバッチ多目的ベイズ最適化
- Authors: S. Ashwin Renganathan
- Abstract要約: 多目的最適化を解くためのサンプル効率のアプローチはプロセス・オラクル・サロゲート (GP) を経由する。
本稿では,ランダムGPサンプルのフロンティアから新しい候補を選択する,単純かつ効果的なトンプソンサンプリングに基づくアプローチを提案する。
提案手法は, 実世界の実験だけでなく, 精度, 計算効率の両面において, 高い実験性能を示すものである。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classical evolutionary approaches for multiobjective optimization are quite
effective but incur a lot of queries to the objectives; this can be prohibitive
when objectives are expensive oracles. A sample-efficient approach to solving
multiobjective optimization is via Gaussian process (GP) surrogates and
Bayesian optimization (BO). Multiobjective Bayesian optimization (MOBO)
involves the construction of an acquisition function which is optimized to
acquire new observation candidates. This ``inner'' optimization can be hard due
to various reasons: acquisition functions being nonconvex, nondifferentiable
and/or unavailable in analytical form; the success of MOBO heavily relies on
this inner optimization. We do away with this hard acquisition function
optimization step and propose a simple, but effective, Thompson sampling based
approach ($q\texttt{POTS}$) where new candidate(s) are chosen from the Pareto
frontier of random GP posterior sample paths obtained by solving a much cheaper
multiobjective optimization problem. To further improve computational
tractability in higher dimensions we propose an automated active set of
candidates selection combined with a Nystr\"{o}m approximation. Our approach
applies to arbitrary GP prior assumptions and demonstrates strong empirical
performance over the state of the art, both in terms of accuracy and
computational efficiency, on synthetic as well as real-world experiments.
- Abstract(参考訳): 多目的最適化の古典的進化的アプローチは、非常に効果的であるが、目的に対して多くのクエリを発生させる。
多目的最適化を解くためのサンプル効率のアプローチは、ガウス過程(GP)サロゲートとベイズ最適化(BO)である。
多目的ベイズ最適化(MOBO)は、新しい観測候補を取得するために最適化された取得関数の構築を伴う。
この ‘inner' の最適化は様々な理由により困難である: 取得関数は非凸であり、非微分可能であり、/または解析形式で利用できない。
我々は、このハード獲得関数最適化ステップを廃止し、より安価な多目的最適化問題を解くことで得られたランダムgp後方サンプルパスのparetoフロンティアから新しい候補を選択する(q\texttt{pots}$)トンプソンサンプリングベースアプローチ(q\texttt{pots}$)を提案する。
より高次元での計算的トラクタビリティを向上させるために、Nystr\"{o}m近似と組み合わせた自動アクティブな候補選択法を提案する。
提案手法は,任意のgp事前仮定に適用し,合成および実世界実験において,精度と計算効率の両面で,最先端における強力な経験的性能を示す。
関連論文リスト
- End-to-End Learning for Fair Multiobjective Optimization Under
Uncertainty [55.04219793298687]
機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。
本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。
この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
論文 参考訳(メタデータ) (2024-02-12T16:33:35Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳(メタデータ) (2023-01-28T01:50:42Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳(メタデータ) (2022-10-27T01:58:10Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Optimistic Optimization of Gaussian Process Samples [30.226274682578172]
競合する、計算的により効率的でグローバルな最適化フレームワークは楽観的な最適化であり、これは探索空間の幾何学に関する事前知識を相似関数として利用している。
幾何的探索と確率的探索の間には新たな研究領域があり、ベイズ最適化の重要な機能を保ちながら、従来のベイズ最適化よりも大幅に高速に実行される方法がある。
論文 参考訳(メタデータ) (2022-09-02T09:06:24Z) - Dynamic Multi-objective Ensemble of Acquisition Functions in Batch
Bayesian Optimization [1.1602089225841632]
獲得関数は最適化プロセスにおいて重要な役割を果たす。
3つの取得関数は、その現在のパフォーマンスと過去のパフォーマンスに基づいて、セットから動的に選択される。
進化的多目的アルゴリズムを用いて、そのようなMOPを最適化し、非支配的な解の集合を得ることができる。
論文 参考訳(メタデータ) (2022-06-22T14:09:18Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - $\{\text{PF}\}^2\text{ES}$: Parallel Feasible Pareto Frontier Entropy
Search for Multi-Objective Bayesian Optimization Under Unknown Constraints [4.672142224503371]
本稿では,多目的ベイズ最適化のための情報理論獲得関数を提案する。
$textPF2$ESは、並列設定のための相互情報の低コストで正確な見積もりを提供する。
合成問題と実生活問題で$textPF2$ESをベンチマークします。
論文 参考訳(メタデータ) (2022-04-11T21:06:23Z) - Bayesian Optimization with High-Dimensional Outputs [42.311308135418805]
実際には、多くの相関した結果(またはタスク)に対して定義された目的を最適化したいと望んでいます。
共分散行列におけるKronecker構造とMatheronの同一性を組み合わせた,正確なマルチタスクGPサンプリングのための効率的な手法を考案する。
これは、科学と工学の様々なタスクにまたがって、ベイズ最適化のための新しい種類のアプリケーションを、どのように解き放つかを実証する。
論文 参考訳(メタデータ) (2021-06-24T13:15:12Z) - Resource Aware Multifidelity Active Learning for Efficient Optimization [0.8717253904965373]
本稿では,ブラックボックス関数の最適化を高速化するためのリソース・アウェア・アクティブ・ラーニング(RAAL)戦略を紹介する。
RAAL戦略は最適化タスクの大幅な高速化を可能にするために、最適に複数のポイントを投入する。
論文 参考訳(メタデータ) (2020-07-09T10:01:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。