論文の概要: Parallel Bayesian Optimization of Multiple Noisy Objectives with
Expected Hypervolume Improvement
- arxiv url: http://arxiv.org/abs/2105.08195v1
- Date: Mon, 17 May 2021 23:31:42 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-19 14:17:54.535316
- Title: Parallel Bayesian Optimization of Multiple Noisy Objectives with
Expected Hypervolume Improvement
- Title（参考訳）: 超体積改善を期待する複数の雑音対象の並列ベイズ最適化
- Authors: Samuel Daulton, Maximilian Balandat, Eytan Bakshy
- Abstract要約: 多目的ベイズ最適化は、目的間の最適なトレードオフを特定するための強力なアプローチです。
既存の方法は、ノイズによって観測が破損すると、性能が悪くなる傾向があります。
本稿では,この重要な実用的限界を克服する新しい獲得関数NEHVIを提案する。
NEHVIは雑音や大バッチ環境下での最先端性能を実現する。
- 参考スコア（独自算出の注目度）: 14.669401425601974
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Optimizing multiple competing black-box objectives is a challenging problem
in many fields, including science, engineering, and machine learning.
Multi-objective Bayesian optimization is a powerful approach for identifying
the optimal trade-offs between the objectives with very few function
evaluations. However, existing methods tend to perform poorly when observations
are corrupted by noise, as they do not take into account uncertainty in the
true Pareto frontier over the previously evaluated designs. We propose a novel
acquisition function, NEHVI, that overcomes this important practical limitation
by applying a Bayesian treatment to the popular expected hypervolume
improvement criterion to integrate over this uncertainty in the Pareto
frontier. We further argue that, even in the noiseless setting, the problem of
generating multiple candidates in parallel reduces that of handling uncertainty
in the Pareto frontier. Through this lens, we derive a natural parallel variant
of NEHVI that can efficiently generate large batches of candidates. We provide
a theoretical convergence guarantee for optimizing a Monte Carlo estimator of
NEHVI using exact sample-path gradients. Empirically, we show that NEHVI
achieves state-of-the-art performance in noisy and large-batch environments.
- Abstract（参考訳）: 複数の競合するブラックボックスの目標を最適化することは、科学、工学、機械学習など、多くの分野で難しい問題である。
多目的ベイズ最適化は,機能評価の少ない目的間の最適トレードオフを特定するための強力な手法である。
しかし、既存の手法は、以前に評価された設計に対する真のパレートフロンティアの不確実性を考慮していないため、ノイズによって観測が損なわれると性能が低下する傾向にある。
本研究では,この不確実性をパレートフロンティアに組み込むために,ベイズ処理を期待されている超ボリューム改善基準に適用することにより,この重要な実用的限界を克服する新しい獲得関数NEHVIを提案する。
さらに,無ノイズ環境においても,複数の候補を並列に生成する問題は,パレートフロンティアにおける不確実性処理を減少させる。
このレンズを通して、我々は、大量の候補を効率的に生成できるNEHVIの自然な並列変種を導出する。
正確なサンプルパス勾配を用いたNEHVIのモンテカルロ推定器を最適化するための理論的収束保証を提供する。
実験により,NEHVIは雑音や大バッチ環境下での最先端性能を実現する。
関連論文リスト
- Non-Myopic Multi-Objective Bayesian Optimization [64.31753000439514]
多目的最適化問題を解くために、有限水平逐次実験設計の問題を考察する。
この問題は、材料設計を含む多くの現実世界の応用で発生する。
我々はMOO問題に対する最初の非ミオピック手法を提案する。
論文 参考訳（メタデータ） (2024-12-11T04:05:29Z) - STBA: Towards Evaluating the Robustness of DNNs for Query-Limited Black-box Scenario [50.37501379058119]
本研究では,クエリ制限シナリオにおいて,悪意のある逆の例を作成するために,空間変換ブラックボックス攻撃(STBA)を提案する。
そこで本研究では,STBAが対向例の認識不能性を効果的に改善し,クエリ制限条件下での攻撃成功率を大幅に向上できることを示す。
論文 参考訳（メタデータ） (2024-03-30T13:28:53Z) - Optimizing Solution-Samplers for Combinatorial Problems: The Landscape
of Policy-Gradient Methods [52.0617030129699]
本稿では,DeepMatching NetworksとReinforcement Learningメソッドの有効性を解析するための新しい理論フレームワークを提案する。
我々の主な貢献は、Max- and Min-Cut、Max-$k$-Bipartite-Bi、Maximum-Weight-Bipartite-Bi、Traveing Salesman Problemを含む幅広い問題である。
本分析の副産物として,バニラ降下による新たな正則化プロセスを導入し,失効する段階的な問題に対処し,悪い静止点から逃れる上で有効であることを示す理論的および実験的証拠を提供する。
論文 参考訳（メタデータ） (2023-10-08T23:39:38Z) - Distributed Extra-gradient with Optimal Complexity and Communication
Guarantees [60.571030754252824]
複数のプロセッサ/ワーカー/クライアントがローカルなデュアルベクトルにアクセス可能なマルチGPU設定において、モノトン変分不等式(VI)問題を考察する。
モノトーンVI問題に対するデファクトアルゴリズムであるExtra-gradientは、通信効率が良くないように設計されている。
そこで本稿では,VI の解法に適した非バイアスで適応的な圧縮手法である量子化一般化外部勾配 (Q-GenX) を提案する。
論文 参考訳（メタデータ） (2023-08-17T21:15:04Z) - Constrained multi-objective optimization of process design parameters in
settings with scarce data: an application to adhesive bonding [48.7576911714538]
接着プロセスに最適なプロセスパラメータを見つけることは困難である。
遺伝的アルゴリズムのような伝統的な進化的アプローチは、その問題を解決するのに不適である。
本研究では,目的関数と制約関数をエミュレートするために,特定の機械学習手法をうまく応用した。
論文 参考訳（メタデータ） (2021-12-16T10:14:39Z) - A Hybrid 2-stage Neural Optimization for Pareto Front Extraction [3.918940900258555]
最適なトレードオフソリューションに対する大きな障害は、それらが必ずしも互いに収束しないことです。
正確かつ費用対効果の高い二段階アプローチを提案する。
論文 参考訳（メタデータ） (2021-01-27T20:56:19Z) - Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。
本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。
本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
論文 参考訳（メタデータ） (2020-06-18T14:24:05Z) - Differentiable Expected Hypervolume Improvement for Parallel
Multi-Objective Bayesian Optimization [11.956059322407437]
我々は、期待されるハイパー改善(EHVI)を用いた多目的BOのプログラミングモデルとハードウェアアクセラレーションの最近の進歩を活用する。
我々は、EHVIを並列な制約付き評価設定に拡張する取得関数であるq-Expected Hyper Improvement (qEHVI) の新規な定式化を導出する。
実験により,qEHVIは実運用シナリオの多くで計算可能であり,壁面時間のごく一部で最先端の多目的BOアルゴリズムより優れていることが示された。
論文 参考訳（メタデータ） (2020-06-09T06:57:47Z) - Parallel Predictive Entropy Search for Multi-objective Bayesian
Optimization with Constraints [0.0]
実世界の問題は、しばしば複数の制約の下で複数の目的を最適化する。
本稿では,ブラックボックス関数の同時最適化のための情報ベースバッチ手法であるPESMOCを紹介する。
繰り返して、PESMOCはブラックボックスを評価するための入力場所のバッチを選択する。
論文 参考訳（メタデータ） (2020-04-01T17:37:58Z) - Scalable Constrained Bayesian Optimization [10.820024633762596]
ブラックボックス制約下での高次元ブラックボックス関数のグローバルな最適化は、機械学習、制御、科学コミュニティにおける普及的なタスクである。
本稿では,上記の課題を克服し,現状を推し進めるスケーラブルな制約付きベイズ最適化(SCBO)アルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-02-20T01:48:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。