#### 論文の概要: Many Objective Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2107.04126v1
• Date: Thu, 8 Jul 2021 21:57:07 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-12 13:57:21.175855
• Title: Many Objective Bayesian Optimization
• Title（参考訳）: 多くの客観的ベイズ最適化
• Authors: Lucia Asencio Mart\'in, Eduardo C. Garrido-Merch\'an
• Abstract要約: マルチオブジェクトベイズ最適化(MOBO)は、ブラックボックスの同時最適化に成功している一連の手法である。 特に、MOBO法は、多目的最適化問題における目的の数が3以上である場合に問題があり、これは多くの目的設定である。 GPが測定値とアルゴリズムの有効性の予測分布を予測できるような,玩具,合成,ベンチマーク,実実験のセットで実証的な証拠を示す。
• 参考スコア（独自算出の注目度）: 0.0
• Abstract: Some real problems require the evaluation of expensive and noisy objective functions. Moreover, the analytical expression of these objective functions may be unknown. These functions are known as black-boxes, for example, estimating the generalization error of a machine learning algorithm and computing its prediction time in terms of its hyper-parameters. Multi-objective Bayesian optimization (MOBO) is a set of methods that has been successfully applied for the simultaneous optimization of black-boxes. Concretely, BO methods rely on a probabilistic model of the objective functions, typically a Gaussian process. This model generates a predictive distribution of the objectives. However, MOBO methods have problems when the number of objectives in a multi-objective optimization problem are 3 or more, which is the many objective setting. In particular, the BO process is more costly as more objectives are considered, computing the quality of the solution via the hyper-volume is also more costly and, most importantly, we have to evaluate every objective function, wasting expensive computational, economic or other resources. However, as more objectives are involved in the optimization problem, it is highly probable that some of them are redundant and not add information about the problem solution. A measure that represents how similar are GP predictive distributions is proposed. We also propose a many objective Bayesian optimization algorithm that uses this metric to determine whether two objectives are redundant. The algorithm stops evaluating one of them if the similarity is found, saving resources and not hurting the performance of the multi-objective BO algorithm. We show empirical evidence in a set of toy, synthetic, benchmark and real experiments that GPs predictive distributions of the effectiveness of the metric and the algorithm.
• Abstract（参考訳）: 現実の問題は、高価でうるさい客観的関数の評価を必要とする。 さらに、これらの目的関数の分析的表現は未知である可能性がある。 これらの関数はブラックボックスと呼ばれ、例えば、機械学習アルゴリズムの一般化誤差を推定し、そのハイパーパラメータの観点から予測時間を計算する。 マルチオブジェクトベイズ最適化(MOBO)は、ブラックボックスの同時最適化に成功している一連の手法である。 具体的には、BO法は目的関数の確率的モデル(通常ガウス過程)に依存している。 このモデルは、目標の予測分布を生成する。 しかし、MOBO法は、多目的最適化問題における目的の数が3以上である場合に問題があり、これは多くの目的設定である。 特に、boプロセスは、より多くの目的が考慮されるほどコストがかかり、ハイパーボリュームによるソリューションの品質の計算もコストがかかり、最も重要なのは、すべての目的関数を評価し、高価な計算、経済、その他のリソースを無駄にすることです。 しかし、多くの目的が最適化問題に関与しているため、それらのいくつかは冗長であり、問題解決に関する情報を付加しない可能性が高い。 GP予測分布の類似性を示す尺度が提案されている。 また,このメトリックを用いて2つの目的が冗長かどうかを判定する,多数の目的ベイズ最適化アルゴリズムを提案する。 このアルゴリズムは、類似性が見つかった場合の評価を停止し、リソースを節約し、多目的boアルゴリズムの性能を損なわない。 GPが測定値とアルゴリズムの有効性の予測分布を予測できるような,玩具,合成,ベンチマーク,実実験のセットで実証的な証拠を示す。

#### 関連論文リスト

• Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [60.35011738807833]
ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。 カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。 我々は、ベンチマークODEとPDE発見タスクのリストにおいて、KBASSの顕著な利点を示す。
論文  参考訳（メタデータ） (2023-10-09T03:55:09Z)
• Parallel Multi-Objective Hyperparameter Optimization with Uniform Normalization and Bounded Objectives [5.94867851915494]
これらの問題に対処する多目的ベイズ最適化(MoBO)アルゴリズムを提案する。 不要な構成の探索を避けるため、目的に制約を課すことで、アプローチの効率を向上する。 最後に、MoBOを並列化するアプローチを活用し、16倍のワーカーを使用する場合、5倍のスピードアップをもたらす。
論文  参考訳（メタデータ） (2023-09-26T13:48:04Z)
• Polynomial-Model-Based Optimization for Blackbox Objectives [0.0]
ブラックボックス最適化は、事前定義された目的関数が最小化されるようなシステムに対して最適なパラメータを求める。 PMBOは目的関数にサロゲートを合わせることで最小値を求める新しいブラックボックスである。 PMBOは、与えられた人工的解析関数のセットに対して、他の最先端のアルゴリズムとベンチマークされる。
論文  参考訳（メタデータ） (2023-09-01T14:11:03Z)
• BOtied: Multi-objective Bayesian optimization with tied multivariate ranks [49.85896045032822]
非支配解と最高多変量階との自然な関係を示し、これは合同累積分布関数(CDF)の最外層線と一致する。 我々はCDFインジケータに基づくBOtiedと呼ばれる取得関数を提案する。
論文  参考訳（メタデータ） (2023-06-01T04:50:06Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• Batch Bayesian Optimization via Particle Gradient Flows [0.5735035463793008]
ブラックボックスとしてしか利用できない,あるいは評価に費用がかかる対象関数のグローバルな最適化方法を示す。 確率測度の空間上の多点予測確率に基づく新しい関数を構築する。
論文  参考訳（メタデータ） (2022-09-10T18:10:15Z)
• Bayesian Optimization for Macro Placement [48.55456716632735]
本研究では,系列対上のベイズ最適化(BO)を用いた新しいマクロ配置法を提案する。 BOは確率的代理モデルと獲得関数を利用する機械学習技術である。 固定アウトラインマクロ配置問題に対して, 半周波線長目標を用いたアルゴリズムを実証する。
論文  参考訳（メタデータ） (2022-07-18T06:17:06Z)
• MBORE: Multi-objective Bayesian Optimisation by Density-Ratio Estimation [0.01652719262940403]
最適化問題は、しばしば計算的に、あるいは金銭的にコストがかかる複数の矛盾する目標を持つ。 単代理ベイズ最適化(BO)は、そのようなブラックボックス関数を最適化するための一般的なモデルベースのアプローチである。 BOREによるBOの先行研究を多目的設定に拡張する。
論文  参考訳（メタデータ） (2022-03-31T09:27:59Z)
• Conservative Objective Models for Effective Offline Model-Based Optimization [78.19085445065845]
計算設計の問題は、合成生物学からコンピュータアーキテクチャまで、様々な場面で発生している。 本研究では,分布外入力に対する接地的目標の実際の値を低くする目的関数のモデルを学習する手法を提案する。 COMは、様々なMBO問題に対して、既存のメソッドの実装と性能の面では単純である。
論文  参考訳（メタデータ） (2021-07-14T17:55:28Z)
• Bayesian Algorithm Execution: Estimating Computable Properties of Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。 本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。 これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文  参考訳（メタデータ） (2021-04-19T17:22:11Z)
• Resource Aware Multifidelity Active Learning for Efficient Optimization [0.8717253904965373]
本稿では,ブラックボックス関数の最適化を高速化するためのリソース・アウェア・アクティブ・ラーニング(RAAL)戦略を紹介する。 RAAL戦略は最適化タスクの大幅な高速化を可能にするために、最適に複数のポイントを投入する。
論文  参考訳（メタデータ） (2020-07-09T10:01:32Z)