論文の概要: Dynamic Multi-objective Ensemble of Acquisition Functions in Batch
Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2206.11118v1
- Date: Wed, 22 Jun 2022 14:09:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-26 12:38:29.417372
- Title: Dynamic Multi-objective Ensemble of Acquisition Functions in Batch
Bayesian Optimization
- Title（参考訳）: バッチベイズ最適化における動的多目的獲得関数の集合
- Authors: Jixiang Chen and Fu Luo and Zhenkun Wang
- Abstract要約: 獲得関数は最適化プロセスにおいて重要な役割を果たす。
3つの取得関数は、その現在のパフォーマンスと過去のパフォーマンスに基づいて、セットから動的に選択される。
進化的多目的アルゴリズムを用いて、そのようなMOPを最適化し、非支配的な解の集合を得ることができる。
- 参考スコア（独自算出の注目度）: 1.1602089225841632
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Bayesian optimization (BO) is a typical approach to solve expensive
optimization problems. In each iteration of BO, a Gaussian process(GP) model is
trained using the previously evaluated solutions; then next candidate solutions
for expensive evaluation are recommended by maximizing a cheaply-evaluated
acquisition function on the trained surrogate model. The acquisition function
plays a crucial role in the optimization process. However, each acquisition
function has its own strengths and weaknesses, and no single acquisition
function can consistently outperform the others on all kinds of problems. To
better leverage the advantages of different acquisition functions, we propose a
new method for batch BO. In each iteration, three acquisition functions are
dynamically selected from a set based on their current and historical
performance to form a multi-objective optimization problem (MOP). Using an
evolutionary multi-objective algorithm to optimize such a MOP, a set of
non-dominated solutions can be obtained. To select batch candidate solutions,
we rank these non-dominated solutions into several layers according to their
relative performance on the three acquisition functions. The empirical results
show that the proposed method is competitive with the state-of-the-art methods
on different problems.
- Abstract（参考訳）: ベイズ最適化(BO)は高価な最適化問題を解決する典型的な手法である。
boの各イテレーションでは、予め評価された解を用いてガウス過程(gp)モデルを訓練し、訓練されたサロゲートモデル上で安価に評価された取得関数を最大化することにより、高価な評価のための次の候補解を推奨する。
獲得関数は最適化プロセスにおいて重要な役割を果たす。
しかし、それぞれの獲得関数は強みと弱みを持ち、単一の獲得関数があらゆる種類の問題に対して一貫して他の関数を上回ることはない。
異なる獲得関数の利点をよりよく活用するために,バッチBOの新しい手法を提案する。
各イテレーションにおいて、3つの取得関数は、その現在および過去のパフォーマンスに基づいてセットから動的に選択され、多目的最適化問題(MOP)を形成する。
進化的多目的アルゴリズムを用いて、MOPを最適化し、非支配的な解の集合を得ることができる。
バッチ候補の解を選択するために,これら非支配的な解を3つの獲得関数の相対的性能に応じて複数の層に分類する。
実験の結果,提案手法は,異なる問題に対する最先端手法と競合することがわかった。
関連論文リスト
- Learning Multiple Initial Solutions to Optimization Problems [52.9380464408756]
厳密なランタイム制約の下で、同様の最適化問題を順次解決することは、多くのアプリケーションにとって不可欠である。
本稿では,問題インスタンスを定義するパラメータが与えられた初期解を多種多様に予測する学習を提案する。
提案手法は,すべての評価設定において有意かつ一貫した改善を実現し,必要な初期解の数に応じて効率よくスケールできることを実証した。
論文 参考訳（メタデータ） (2024-11-04T15:17:19Z) - Learning Joint Models of Prediction and Optimization [56.04498536842065]
Predict-Then-Thenフレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。
本稿では,共同予測モデルを用いて観測可能特徴から最適解を直接学習する手法を提案する。
論文 参考訳（メタデータ） (2024-09-07T19:52:14Z) - Training Greedy Policy for Proposal Batch Selection in Expensive Multi-Objective Combinatorial Optimization [52.80408805368928]
本稿では,バッチ取得のための新しいグリーディ型サブセット選択アルゴリズムを提案する。
赤蛍光タンパク質に関する実験により,提案手法は1.69倍少ないクエリでベースライン性能を達成できることが判明した。
論文 参考訳（メタデータ） (2024-06-21T05:57:08Z) - UCB-driven Utility Function Search for Multi-objective Reinforcement Learning [75.11267478778295]
マルチオブジェクト強化学習(MORL)エージェントでは、意思決定行動の最適化を行う。
重みベクトル w でパラメータ化される線型効用関数の場合に焦点を当てる。
学習過程の異なる段階で最も有望な重みベクトルを効率的に探索する上信頼境界に基づく手法を提案する。
論文 参考訳（メタデータ） (2024-05-01T09:34:42Z) - Analyzing and Enhancing the Backward-Pass Convergence of Unrolled
Optimization [50.38518771642365]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。
本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。
Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
論文 参考訳（メタデータ） (2023-12-28T23:15:18Z) - Multi-Objective Bayesian Optimization with Active Preference Learning [18.066263838953223]
本稿では,多目的最適化 (MOO) 問題において最も望ましい解を特定するためのベイズ最適化 (BO) 手法を提案する。
また、意思決定者(DM)との相互作用コストを最小限に抑えるため、選好推定のためのアクティブラーニング戦略を提案する。
論文 参考訳（メタデータ） (2023-11-22T15:24:36Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳（メタデータ） (2023-01-28T01:50:42Z) - A Bayesian Optimization Framework for Finding Local Optima in Expensive
Multi-Modal Functions [18.570591025615453]
本稿では,高コストで評価可能なマルチモーダル目的関数に対する局所的・言語的ソリューションの集合を見つけるためのマルチモーダルBOフレームワークを開発する。
目的関数とその一階微分の結合分布を解析的に導出する。
本稿では、マルチモーダル設定によく知られたBO取得関数の変種を導入し、提案フレームワークの性能を実証する。
論文 参考訳（メタデータ） (2022-10-13T00:10:13Z) - Joint Entropy Search for Multi-objective Bayesian Optimization [0.0]
本稿では,統合エントロピー探索(Joint Entropy Search)と呼ばれるBOのための情報理論獲得関数を提案する。
本稿では, ハイパーボリュームとその重み付き変種の観点から, 合成および実世界の諸問題に対するこの新しいアプローチの有効性を示す。
論文 参考訳（メタデータ） (2022-10-06T13:19:08Z) - Enhanced Opposition Differential Evolution Algorithm for Multimodal
Optimization [0.2538209532048866]
現実の問題は、本質的には複数の最適値からなるマルチモーダルである。
古典的な勾配に基づく手法は、目的関数が不連続あるいは微分不可能な最適化問題に対して失敗する。
我々は,MMOPを解くために,拡張オポポジション微分進化(EODE)アルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-08-23T16:18:27Z) - Uncertainty-Aware Search Framework for Multi-Objective Bayesian
Optimization [40.40632890861706]
高価な関数評価を用いたマルチオブジェクト(MO)ブラックボックス最適化の問題点を考察する。
UeMOと呼ばれる新しい不確実性対応検索フレームワークを提案し、評価のための入力シーケンスを効率的に選択する。
論文 参考訳（メタデータ） (2022-04-12T16:50:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。