論文の概要: Multi-Objective Bayesian Optimization over High-Dimensional Search
Spaces
- arxiv url: http://arxiv.org/abs/2109.10964v1
- Date: Wed, 22 Sep 2021 18:30:07 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-24 15:17:55.570385
- Title: Multi-Objective Bayesian Optimization over High-Dimensional Search
Spaces
- Title(参考訳): 高次元探索空間上の多目的ベイズ最適化
- Authors: Samuel Daulton, David Eriksson, Maximilian Balandat, Eytan Bakshy
- Abstract要約: MORBOは高次元探索空間上での多目的ベイズ最適化手法である。
我々は,MORBOが高次元合成および実世界の多目的問題に対して,サンプル効率の最先端性を著しく向上させることを示す。
- 参考スコア(独自算出の注目度): 16.368143857907
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The ability to optimize multiple competing objective functions with high
sample efficiency is imperative in many applied problems across science and
industry. Multi-objective Bayesian optimization (BO) achieves strong empirical
performance on such problems, but even with recent methodological advances, it
has been restricted to simple, low-dimensional domains. Most existing BO
methods exhibit poor performance on search spaces with more than a few dozen
parameters. In this work we propose MORBO, a method for multi-objective
Bayesian optimization over high-dimensional search spaces. MORBO performs local
Bayesian optimization within multiple trust regions simultaneously, allowing it
to explore and identify diverse solutions even when the objective functions are
difficult to model globally. We show that MORBO significantly advances the
state-of-the-art in sample-efficiency for several high-dimensional synthetic
and real-world multi-objective problems, including a vehicle design problem
with 222 parameters, demonstrating that MORBO is a practical approach for
challenging and important problems that were previously out of reach for BO
methods.
- Abstract(参考訳): 複数の競合する目的関数を高いサンプル効率で最適化する能力は、科学や産業にまたがる多くの応用問題において不可欠である。
多目的ベイズ最適化(BO)はそのような問題に対して強い経験的性能を達成するが、近年の方法論的進歩にもかかわらず、単純な低次元領域に限定されている。
既存のBO法の多くは、数十以上のパラメータを持つ探索空間において性能が劣っている。
本研究では,高次元探索空間上の多目的ベイズ最適化法であるmorboを提案する。
MORBOは複数の信頼領域内で局所ベイズ最適化を同時に実行し、客観的関数をグローバルにモデル化することが困難である場合でも、多様な解を探索し特定することができる。
MORBOは,222パラメータの車両設計問題を含む,高次元合成および実世界の多目的問題に対して,試料効率の大幅な向上を図り,これまでBO法に届かなかった課題に対して,MORBOが実践的なアプローチであることを実証した。
関連論文リスト
- UCB-driven Utility Function Search for Multi-objective Reinforcement Learning [75.11267478778295]
マルチオブジェクト強化学習(MORL)エージェントでは、意思決定行動の最適化を行う。
重みベクトル w でパラメータ化される線型効用関数の場合に焦点を当てる。
学習過程の異なる段階で最も有望な重みベクトルを効率的に探索する上信頼境界に基づく手法を提案する。
論文 参考訳(メタデータ) (2024-05-01T09:34:42Z) - Real-Time Image Segmentation via Hybrid Convolutional-Transformer Architecture Search [49.81353382211113]
マルチヘッド自己認識を高分解能表現CNNに効率的に組み込むという課題に対処する。
本稿では,高解像度機能の利点をフル活用したマルチターゲットマルチブランチ・スーパーネット手法を提案する。
本稿では,Hybrid Convolutional-Transformer Architecture Search (HyCTAS)法を用いて,軽量畳み込み層とメモリ効率のよい自己保持層を最適に組み合わせたモデルを提案する。
論文 参考訳(メタデータ) (2024-03-15T15:47:54Z) - Large Language Models to Enhance Bayesian Optimization [57.474613739645605]
本稿では,大規模言語モデル(LLM)の能力をベイズ最適化に組み込む新しいアプローチであるLLAMBOを提案する。
高いレベルでは、自然言語のBO問題を枠組み化し、LLMが歴史的評価に照らした有望な解を反復的に提案し、評価することを可能にする。
以上の結果から,LLAMBOはゼロショットウォームスタートに有効であり,サロゲートモデリングや候補サンプリングの促進,特に観察が不十分な場合の探索の初期段階において有効であることが示唆された。
論文 参考訳(メタデータ) (2024-02-06T11:44:06Z) - Scalable Bayesian optimization with high-dimensional outputs using
randomized prior networks [3.0468934705223774]
本稿では,確率化された先行するニューラルネットワークの自己ストラップ型アンサンブルに基づくBOとシーケンシャル意思決定のためのディープラーニングフレームワークを提案する。
提案手法は,高次元ベクトル空間や無限次元関数空間の値を取る場合においても,設計変数と関心量の関数的関係を近似することができることを示す。
提案手法をBOの最先端手法に対して検証し,高次元出力の課題に対して優れた性能を示す。
論文 参考訳(メタデータ) (2023-02-14T18:55:21Z) - Discovering Many Diverse Solutions with Bayesian Optimization [7.136022698519586]
信頼領域を用いたランク順ベイズ最適化(ROBOT)を提案する。
ROBOTは、ユーザが特定した多様性基準に従って、多様なハイパフォーマンスソリューションのポートフォリオを見つけることを目的としている。
そこで本研究では,機能評価をほとんど必要とせず,高い性能の多様な解を多数発見できることを示す。
論文 参考訳(メタデータ) (2022-10-20T01:56:38Z) - Joint Entropy Search for Multi-objective Bayesian Optimization [0.0]
本稿では,統合エントロピー探索(Joint Entropy Search)と呼ばれるBOのための情報理論獲得関数を提案する。
本稿では, ハイパーボリュームとその重み付き変種の観点から, 合成および実世界の諸問題に対するこの新しいアプローチの有効性を示す。
論文 参考訳(メタデータ) (2022-10-06T13:19:08Z) - Multi-Objective Quality Diversity Optimization [2.4608515808275455]
MOME(Multi-Objective MAP-Elites)の多目的設定におけるMAP-Elitesアルゴリズムの拡張を提案する。
すなわち、MAP-Elitesグリッドアルゴリズムから受け継いだ多様性と、多目的最適化の強みを組み合わせる。
本手法は,標準的な最適化問題からロボットシミュレーションまで,いくつかのタスクで評価する。
論文 参考訳(メタデータ) (2022-02-07T10:48:28Z) - Learning Proximal Operators to Discover Multiple Optima [66.98045013486794]
非家族問題における近位演算子を学習するためのエンドツーエンド手法を提案する。
本手法は,弱い目的と穏やかな条件下では,世界規模で収束することを示す。
論文 参考訳(メタデータ) (2022-01-28T05:53:28Z) - Fighting the curse of dimensionality: A machine learning approach to
finding global optima [77.34726150561087]
本稿では,構造最適化問題におけるグローバル最適化の方法を示す。
特定のコスト関数を利用することで、最適化手順が確立された場合と比較して、グローバルをベストに得るか、最悪の場合、優れた結果を得るかのどちらかを得る。
論文 参考訳(メタデータ) (2021-10-28T09:50:29Z) - Conservative Objective Models for Effective Offline Model-Based
Optimization [78.19085445065845]
計算設計の問題は、合成生物学からコンピュータアーキテクチャまで、様々な場面で発生している。
本研究では,分布外入力に対する接地的目標の実際の値を低くする目的関数のモデルを学習する手法を提案する。
COMは、様々なMBO問題に対して、既存のメソッドの実装と性能の面では単純である。
論文 参考訳(メタデータ) (2021-07-14T17:55:28Z) - Empirical Study on the Benefits of Multiobjectivization for Solving
Single-Objective Problems [0.0]
局所オプティマはしばしばアルゴリズムの進行を防ぎ、深刻な脅威を引き起こす。
マルチオブジェクトの勾配に基づく高度な可視化技術を用いて,出現するマルチオブジェクトの景観の特性を図示し,考察した。
我々は,多目的COCOMOGSAがこれらの特性を利用して局所トラップを克服できることを実証的に示す。
論文 参考訳(メタデータ) (2020-06-25T14:04:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。