論文の概要: Towards Automated Design of Bayesian Optimization via Exploratory
Landscape Analysis
- arxiv url: http://arxiv.org/abs/2211.09678v1
- Date: Thu, 17 Nov 2022 17:15:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-18 16:54:29.670128
- Title: Towards Automated Design of Bayesian Optimization via Exploratory
Landscape Analysis
- Title(参考訳): 探索的ランドスケープ解析によるベイズ最適化の自動設計
- Authors: Carolin Benjamins, Anja Jankovic, Elena Raponi, Koen van der Blom,
Marius Lindauer, Carola Doerr
- Abstract要約: AFの動的選択はBO設計に有用であることを示す。
我々は,オートML支援のオンザフライBO設計への道を開き,その動作をランニング・バイ・ランで調整する。
- 参考スコア(独自算出の注目度): 11.143778114800272
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Bayesian optimization (BO) algorithms form a class of surrogate-based
heuristics, aimed at efficiently computing high-quality solutions for numerical
black-box optimization problems. The BO pipeline is highly modular, with
different design choices for the initial sampling strategy, the surrogate
model, the acquisition function (AF), the solver used to optimize the AF, etc.
We demonstrate in this work that a dynamic selection of the AF can benefit the
BO design. More precisely, we show that already a na\"ive random forest
regression model, built on top of exploratory landscape analysis features that
are computed from the initial design points, suffices to recommend AFs that
outperform any static choice, when considering performance over the classic
BBOB benchmark suite for derivative-free numerical optimization methods on the
COCO platform. Our work hence paves a way towards AutoML-assisted, on-the-fly
BO designs that adjust their behavior on a run-by-run basis.
- Abstract(参考訳): ベイズ最適化 (bayesian optimization, bo) アルゴリズムは、数値ブラックボックス最適化問題の高品質解を効率的に計算することを目的とした、サーロゲートに基づくヒューリスティックのクラスを形成する。
BOパイプラインは高度にモジュール化されており、初期サンプリング戦略、サロゲートモデル、取得関数(AF)、AFの最適化に使用されるソルバなど、設計上の選択肢が異なる。
本研究では,AFの動的選択がBO設計に有効であることを示す。
より正確には、初期設計点から計算した探索的ランドスケープ分析機能上に構築されたna\"ive random forest regression modelが、cocoプラットフォーム上のデリバティブフリーな数値最適化法のための古典的なbbobベンチマークスイートのパフォーマンスを考慮する際に、任意の静的選択よりも優れたafsを推奨できることを示す。
そこで本研究は,オートMLによるオンザフライBO設計への道を開き,その動作をランニングバイランベースで調整する。
関連論文リスト
- Landscape-Aware Automated Algorithm Configuration using Multi-output Mixed Regression and Classification [0.01649298969786889]
モデル学習におけるランダム生成関数(RGF)の可能性について検討する。
自動アルゴリズム構成(AAC)に焦点を当てる。
混合回帰および分類タスクの処理における高密度ニューラルネットワーク(NN)モデルの性能解析を行う。
論文 参考訳(メタデータ) (2024-09-02T20:04:41Z) - Cost-Sensitive Multi-Fidelity Bayesian Optimization with Transfer of Learning Curve Extrapolation [55.75188191403343]
各ユーザが事前に定義した機能であるユーティリティを導入し,BOのコストと性能のトレードオフについて述べる。
このアルゴリズムをLCデータセット上で検証した結果,従来のマルチファイルBOや転送BOベースラインよりも優れていた。
論文 参考訳(メタデータ) (2024-05-28T07:38:39Z) - Enhanced Bayesian Optimization via Preferential Modeling of Abstract
Properties [49.351577714596544]
本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。
優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
論文 参考訳(メタデータ) (2024-02-27T09:23:13Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Predictive Modeling through Hyper-Bayesian Optimization [60.586813904500595]
本稿では,モデル選択とBOを統合する新しい手法を提案する。
このアルゴリズムは、モデル空間のBOと関数空間のBOの間を行き来する。
サンプル効率の改善に加えて、ブラックボックス機能に関する情報も出力する。
論文 参考訳(メタデータ) (2023-08-01T04:46:58Z) - Self-Adjusting Weighted Expected Improvement for Bayesian Optimization [11.955557264002204]
この研究はAFの定義に焦点を当てており、その主な目的は、調査地域と高い不確実性のある地域と、優れたソリューションを約束する地域とのトレードオフをバランスさせることである。
我々は、データ駆動方式で、探索・探索トレードオフを自己調整する自己調整重み付き改善(SAWEI)を提案する。
提案手法は手作りのベースラインと比較して,任意の問題構造に対して堅牢なデフォルト選択として有効である。
論文 参考訳(メタデータ) (2023-06-07T09:00:19Z) - Optimization for truss design using Bayesian optimization [1.5070398746522742]
トラスの形状は、積載量を決定する上で支配的な要素である。
与えられたパラメータ空間において、我々のゴールは、負荷を持つ容量を最大化し、誘起ストレスに屈しない船体のパラメータを見つけることである。
設計評価のための計算コストの高い設計解析ツールである有限要素解析に頼っている。
論文 参考訳(メタデータ) (2023-05-27T10:28:27Z) - A General Recipe for Likelihood-free Bayesian Optimization [115.82591413062546]
我々は,BOをより広範なモデルやユーティリティに拡張する可能性のないBO(LFBO)を提案する。
LFBOは、確率的代理モデルと個別に推論を行うことなく、取得関数を直接モデル化する。
LFBOにおける取得関数の計算は、重み付けされた分類問題を最適化することで削減できることを示す。
論文 参考訳(メタデータ) (2022-06-27T03:55:27Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - BOSH: Bayesian Optimization by Sampling Hierarchically [10.10241176664951]
本稿では,階層的なガウス過程と情報理論の枠組みを組み合わせたBOルーチンを提案する。
BOSHは, ベンチマーク, シミュレーション最適化, 強化学習, ハイパーパラメータチューニングタスクにおいて, 標準BOよりも効率的で高精度な最適化を実現する。
論文 参考訳(メタデータ) (2020-07-02T07:35:49Z) - Bayesian Optimization for Policy Search in High-Dimensional Systems via
Automatic Domain Selection [1.1240669509034296]
我々は,BOを高次元制御タスクに拡張するために,最適制御による結果を活用することを提案する。
BO問題を単純化するために,学習したダイナミクスモデルをモデルベースコントローラと組み合わせて利用する方法を示す。
本報告では,クワッドコプターの48次元ポリシを含む実ハードウェアおよびシミュレーションタスクについて実験的に評価する。
論文 参考訳(メタデータ) (2020-01-21T09:04:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。