論文の概要: On the development of a Bayesian optimisation framework for complex
unknown systems
- arxiv url: http://arxiv.org/abs/2207.09154v1
- Date: Tue, 19 Jul 2022 09:50:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-20 14:14:09.528763
- Title: On the development of a Bayesian optimisation framework for complex
unknown systems
- Title(参考訳): 複雑未知系に対するベイズ最適化フレームワークの開発について
- Authors: Mike Diessner, Yu Guan, Kevin J. Wilson, Richard D. Whalley
- Abstract要約: 本稿では, ベイズ最適化アルゴリズムを様々な合成試験関数に対して実験的に検討し, 比較する。
取得関数の選択とトレーニングサンプル数,取得関数の正確な計算,モンテカルロに基づくアプローチについて検討する。
- 参考スコア(独自算出の注目度): 11.066706766632578
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian optimisation provides an effective method to optimise expensive
black box functions. It has recently been applied to problems in fluid
dynamics. This paper studies and compares common Bayesian optimisation
algorithms empirically on a range of synthetic test functions. It investigates
the choice of acquisition function and number of training samples, exact
calculation of acquisition functions and Monte Carlo based approaches and both
single-point and multi-point optimisation. The test functions considered cover
a wide selection of challenges and therefore serve as an ideal test bed to
understand the performance of Bayesian optimisation and to identify general
situations where Bayesian optimisation performs well and poorly. This knowledge
can be utilised in applications, including those in fluid dynamics, where
objective functions are unknown. The results of this investigation show that
the choices to be made are less relevant for relatively simple functions, while
optimistic acquisition functions such as Upper Confidence Bound should be
preferred for more complex objective functions. Furthermore, results from the
Monte Carlo approach are comparable to results from analytical acquisition
functions. In instances where the objective function allows parallel
evaluations, the multi-point approach offers a quicker alternative, yet it may
potentially require more objective function evaluations.
- Abstract(参考訳): ベイズ最適化は高価なブラックボックス関数を最適化する効果的な方法を提供する。
近年,流体力学の問題に応用されている。
本稿では, ベイズ最適化アルゴリズムを様々な合成試験関数に対して実験的に検討し, 比較する。
取得関数の選択とトレーニングサンプル数、獲得関数とモンテカルロに基づくアプローチの正確な計算、シングルポイントとマルチポイントの最適化について検討する。
テスト関数は様々な課題をカバーするため、ベイズ最適化のパフォーマンスを理解し、ベイズ最適化が良好で不十分な一般的な状況を特定するのに理想的なテストベッドとなる。
この知識は、目的関数が未知の流体力学を含むアプリケーションで利用することができる。
本研究の結果, 比較的単純な関数では選択が重要ではなく, より複雑な目的関数に対しては, 高い信頼度などの楽観的獲得関数が望ましいことが示唆された。
さらにモンテカルロアプローチの結果は解析的獲得関数の結果に匹敵する。
目的関数が並列評価を可能にする場合、マルチポイントアプローチはより迅速な代替手段を提供するが、より客観的な関数評価を必要とする可能性がある。
関連論文リスト
- Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Mastering the exploration-exploitation trade-off in Bayesian
Optimization [0.2538209532048867]
取得関数は、探索とエクスプロイトの間のバランスを評価するための次のソリューションの選択を駆動する。
本稿では,爆発的選択と搾取的選択のトレードオフを適応的に習得する,新たな獲得機能を提案する。
論文 参考訳(メタデータ) (2023-05-15T13:19:03Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Batch Bayesian Optimization via Particle Gradient Flows [0.5735035463793008]
ブラックボックスとしてしか利用できない,あるいは評価に費用がかかる対象関数のグローバルな最適化方法を示す。
確率測度の空間上の多点予測確率に基づく新しい関数を構築する。
論文 参考訳(メタデータ) (2022-09-10T18:10:15Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - Efficient Neural Network Analysis with Sum-of-Infeasibilities [64.31536828511021]
凸最適化における総和係数法に着想を得て,広範な分岐関数を持つネットワーク上での検証クエリを解析するための新しい手法を提案する。
標準ケース分析に基づく完全探索手順の拡張は、各検索状態で実行される凸手順をDeepSoIに置き換えることによって達成できる。
論文 参考訳(メタデータ) (2022-03-19T15:05:09Z) - Optimizing Bayesian acquisition functions in Gaussian Processes [0.0]
本稿では,最大改善確率や期待改善率などの異なる取得機能について分析する。
また, 時間分析とともに, 選択した初期試料の位置の重要性も示した。
論文 参考訳(メタデータ) (2021-11-09T03:25:15Z) - Are we Forgetting about Compositional Optimisers in Bayesian
Optimisation? [66.39551991177542]
本稿では,グローバル最適化のためのサンプル手法を提案する。
この中、重要なパフォーマンス決定の自明さは、取得機能を最大化することです。
3958実験における機能最適化手法の実証的利点を強調する。
論文 参考訳(メタデータ) (2020-12-15T12:18:38Z) - Incorporating Expert Prior in Bayesian Optimisation via Space Warping [54.412024556499254]
大きな探索空間では、アルゴリズムは関数の最適値に達する前に、いくつかの低関数値領域を通過する。
このコールドスタートフェーズの1つのアプローチは、最適化を加速できる事前知識を使用することである。
本稿では,関数の事前分布を通じて,関数の最適性に関する事前知識を示す。
先行分布は、探索空間を最適関数の高確率領域の周りに拡張し、最適関数の低確率領域の周りに縮小するようにワープする。
論文 参考訳(メタデータ) (2020-03-27T06:18:49Z) - Composition of kernel and acquisition functions for High Dimensional
Bayesian Optimization [0.1749935196721634]
目的関数の追加性を用いて、ベイズ最適化のカーネルと取得関数の両方をマッピングする。
このap-proachは確率的代理モデルの学習/更新をより効率的にする。
都市給水システムにおけるポンプの制御を実運用に適用するための結果が提示された。
論文 参考訳(メタデータ) (2020-03-09T15:45:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。