論文の概要: Uncertainty Quantification for Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2002.01569v1
- Date: Tue, 4 Feb 2020 22:48:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-04 03:36:50.369610
- Title: Uncertainty Quantification for Bayesian Optimization
- Title(参考訳): ベイズ最適化のための不確かさ定量化
- Authors: Rui Tuo, Wenjia Wang
- Abstract要約: ベイズ最適化アルゴリズムの出力不確実性を評価する新しい手法を提案する。
目的関数の最大点または値の信頼領域を構築する。
彼らの信頼度は、シーケンシャルなガウス過程の回帰のために新しく開発された一様誤差境界によって保証される。
- 参考スコア(独自算出の注目度): 12.433600693422235
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization is a class of global optimization techniques. It
regards the underlying objective function as a realization of a Gaussian
process. Although the outputs of Bayesian optimization are random according to
the Gaussian process assumption, quantification of this uncertainty is rarely
studied in the literature. In this work, we propose a novel approach to assess
the output uncertainty of Bayesian optimization algorithms, in terms of
constructing confidence regions of the maximum point or value of the objective
function. These regions can be computed efficiently, and their confidence
levels are guaranteed by newly developed uniform error bounds for sequential
Gaussian process regression. Our theory provides a unified uncertainty
quantification framework for all existing sequential sampling policies and
stopping criteria.
- Abstract(参考訳): ベイズ最適化はグローバル最適化手法のクラスである。
これは、基礎となる目的函数をガウス過程の実現と見なしている。
ベイズ最適化の出力はガウス過程の仮定に従ってランダムであるが、この不確実性の定量化は文献ではほとんど研究されていない。
本研究では,最大点や目的関数の値の信頼領域を構築するという観点から,ベイズ最適化アルゴリズムの出力不確実性を評価するための新しい手法を提案する。
これらの領域は効率的に計算でき、その信頼度レベルは逐次ガウス過程回帰のために新しく開発された一様誤差境界によって保証される。
本理論は、既存の全ての逐次サンプリングポリシーと停止基準の統一不確実性定量化フレームワークを提供する。
関連論文リスト
- Stochastic Bayesian Optimization with Unknown Continuous Context
Distribution via Kernel Density Estimation [28.413085548038932]
本稿では,カーネル密度推定を用いて連続文脈変数の確率密度関数(PDF)をオンラインで学習する2つのアルゴリズムを提案する。
理論的結果は、両方のアルゴリズムが期待する目的に対して準線形ベイズ累積後悔を持つことを示している。
論文 参考訳(メタデータ) (2023-12-16T11:32:28Z) - Provably Efficient Bayesian Optimization with Unbiased Gaussian Process
Hyperparameter Estimation [52.035894372374756]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T03:35:45Z) - Quantization-Based Optimization: Alternative Stochastic Approximation of
Global Optimization [0.0]
NP-hard問題における目的関数のエネルギーレベルを定量化するための大域的最適化アルゴリズムを提案する。
数値実験により,提案アルゴリズムはNP-ハード最適化問題の解法において従来の学習法よりも優れていた。
論文 参考訳(メタデータ) (2022-11-08T03:01:45Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Relaxed Gaussian process interpolation: a goal-oriented approach to
Bayesian optimization [0.0]
本研究では,ガウス過程(GP)モデリングの文脈で予測分布を求める新しい手法を提案する。
緩和ガウス過程(reGP)と呼ばれる手法は、興味の範囲でより良い予測分布を提供する。
これはゴール指向の方法と見なすことができ、ベイズ最適化において特に興味深いものとなる。
論文 参考訳(メタデータ) (2022-06-07T06:26:46Z) - Bayesian Optimization of Function Networks [20.73717187683924]
本稿では,関数ネットワークの出力のベイジアン最適化,親ノードの出力の入力として各関数が要し,ネットワークの評価に要する時間について考察する。
我々の手法は、前者が無視する情報、すなわちネットワーク内の中間出力を活用することにより、クエリ効率を向上する。
提案手法は,いくつかの合成および実世界の問題において,標準的なベイズ最適化手法よりも劇的に優れていることを示す。
論文 参考訳(メタデータ) (2021-12-31T05:35:21Z) - Calibration Improves Bayesian Optimization [7.184701179854522]
目的関数に対する後続分布の不確かさを校正する簡単なアルゴリズムを提案する。
キャリブレーションによる後方分布の不確実性推定を改善することにより、ベイズ最適化がより良い決定を下すことを示す。
論文 参考訳(メタデータ) (2021-12-08T23:26:23Z) - Near-Optimal High Probability Complexity Bounds for Non-Smooth
Stochastic Optimization with Heavy-Tailed Noise [63.304196997102494]
アルゴリズムが高い確率で小さな客観的残差を与えることを理論的に保証することが不可欠である。
既存の非滑らか凸最適化法は、負のパワーまたは対数的な信頼度に依存する境界の複雑さを持つ。
クリッピングを用いた2つの勾配法に対して, 新たなステップサイズルールを提案する。
論文 参考訳(メタデータ) (2021-06-10T17:54:21Z) - Robust, Accurate Stochastic Optimization for Variational Inference [68.83746081733464]
また, 共通最適化手法は, 問題が適度に大きい場合, 変分近似の精度が低下することを示した。
これらの結果から,基礎となるアルゴリズムをマルコフ連鎖の生成とみなして,より堅牢で正確な最適化フレームワークを開発する。
論文 参考訳(メタデータ) (2020-09-01T19:12:11Z) - Randomised Gaussian Process Upper Confidence Bound for Bayesian
Optimisation [60.93091603232817]
改良されたガウス過程上信頼境界(GP-UCB)取得関数を開発した。
これは、分布から探索・探索トレードオフパラメータをサンプリングすることによって行われる。
これにより、期待されるトレードオフパラメータが、関数のベイズ的後悔に縛られることなく、問題によりよく適合するように変更できることが証明される。
論文 参考訳(メタデータ) (2020-06-08T00:28:41Z) - Global Optimization of Gaussian processes [52.77024349608834]
少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。
このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。
提案手法の順序の順序による時間収束を,総じて低減する。
論文 参考訳(メタデータ) (2020-05-21T20:59:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。