論文の概要: Preferential Bayesian optimisation with Skew Gaussian Processes
- arxiv url: http://arxiv.org/abs/2008.06677v3
- Date: Thu, 1 Apr 2021 17:46:11 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-28 20:54:28.204507
- Title: Preferential Bayesian optimisation with Skew Gaussian Processes
- Title(参考訳): スキューガウス過程を伴う優先ベイズ最適化
- Authors: Alessio Benavoli, Dario Azzimonti, Dario Piga
- Abstract要約: 選好関数の真の後続分布はスキューガウス過程(SkewGP)であることを示す。
我々は、正確なSkiwGP後部を計算し、標準取得関数を用いたPBOの代理モデルとして利用する効率的な手法を導出する。
また、我々のフレームワークは、混合優先カテゴリーBOを扱うように拡張可能であることも示している。
- 参考スコア(独自算出の注目度): 0.225596179391365
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Preferential Bayesian optimisation (PBO) deals with optimisation problems
where the objective function can only be accessed via preference judgments,
such as "this is better than that" between two candidate solutions (like in A/B
tests or recommender systems). The state-of-the-art approach to PBO uses a
Gaussian process to model the preference function and a Bernoulli likelihood to
model the observed pairwise comparisons. Laplace's method is then employed to
compute posterior inferences and, in particular, to build an appropriate
acquisition function. In this paper, we prove that the true posterior
distribution of the preference function is a Skew Gaussian Process (SkewGP),
with highly skewed pairwise marginals and, thus, show that Laplace's method
usually provides a very poor approximation. We then derive an efficient method
to compute the exact SkewGP posterior and use it as surrogate model for PBO
employing standard acquisition functions (Upper Credible Bound, etc.). We
illustrate the benefits of our exact PBO-SkewGP in a variety of experiments, by
showing that it consistently outperforms PBO based on Laplace's approximation
both in terms of convergence speed and computational time. We also show that
our framework can be extended to deal with mixed preferential-categorical BO,
where binary judgments (valid or non-valid) together with preference judgments
are available.
- Abstract(参考訳): 優先ベイズ最適化(pbo)は、2つの候補解(a/bテストやレコメンダシステムなど)の間で「これよりも良い」というように、目的関数が選好判断を通してのみアクセス可能な最適化問題を扱う。
PBOに対する最先端のアプローチは、好み関数をモデル化するガウス過程と、観測されたペア比較をモデル化するベルヌーイ確率を用いる。
その後、ラプラスの手法は後進推論を計算し、特に適切な獲得関数を構築するために用いられる。
本稿では, 選好関数の真の後方分布が歪ガウス過程(skewgp)であることを証明し, ラプラス法が通常非常に貧弱な近似を与えることを示す。
そこで我々は,正確なSkiwGP後部を計算し,これを標準取得関数(Upper Credible Boundなど)を用いたPBOの代理モデルとして利用する。
本稿では,PBO-SkewGPの精度を様々な実験で説明し,収束速度と計算時間の両方においてLaplaceの近似に基づいてPBOを一貫して上回っていることを示す。
また、我々のフレームワークは、二項判定(無効または非無効)と選好判定を併用する混合優先カテゴリーBOに拡張可能であることを示す。
関連論文リスト
- Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Simulation Based Bayesian Optimization [0.6526824510982799]
本稿では,獲得関数を最適化するための新しいアプローチとして,シミュレーションベースベイズ最適化(SBBO)を提案する。
SBBOは、離散変数を持つ空間に適した代理モデルを使用することができる。
代理モデルの様々な選択を用いたSBBO法の有効性を実証的に実証した。
論文 参考訳(メタデータ) (2024-01-19T16:56:11Z) - Predictive Modeling through Hyper-Bayesian Optimization [60.586813904500595]
本稿では,モデル選択とBOを統合する新しい手法を提案する。
このアルゴリズムは、モデル空間のBOと関数空間のBOの間を行き来する。
サンプル効率の改善に加えて、ブラックボックス機能に関する情報も出力する。
論文 参考訳(メタデータ) (2023-08-01T04:46:58Z) - Towards Practical Preferential Bayesian Optimization with Skew Gaussian
Processes [8.198195852439946]
本稿では,信頼度が2対比較に限定される優先ベイズ最適化(BO)について検討する。
優越性BOの重要な課題は、優越性ガウス過程(GP)モデルを用いてフレキシブルな選好構造を表現することである。
本研究では,高い計算効率と低いサンプル複雑性を両立させる新しい手法を開発し,その効果を広範囲な数値実験により実証する。
論文 参考訳(メタデータ) (2023-02-03T03:02:38Z) - Relaxed Gaussian process interpolation: a goal-oriented approach to
Bayesian optimization [0.0]
本研究では,ガウス過程(GP)モデリングの文脈で予測分布を求める新しい手法を提案する。
緩和ガウス過程(reGP)と呼ばれる手法は、興味の範囲でより良い予測分布を提供する。
これはゴール指向の方法と見なすことができ、ベイズ最適化において特に興味深いものとなる。
論文 参考訳(メタデータ) (2022-06-07T06:26:46Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - Probabilistic Permutation Graph Search: Black-Box Optimization for
Fairness in Ranking [53.94413894017409]
本稿では、置換グラフの概念に基づいて、置換分布を表現する新しい方法を提案する。
PLと同様に、PPGと呼ばれる分布表現は、公正性のブラックボックス最適化に利用できる。
論文 参考訳(メタデータ) (2022-04-28T20:38:34Z) - Gaussian Process Sampling and Optimization with Approximate Upper and
Lower Bounds [43.70206216468687]
多くの関数は、ほぼ既知の上界と下界を持ち、そのような関数のモデリングを補助する可能性がある。
そのような境界が(ほぼ)知られている関数に対するガウス過程モデルを導入する。
すなわち、与えられた境界を満たすGPモデルを変換し、その後からサンプル関数と重み関数を導出する。
論文 参考訳(メタデータ) (2021-10-22T22:35:57Z) - Randomised Gaussian Process Upper Confidence Bound for Bayesian
Optimisation [60.93091603232817]
改良されたガウス過程上信頼境界(GP-UCB)取得関数を開発した。
これは、分布から探索・探索トレードオフパラメータをサンプリングすることによって行われる。
これにより、期待されるトレードオフパラメータが、関数のベイズ的後悔に縛られることなく、問題によりよく適合するように変更できることが証明される。
論文 参考訳(メタデータ) (2020-06-08T00:28:41Z) - Incorporating Expert Prior in Bayesian Optimisation via Space Warping [54.412024556499254]
大きな探索空間では、アルゴリズムは関数の最適値に達する前に、いくつかの低関数値領域を通過する。
このコールドスタートフェーズの1つのアプローチは、最適化を加速できる事前知識を使用することである。
本稿では,関数の事前分布を通じて,関数の最適性に関する事前知識を示す。
先行分布は、探索空間を最適関数の高確率領域の周りに拡張し、最適関数の低確率領域の周りに縮小するようにワープする。
論文 参考訳(メタデータ) (2020-03-27T06:18:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。