論文の概要: Top-$k$ Ranking Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2012.10688v1
- Date: Sat, 19 Dec 2020 13:49:41 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-01 11:15:44.894495
- Title: Top-$k$ Ranking Bayesian Optimization
- Title(参考訳): Top-k$ Ranking Bayesian Optimization
- Authors: Quoc Phong Nguyen, Sebastian Tay, Bryan Kian Hsiang Low, Patrick
Jaillet
- Abstract要約: 本稿では,上位$k$ランキングベイズ最適化(上位$k$ランキングbo)に対する新しいアプローチを提案する。
私たちはまず、上記の観察に対応可能なサロゲートモデルを設計し、古典的なランダムユーティリティモデルもサポートしています。
もう一つの同様に重要な貢献は、多項式予測エントロピー探索(MPES)と呼ばれる優先観測を伴うBOの最初の情報理論獲得関数の導入である。
- 参考スコア(独自算出の注目度): 39.824086260578646
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper presents a novel approach to top-$k$ ranking Bayesian optimization
(top-$k$ ranking BO) which is a practical and significant generalization of
preferential BO to handle top-$k$ ranking and tie/indifference observations. We
first design a surrogate model that is not only capable of catering to the
above observations, but is also supported by a classic random utility model.
Another equally important contribution is the introduction of the first
information-theoretic acquisition function in BO with preferential observation
called multinomial predictive entropy search (MPES) which is flexible in
handling these observations and optimized for all inputs of a query jointly.
MPES possesses superior performance compared with existing acquisition
functions that select the inputs of a query one at a time greedily. We
empirically evaluate the performance of MPES using several synthetic benchmark
functions, CIFAR-$10$ dataset, and SUSHI preference dataset.
- Abstract(参考訳): 本稿では、上位k$のランク付けとタイ/インディフェクション観測を扱うための優先BOの実用的で重要な一般化である、上位k$のランク付けに対する新しいアプローチ(上位k$ランク付けBO)を提案する。
まず、上記の観測に対処できるだけでなく、古典的なランダムなユーティリティーモデルもサポートするサロゲートモデルを設計する。
もう一つの同様に重要な貢献は、BOにおける最初の情報理論獲得関数の導入であり、多項予測エントロピー探索 (MPES) と呼ばれる、これらの観測を柔軟に扱い、クエリの全ての入力に共同で最適化する。
mpesは、クエリの入力を一度に1つ選択する既存の取得機能と比較して、優れた性能を有する。
CIFAR-$10$データセットとSUSHI選好データセットを用いてMPESの性能を実証的に評価した。
関連論文リスト
- Revisiting BPR: A Replicability Study of a Common Recommender System Baseline [78.00363373925758]
我々は,BPRモデルの特徴を考察し,その性能への影響を示し,オープンソースのBPR実装について検討する。
分析の結果,これらの実装とオリジナルのBPR論文の矛盾が明らかとなり,特定の実装に対して最大50%の性能低下がみられた。
BPRモデルは、トップnのレコメンデーションタスクにおける最先端メソッドに近いパフォーマンスレベルを達成でき、特定のデータセット上でもパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2024-09-21T18:39:53Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Tuning Pre-trained Model via Moment Probing [62.445281364055795]
本稿では,LP の可能性を探るため,新しい Moment Probing (MP) 法を提案する。
MPは、最終特徴の平均に基づいて線形分類ヘッドを実行する。
当社のMPはLPを著しく上回り、トレーニングコストの低い相手と競争しています。
論文 参考訳(メタデータ) (2023-07-21T04:15:02Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - Bayesian Optimization over Permutation Spaces [30.650753803587794]
BOPS (Permutation Spaces) に対する2つのアルゴリズムの提案と評価を行った。
BOPS-Tの性能を理論的に解析し,その後悔がサブリニアに増加することを示す。
複数の合成および実世界のベンチマーク実験により、BOPS-TとBOPS-Hは、空間に対する最先端のBOアルゴリズムよりも優れた性能を示した。
論文 参考訳(メタデータ) (2021-12-02T08:20:50Z) - Trusted-Maximizers Entropy Search for Efficient Bayesian Optimization [39.824086260578646]
本稿では,信頼度最大化エントロピー探索(TES)取得関数を提案する。
インプットがクエリの情報ゲインにどの程度貢献するかを、信頼された最大値の有限セット上で測定する。
論文 参考訳(メタデータ) (2021-07-30T07:25:07Z) - Preferential Batch Bayesian Optimization [16.141259199997005]
優先バッチベイズ最適化(PBBO)は、潜在関数の最適性を見つけるための新しいフレームワークである。
本稿では,ベイズ最適化における従来の手法の一般化と拡張について述べる。
論文 参考訳(メタデータ) (2020-03-25T14:59:15Z) - Ranking a set of objects: a graph based least-square approach [70.7866286425868]
同一労働者の群集によるノイズの多いペアワイズ比較から始まる$N$オブジェクトのランク付けの問題について考察する。
品質評価のために,最小二乗内在的最適化基準に依存する非適応的ランキングアルゴリズムのクラスを提案する。
論文 参考訳(メタデータ) (2020-02-26T16:19:09Z) - Efficient Rollout Strategies for Bayesian Optimization [15.050692645517998]
ほとんどの獲得関数はミオピックであり、次の関数評価の影響のみを考慮することを意味する。
準モンテカルロ, 共通乱数, 制御変数の組み合わせはロールアウトの計算負担を著しく低減することを示した。
次に、ロールアウト獲得関数の最適化の必要性を排除したポリシー検索に基づくアプローチを定式化する。
論文 参考訳(メタデータ) (2020-02-24T20:54:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。