論文の概要: Wasserstein Barycenter Gaussian Process based Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2505.12471v1
• Date: Sun, 18 May 2025 15:48:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-20 14:57:11.254586
• Title: Wasserstein Barycenter Gaussian Process based Bayesian Optimization
• Title（参考訳）: Wasserstein Barycenter Gaussian Process に基づくベイズ最適化
• Authors: Antonio Candelieri, Andrea Ponti, Francesco Archetti,
• Abstract要約: 不確実性の下で学習し、最適化するための新しいアプローチを提案する。 Wasserstein Barycenter Gaussian Process based Bayesian Optimization (WBGP-BO) と呼ばれる新しい手法は、期待できる結果となり、最適に収束することができた。
• 参考スコア（独自算出の注目度）: 2.1249213103048414
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Gaussian Process based Bayesian Optimization is a widely applied algorithm to learn and optimize under uncertainty, well-known for its sample efficiency. However, recently -- and more frequently -- research studies have empirically demonstrated that the Gaussian Process fitting procedure at its core could be its most relevant weakness. Fitting a Gaussian Process means tuning its kernel's hyperparameters to a set of observations, but the common Maximum Likelihood Estimation technique, usually appropriate for learning tasks, has shown different criticalities in Bayesian Optimization, making theoretical analysis of this algorithm an open challenge. Exploiting the analogy between Gaussian Processes and Gaussian Distributions, we present a new approach which uses a prefixed set of hyperparameters values to fit as many Gaussian Processes and then combines them into a unique model as a Wasserstein Barycenter of Gaussian Processes. We considered both "easy" test problems and others known to undermine the \textit{vanilla} Bayesian Optimization algorithm. The new method, namely Wasserstein Barycenter Gausssian Process based Bayesian Optimization (WBGP-BO), resulted promising and able to converge to the optimum, contrary to vanilla Bayesian Optimization, also on the most "tricky" test problems.
• Abstract（参考訳）: ガウス過程に基づくベイズ最適化(Bayesian Optimization)は、不確実性の下で学習し、最適化するための広く応用されたアルゴリズムである。 しかし、近年、より頻繁に行われた研究は、ガウス過程のコアへの適合が最も関係のある弱点である可能性を実証的に証明している。 ガウス過程のフィッティングは、カーネルのハイパーパラメータを一連の観測値に調整することを意味するが、一般的な最大様相推定法は、通常学習タスクに適しているが、ベイズ最適化において異なる臨界度を示しており、このアルゴリズムの理論解析はオープンな課題となっている。 ガウス過程とガウス分布の類似を探索し、接頭辞付きハイパーパラメーターの値を用いてガウス過程を多くのガウス過程に適合させ、それをガウス過程のワッサーシュタインバリセンターとしてユニークなモデルに結合する新しいアプローチを提案する。 我々は,「容易」なテスト問題と,それらが<textit{vanilla} Bayesian Optimization アルゴリズムを損なうことが知られているものの両方を検討した。 Wasserstein Barycenter Gaussian Process based Bayesian Optimization (WBGP-BO) と呼ばれる新しい手法は、バニラ・ベイズ最適化とは対照的に、有望で、最適に収束できる結果となった。

関連論文リスト

• Bayesian Optimization by Kernel Regression and Density-based Exploration [12.074000212223446]
  本稿では,カーネル回帰と密度に基づく探索(BOKE)アルゴリズムによるベイズ最適化を提案する。 BOKEは、効率的な関数近似、探索のためのカーネル密度にカーネル回帰を使用し、それらを信頼境界基準に統合して最適化プロセスの導出を行う。 我々は,BOKEがガウスのプロセスベース手法と競合するだけでなく,計算効率も優れていることを示した。
  論文  参考訳（メタデータ） (2025-02-10T06:16:51Z)
• Enhancing Gaussian Process Surrogates for Optimization and Posterior Approximation via Random Exploration [2.984929040246293]
  ガウス過程シュロゲートモデルの精度を高めるために、ランダムな探索ステップに依存する新しいノイズフリーベイズ最適化戦略。 新しいアルゴリズムは、古典的なGP-UCBの実装の容易さを維持しているが、さらなる探索がそれらの収束を促進する。
  論文  参考訳（メタデータ） (2024-01-30T14:16:06Z)
• Sharp Calibrated Gaussian Processes [58.94710279601622]
  キャリブレーションされたモデルを設計するための最先端のアプローチは、ガウス過程の後方分散を膨らませることに依存している。 本稿では,バニラガウス過程の後方分散にインスパイアされた計算を用いて,予測量子化を生成するキャリブレーション手法を提案する。 我々のアプローチは合理的な仮定の下で校正されたモデルが得られることを示す。
  論文  参考訳（メタデータ） (2023-02-23T12:17:36Z)
• Extrinsic Bayesian Optimizations on Manifolds [1.3477333339913569]
  オイクリッド多様体上の一般最適化問題に対する外部ベイズ最適化(eBO)フレームワークを提案する。 我々のアプローチは、まず多様体を高次元空間に埋め込むことによって、外部ガウス過程を採用することである。 これにより、複素多様体上の最適化のための効率的でスケーラブルなアルゴリズムが導かれる。
  論文  参考訳（メタデータ） (2022-12-21T06:10:12Z)
• Gaussian Processes and Statistical Decision-making in Non-Euclidean Spaces [96.53463532832939]
  我々はガウス過程の適用性を高める技術を開発した。 この観点から構築した効率的な近似を幅広く導入する。 非ユークリッド空間上のガウス過程モデルの集合を開発する。
  論文  参考訳（メタデータ） (2022-02-22T01:42:57Z)
• High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise [51.31435087414348]
  アルゴリズムが高い確率で小さな客観的残差を与えることを理論的に保証することが不可欠である。 非滑らか凸最適化の既存の方法は、信頼度に依存した複雑性境界を持つ。 そこで我々は,勾配クリッピングを伴う2つの手法に対して,新たなステップサイズルールを提案する。
  論文  参考訳（メタデータ） (2021-06-10T17:54:21Z)
• Pathwise Conditioning of Gaussian Processes [72.61885354624604]
  ガウス過程後部をシミュレーションするための従来のアプローチでは、有限個の入力位置のプロセス値の限界分布からサンプルを抽出する。 この分布中心の特徴づけは、所望のランダムベクトルのサイズで3次スケールする生成戦略をもたらす。 条件付けのこのパスワイズ解釈が、ガウス過程の後部を効率的にサンプリングするのに役立てる近似の一般族をいかに生み出すかを示す。
  論文  参考訳（メタデータ） (2020-11-08T17:09:37Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。