論文の概要: Goal-Oriented Lower-Tail Calibration of Gaussian Processes for Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2605.20145v1
- Date: Tue, 19 May 2026 17:32:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:09.557325
- Title: Goal-Oriented Lower-Tail Calibration of Gaussian Processes for Bayesian Optimization
- Title(参考訳): ガウス過程のゴール指向低軌道校正によるベイズ最適化
- Authors: Aurélien Pion, Emmanuel Vazquez,
- Abstract要約: 本稿では,ノイズレス環境下でのGP予測分布の目標方向キャリブレーションについて,低閾値の$t$以下で検討する。
空間キャリブレーションという2つの概念に基づいて,$t$以下の予測信頼性の枠組みを導入する。
このフレームワーク上に構築されたtcGPは,GP予測分布を$t$以下に校正するポストホック法である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Bayesian optimization (BO) selects evaluation points for expensive black-box objectives using Gaussian process (GP) predictive distributions. Kernel choice and hyperparameter selection can lead to miscalibrated predictive distributions and an inappropriate exploration-exploitation trade-off. For minimization, sampling criteria such as expected improvement (EI) depend on the predictive distribution below the current best value, so lower-tail miscalibration directly affects the sampling decision. This article studies goal-oriented calibration of GP predictive distributions below a low threshold $t$ in the noiseless setting, for standard GP models with hyperparameters selected by maximum likelihood. A framework for predictive reliability below $t$ is introduced, based on two notions of spatial calibration: occurrence calibration over the design space and thresholded $μ$-calibration on sublevel sets of the form $\{x\in\mathbb{X}, f(x)\le t\}$. Building on this framework, we propose tcGP, a post-hoc method that calibrates GP predictive distributions below~$t$, and we show that the resulting EI-based global optimization algorithm remains dense in the design space. Experiments on standard benchmarks show improved lower-tail calibration and BO performance relative to standard GP models and globally calibrated GP models.
- Abstract(参考訳): ベイズ最適化(BO)は、ガウス過程(GP)予測分布を用いて、高価なブラックボックス対象に対する評価点を選択する。
カーネルの選択とハイパーパラメータの選択は、誤校正された予測分布と不適切な探索・探索のトレードオフにつながる可能性がある。
最小化のためには、期待改善(EI)のようなサンプリング基準は、現在の最高値以下の予測分布に依存するため、低いテールの誤校正はサンプリング決定に直接影響を及ぼす。
本稿では,超パラメータが最大値で選択された標準GPモデルに対して,低しきい値$t$以下のGP予測分布の目標方向キャリブレーションについて検討する。
設計空間上のキャリブレーションと、$\{x\in\mathbb{X}, f(x)\le t\}$ という形のサブレベル集合上の閾値の$μ$-キャリブレーションという空間キャリブレーションという2つの概念に基づいて、$t$以下の予測信頼性のフレームワークを導入する。
この枠組みに基づいて,GP予測分布を−t$以下に校正するポストホック手法であるtcGPを提案し,その結果のEIに基づく大域最適化アルゴリズムが設計空間に密接なままであることを示す。
標準ベンチマーク実験では, 標準GPモデルや大域的GPモデルと比較して, ローテールキャリブレーションとBO性能が向上した。
関連論文リスト
- Design-marginal calibration of Gaussian process predictive distributions: Bayesian and conformal approaches [0.0]
本研究では, ガウス過程 (GP) 予測分布のキャリブレーションについて, デザイン・マージナルの観点から検討した。
確率積分変換による中心区間の-被覆と-確率キャリブレーションを定式化する。
論文 参考訳(メタデータ) (2025-12-05T10:53:20Z) - From Noisy Traces to Stable Gradients: Bias-Variance Optimized Preference Optimization for Aligning Large Reasoning Models [90.45197506653341]
大規模推論モデルは最終回答を生成する前に中間的推論トレースを生成する。
LRMと人間の好みの整合性は、モデルデプロイメントにとって重要な前提条件であり、まだ過小評価されていない。
共通の回避策は1つのサンプル軌道を最適化し、トレースサンプリングからかなり勾配のばらつきをもたらす。
論文 参考訳(メタデータ) (2025-10-06T17:58:01Z) - Gradient-based Sample Selection for Faster Bayesian Optimization [10.137754677594861]
本稿では,勾配に基づくサンプル選択ベイズ最適化(GSSBO)を提案し,BOの計算効率を向上させる。
提案手法は,ベースライン法に匹敵する最適化性能を維持しつつ,BOにおけるGPフィッティングの計算コストを大幅に削減する。
論文 参考訳(メタデータ) (2025-04-10T13:38:15Z) - Calibrated Multi-Preference Optimization for Aligning Diffusion Models [90.15024547673785]
Calibrated Preference Optimization (CaPO) は、テキスト・ツー・イメージ(T2I)拡散モデルを調整する新しい手法である。
CaPOは、人間の注釈のない複数の報酬モデルからの一般的な好みを取り入れている。
実験結果から, CaPOは従来法よりも常に優れていたことが示唆された。
論文 参考訳(メタデータ) (2025-02-04T18:59:23Z) - Robust Bayesian Optimization via Localized Online Conformal Prediction [37.549297668783254]
局所化オンライン共形予測に基づくベイズ最適化(LOCBO)を導入する。
LOCBOは局所オンライン共形予測(CP)によりGPモデルを校正する
観測対象関数を保留するLOCBOのイテレートについて理論的性能保証を行う。
論文 参考訳(メタデータ) (2024-11-26T12:45:54Z) - Sharp Calibrated Gaussian Processes [58.94710279601622]
キャリブレーションされたモデルを設計するための最先端のアプローチは、ガウス過程の後方分散を膨らませることに依存している。
本稿では,バニラガウス過程の後方分散にインスパイアされた計算を用いて,予測量子化を生成するキャリブレーション手法を提案する。
我々のアプローチは合理的な仮定の下で校正されたモデルが得られることを示す。
論文 参考訳(メタデータ) (2023-02-23T12:17:36Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳(メタデータ) (2022-09-27T07:58:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。