論文の概要: Online Sharp-Calibrated Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2605.10572v1
- Date: Mon, 11 May 2026 13:41:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.857655
- Title: Online Sharp-Calibrated Bayesian Optimization
- Title(参考訳): オンラインシャープ校正ベイズ最適化
- Authors: Marshal Arijona Sinaga, Julien Martinelli, Teemu Turpeinen, Samuel Kaski,
- Abstract要約: GPのシャープさとキャリブレーションを適応的にバランスをとるBOアルゴリズムであるオンラインシャープキャリブレーションベイズ最適化(OSCBO)を提案する。
OSCBOは、合成および実世界のベンチマークで競争力を発揮し、最後の単純な後悔の中で最強の方法の1つにランクインした。
- 参考スコア(独自算出の注目度): 19.176262090411292
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Bayesian optimization (BO) is a widely used framework for optimizing expensive black-box functions, commonly based on Gaussian process (GP) surrogate models. Its effectiveness relies on uncertainty quantification that is both sharp (informative) and well-calibrated along the BO trajectory. In practice, GP kernel hyperparameters are unknown and are refit online from sequentially collected (non-i.i.d.) data, which can yield miscalibrated or overly conservative uncertainty and lies outside the fixed-kernel assumptions of standard BO regret theory. We propose Online Sharp-Calibrated Bayesian Optimization (OSCBO), a BO algorithm that adaptively balances GP sharpness and calibration by casting hyperparameter selection as a constrained online-learning problem. We also show that OSCBO preserves sublinear regret bounds by leveraging the theoretical guarantees of the underlying online learning algorithm. Empirically, OSCBO performs competitively across synthetic and real-world benchmarks, ranking among the strongest methods in final simple regret while maintaining robust cumulative-regret behavior.
- Abstract(参考訳): ベイズ最適化(BO)は高価なブラックボックス関数を最適化するための広く使われているフレームワークであり、一般にガウス過程(GP)サロゲートモデルに基づいている。
その有効性は、BO軌道に沿って鋭く(形容詞的)かつよく校正された不確実な定量化に依存する。
実際には、GPカーネルハイパーパラメータは未知であり、シーケンシャルに収集された(非i.d.)データからオンラインに書き換えられ、不確実性や過度に保守的な不確実性を生じさせ、標準BO後悔理論の固定カーネル仮定の外側にある。
制約付きオンライン学習問題としてハイパーパラメータ選択をキャストすることで、GPのシャープネスとキャリブレーションを適応的にバランスさせるBOアルゴリズムであるOnline Sharp-Calibrated Bayesian Optimization (OSCBO)を提案する。
また,OSCBOは,基礎となるオンライン学習アルゴリズムの理論的保証を活用することで,サブ線形後悔境界を保っていることを示す。
実証的には、OSCBOは合成および実世界のベンチマークで競争力を発揮し、堅牢な累積回帰動作を維持しつつ、最後の単純な後悔の中で最強の手法の1つにランクインしている。
関連論文リスト
- Generalized Linear Bandits: Almost Optimal Regret with One-Pass Update [70.38810219913593]
非線形リンク関数を組み込んで古典線形モデルを拡張したコンテキスト型多武装バンディットフレームワークである一般化線形バンディット問題(GLB)について検討する。
GLBは現実世界のシナリオに広く適用できるが、その非線形性は計算効率と統計効率の両方を達成する上で大きな課題をもたらす。
本稿では,$mathcalO(1)$時間と1ラウンドあたりの空間複雑度をほぼ最適に再現するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-07-16T02:24:21Z) - Robust Bayesian Optimization via Localized Online Conformal Prediction [37.549297668783254]
局所化オンライン共形予測に基づくベイズ最適化(LOCBO)を導入する。
LOCBOは局所オンライン共形予測(CP)によりGPモデルを校正する
観測対象関数を保留するLOCBOのイテレートについて理論的性能保証を行う。
論文 参考訳(メタデータ) (2024-11-26T12:45:54Z) - Correcting the Mythos of KL-Regularization: Direct Alignment without Overoptimization via Chi-Squared Preference Optimization [78.82586283794886]
$chi2$-Preference Optimization(chi$PO)は、オーバー最適化に対して確実に堅牢なオフラインアライメントアルゴリズムである。
$chi$POは、正規化による不確実性に直面して悲観主義の原理を実装している。
$chi$POの単純さと強力な保証により、オーバー最適化に対して確実に堅牢な、実用的で汎用的なオフラインアライメントアルゴリズムとなった。
論文 参考訳(メタデータ) (2024-07-18T11:08:40Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - LABCAT: Locally adaptive Bayesian optimization using principal-component-aligned trust regions [0.0]
信頼領域に基づくBOを拡張した LABCAT アルゴリズムを提案する。
このアルゴリズムは、最先端のBOや他のブラックボックス最適化アルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-19T13:56:24Z) - Parallel Bayesian Optimization Using Satisficing Thompson Sampling for
Time-Sensitive Black-Box Optimization [0.0]
本稿では,Thompsonサンプリングに基づく並列BO手法を提案する。
ターゲットを最適なソリューションから、学習しやすい満足できるソリューションにシフトします。
リチウムイオン電池の高速充電設計問題に対して提案手法の有効性を実証した。
論文 参考訳(メタデータ) (2023-10-19T07:03:51Z) - Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T03:35:45Z) - Model-based Causal Bayesian Optimization [78.120734120667]
モデルに基づく因果ベイズ最適化(MCBO)を提案する。
MCBOは介入と逆のペアをモデリングするのではなく、完全なシステムモデルを学ぶ。
標準的なベイズ最適化とは異なり、我々の取得関数は閉形式では評価できない。
論文 参考訳(メタデータ) (2022-11-18T14:28:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。