論文の概要: Regret-Based $(ε,δ)$-optimal Stopping Criteria for Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2605.22561v1
- Date: Thu, 21 May 2026 14:42:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.305735
- Title: Regret-Based $(ε,δ)$-optimal Stopping Criteria for Bayesian Optimization
- Title(参考訳): ベイズ最適化のためのレグレトベース$(ε,δ)$-optimal Stopping Criteria
- Authors: Haowei Wang, Jingyi Wang, Qiyu Wei,
- Abstract要約: GP上信頼度境界(GP-UCB)について,任意の繰り返しにおいて,より厳密な即時後悔境界を示す。
次に,この厳密な境界に基づいてGP-UCBの停止基準を提案する。
- 参考スコア(独自算出の注目度): 6.144270713077559
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization (BO) is a widely used iterative black-box optimization method that utilizes Gaussian process (GP) surrogate models. In practice, BO is typically terminated after a fixed evaluation budget is exhausted, which can incur unnecessary cost and provides no optimality guarantee on solution quality. Recent research in developing a practical stopping criterion has made empirical progress, yet a theoretically sound stopping criterion remains a work in progress. In this work, we present provably tighter instantaneous regret bounds for GP upper confidence bound (GP-UCB) at any given iteration. Then, we propose stopping criteria for GP-UCB based on this tighter bound that ensures an $ε$-optimal solution with high probability $1-δ$ upon termination. Numerical experiments are performed to validate and demonstrate the effectiveness and efficiency of our stopping criteria.
- Abstract(参考訳): ベイズ最適化(英: Bayesian Optimization, BO)は、ガウス過程(GP)サロゲートモデルを利用するブラックボックス最適化法である。
実際には、BOは通常、一定の評価予算が切れた後に終了し、不必要なコストを発生させ、ソリューション品質の最適性を保証することができない。
実用的な停止基準の開発に関する最近の研究は実証的な進歩を遂げているが、理論上は音の停止基準が進行中である。
本研究では,任意の反復でGP上信頼境界(GP-UCB)に対して,確実に短時間の後悔境界を示す。
そこで, GP-UCB の停止条件は, 終端時に 1-δ$ の確率の高い ε$-最適解が成立する厳密な境界に基づいて提案する。
停止基準の有効性と有効性を検証するための数値実験を行った。
関連論文リスト
- Robust Bayesian Optimization via Tempered Posteriors [1.6042394978941517]
我々は,局所的不特定条件下での過信を軽減するために,後続更新による頑健なGPベースBOを開発した。
テンパリングが標準の$(=1)$よりも早く、最も好ましい保証は古典的なEI選択の近くで行われることを示す。
論文 参考訳(メタデータ) (2026-01-11T23:34:24Z) - Stopping Rules for Stochastic Gradient Descent via Anytime-Valid Confidence Sequences [51.56484100374058]
凸最適化のための勾配降下(SGD)の停止規則について検討した。
我々は、投影されたSGDの重み付き平均準最適度に対して、任意の有意、データ依存の高信頼シーケンスを開発する。
これらは、厳格でタイムユニフォームなパフォーマンス保証と、有限時間$varepsilon$-optimality証明書である。
論文 参考訳(メタデータ) (2025-12-15T09:26:45Z) - On the Limits of Test-Time Compute: Sequential Reward Filtering for Better Inference [71.09125259964684]
テスト時計算(TTC)は、大規模言語モデル(LLM)の拡張のパラダイムとして、ますます顕著になっている。
本稿では,高次世代のみを文脈に選択的に組み込む単純な手順である報酬フィルタシーケンシャル推論について検討する。
理論的には、報酬フィルタによる逐次推論は標準TTCパラダイムよりも厳密な保証が得られることを示す。
論文 参考訳(メタデータ) (2025-12-04T08:21:33Z) - Cost-aware Stopping for Bayesian Optimization [46.95172329282389]
本稿では,様々な評価コストに適応し,チューニングが不要なベイズ最適化のためのコスト対応停止則を提案する。
我々は,最先端の取得関数と組み合わせた場合,停止規則によって得られる期待累積評価コストを拘束する理論的な保証を証明した。
論文 参考訳(メタデータ) (2025-07-16T17:54:14Z) - Bayesian Optimization of Robustness Measures under Input Uncertainty: A Randomized Gaussian Process Upper Confidence Bound Approach [3.8979646385036175]
ブラックボックス関数は入力の不確実性を伴うことが多い。
ブラックボックス関数は入力の不確実性を伴うことが多い。
RRGP-UCBは,カイ二乗確率分布から$beta$をサンプリングする新しい手法である。
論文 参考訳(メタデータ) (2025-04-04T05:01:54Z) - Stopping Bayesian Optimization with Probabilistic Regret Bounds [1.4141453107129403]
我々は,ある点が与えられた条件を満たす確率に基づいて,事実上の停止規則を基準に置き換えることを検討する。
我々は,モンテカルロの停止規則を,サンプル効率が高く,推定誤差に頑健な方法で評価する実用的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-02-26T18:34:58Z) - Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T03:35:45Z) - Near-linear Time Gaussian Process Optimization with Adaptive Batching
and Resparsification [119.41129787351092]
BBKBは非回帰GP最適化アルゴリズムで、ほぼ直線的に実行し、バッチで候補を選択する。
また,同じバウンダリを用いて,スパルスGP近似の更新コストを適応的に遅延させることで,ステップ毎の償却コストをほぼ一定に抑えることができることを示した。
論文 参考訳(メタデータ) (2020-02-23T17:43:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。