論文の概要: Optimal-Point Variance Reduction For Bayesian Optimization With Regret Guarantee
- arxiv url: http://arxiv.org/abs/2606.00956v1
- Date: Sun, 31 May 2026 02:16:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.998895
- Title: Optimal-Point Variance Reduction For Bayesian Optimization With Regret Guarantee
- Title(参考訳): Regret Guaranteeを用いたベイズ最適化のための最適点分散削減
- Authors: Shion Takeno,
- Abstract要約: 最適点分散還元(OVR)と呼ばれる1ステップのルックアヘッドBO法では,後部サンプリングとモンテカルロ近似しか必要としない。
正規化されたOVRは、探索を促進するためにわずかな修正を加えて、ベイズが期待する単純な後悔の上界を消滅させることを示す。
- 参考スコア(独自算出の注目度): 8.233468253484228
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper studies a one-step lookahead Bayesian optimization (BO) method and its theoretical guarantee. Although the empirical effectiveness of one-step lookahead BO methods, such as entropy search, has been studied extensively, they often rely on computationally intractable approximations, and their regret guarantees remain underdeveloped. Thus, this paper proposes a one-step lookahead BO method called optimal-point variance reduction (OVR), which requires only posterior sampling and Monte Carlo approximations. We obtain a uniform error bound over an input domain for the Monte Carlo estimation in OVR. Furthermore, we show that the regularized OVR, with the slight modification to promote exploration, achieves a vanishing Bayesian expected simple regret upper bound. Finally, we demonstrate the effectiveness of OVR through numerical experiments.
- Abstract(参考訳): 本稿では,一段階のベイズ最適化法とその理論的保証について検討する。
エントロピー探索のようなワンステップ・ルックアヘッドBO法の実証的有効性は広く研究されているが、計算的に難解な近似に頼り、その後悔の保証は未発達のままである。
そこで本研究では,後部サンプリングとモンテカルロ近似しか必要としない最適点分散低減法(OVR)を提案する。
OVRにおけるモンテカルロ推定のための入力領域上の一様誤差を得る。
さらに, 正規化OVRは, 探索を促進するためにわずかな修正を加えて, ベイズが期待する単純な後悔の上界を消滅させることを示す。
最後に,数値実験によるOVRの有効性を示す。
関連論文リスト
- Revisiting Zeroth-Order Hessian Approximation: A Single-Step Policy Optimization Lens [18.253856190297405]
ZoVH は、フル・ヘッセン行列、正則化逆数、バイアス補正された逆ヘッセン勾配積に対する分散還元された推定器のスイートである。
実世界のアプリケーションにおいて,ZoVHはより優れた推定精度と収束性能が得られることを示す。
論文 参考訳(メタデータ) (2026-05-29T07:55:57Z) - Achieving $\widetilde{\mathcal{O}}(\sqrt{T})$ Regret in Average-Reward POMDPs with Known Observation Models [69.1820058966619]
平均逆無限水平POMDPを未知の遷移モデルで扱う。
この障壁を克服する斬新でシンプルな推定器を提示する。
論文 参考訳(メタデータ) (2025-01-30T22:29:41Z) - TS-RSR: A provably efficient approach for batch Bayesian Optimization [4.622871908358325]
本稿では,Phompson Smpling-Regret to Sigma Ratio Direct sampleという,バッチベイズ最適化(BO)の新しい手法を提案する。
我々のサンプリング目的は、各バッチで選択されたアクションを、ポイント間の冗長性を最小化する方法で調整することができる。
提案手法は, 難解な合成および現実的なテスト機能において, 最先端の性能を達成できることを実証する。
論文 参考訳(メタデータ) (2024-03-07T18:58:26Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T03:35:45Z) - Towards Practical Preferential Bayesian Optimization with Skew Gaussian
Processes [8.198195852439946]
本稿では,信頼度が2対比較に限定される優先ベイズ最適化(BO)について検討する。
優越性BOの重要な課題は、優越性ガウス過程(GP)モデルを用いてフレキシブルな選好構造を表現することである。
本研究では,高い計算効率と低いサンプル複雑性を両立させる新しい手法を開発し,その効果を広範囲な数値実験により実証する。
論文 参考訳(メタデータ) (2023-02-03T03:02:38Z) - Variational Refinement for Importance Sampling Using the Forward
Kullback-Leibler Divergence [77.06203118175335]
変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。
重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。
近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
論文 参考訳(メタデータ) (2021-06-30T11:00:24Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳(メタデータ) (2020-12-21T17:29:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。