Fugu-MT 論文翻訳(概要): Regret Analysis of Posterior Sampling-Based Expected Improvement for Bayesian Optimization

論文の概要: Regret Analysis of Posterior Sampling-Based Expected Improvement for Bayesian Optimization

arxiv url: http://arxiv.org/abs/2507.09828v1
Date: Sun, 13 Jul 2025 23:37:31 GMT
ステータス: 翻訳完了
システム内更新日: 2025-07-15 18:48:24.064127
Title: Regret Analysis of Posterior Sampling-Based Expected Improvement for Bayesian Optimization
Title（参考訳）: ベイズ最適化のための後方サンプリングに基づくレグレト解析
Authors: Shion Takeno, Yu Inatsu, Masayuki Karasuyama, Ichiro Takeuchi,
Abstract要約: 本稿では,後部サンプルパスの最大値からEIを評価するEIのランダムな変種を解析する。この後続サンプリングに基づくランダムEIは、ブラックボックス関数がガウス過程に従うという仮定の下で、準線形ベイズ累積後悔境界を達成することを示す。
参考スコア（独自算出の注目度）: 22.752728853701083
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Bayesian optimization is a powerful tool for optimizing an expensive-to-evaluate black-box function. In particular, the effectiveness of expected improvement (EI) has been demonstrated in a wide range of applications. However, theoretical analyses of EI are limited compared with other theoretically established algorithms. This paper analyzes a randomized variant of EI, which evaluates the EI from the maximum of the posterior sample path. We show that this posterior sampling-based random EI achieves the sublinear Bayesian cumulative regret bounds under the assumption that the black-box function follows a Gaussian process. Finally, we demonstrate the effectiveness of the proposed method through numerical experiments.
Abstract（参考訳）: ベイズ最適化は、高価なブラックボックス関数を最適化するための強力なツールである。特に、期待される改善(EI)の有効性は幅広い応用で実証されている。しかし、EIの理論解析は他の理論的に確立されたアルゴリズムと比較して限定的である。本稿では,後部サンプルパスの最大値からEIを評価するEIのランダムな変種を解析する。この後続サンプリングに基づくランダムEIは、ブラックボックス関数がガウス過程に従うという仮定の下で、準線形ベイズ累積後悔境界を達成することを示す。最後に,提案手法の有効性を数値実験により示す。

関連論文リスト

Enhancing Gaussian Process Surrogates for Optimization and Posterior Approximation via Random Exploration [2.984929040246293]
ガウス過程シュロゲートモデルの精度を高めるために、ランダムな探索ステップに依存する新しいノイズフリーベイズ最適化戦略。新しいアルゴリズムは、古典的なGP-UCBの実装の容易さを維持しているが、さらなる探索がそれらの収束を促進する。
論文参考訳（メタデータ） (2024-01-30T14:16:06Z)
Variational Sequential Optimal Experimental Design using Reinforcement Learning [0.0]
対OEDは、変分後部近似を用いた一点報酬の定式化を採用し、期待される情報ゲインに対する証明可能な低いバウンドを提供する。我々は,既存の逐次実験設計アルゴリズムと比較して,サンプル効率が優れていることを示しながら,様々な工学・科学応用における vsOED の実証を行った。
論文参考訳（メタデータ） (2023-06-17T21:47:19Z)
Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文参考訳（メタデータ） (2023-06-12T03:35:45Z)
Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文参考訳（メタデータ） (2022-10-04T04:43:58Z)
Batch Bayesian optimisation via density-ratio estimation with guarantees [26.052368583196426]
本稿では,BOREの後悔を理論的に分析し,不確実性の推定を改良したアルゴリズムの拡張について述べる。また,BOREを近似ベイズ推論として再キャストすることにより,バッチ最適化設定に自然に拡張可能であることを示す。
論文参考訳（メタデータ） (2022-09-22T00:42:18Z)
Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。提案手法はRパッケージプローブに実装されている。
論文参考訳（メタデータ） (2022-09-16T19:15:50Z)
Bayesian multi-objective optimization for stochastic simulators: an extension of the Pareto Active Learning method [0.0]
本稿では,高い出力分散を有するシミュレータの多目的最適化に着目する。我々はベイズ最適化アルゴリズムを用いて最適化すべき関数の予測を行う。
論文参考訳（メタデータ） (2022-07-08T11:51:48Z)
Regret Bounds for Expected Improvement Algorithms in Gaussian Process Bandit Optimization [63.8557841188626]
期待されている改善(EI)アルゴリズムは、不確実性の下で最適化するための最も一般的な戦略の1つである。本稿では,GP予測平均を通した標準既存値を持つEIの変種を提案する。我々のアルゴリズムは収束し、$mathcal O(gamma_TsqrtT)$の累積後悔境界を達成することを示す。
論文参考訳（メタデータ） (2022-03-15T13:17:53Z)
Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文参考訳（メタデータ） (2021-08-25T21:30:27Z)
Stochastic Learning Approach to Binary Optimization for Optimal Design of Experiments [0.0]
本稿では,偏微分方程式などの数学モデルによるベイズ逆問題に対する最適実験設計 (OED) のための二項最適化への新しいアプローチを提案する。 OEDユーティリティ関数、すなわち正規化された最適性勾配はベルヌーイ分布に対する期待の形で目的関数にキャストされる。この目的を確率的最適化ルーチンを用いて最適な観測方針を求めることで解決する。
論文参考訳（メタデータ） (2021-01-15T03:54:12Z)
Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文参考訳（メタデータ） (2020-12-21T17:29:58Z)
Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。 Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文参考訳（メタデータ） (2020-10-15T18:09:48Z)
Uncertainty Quantification for Bayesian Optimization [12.433600693422235]
目的関数の最大点(あるいは値)の信頼領域を構築することにより、ベイズ最適化アルゴリズムの出力不確実性を評価する新しい手法を提案する。我々の理論は、既存のシーケンシャルサンプリングポリシーと停止基準に対する統一的な不確実性定量化フレームワークを提供する。
論文参考訳（メタデータ） (2020-02-04T22:48:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。