論文の概要: Work While They Sleep: Exploiting Evaluation Latency for Fully Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2610.08969v1
• Date: Tue, 06 Oct 2026 18:32:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.556067
• Title: Work While They Sleep: Exploiting Evaluation Latency for Fully Bayesian Optimization
• Title（参考訳）: 睡眠中の仕事:完全ベイズ最適化のための爆発的評価レイテンシ
• Abstract要約: 提案手法は, 目的評価待ち時間を用いて, 次の提案の計算をヘッドスタートするアルゴリズムであるELF-BOを提案する。 ELF-BOはベイズ的手法と同等であり,決定遅延は標準BOと同等かそれ以上である。
• 参考スコア（独自算出の注目度）: 53.886098984181956
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Black-box optimization problems are ubiquitous across science and engineering, often dealing with expensive objective functions. This objective latency has two consequences during optimization: (i) the objective evaluation dominates execution time, and (ii) sample-efficient algorithms are crucial to accelerate development and avoid wasting resources. Bayesian optimization (BO) methods are the \textit{de facto} choice of planners for suggesting the next point to try. Standard BO fits the surrogate model's hyperparameters with a point estimate. Alternatively, a fully Bayesian approach uses model averaging to account for uncertainty over the hyperparameters, leading to better uncertainty estimates---useful in the low-data regime that is pervasive in BO. However, it is often prohibitively expensive and thus rarely used. In this work, we propose ELF-BO, an algorithm that uses the objective evaluation latency to headstart the computation of the next suggestion, allowing for fully Bayesian optimization without incurring substantial decision-time costs. This is done by sampling from the hyperparameter posterior \emph{while} the objective is being evaluated, only requiring reweighting of the samples once the objective value is observed. Across synthetic functions and real-world applications, we show that ELF-BO matches the performance of fully Bayesian methods while only incurring decision latency on par with or better than standard BO. Thus, ELF-BO makes fully Bayesian optimization practical in real-world use cases.
• Abstract（参考訳）: ブラックボックス最適化の問題は科学や工学で広く知られており、しばしば高価な目的関数を扱う。 この客観的レイテンシは、最適化中に2つの結果をもたらす。 一 客観的評価が実行時間を支配すること。 (II) 開発を加速し, 無駄な資源を避けるためには, サンプル効率のアルゴリズムが不可欠である。 ベイズ最適化(英: Bayesian optimization、BO)は、次の試行点を提案するプランナーの選択である。 標準BOは、サロゲートモデルのハイパーパラメータに点推定で適合する。 あるいは、完全なベイズ的アプローチでは、モデル平均化を用いてハイパーパラメーターに対する不確実性を考慮し、BOで広く普及する低データ体制において、より良い不確実性推定をもたらす。 しかし、しばしば高価であり、あまり使われない。 本研究では,提案アルゴリズムのアルゴリズムであるELF-BOを提案する。このアルゴリズムは,客観的評価遅延を用いて,次の提案の計算を先読みし,決定時間コストを要しないベイズ最適化を実現する。 これは、目的値が観測されたときにのみサンプルを再重み付けする必要があるため、目的値が評価されているハイパーパラメーター後部 \emph{while} からサンプリングすることで行われる。 合成関数や実世界の応用において,ELF-BOはベイズ法と同等であり,決定遅延は標準BOと同等かそれ以上であることを示す。 したがって、ALF-BOは実世界のユースケースで完全にベイズ最適化を実践する。

関連論文リスト

• None To Optima in Few Shots: Bayesian Optimization with MDP Priors [40.4319486959011]
  本稿では,機能評価が極めて少ないブラックボックス最適化法であるProfBOアルゴリズムを提案する。 ProfBOは、高い品質のチューニングソリューションを極めて少ない評価で達成することで、最先端の手法を一貫して上回っている。
  論文  参考訳（メタデータ） (2025-11-02T16:53:17Z)
• Cost-Sensitive Freeze-thaw Bayesian Optimization for Efficient Hyperparameter Tuning [51.6191275658441]
  コストと性能のトレードオフを記述する関数であるフリーズソーフレームワークで,エフェユーティリティを導入する。 我々は,提案アルゴリズムを確立されたマルチ忠実HPOベンチマークで検証し,従来のフリーズソーBOやTransfer-BOベースラインよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2025-10-24T12:03:57Z)
• Poisson Process for Bayesian Optimization [126.51200593377739]
  本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。 従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
  論文  参考訳（メタデータ） (2024-02-05T02:54:50Z)
• Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
  目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。 本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。 提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-06-12T03:35:45Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
  統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
  論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• Batch Bayesian Optimization via Particle Gradient Flows [0.5735035463793008]
  ブラックボックスとしてしか利用できない,あるいは評価に費用がかかる対象関数のグローバルな最適化方法を示す。 確率測度の空間上の多点予測確率に基づく新しい関数を構築する。
  論文  参考訳（メタデータ） (2022-09-10T18:10:15Z)
• BOSH: Bayesian Optimization by Sampling Hierarchically [10.10241176664951]
  本稿では,階層的なガウス過程と情報理論の枠組みを組み合わせたBOルーチンを提案する。 BOSHは, ベンチマーク, シミュレーション最適化, 強化学習, ハイパーパラメータチューニングタスクにおいて, 標準BOよりも効率的で高精度な最適化を実現する。
  論文  参考訳（メタデータ） (2020-07-02T07:35:49Z)
• Time-varying Gaussian Process Bandit Optimization with Non-constant Evaluation Time [93.6788993843846]
  非定常評価時間を効果的に処理できる新しい時間変化ベイズ最適化アルゴリズムを提案する。 我々の限界は、評価時間列のパターンが問題の難易度に大きな影響を与えることを決定づける。
  論文  参考訳（メタデータ） (2020-03-10T13:28:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。