論文の概要: Cost-Aware Stopping for Freeze-Thaw Bayesian Optimization: When Does One-Step Lookahead Suffice?
- arxiv url: http://arxiv.org/abs/2610.42085v1
- Date: Fri, 30 Oct 2026 17:36:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.855657
- Title: Cost-Aware Stopping for Freeze-Thaw Bayesian Optimization: When Does One-Step Lookahead Suffice?
- Title(参考訳): フリーズ・ソー・ベイズ最適化のためのコスト・アウェア・ストップ:ワンステップ・ルックアヘッドはいつ十分か?
- Abstract要約: 予算のないユーティリティを最大化し、最もよく観察されるスコアは、インクリメント当たりのコストを減らし、1ステップのルックアヘッドで見ます。
2段階のルックアヘッドの値に対する低いバウンドである証明書を構築し、そのような停止時期を証明します。
EI停止は、サロゲートに依存している単純なコスト対応参照である。
- 参考スコア(独自算出の注目度): 4.708607682988318
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Freeze-thaw Bayesian optimization (BO) evaluates candidates in resumable increments but usually stops at a budget or convergence test. We maximize a budget-free utility, the best observed score minus a cost per increment, with a one-step lookahead: advance the candidate with the largest expected improvement (EI) under a fixed surrogate, and stop once no EI exceeds the cost. This rule, EI stopping, never falls below stopping immediately in expected utility, yet it can stop too early. We construct a certificate, a lower bound on the value of two-step lookahead, that proves such a stop premature, and repeating this correction never lowers expected utility under the surrogate. Under the surrogate, EI stops are premature on average at low costs and lose little at high costs. On three hyperparameter optimization benchmarks, a pre-registered test finds EI stopping noninferior to the correction in most high-cost settings, while the correction gains at low costs on two of the three; more information sharing in the surrogate raises EI stopping's utility. On the surrogates of two published methods, EI stopping trades lower scores for fewer training increments. EI stopping is a simple cost-aware reference whose utility depends on the surrogate.
- Abstract(参考訳): Freeze-thaw Bayesian Optimization (BO) は、再利用可能なインクリメントの候補を評価するが、通常は予算や収束テストで停止する。
我々は、予算のないユーティリティを最大化し、最も観測されたスコアは、インクリメント当たりのコストをマイナスにし、1段階のルックアヘッドで、固定サロゲートの下で最も期待された改善(EI)の候補を前進させ、EIがコストを超えると停止する。
EIの停止であるこのルールは、予想されるユーティリティですぐに停止することはないが、早すぎる可能性がある。
我々は、2段階のルックアヘッドの値に対する低い境界である証明書を構築し、そのような停止の早さを証明し、この修正を繰り返すと、サロゲートの下で期待される効用は低下しない。
サロゲートの下では、EI停止は低コストで平均して未熟であり、高コストではほとんど失われない。
3つのハイパーパラメータ最適化ベンチマークにおいて、事前登録されたテストは、EIがほとんどの高コスト設定で補正に不適切な位置で停止するのに対して、修正は3つのうち2つで低コストで増加し、サロゲートでの情報共有が増えると、EIの有効性が向上する。
2つの方法のサロゲートについて、EIはより少ないトレーニングインクリメントで低いスコアの取引を停止する。
EI停止は、サロゲートに依存している単純なコスト対応参照である。
関連論文リスト
- StopLoss: Teaching Agents to Predict Failure and Stop Early [58.46247112300993]
StopLossは、完成した軌跡とその検証結果から障害認識を学ぶ小さな外部モニタである。
StopLossは、実行が失敗する可能性がある場合に早期に実行を終了し、リソースを節約します。
論文 参考訳(メタデータ) (2026-10-18T20:39:02Z) - Learning Not to Optimize: Physics-Informed Action-Space Reshaping for Intent-Based Network Control [50.46501177871741]
LNOQRD は小物候補を75.9% で削減し、90.8% でニアオラクルのカバレッジを維持している。
実験の結果、LNOQRDは実用性と意図の満足度が最も高く、かつ、法律違反が最低で、世代後レイテンシが低いことがわかった。
論文 参考訳(メタデータ) (2026-08-02T00:27:01Z) - Instance-Optimal Estimation with Multiple LLM Judges on a Budget [84.31744861038106]
我々は、この問題を*予算付きヘテロスケダティックなマルチジャッジ推定*として定式化する。
K$のプロンプト-レスポンスペア、J$の既知のコストと未知のクエリ-ジャッジ分散が与えられた場合、目標は、$ell_p$-errorを最小化しながら、有界スコアベクトルを推定することである。
EST-IVWEは,予算の低次項までのオラクルIVWEレートと一致していることを示す。
論文 参考訳(メタデータ) (2026-05-22T08:26:08Z) - Robust Bayesian Optimization via Tempered Posteriors [1.6042394978941517]
我々は,局所的不特定条件下での過信を軽減するために,後続更新による頑健なGPベースBOを開発した。
テンパリングが標準の$(=1)$よりも早く、最も好ましい保証は古典的なEI選択の近くで行われることを示す。
論文 参考訳(メタデータ) (2026-01-11T23:34:24Z) - Cost-aware Stopping for Bayesian Optimization [46.95172329282389]
本稿では,様々な評価コストに適応し,チューニングが不要なベイズ最適化のためのコスト対応停止則を提案する。
我々は,最先端の取得関数と組み合わせた場合,停止規則によって得られる期待累積評価コストを拘束する理論的な保証を証明した。
論文 参考訳(メタデータ) (2025-07-16T17:54:14Z) - Adjusted Expected Improvement for Cumulative Regret Minimization in Noisy Bayesian Optimization [37.99915557191065]
我々は, 累積的後悔の下で, 期待される改善機能に適応する。
評価コストと呼ばれる新しい量を、取得機能と比較する。
我々は、最大情報ゲインに基づいて、EICの高確率後悔上限を確立する。
論文 参考訳(メタデータ) (2022-05-10T13:50:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。