論文の概要: None To Optima in Few Shots: Bayesian Optimization with MDP Priors
- arxiv url: http://arxiv.org/abs/2511.01006v1
- Date: Sun, 02 Nov 2025 16:53:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-05 16:37:27.023454
- Title: None To Optima in Few Shots: Bayesian Optimization with MDP Priors
- Title(参考訳): MDPを優先したベイズ最適化
- Authors: Diantong Li, Kyunghyun Cho, Chong Liu,
- Abstract要約: 本稿では,機能評価が極めて少ないブラックボックス最適化法であるProfBOアルゴリズムを提案する。
ProfBOは、高い品質のチューニングソリューションを極めて少ない評価で達成することで、最先端の手法を一貫して上回っている。
- 参考スコア(独自算出の注目度): 40.4319486959011
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian Optimization (BO) is an efficient tool for optimizing black-box functions, but its theoretical guarantees typically hold in the asymptotic regime. In many critical real-world applications such as drug discovery or materials design, where each evaluation can be very costly and time-consuming, BO becomes impractical for many evaluations. In this paper, we introduce the Procedure-inFormed BO (ProfBO) algorithm, which solves black-box optimization with remarkably few function evaluations. At the heart of our algorithmic design are Markov Decision Process (MDP) priors that model optimization trajectories from related source tasks, thereby capturing procedural knowledge on efficient optimization. We embed these MDP priors into a prior-fitted neural network and employ model-agnostic meta-learning for fast adaptation to new target tasks. Experiments on real-world Covid and Cancer benchmarks and hyperparameter tuning tasks demonstrate that ProfBO consistently outperforms state-of-the-art methods by achieving high-quality solutions with significantly fewer evaluations, making it ready for practical deployment.
- Abstract(参考訳): ベイズ最適化(BO)はブラックボックス関数を最適化するための効率的なツールであるが、理論上の保証は一般的に漸近的な状態にある。
医薬品の発見や材料設計といった多くの重要な現実世界の応用において、各評価は非常にコストがかかり、時間がかかり、BOは多くの評価において実用的ではない。
本稿では,機能評価が極めて少ないブラックボックス最適化法であるProfBOアルゴリズムを提案する。
我々のアルゴリズム設計の中心は、マルコフ決定プロセス(MDP)であり、関連するソースタスクから最適化軌道をモデル化し、効率的な最適化に関する手続き的知識を取得する。
我々は、これらのMDPプリエントを事前に適合したニューラルネットワークに組み込み、新しいターゲットタスクに迅速に適応するためにモデルに依存しないメタラーニングを採用する。
実世界のCovid and Cancerベンチマークとハイパーパラメータチューニングタスクの実験では、ProfBOは高い品質のソリューションを極めて少ない評価で達成し、常に最先端の手法よりも優れており、実用的なデプロイメントの準備が整っていることが示されている。
関連論文リスト
- Optimizing the Unknown: Black Box Bayesian Optimization with Energy-Based Model and Reinforcement Learning [42.508822373669936]
Black-Box Optimization (BBO) は様々な科学・工学分野で成功を収めている。
本稿では,ガウス過程(GP)を統合したReinforced Energy-based Model for Bayesian Optimization (REBMBO)を提案する。
我々は、REBMBOの優れた性能を確認するために、合成および実世界のベンチマークに関する広範な実験を行う。
論文 参考訳(メタデータ) (2025-10-22T12:36:49Z) - BOOST: Bayesian Optimization with Optimal Kernel and Acquisition Function Selection Technique [1.0499611180329804]
カーネル獲得ペアの選択を自動化する新しいフレームワークであるBOOSTを提案する。
BOOSTは、様々なカーネル獲得ペアのパフォーマンスを予測し、高価な評価にコミットする前に最も有望なペアを特定する。
論文 参考訳(メタデータ) (2025-08-04T12:08:12Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Polynomial-Model-Based Optimization for Blackbox Objectives [0.0]
ブラックボックス最適化は、事前定義された目的関数が最小化されるようなシステムに対して最適なパラメータを求める。
PMBOは目的関数にサロゲートを合わせることで最小値を求める新しいブラックボックスである。
PMBOは、与えられた人工的解析関数のセットに対して、他の最先端のアルゴリズムとベンチマークされる。
論文 参考訳(メタデータ) (2023-09-01T14:11:03Z) - Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T03:35:45Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳(メタデータ) (2022-10-27T01:58:10Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Pre-training helps Bayesian optimization too [49.28382118032923]
機能的事前設定のための代替的なプラクティスを模索する。
特に、より厳密な分布を事前訓練できるような、類似した関数のデータを持つシナリオを考察する。
提案手法は, 競合する手法の少なくとも3倍の効率で, 優れたハイパーパラメータを見つけることができることを示す。
論文 参考訳(メタデータ) (2022-07-07T04:42:54Z) - Revisiting Bayesian Optimization in the light of the COCO benchmark [1.4467794332678539]
本稿では,共通かつあまり一般的ではない設計選択のbo(gaussian process based)の性能への影響について,大規模な調査を行う。
この研究のために開発されたコードは、RパッケージDiceOptimの新バージョン(v2.1.1)をCRANで利用可能にしている。
論文 参考訳(メタデータ) (2021-03-30T19:45:18Z) - Meta Learning Black-Box Population-Based Optimizers [0.0]
人口ベースのブラックボックス一般化を推論するメタラーニングの利用を提案する。
メタロス関数は,学習アルゴリズムが検索動作を変更することを促進し,新たなコンテキストに容易に適合できることを示す。
論文 参考訳(メタデータ) (2021-03-05T08:13:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。