論文の概要: Frugal Bayesian Optimization: Scalable Surrogates for Data- and Resource-Limited Discovery
- arxiv url: http://arxiv.org/abs/2607.29225v1
- Date: Fri, 31 Jul 2026 09:55:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.679359
- Title: Frugal Bayesian Optimization: Scalable Surrogates for Data- and Resource-Limited Discovery
- Title(参考訳): Frugal Bayesian Optimization: データおよびリソース制限ディスカバリのためのスケーラブルなサロゲート
- Abstract要約: 我々は,ガウス過程,ランダムフォレスト,NGBoost,ベイズ適応スプライン面の4つの代理モデルを評価する。
ガウスプロセスに基づくBOは、最適化やサンプル効率を向上することなく、最高時間とメモリオーバーヘッドを発生させることを示す。
本稿では,安価なデータセット特性から最も適切なBOサロゲートを予測するサロゲート勧告フレームワークを提案する。
- 参考スコア(独自算出の注目度): 0.6927055673104934
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian Optimization (BO) is widely adopted for data-efficient optimization in scientific and engineering applications, yet its computational cost is rarely evaluated alongside optimization performance. Here we present a systematic, compute-aware study of BO that evaluates surrogate models along two axes: optimization quality and computational frugality. Across eight benchmark functions and nine real-world datasets spanning materials science, mechanics, robotics, chemistry, and machine learning, we benchmark four surrogate models: Gaussian Processes, Random Forests, NGBoost, and Bayesian Adaptive Spline Surfaces. We show that Gaussian Process-based BO consistently incurs the highest time and memory overhead without delivering superior optimization or sample efficiency. In contrast, scalable alternatives achieve equal or better performance at a fraction of the computational cost. Motivated by these findings, we introduce a surrogate-recommendation framework that predicts the most suitable BO surrogate from inexpensive dataset characteristics. Together, these results establish FruBO as a reproducible, compute-aware baseline for Bayesian Optimization and provide practical guidance for surrogate selection under limited computational and experimental budgets.
- Abstract(参考訳): ベイズ最適化(BO)は、科学や工学の応用においてデータ効率の最適化に広く採用されているが、その計算コストは最適化性能とともに評価されることは滅多にない。
ここでは,2つの軸に沿った代理モデル(最適化品質と計算剛性)を評価するBOの体系的,計算に配慮した研究について述べる。
材料科学、メカニクス、ロボティクス、化学、機械学習にまたがる8つのベンチマーク関数と9つの実世界のデータセットに対して、ガウスプロセス、ランダムフォレスト、NGBoost、ベイズ適応スプラインサーフェスという4つのサロゲートモデルをベンチマークします。
ガウスプロセスに基づくBOは、最適化やサンプル効率を向上することなく、最高時間とメモリオーバーヘッドを連続的に発生させることを示す。
対照的に、スケーラブルな代替手段は計算コストのごく一部で同等またはより良い性能を達成する。
これらの知見に触発されて、安価なデータセット特性から最も適切なBOサロゲートを予測するサロゲート勧告フレームワークを導入する。
これらの結果とともに、FruBOはベイズ最適化のための再現可能な、計算対応のベースラインとして確立し、限られた計算および実験予算下でのサロゲート選択のための実践的なガイダンスを提供する。
関連論文リスト
- Efficiently Estimating Optimal Hyperparameter Scaling Laws through Power-Law Entropy Search [51.33002870475756]
マルチフィデリティベイズ最適化に基づくコスト認識獲得関数である Power-Law Entropy Search (PLES) を導入する。
PLESは、単一の目的関数を最適化するのではなく、スケーリング法見積の全体的な不確実性を低減する候補を検索する。
論文 参考訳(メタデータ) (2026-09-01T15:41:59Z) - Modernizing HEBO: a robust Bayesian optimization baseline for practical heteroskedastic and non-stationary problems [0.0]
TidyHEBOは、ヘテロスケダスティック進化ベイズ最適化(HEBO)にインスパイアされた頑健なベイズ最適化モデルである
TidyHEBOは、BoTorchでHEBOの設計哲学を再構築し、サロゲートトレーニング、出力ウォーピング選択、取得関数の評価を改訂する。
人工機能, 完全に実験的な反応最適化データセット, ニードル・イン・ア・ヘイスタック(NIAH)材料問題についてTydyHEBOのベンチマークを行った。
論文 参考訳(メタデータ) (2026-07-12T09:27:57Z) - Autocorrelated Optimize-via-Estimate: Predict-then-Optimize versus Finite-sample Optimal [2.0228793142608588]
有限サンプル体制におけるアウト・オブ・サンプル性能を直接最適化するモデルは、従来の見積もりを最適化するアプローチに代わる有望な選択肢として現れてきた。
自動相関不確実性(特にベクトル自己回帰移動平均VARMA(p,q)プロセス)の文脈での性能を比較する。
論文 参考訳(メタデータ) (2026-02-02T09:49:51Z) - Adaptive Bayesian Data-Driven Design of Reliable Solder Joints for Micro-electronic Devices [0.0]
熱メカニカルローディングによる故障に関連するソルダ継手信頼性は、重要でありながら物理的に複雑な工学的問題である。
ますますデータ駆動の世界では、効率的なデータ駆動設計スキームの使用が一般的な選択である。
著者らは、徹底的な代理モデルを利用して計算的貯蓄を得ることができると主張している。
論文 参考訳(メタデータ) (2025-07-25T20:34:03Z) - Gradient-based Sample Selection for Faster Bayesian Optimization [10.137754677594861]
本稿では,勾配に基づくサンプル選択ベイズ最適化(GSSBO)を提案し,BOの計算効率を向上させる。
提案手法は,ベースライン法に匹敵する最適化性能を維持しつつ,BOにおけるGPフィッティングの計算コストを大幅に削減する。
論文 参考訳(メタデータ) (2025-04-10T13:38:15Z) - Synergistic Development of Perovskite Memristors and Algorithms for Robust Analog Computing [53.77822620185878]
本稿では,ペロブスカイト・メムリスタの製作を同時に最適化し,ロバストなアナログDNNを開発するための相乗的手法を提案する。
BO誘導ノイズインジェクションを利用したトレーニング戦略であるBayesMultiを開発した。
我々の統合されたアプローチは、より深くより広いネットワークでのアナログコンピューティングの使用を可能にし、最大100倍の改善を実現します。
論文 参考訳(メタデータ) (2024-12-03T19:20:08Z) - Self-Steering Optimization: Autonomous Preference Optimization for Large Language Models [79.84205827056907]
本稿では,高品質な嗜好データを自律的に生成するアルゴリズムであるセルフステアリング最適化(SSO$)を提案する。
$SSO$は、ポリシーモデル自体からデータジェネレータを構築するために、特別な最適化目標を採用しています。
評価の結果,$SSO$は人選好アライメントと報酬最適化のベースラインを一貫して上回っていることがわかった。
論文 参考訳(メタデータ) (2024-10-22T16:04:03Z) - Cost-Sensitive Multi-Fidelity Bayesian Optimization with Transfer of Learning Curve Extrapolation [55.75188191403343]
各ユーザが事前に定義した機能であるユーティリティを導入し,BOのコストと性能のトレードオフについて述べる。
このアルゴリズムをLCデータセット上で検証した結果,従来のマルチファイルBOや転送BOベースラインよりも優れていた。
論文 参考訳(メタデータ) (2024-05-28T07:38:39Z) - Enhanced Bayesian Optimization via Preferential Modeling of Abstract
Properties [49.351577714596544]
本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。
優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
論文 参考訳(メタデータ) (2024-02-27T09:23:13Z) - Sample-Efficient and Surrogate-Based Design Optimization of Underwater Vehicle Hulls [0.4543820534430522]
本稿では,BO-LCBアルゴリズムが最もサンプリング効率のよい最適化フレームワークであり,最適収束挙動を有することを示す。
また, DNN に基づく代理モデルでは, CFD シミュレーションと密に一致し, 平均絶対パーセンテージ誤差 (MAPE) が 1.85% であることを示す。
本稿では,サロゲートモデルを用いた設計最適化の2次高速化について述べる。
論文 参考訳(メタデータ) (2023-04-24T19:52:42Z) - Global Optimization of Gaussian processes [52.77024349608834]
少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。
このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。
提案手法の順序の順序による時間収束を,総じて低減する。
論文 参考訳(メタデータ) (2020-05-21T20:59:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。