論文の概要: Multi-Fidelity Bayesian Optimization with Unreliable Information Sources
- arxiv url: http://arxiv.org/abs/2210.13937v1
- Date: Tue, 25 Oct 2022 11:47:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-26 13:57:18.752309
- Title: Multi-Fidelity Bayesian Optimization with Unreliable Information Sources
- Title(参考訳): 信頼できない情報ソースを用いたマルチフィデリティベイズ最適化
- Authors: Petrus Mikkola, Julien Martinelli, Louis Filstroff, Samuel Kaski
- Abstract要約: GPベースのMFBOスキームを信頼性のない情報ソースの追加により堅牢にするためのrMFBO(robust MFBO)を提案する。
提案手法の有効性を,多数の数値ベンチマークで示す。
rMFBOは、BOプロセスに様々な知識を持つ人間の専門家を確実に含めるのに特に有用であると考えています。
- 参考スコア(独自算出の注目度): 12.509709549771385
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization (BO) is a powerful framework for optimizing black-box,
expensive-to-evaluate functions. Over the past decade, many algorithms have
been proposed to integrate cheaper, lower-fidelity approximations of the
objective function into the optimization process, with the goal of converging
towards the global optimum at a reduced cost. This task is generally referred
to as multi-fidelity Bayesian optimization (MFBO). However, MFBO algorithms can
lead to higher optimization costs than their vanilla BO counterparts,
especially when the low-fidelity sources are poor approximations of the
objective function, therefore defeating their purpose. To address this issue,
we propose rMFBO (robust MFBO), a methodology to make any GP-based MFBO scheme
robust to the addition of unreliable information sources. rMFBO comes with a
theoretical guarantee that its performance can be bound to its vanilla BO
analog, with high controllable probability. We demonstrate the effectiveness of
the proposed methodology on a number of numerical benchmarks, outperforming
earlier MFBO methods on unreliable sources. We expect rMFBO to be particularly
useful to reliably include human experts with varying knowledge within BO
processes.
- Abstract(参考訳): ベイズ最適化(BO)はブラックボックスと高価な評価関数を最適化するための強力なフレームワークである。
過去10年間にわたり、目的関数のより安価で低忠実な近似を最適化プロセスに統合する多くのアルゴリズムが提案されてきた。
このタスクは一般にMFBO(Multi-fidelity Bayesian Optimization)と呼ばれる。
しかし、MFBOアルゴリズムはバニラBOアルゴリズムよりも高い最適化コストをもたらす可能性がある。
この問題に対処するために,GPベースのMFBOスキームを信頼性のない情報ソースの追加に対して堅牢にするための手法であるrMFBO(robust MFBO)を提案する。
rmfboは、高い制御可能な確率でその性能をバニラboアナログに結び付けることができるという理論的保証を伴っている。
提案手法の有効性を複数の数値ベンチマークで示し、信頼性の低い情報源上でのMFBO法よりも優れていることを示す。
rMFBOは、BOプロセスに様々な知識を持つ人間の専門家を確実に含めるのに特に有用であると考えています。
関連論文リスト
- Cost-Sensitive Multi-Fidelity Bayesian Optimization with Transfer of Learning Curve Extrapolation [55.75188191403343]
各ユーザが事前に定義した機能であるユーティリティを導入し,BOのコストと性能のトレードオフについて述べる。
このアルゴリズムをLCデータセット上で検証した結果,従来のマルチファイルBOや転送BOベースラインよりも優れていた。
論文 参考訳(メタデータ) (2024-05-28T07:38:39Z) - Large Language Models to Enhance Bayesian Optimization [57.474613739645605]
本稿では,大規模言語モデル(LLM)の能力をベイズ最適化に組み込む新しいアプローチであるLLAMBOを提案する。
高いレベルでは、自然言語のBO問題を枠組み化し、LLMが歴史的評価に照らした有望な解を反復的に提案し、評価することを可能にする。
以上の結果から,LLAMBOはゼロショットウォームスタートに有効であり,サロゲートモデリングや候補サンプリングの促進,特に観察が不十分な場合の探索の初期段階において有効であることが示唆された。
論文 参考訳(メタデータ) (2024-02-06T11:44:06Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - A General Framework for User-Guided Bayesian Optimization [51.96352579696041]
コラボ (ColaBO) は、典型的なカーネル構造を超越した事前信念のための最初のベイズ原理の枠組みである。
我々は,ColaBOの事前情報が正確である場合に最適化を著しく高速化し,ミスリード時のほぼ既定性能を維持する能力を実証的に実証した。
論文 参考訳(メタデータ) (2023-11-24T18:27:26Z) - Multi-fidelity Bayesian Optimization in Engineering Design [3.9160947065896803]
多重忠実度最適化(MFO)とベイズ最適化(BO)
MF BOは高価なエンジニアリング設計最適化の問題を解決するニッチを見つけた。
MF BOの2つの必須成分:GP系MFサロゲートと取得機能
論文 参考訳(メタデータ) (2023-11-21T23:22:11Z) - LABCAT: Locally adaptive Bayesian optimization using principal-component-aligned trust regions [0.0]
信頼領域に基づくBOを拡張した LABCAT アルゴリズムを提案する。
このアルゴリズムは、最先端のBOや他のブラックボックス最適化アルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-19T13:56:24Z) - Bayesian Optimization for Function Compositions with Applications to
Dynamic Pricing [0.0]
本稿では, 構成の形式が知られているが, 構成関数を評価するのに費用がかかる機能構成の実用的BO法を提案する。
本稿では,収益管理における動的価格設定への新たな応用を,その基盤となる需要関数の評価に費用がかかる場合に示す。
論文 参考訳(メタデータ) (2023-03-21T15:45:06Z) - Model-based Causal Bayesian Optimization [78.120734120667]
モデルに基づく因果ベイズ最適化(MCBO)を提案する。
MCBOは介入と逆のペアをモデリングするのではなく、完全なシステムモデルを学ぶ。
標準的なベイズ最適化とは異なり、我々の取得関数は閉形式では評価できない。
論文 参考訳(メタデータ) (2022-11-18T14:28:21Z) - A General Recipe for Likelihood-free Bayesian Optimization [115.82591413062546]
我々は,BOをより広範なモデルやユーティリティに拡張する可能性のないBO(LFBO)を提案する。
LFBOは、確率的代理モデルと個別に推論を行うことなく、取得関数を直接モデル化する。
LFBOにおける取得関数の計算は、重み付けされた分類問題を最適化することで削減できることを示す。
論文 参考訳(メタデータ) (2022-06-27T03:55:27Z) - $\pi$BO: Augmenting Acquisition Functions with User Beliefs for Bayesian
Optimization [40.30019289383378]
最適位置に関する事前の信念を取り入れた,取得関数の一般化である$pi$BOを提案する。
従来のアプローチとは対照的に、$pi$BOは概念的にはシンプルで、既存のライブラリや多くの取得関数と簡単に統合できる。
また、一般的なディープラーニングタスクの最先端性能を$pi$BOで改善し、12.5$times$タイム・トゥ・クオリティ・スピードアップを実現した。
論文 参考訳(メタデータ) (2022-04-23T11:07:13Z) - Multi-Fidelity Bayesian Optimization via Deep Neural Networks [19.699020509495437]
多くのアプリケーションでは、目的関数を複数の忠実度で評価することで、コストと精度のトレードオフを可能にする。
本稿では,DNN-MFBO(Deep Neural Network Multi-Fidelity Bayesian Optimization)を提案する。
本手法の利点は, 総合的なベンチマークデータセットと, 工学設計における実世界の応用の両方にある。
論文 参考訳(メタデータ) (2020-07-06T23:28:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。