論文の概要: Thinking inside the box: A tutorial on grey-box Bayesian optimization
- arxiv url: http://arxiv.org/abs/2201.00272v1
- Date: Sun, 2 Jan 2022 02:16:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-04 23:30:56.215040
- Title: Thinking inside the box: A tutorial on grey-box Bayesian optimization
- Title(参考訳): ボックスの内部を考える:グレーボックスベイズ最適化のチュートリアル
- Authors: Raul Astudillo, Peter I. Frazier
- Abstract要約: ベイズ最適化(英: Bayesian Optimization、BO)は、コスト対評価対象関数のグローバル最適化のためのフレームワークである。
BOメソッドは、目的関数がブラックボックスであると仮定する。
近年のBO法では,そのような内部情報を活用して性能を劇的に向上している。
- 参考スコア(独自算出の注目度): 20.73717187683924
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian optimization (BO) is a framework for global optimization of
expensive-to-evaluate objective functions. Classical BO methods assume that the
objective function is a black box. However, internal information about
objective function computation is often available. For example, when optimizing
a manufacturing line's throughput with simulation, we observe the number of
parts waiting at each workstation, in addition to the overall throughput.
Recent BO methods leverage such internal information to dramatically improve
performance. We call these "grey-box" BO methods because they treat objective
computation as partially observable and even modifiable, blending the black-box
approach with so-called "white-box" first-principles knowledge of objective
function computation. This tutorial describes these methods, focusing on BO of
composite objective functions, where one can observe and selectively evaluate
individual constituents that feed into the overall objective; and
multi-fidelity BO, where one can evaluate cheaper approximations of the
objective function by varying parameters of the evaluation oracle.
- Abstract(参考訳): ベイズ最適化 (bayesian optimization, bo) は、費用対評価目的関数のグローバル最適化のためのフレームワークである。
古典的なboメソッドは、目的関数がブラックボックスであると仮定する。
しかし、目的関数計算に関する内部情報は、しばしば利用可能である。
例えば、製造ラインのスループットをシミュレーションで最適化する場合、全スループットに加えて各ワークステーションで待っている部品の数を観察します。
近年のBO法は内部情報を利用して性能を劇的に改善している。
これらの「グレーボックス」BO法は、対象関数計算の知識を「ホワイトボックス」と呼ぶブラックボックスアプローチと混同し、対象関数計算を部分的に観測可能かつ修正可能とみなすためである。
本チュートリアルでは, 複合目的関数のBOに着目し, 全体目標に影響を及ぼす個々の成分を観察し, 選択的に評価するBOと, 評価オラクルのパラメータを変化させることで, より安価な目的関数近似を評価できるBOとを述べる。
関連論文リスト
- Large Language Models to Enhance Bayesian Optimization [57.474613739645605]
本稿では,大規模言語モデル(LLM)の能力をベイズ最適化に組み込む新しいアプローチであるLLAMBOを提案する。
高いレベルでは、自然言語のBO問題を枠組み化し、LLMが歴史的評価に照らした有望な解を反復的に提案し、評価することを可能にする。
以上の結果から,LLAMBOはゼロショットウォームスタートに有効であり,サロゲートモデリングや候補サンプリングの促進,特に観察が不十分な場合の探索の初期段階において有効であることが示唆された。
論文 参考訳(メタデータ) (2024-02-06T11:44:06Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Predictive Modeling through Hyper-Bayesian Optimization [60.586813904500595]
本稿では,モデル選択とBOを統合する新しい手法を提案する。
このアルゴリズムは、モデル空間のBOと関数空間のBOの間を行き来する。
サンプル効率の改善に加えて、ブラックボックス機能に関する情報も出力する。
論文 参考訳(メタデータ) (2023-08-01T04:46:58Z) - Bayesian Optimization for Function Compositions with Applications to
Dynamic Pricing [0.0]
本稿では, 構成の形式が知られているが, 構成関数を評価するのに費用がかかる機能構成の実用的BO法を提案する。
本稿では,収益管理における動的価格設定への新たな応用を,その基盤となる需要関数の評価に費用がかかる場合に示す。
論文 参考訳(メタデータ) (2023-03-21T15:45:06Z) - Batch Bayesian Optimization via Particle Gradient Flows [0.5735035463793008]
ブラックボックスとしてしか利用できない,あるいは評価に費用がかかる対象関数のグローバルな最適化方法を示す。
確率測度の空間上の多点予測確率に基づく新しい関数を構築する。
論文 参考訳(メタデータ) (2022-09-10T18:10:15Z) - Bayesian Optimization for Macro Placement [48.55456716632735]
本研究では,系列対上のベイズ最適化(BO)を用いた新しいマクロ配置法を提案する。
BOは確率的代理モデルと獲得関数を利用する機械学習技術である。
固定アウトラインマクロ配置問題に対して, 半周波線長目標を用いたアルゴリズムを実証する。
論文 参考訳(メタデータ) (2022-07-18T06:17:06Z) - Pre-training helps Bayesian optimization too [49.28382118032923]
機能的事前設定のための代替的なプラクティスを模索する。
特に、より厳密な分布を事前訓練できるような、類似した関数のデータを持つシナリオを考察する。
提案手法は, 競合する手法の少なくとも3倍の効率で, 優れたハイパーパラメータを見つけることができることを示す。
論文 参考訳(メタデータ) (2022-07-07T04:42:54Z) - MBORE: Multi-objective Bayesian Optimisation by Density-Ratio Estimation [0.01652719262940403]
最適化問題は、しばしば計算的に、あるいは金銭的にコストがかかる複数の矛盾する目標を持つ。
単代理ベイズ最適化(BO)は、そのようなブラックボックス関数を最適化するための一般的なモデルベースのアプローチである。
BOREによるBOの先行研究を多目的設定に拡張する。
論文 参考訳(メタデータ) (2022-03-31T09:27:59Z) - Many Objective Bayesian Optimization [0.0]
マルチオブジェクトベイズ最適化(MOBO)は、ブラックボックスの同時最適化に成功している一連の手法である。
特に、MOBO法は、多目的最適化問題における目的の数が3以上である場合に問題があり、これは多くの目的設定である。
GPが測定値とアルゴリズムの有効性の予測分布を予測できるような,玩具,合成,ベンチマーク,実実験のセットで実証的な証拠を示す。
論文 参考訳(メタデータ) (2021-07-08T21:57:07Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Multi-Fidelity Bayesian Optimization via Deep Neural Networks [19.699020509495437]
多くのアプリケーションでは、目的関数を複数の忠実度で評価することで、コストと精度のトレードオフを可能にする。
本稿では,DNN-MFBO(Deep Neural Network Multi-Fidelity Bayesian Optimization)を提案する。
本手法の利点は, 総合的なベンチマークデータセットと, 工学設計における実世界の応用の両方にある。
論文 参考訳(メタデータ) (2020-07-06T23:28:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。