論文の概要: On the Implementation of a Bayesian Optimization Framework for Interconnected Systems
- arxiv url: http://arxiv.org/abs/2501.00967v1
- Date: Wed, 01 Jan 2025 21:58:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-05 17:16:37.072325
- Title: On the Implementation of a Bayesian Optimization Framework for Interconnected Systems
- Title(参考訳): 相互接続システムのためのベイズ最適化フレームワークの実装について
- Authors: Leonardo D. González, Victor M. Zavala,
- Abstract要約: 解析式を得るために$f$の適応線形化を用いた最近提案されたグレイボックスBOパラダイムBOISの詳細な実装について述べる。
BOISアプローチは,相互接続システムに生じるような構造的知識の活用を可能にすることを示す。
その結果,BOISは従来のグレーボックス法と同等以上の性能を示し,計算量も少ないことがわかった。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Bayesian optimization (BO) is an effective paradigm for the optimization of expensive-to-sample systems. Standard BO learns the performance of a system $f(x)$ by using a Gaussian Process (GP) model; this treats the system as a black-box and limits its ability to exploit available structural knowledge (e.g., physics and sparse interconnections in a complex system). Grey-box modeling, wherein the performance function is treated as a composition of known and unknown intermediate functions $f(x, y(x))$ (where $y(x)$ is a GP model) offers a solution to this limitation; however, generating an analytical probability density for $f$ from the Gaussian density of $y(x)$ is often an intractable problem (e.g., when $f$ is nonlinear). Previous work has handled this issue by using sampling techniques or by solving an auxiliary problem over an augmented space where the values of $y(x)$ are constrained by confidence intervals derived from the GP models; such solutions are computationally intensive. In this work, we provide a detailed implementation of a recently proposed grey-box BO paradigm, BOIS, that uses adaptive linearizations of $f$ to obtain analytical expressions for the statistical moments of the composite function. We show that the BOIS approach enables the exploitation of structural knowledge, such as that arising in interconnected systems as well as systems that embed multiple GP models and combinations of physics and GP models. We benchmark the effectiveness of BOIS against standard BO and existing grey-box BO algorithms using a pair of case studies focused on chemical process optimization and design. Our results indicate that BOIS performs as well as or better than existing grey-box methods, while also being less computationally intensive.
- Abstract(参考訳): ベイズ最適化(英: Bayesian optimization、BO)は、高価なサンプルシステムの最適化に有効なパラダイムである。
標準BOはガウスプロセス(GP)モデルを用いてシステムの性能を学習し、システムをブラックボックスとして扱い、利用可能な構造的知識(複雑なシステムにおける物理や疎結合など)を活用する能力を制限する。
グレイボックスモデリング(Grey-box modeling)は、パフォーマンス関数を既知の中間関数の合成として扱う(ここで$f(x, y(x))$(ここで$y(x)$はGPモデル)は、この制限に対する解を提供するが、ガウス密度$y(x)$から$f$の解析的確率密度を生成することは、しばしば難解問題である(例えば、$f$が非線形であるとき)。
従来の研究はサンプリング手法や、$y(x)$の値がGPモデルから導出される信頼区間によって制約される拡張空間上の補助的な問題を解くことでこの問題に対処してきた。
本研究では,合成関数の統計モーメントに対する解析式を得るために,適応線形化を$f$とする,最近提案されたグレイボックスBOパラダイムBOISの詳細な実装について述べる。
BOISアプローチは,複数のGPモデルと物理モデルとGPモデルの組み合わせを組み込んだシステムだけでなく,相互接続システムで発生する構造的知識の活用を可能にする。
ケミカルプロセスの最適化と設計に焦点をあてたケーススタディを用いて,BOISの標準BOおよび既存のグレーボックスBOアルゴリズムに対する有効性をベンチマークした。
以上の結果から,BOISは従来のグレーボックス法と同等以上の性能を示す一方で,計算集約性も低いことが示唆された。
関連論文リスト
- Near-Optimal Online Learning for Multi-Agent Submodular Coordination: Tight Approximation and Communication Efficiency [52.60557300927007]
離散部分モジュラー問題を連続的に最適化するために,$textbfMA-OSMA$アルゴリズムを提案する。
また、一様分布を混合することによりKLの発散を効果的に活用する、プロジェクションフリーな$textbfMA-OSEA$アルゴリズムも導入する。
我々のアルゴリズムは最先端OSGアルゴリズムによって提供される$(frac11+c)$-approximationを大幅に改善する。
論文 参考訳(メタデータ) (2025-02-07T15:57:56Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - BOIS: Bayesian Optimization of Interconnected Systems [0.0]
BOにおける複合関数の効率的な利用を可能にする新しいパラダイムを提案する。
この単純なアプローチ(BOISと呼ぶ)が構造的知識の活用を可能にしていることを示す。
以上の結果から,BOISが性能向上を実現し,複合関数の統計を正確に把握できることが示唆された。
論文 参考訳(メタデータ) (2023-11-19T06:44:13Z) - Joint Composite Latent Space Bayesian Optimization [15.262166538890243]
複合遅延空間ベイズ最適化(JoCo)について紹介する。
JoCoは、ニューラルネットワークエンコーダと確率モデルを共同でトレーニングし、高次元の入力空間と出力空間を、管理可能な潜在表現に適応的に圧縮する新しいフレームワークである。
これにより、圧縮された表現上で実行可能なBOが可能となり、JoCoは様々なシミュレートされた実世界の問題において、高次元BOにおける他の最先端の方法よりも優れている。
論文 参考訳(メタデータ) (2023-11-03T19:53:37Z) - Polynomial-Model-Based Optimization for Blackbox Objectives [0.0]
ブラックボックス最適化は、事前定義された目的関数が最小化されるようなシステムに対して最適なパラメータを求める。
PMBOは目的関数にサロゲートを合わせることで最小値を求める新しいブラックボックスである。
PMBOは、与えられた人工的解析関数のセットに対して、他の最先端のアルゴリズムとベンチマークされる。
論文 参考訳(メタデータ) (2023-09-01T14:11:03Z) - Bayesian Optimization for Function Compositions with Applications to
Dynamic Pricing [0.0]
本稿では, 構成の形式が知られているが, 構成関数を評価するのに費用がかかる機能構成の実用的BO法を提案する。
本稿では,収益管理における動的価格設定への新たな応用を,その基盤となる需要関数の評価に費用がかかる場合に示す。
論文 参考訳(メタデータ) (2023-03-21T15:45:06Z) - Stochastic Inexact Augmented Lagrangian Method for Nonconvex Expectation
Constrained Optimization [88.0031283949404]
多くの実世界の問題は複雑な非機能的制約を持ち、多くのデータポイントを使用する。
提案手法は,従来最もよく知られた結果で既存手法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-12-19T14:48:54Z) - Model-based Causal Bayesian Optimization [78.120734120667]
モデルに基づく因果ベイズ最適化(MCBO)を提案する。
MCBOは介入と逆のペアをモデリングするのではなく、完全なシステムモデルを学ぶ。
標準的なベイズ最適化とは異なり、我々の取得関数は閉形式では評価できない。
論文 参考訳(メタデータ) (2022-11-18T14:28:21Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - MBORE: Multi-objective Bayesian Optimisation by Density-Ratio Estimation [0.01652719262940403]
最適化問題は、しばしば計算的に、あるいは金銭的にコストがかかる複数の矛盾する目標を持つ。
単代理ベイズ最適化(BO)は、そのようなブラックボックス関数を最適化するための一般的なモデルベースのアプローチである。
BOREによるBOの先行研究を多目的設定に拡張する。
論文 参考訳(メタデータ) (2022-03-31T09:27:59Z) - Misspecified Gaussian Process Bandit Optimization [59.30399661155574]
カーネル化されたバンディットアルゴリズムは、この問題に対して強い経験的および理論的性能を示した。
本稿では、未知関数を$epsilon$-一様近似で近似できるエンフェミス特定カーネル化帯域設定を、ある再生カーネルヒルベルト空間(RKHS)において有界ノルムを持つ関数で導入する。
提案アルゴリズムは,不特定性に関する事前知識を伴わず,$epsilon$への最適依存を実現する。
論文 参考訳(メタデータ) (2021-11-09T09:00:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。