論文の概要: Learning relevant contextual variables within Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2305.14120v3
- Date: Mon, 12 Feb 2024 20:40:27 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-14 19:53:21.463174
- Title: Learning relevant contextual variables within Bayesian Optimization
- Title(参考訳): ベイズ最適化における文脈変数の学習
- Authors: Julien Martinelli, Ayush Bharti, Armi Tiihonen, S.T. John, Louis
Filstroff, Sabina J. Sloman, Patrick Rinke and Samuel Kaski
- Abstract要約: 本研究では, 感性分析駆動型コンテキストBO(SADCBO)法を提案する。
本研究では, 実世界および実世界の両方の実験において, 感性分析駆動型文脈BO法(SADCBO法)の代替案について実験的に評価した。
- 参考スコア(独自算出の注目度): 17.926082174636218
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Contextual Bayesian Optimization (CBO) efficiently optimizes black-box
functions with respect to design variables, while simultaneously integrating
contextual information regarding the environment, such as experimental
conditions. However, the relevance of contextual variables is not necessarily
known beforehand. Moreover, contextual variables can sometimes be optimized
themselves at additional cost, a setting overlooked by current CBO algorithms.
Cost-sensitive CBO would simply include optimizable contextual variables as
part of the design variables based on their cost. Instead, we adaptively select
a subset of contextual variables to include in the optimization, based on the
trade-off between their \emph{relevance} and the additional cost incurred by
optimizing them compared to leaving them to be determined by the environment.
We learn the relevance of contextual variables by sensitivity analysis of the
posterior surrogate model while minimizing the cost of optimization by
leveraging recent developments on early stopping for BO. We empirically
evaluate our proposed Sensitivity-Analysis-Driven Contextual BO (SADCBO) method
against alternatives on both synthetic and real-world experiments, together
with extensive ablation studies, and demonstrate a consistent improvement
across examples.
- Abstract(参考訳): 文脈ベイズ最適化(CBO)は、設計変数に関してブラックボックス関数を効率的に最適化し、実験条件などの環境に関するコンテキスト情報を同時に統合する。
しかし、文脈変数の関連性は事前には分かっていない。
さらに、コンテクスト変数は、現在のCBOアルゴリズムによって見落とされ、追加コストで最適化されることもある。
コストに敏感なCBOは、コストに基づいて設計変数の一部として最適化可能なコンテキスト変数を含める。
代わりに、最適化に含める文脈変数のサブセットを適応的に選択し、それらが環境によって決定される場合と比較して最適化することで得られる追加コストと、それらとの間のトレードオフに基づいて選択する。
後方サーロゲートモデルの感度解析により文脈変数の関連性を学習し,boの早期停止に関する最近の進展を利用して最適化コストを最小化する。
提案手法は,人工的および実世界実験の両方における代替案に対する感度分析駆動型コンテキストボ法(sadcbo法)と広範なアブレーション実験を併用して実証的に評価し,実例間で一貫した改善を示す。
関連論文リスト
- $f$-PO: Generalizing Preference Optimization with $f$-divergence Minimization [91.43730624072226]
$f$-POは、既存のアプローチを一般化し拡張する新しいフレームワークである。
ベンチマークデータセットを用いて最先端言語モデルの実験を行う。
論文 参考訳(メタデータ) (2024-10-29T02:11:45Z) - Cost-aware Bayesian Optimization via the Pandora's Box Gittins Index [57.045952766988925]
我々は,コストを意識したベイズ最適化と,経済学の意思決定問題であるPandoraのBox問題との間に,従来未解決の接続関係を構築した。
我々の研究は、Gittinsインデックス理論からベイズ最適化への技術統合に向けた第一歩となる。
論文 参考訳(メタデータ) (2024-06-28T17:20:13Z) - Cost-Sensitive Multi-Fidelity Bayesian Optimization with Transfer of Learning Curve Extrapolation [55.75188191403343]
各ユーザが事前に定義した機能であるユーティリティを導入し,BOのコストと性能のトレードオフについて述べる。
このアルゴリズムをLCデータセット上で検証した結果,従来のマルチファイルBOや転送BOベースラインよりも優れていた。
論文 参考訳(メタデータ) (2024-05-28T07:38:39Z) - Enhanced Bayesian Optimization via Preferential Modeling of Abstract
Properties [49.351577714596544]
本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。
優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
論文 参考訳(メタデータ) (2024-02-27T09:23:13Z) - Contextual Causal Bayesian Optimisation [3.649440235324259]
一般に、介入変数の値を選択する文脈として観察変数のサブセットを利用すると、累積的後悔が減少することを示す。
本稿では,制御変数と文脈変数の組み合わせを効率的に探索する文脈因果ベイズ最適化の一般的な枠組みを提案する。
分析により、文脈BO(CoBO)やCaBO(CaBO)のような確立された手法では、いくつかの場合において最適な結果が得られないことが示されている。
論文 参考訳(メタデータ) (2023-01-29T10:36:10Z) - Variable Functioning and Its Application to Large Scale Steel Frame
Design Optimization [15.86197261674868]
変数関数Fxと呼ばれる概念に基づく手法を導入し、最適化変数を減らし、探索空間を狭める。
問題構造解析技術と工学的知識を用いることで、鋼枠設計最適化プロセスを強化するために$Fx$法が用いられる。
論文 参考訳(メタデータ) (2022-05-15T12:43:25Z) - Sparse Bayesian Optimization [16.867375370457438]
よりスパースで解釈可能な構成を発見できる正規化ベースのアプローチをいくつか提示する。
そこで本研究では,同相連続に基づく新たな微分緩和法を提案し,空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間
スパシティのために効率的に最適化できることが示されています。
論文 参考訳(メタデータ) (2022-03-03T18:25:33Z) - SnAKe: Bayesian Optimization with Pathwise Exploration [9.807656882149319]
本稿では,イテレーション間の大きな入力変更を行う場合,関数評価のコストが大幅に増大する,という新しい設定について考察する。
本稿では,この問題を考察し,適応接続サンプルを用いた逐次ベイズ最適化(SnAKe)を導入する。
将来のクエリを考慮し、入力コストを最小限に抑える最適化パスをプリエンプティブに構築することで、ソリューションを提供する。
論文 参考訳(メタデータ) (2022-01-31T19:42:56Z) - Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。
Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文 参考訳(メタデータ) (2020-10-15T18:09:48Z) - Optimal Bayesian experimental design for subsurface flow problems [77.34726150561087]
本稿では,設計ユーティリティ機能のためのカオス拡張サロゲートモデル(PCE)の開発のための新しいアプローチを提案する。
この手法により,対象関数に対する適切な品質応答面の導出が可能となり,計算予算は複数の単点評価に匹敵する。
論文 参考訳(メタデータ) (2020-08-10T09:42:59Z) - Cost-aware Bayesian Optimization [6.75013674088437]
コストを意識したBOは、時間、エネルギー、お金といった他のコスト指標との収束を測定します。
我々は,目標関数をできるだけ少ないコストで最小化しようとするコスト調整BO(CArBO)を導入する。
論文 参考訳(メタデータ) (2020-03-22T14:51:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。