論文の概要: Cost-aware learning of relevant contextual variables within Bayesian
optimization
- arxiv url: http://arxiv.org/abs/2305.14120v2
- Date: Wed, 24 May 2023 17:30:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-25 10:44:21.741230
- Title: Cost-aware learning of relevant contextual variables within Bayesian
optimization
- Title(参考訳): ベイズ最適化における関連する文脈変数のコスト認識学習
- Authors: Julien Martinelli, Ayush Bharti, S.T. John, Armi Tiihonen, Sabina
Sloman, Louis Filstroff and Samuel Kaski
- Abstract要約: 本稿では,コストを考慮したモデル選択BOタスクとして,感性分析駆動型コンテキストBO(SADCBO)を紹介する。
我々は,特定の入力点における後代代理モデルの感度解析により,文脈変数の妥当性を学習する。
提案したSADCBOを, 合成実験における代替品に対して実験的に評価した。
- 参考スコア(独自算出の注目度): 11.481726388897298
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Contextual Bayesian Optimization (CBO) is a powerful framework for optimizing
black-box, expensive-to-evaluate functions with respect to design variables,
while simultaneously efficiently integrating relevant contextual information
regarding the environment, such as experimental conditions. However, in many
practical scenarios, the relevance of contextual variables is not necessarily
known beforehand. Moreover, the contextual variables can sometimes be optimized
themselves, a setting that current CBO algorithms do not take into account.
Optimizing contextual variables may be costly, which raises the question of
determining a minimal relevant subset. In this paper, we frame this problem as
a cost-aware model selection BO task and address it using a novel method,
Sensitivity-Analysis-Driven Contextual BO (SADCBO). We learn the relevance of
context variables by sensitivity analysis of the posterior surrogate model at
specific input points, whilst minimizing the cost of optimization by leveraging
recent developments on early stopping for BO. We empirically evaluate our
proposed SADCBO against alternatives on synthetic experiments together with
extensive ablation studies, and demonstrate a consistent improvement across
examples.
- Abstract(参考訳): 文脈ベイズ最適化(CBO)は、設計変数に関してブラックボックスで高価な関数を最適化する強力なフレームワークであり、同時に実験条件などの環境に関する関連するコンテキスト情報を統合する。
しかし、多くの実践シナリオにおいて、文脈変数の関連性は必ずしも事前に分かっていない。
さらに、現在のCBOアルゴリズムが考慮していない設定として、コンテキスト変数を自分自身で最適化する場合もある。
文脈変数の最適化はコストがかかるため、最小の関連する部分集合を決定するという問題を引き起こす。
本稿では,この問題をコスト認識型モデル選択boタスクとして捉え,新しい手法である感度分析駆動コンテキストボ(sadcbo)を用いて解決する。
入力点における後方サーロゲートモデルの感度解析によりコンテキスト変数の関連性を学習し,boの早期停止における最近の展開を利用して最適化コストを最小化する。
提案するsacboを合成実験の代替品に対して,広範なアブレーション研究とともに実証的に評価し,実例で一貫した改善を示す。
関連論文リスト
- $f$-PO: Generalizing Preference Optimization with $f$-divergence Minimization [91.43730624072226]
$f$-POは、既存のアプローチを一般化し拡張する新しいフレームワークである。
ベンチマークデータセットを用いて最先端言語モデルの実験を行う。
論文 参考訳(メタデータ) (2024-10-29T02:11:45Z) - Cost-aware Bayesian Optimization via the Pandora's Box Gittins Index [57.045952766988925]
我々は,コストを意識したベイズ最適化と,経済学の意思決定問題であるPandoraのBox問題との間に,従来未解決の接続関係を構築した。
我々の研究は、Gittinsインデックス理論からベイズ最適化への技術統合に向けた第一歩となる。
論文 参考訳(メタデータ) (2024-06-28T17:20:13Z) - Cost-Sensitive Multi-Fidelity Bayesian Optimization with Transfer of Learning Curve Extrapolation [55.75188191403343]
各ユーザが事前に定義した機能であるユーティリティを導入し,BOのコストと性能のトレードオフについて述べる。
このアルゴリズムをLCデータセット上で検証した結果,従来のマルチファイルBOや転送BOベースラインよりも優れていた。
論文 参考訳(メタデータ) (2024-05-28T07:38:39Z) - Enhanced Bayesian Optimization via Preferential Modeling of Abstract
Properties [49.351577714596544]
本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。
優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
論文 参考訳(メタデータ) (2024-02-27T09:23:13Z) - Contextual Causal Bayesian Optimisation [3.649440235324259]
一般に、介入変数の値を選択する文脈として観察変数のサブセットを利用すると、累積的後悔が減少することを示す。
本稿では,制御変数と文脈変数の組み合わせを効率的に探索する文脈因果ベイズ最適化の一般的な枠組みを提案する。
分析により、文脈BO(CoBO)やCaBO(CaBO)のような確立された手法では、いくつかの場合において最適な結果が得られないことが示されている。
論文 参考訳(メタデータ) (2023-01-29T10:36:10Z) - Variable Functioning and Its Application to Large Scale Steel Frame
Design Optimization [15.86197261674868]
変数関数Fxと呼ばれる概念に基づく手法を導入し、最適化変数を減らし、探索空間を狭める。
問題構造解析技術と工学的知識を用いることで、鋼枠設計最適化プロセスを強化するために$Fx$法が用いられる。
論文 参考訳(メタデータ) (2022-05-15T12:43:25Z) - Sparse Bayesian Optimization [16.867375370457438]
よりスパースで解釈可能な構成を発見できる正規化ベースのアプローチをいくつか提示する。
そこで本研究では,同相連続に基づく新たな微分緩和法を提案し,空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間的空間
スパシティのために効率的に最適化できることが示されています。
論文 参考訳(メタデータ) (2022-03-03T18:25:33Z) - SnAKe: Bayesian Optimization with Pathwise Exploration [9.807656882149319]
本稿では,イテレーション間の大きな入力変更を行う場合,関数評価のコストが大幅に増大する,という新しい設定について考察する。
本稿では,この問題を考察し,適応接続サンプルを用いた逐次ベイズ最適化(SnAKe)を導入する。
将来のクエリを考慮し、入力コストを最小限に抑える最適化パスをプリエンプティブに構築することで、ソリューションを提供する。
論文 参考訳(メタデータ) (2022-01-31T19:42:56Z) - Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。
Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文 参考訳(メタデータ) (2020-10-15T18:09:48Z) - Optimal Bayesian experimental design for subsurface flow problems [77.34726150561087]
本稿では,設計ユーティリティ機能のためのカオス拡張サロゲートモデル(PCE)の開発のための新しいアプローチを提案する。
この手法により,対象関数に対する適切な品質応答面の導出が可能となり,計算予算は複数の単点評価に匹敵する。
論文 参考訳(メタデータ) (2020-08-10T09:42:59Z) - Cost-aware Bayesian Optimization [6.75013674088437]
コストを意識したBOは、時間、エネルギー、お金といった他のコスト指標との収束を測定します。
我々は,目標関数をできるだけ少ないコストで最小化しようとするコスト調整BO(CArBO)を導入する。
論文 参考訳(メタデータ) (2020-03-22T14:51:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。