論文の概要: BILBO: BILevel Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2502.02121v1
- Date: Tue, 04 Feb 2025 08:57:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-05 15:03:54.973888
- Title: BILBO: BILevel Bayesian Optimization
- Title(参考訳): BILBO:BILevel Bayesian Optimization
- Authors: Ruth Wan Theng Chew, Quoc Phong Nguyen, Bryan Kian Hsiang Low,
- Abstract要約: 双レベル最適化は、2レベル構造を特徴とし、上層問題は最適下層解によって制約される。
我々は,ブラックボックス関数の一般二段階問題に対する新しいアルゴリズムであるBILevel Bayesian Optimization (BILBO)を提案する。
- 参考スコア(独自算出の注目度): 36.88993287853141
- License:
- Abstract: Bilevel optimization is characterized by a two-level optimization structure, where the upper-level problem is constrained by optimal lower-level solutions, and such structures are prevalent in real-world problems. The constraint by optimal lower-level solutions poses significant challenges, especially in noisy, constrained, and derivative-free settings, as repeating lower-level optimizations is sample inefficient and predicted lower-level solutions may be suboptimal. We present BILevel Bayesian Optimization (BILBO), a novel Bayesian optimization algorithm for general bilevel problems with blackbox functions, which optimizes both upper- and lower-level problems simultaneously, without the repeated lower-level optimization required by existing methods. BILBO samples from confidence-bounds based trusted sets, which bounds the suboptimality on the lower level. Moreover, BILBO selects only one function query per iteration, where the function query selection strategy incorporates the uncertainty of estimated lower-level solutions and includes a conditional reassignment of the query to encourage exploration of the lower-level objective. The performance of BILBO is theoretically guaranteed with a sublinear regret bound for commonly used kernels and is empirically evaluated on several synthetic and real-world problems.
- Abstract(参考訳): 双レベル最適化は、2段階の最適化構造を特徴とし、上層問題は最適下層解によって制約される。
最適低レベル解による制約は、特に雑音、制約、微分自由な設定において重要な課題を生じさせる。
本稿では,BILBO(BILevel Bayesian Optimization, BILevel Bayesian Optimization, BIILBO)を提案する。
BILBOは信頼度に基づく信頼された集合からサンプルを採取し、これは下位レベルにおける準最適性に拘束する。
さらに、BILBOはイテレーション毎に1つの関数クエリのみを選択し、そこでは関数クエリ選択戦略が推定される下位レベルのソリューションの不確実性を取り入れ、下位レベルの目的の探索を促進するためにクエリの条件付き再割り当てを含む。
BILBOの性能は理論上は、よく使われるカーネルのサブ線形後悔で保証されており、いくつかの合成および実世界の問題に対して経験的に評価されている。
関連論文リスト
- Bayesian Optimization of Bilevel Problems [0.0]
本稿では,上層機能と下層機能の両方がブラックボックスであり,評価に費用がかかる二段階最適化に焦点を当てる。
本稿では,上層および下層関数をガウス過程として,上層および下層決定の組合せ空間上でモデル化するベイズ最適化フレームワークを提案する。
実験の結果,提案アルゴリズムはサンプリング効率が高く,高品質な解を求める既存手法よりも優れていることがわかった。
論文 参考訳(メタデータ) (2024-12-24T15:55:30Z) - Provably Faster Algorithms for Bilevel Optimization via Without-Replacement Sampling [96.47086913559289]
勾配に基づくアルゴリズムはバイレベル最適化に広く用いられている。
本研究では,より高速な収束率を実現する非置換サンプリングに基づくアルゴリズムを提案する。
合成および実世界の両方のアプリケーションに対してアルゴリズムを検証する。
論文 参考訳(メタデータ) (2024-11-07T17:05:31Z) - Pareto Set Prediction Assisted Bilevel Multi-objective Optimization [2.3293561091456283]
両レベルにおいて複数目的(BLMOP)の問題に対処する。
提案されたアプローチは、欺くことと非欺くことの両方を含む、さまざまな問題で競合する。
論文 参考訳(メタデータ) (2024-09-05T08:04:11Z) - A Primal-Dual-Assisted Penalty Approach to Bilevel Optimization with Coupled Constraints [66.61399765513383]
We developed a BLOCC algorithm to tackle BiLevel Optimization problems with Coupled Constraints。
2つのよく知られた実世界のアプリケーションでその効果を実証する。
論文 参考訳(メタデータ) (2024-06-14T15:59:36Z) - Contextual Stochastic Bilevel Optimization [50.36775806399861]
文脈情報と上層変数の期待を最小化する2レベル最適化フレームワークCSBOを導入する。
メタラーニング、パーソナライズドラーニング、エンド・ツー・エンドラーニング、Wassersteinはサイド情報(WDRO-SI)を分散的に最適化している。
論文 参考訳(メタデータ) (2023-10-27T23:24:37Z) - Non-Convex Bilevel Optimization with Time-Varying Objective Functions [57.299128109226025]
本稿では,時間変化の可能なオンライン二段階最適化を提案し,エージェントがオンラインデータを用いて決定を継続的に更新する。
既存のアルゴリズムと比較して、SOBOWは計算効率が良く、以前の関数を知る必要がない。
軽度条件下では,SOBOWはサブリニアな局所的後悔を達成できることを示す。
論文 参考訳(メタデータ) (2023-08-07T06:27:57Z) - A Constrained Optimization Approach to Bilevel Optimization with
Multiple Inner Minima [49.320758794766185]
そこで本研究では,両レベル問題を等価な制約付き最適化に変換する手法を提案する。
このようなアプローチには、(a)多重内極小問題への対処、(b)ジャコビアン計算のない完全一階効率など、いくつかの利点がある。
論文 参考訳(メタデータ) (2022-03-01T18:20:01Z) - Enhanced Bilevel Optimization via Bregman Distance [104.96004056928474]
本稿では,Bregman Bregman関数に基づく二段階最適化手法を提案する。
また,分散還元法によるSBiO-BreD法(ASBiO-BreD)の高速化版も提案する。
論文 参考訳(メタデータ) (2021-07-26T16:18:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。