論文の概要: Bayesian Optimization of Expensive Nested Grey-Box Functions

• arxiv url: http://arxiv.org/abs/2306.05150v2
• Date: Wed, 2 Aug 2023 12:12:56 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-03 17:22:27.880720
• Title: Bayesian Optimization of Expensive Nested Grey-Box Functions
• Title（参考訳）: 重み付きグレイボックス関数のベイズ最適化
• Authors: Wenjie Xu, Yuning Jiang, Bratislav Svetozarevic, Colin N. Jones
• Abstract要約: ブラックボックス関数とホワイトボックス関数の両方からなるグレーボックス目的関数を最適化する問題を考察する。 このようなグレーボックス問題に対する一般的な定式化が与えられ、これは既存のグレーボックス最適化の定式化を特別な場合としてカバーしている。 次に、最適化駆動型アルゴリズムを設計して解決する。
• 参考スコア（独自算出の注目度）: 11.523746174066702
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We consider the problem of optimizing a grey-box objective function, i.e., nested function composed of both black-box and white-box functions. A general formulation for such grey-box problems is given, which covers the existing grey-box optimization formulations as special cases. We then design an optimism-driven algorithm to solve it. Under certain regularity assumptions, our algorithm achieves similar regret bound as that for the standard black-box Bayesian optimization algorithm, up to a constant multiplicative term depending on the Lipschitz constants of the functions considered. We further extend our method to the constrained case and discuss special cases. For the commonly used kernel functions, the regret bounds allow us to derive a convergence rate to the optimal solution. Experimental results show that our grey-box optimization method empirically improves the speed of finding the global optimal solution significantly, as compared to the standard black-box optimization algorithm.
• Abstract（参考訳）: ブラックボックス関数とホワイトボックス関数の両方からなるネスト関数であるグレーボックス目的関数を最適化する問題を考察する。 このようなグレイボックス問題の一般的な定式化は、既存のグレイボックス最適化定式化を特別な場合としてカバーする。 次に、最適化駆動型アルゴリズムを設計して解決する。 ある正規性仮定の下では、本アルゴリズムは、考慮された関数のリプシッツ定数に依存する定数乗算項まで、標準的なブラックボックスベイズ最適化アルゴリズムに対して同様の後悔の結束を達成する。 さらに,本手法を制約付きケースに拡張し,特別なケースについて議論する。 一般的に使われるカーネル関数に対して、後悔境界は最適な解への収束率を導出することができる。 実験の結果, グレーボックス最適化手法は, 通常のブラックボックス最適化アルゴリズムと比較して, グローバル最適解の探索速度を大幅に向上させることがわかった。

関連論文リスト

• Sharpness-Aware Black-Box Optimization [47.95184866255126]
  シャープネスを考慮したブラックボックス最適化(SABO)アルゴリズムを提案する。 実験により, モデル一般化性能向上のためのSABO法の有効性が実証された。
  論文  参考訳（メタデータ） (2024-10-16T11:08:06Z)
• Principled Preferential Bayesian Optimization [22.269732173306192]
  優先ベイズ最適化(BO)の問題について検討する。 一対の候補解よりも優先的なフィードバックしか持たないブラックボックス関数を最適化することを目指している。 この問題を解決するために,効率的な計算手法を用いた楽観的アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2024-02-08T02:57:47Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
  統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
  論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• A unified surrogate-based scheme for black-box and preference-based optimization [2.561649173827544]
  ブラックボックスと嗜好に基づく最適化問題は密接に関連しており、同じアプローチのファミリを用いて解決可能であることを示す。 一般的なMSRSフレームワークを一般化した最適化手法である一般化されたメトリック応答面(gMRS)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-02-03T08:47:54Z)
• Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box Optimization Framework [100.36569795440889]
  この作業は、一階情報を必要としない零次最適化(ZO)の反復である。 座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
  論文  参考訳（メタデータ） (2020-12-21T17:29:58Z)
• Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search Spaces [63.22864716473051]
  本稿では,反復により探索空間を拡大(およびシフト)する新しいBOアルゴリズムを提案する。 理論的には、どちらのアルゴリズムにおいても、累積的後悔は線形以下の速度で増大する。
  論文  参考訳（メタデータ） (2020-09-05T14:24:40Z)
• Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
  モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。 我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
  論文  参考訳（メタデータ） (2020-06-11T17:43:19Z)
• Incorporating Expert Prior in Bayesian Optimisation via Space Warping [54.412024556499254]
  大きな探索空間では、アルゴリズムは関数の最適値に達する前に、いくつかの低関数値領域を通過する。 このコールドスタートフェーズの1つのアプローチは、最適化を加速できる事前知識を使用することである。 本稿では,関数の事前分布を通じて,関数の最適性に関する事前知識を示す。 先行分布は、探索空間を最適関数の高確率領域の周りに拡張し、最適関数の低確率領域の周りに縮小するようにワープする。
  論文  参考訳（メタデータ） (2020-03-27T06:18:49Z)
• DEFT-FUNNEL: an open-source global optimization solver for constrained grey-box and black-box problems [0.0]
  DEFT-FUNNELは、一般的な制約付きグレーボックス問題とブラックボックス問題に対する、オープンソースのグローバル最適化アルゴリズムである。 実験に使用するテストセットのコードもGithubリポジトリから入手可能だ。
  論文  参考訳（メタデータ） (2019-12-29T11:43:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。