論文の概要: A New Knowledge Gradient-based Method for Constrained Bayesian
Optimization
- arxiv url: http://arxiv.org/abs/2101.08743v1
- Date: Wed, 20 Jan 2021 05:00:38 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-22 01:37:11.208503
- Title: A New Knowledge Gradient-based Method for Constrained Bayesian
Optimization
- Title(参考訳): 制約ベイズ最適化のための知識勾配に基づく新しい手法
- Authors: Wenjie Chen, Shengcai Liu, and Ke Tang
- Abstract要約: ブラックボックス問題は、構造設計、薬物実験、機械学習などの実生活で一般的です。
目的と制約が既知の特別な構造を欠いている制約付きブラックボックス問題に焦点をあてる。
我々は知識勾配法に基づく新しい制約付きベイズ最適化手法を開発した。
- 参考スコア(独自算出の注目度): 27.04355972951593
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Black-box problems are common in real life like structural design, drug
experiments, and machine learning. When optimizing black-box systems,
decision-makers always consider multiple performances and give the final
decision by comprehensive evaluations. Motivated by such practical needs, we
focus on constrained black-box problems where the objective and constraints
lack known special structure, and evaluations are expensive and even with
noise. We develop a novel constrained Bayesian optimization approach based on
the knowledge gradient method ($c-\rm{KG}$). A new acquisition function is
proposed to determine the next batch of samples considering optimality and
feasibility. An unbiased estimator of the gradient of the new acquisition
function is derived to implement the $c-\rm{KG}$ approach.
- Abstract(参考訳): ブラックボックス問題は、構造設計、薬物実験、機械学習のような実生活で一般的である。
ブラックボックスシステムを最適化する場合、意思決定者は常に複数のパフォーマンスを検討し、包括的な評価によって最終決定を行う。
このような実用的なニーズに動機づけられ、目的と制約が既知の特別な構造を欠いている制約付きブラックボックス問題に焦点をあて、評価は高価であり、ノイズもある。
我々は知識勾配法(c-\rm{kg}$)に基づく新しい制約ベイズ最適化手法を開発した。
最適性と実現可能性を考慮したサンプルの次のバッチを決定するために,新たな取得関数を提案する。
新しい取得関数の勾配のバイアスのない推定器は、$c-\rm{KG}$アプローチを実装するために導かれる。
関連論文リスト
- Learning Joint Models of Prediction and Optimization [56.04498536842065]
Predict-Then-Thenフレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。
本稿では,共同予測モデルを用いて観測可能特徴から最適解を直接学習する手法を提案する。
論文 参考訳(メタデータ) (2024-09-07T19:52:14Z) - Contextual Stochastic Bilevel Optimization [50.36775806399861]
文脈情報と上層変数の期待を最小化する2レベル最適化フレームワークCSBOを導入する。
メタラーニング、パーソナライズドラーニング、エンド・ツー・エンドラーニング、Wassersteinはサイド情報(WDRO-SI)を分散的に最適化している。
論文 参考訳(メタデータ) (2023-10-27T23:24:37Z) - Optimizing Solution-Samplers for Combinatorial Problems: The Landscape
of Policy-Gradient Methods [52.0617030129699]
本稿では,DeepMatching NetworksとReinforcement Learningメソッドの有効性を解析するための新しい理論フレームワークを提案する。
我々の主な貢献は、Max- and Min-Cut、Max-$k$-Bipartite-Bi、Maximum-Weight-Bipartite-Bi、Traveing Salesman Problemを含む幅広い問題である。
本分析の副産物として,バニラ降下による新たな正則化プロセスを導入し,失効する段階的な問題に対処し,悪い静止点から逃れる上で有効であることを示す理論的および実験的証拠を提供する。
論文 参考訳(メタデータ) (2023-10-08T23:39:38Z) - Robust expected improvement for Bayesian optimization [1.8130068086063336]
本稿では,BO/GPフレームワークに敵対的手法を組み込む,堅牢な予測改善(REI)と呼ばれる代理モデルとアクティブラーニング手法を提案する。
ベンチマーク・シンセティック・エクササイズと、様々な複雑さの実際の問題について、いくつかの競合相手と比較し、比較する。
論文 参考訳(メタデータ) (2023-02-16T22:34:28Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Multi-Step Budgeted Bayesian Optimization with Unknown Evaluation Costs [28.254408148839644]
不均一な評価コストの設定に古典的な期待改善を一般化する非筋力的獲得関数を提案する。
我々の獲得関数は、様々な合成問題や実問題において、既存の手法よりも優れています。
論文 参考訳(メタデータ) (2021-11-12T02:18:26Z) - Bayesian Optimisation for Constrained Problems [0.0]
本稿では,制約を扱える知恵グラディエント獲得関数の新たな変種を提案する。
我々は、このアルゴリズムを、他の4つの最先端制約されたベイズ最適化アルゴリズムと比較し、その優れた性能を実証する。
論文 参考訳(メタデータ) (2021-05-27T15:43:09Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳(メタデータ) (2020-12-21T17:29:58Z) - Upper Trust Bound Feasibility Criterion for Mixed Constrained Bayesian
Optimization with Application to Aircraft Design [41.74498230885008]
我々は、より正確に混合された制約問題を解決するために、いわゆる超効率的なグローバル最適化アルゴリズムを適用する。
本研究は, 数値実験におけるアプローチの可能性を示すものである。
論文 参考訳(メタデータ) (2020-05-11T12:59:09Z) - Time-varying Gaussian Process Bandit Optimization with Non-constant
Evaluation Time [93.6788993843846]
非定常評価時間を効果的に処理できる新しい時間変化ベイズ最適化アルゴリズムを提案する。
我々の限界は、評価時間列のパターンが問題の難易度に大きな影響を与えることを決定づける。
論文 参考訳(メタデータ) (2020-03-10T13:28:33Z) - Scalable Constrained Bayesian Optimization [10.820024633762596]
ブラックボックス制約下での高次元ブラックボックス関数のグローバルな最適化は、機械学習、制御、科学コミュニティにおける普及的なタスクである。
本稿では,上記の課題を克服し,現状を推し進めるスケーラブルな制約付きベイズ最適化(SCBO)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-02-20T01:48:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。