論文の概要: Bayesian Optimization with Missing Inputs
- arxiv url: http://arxiv.org/abs/2006.10948v1
- Date: Fri, 19 Jun 2020 03:56:27 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-19 03:49:19.137511
- Title: Bayesian Optimization with Missing Inputs
- Title(参考訳): 入力を欠くベイズ最適化
- Authors: Phuc Luong, Dang Nguyen, Sunil Gupta, Santu Rana, and Svetha Venkatesh
- Abstract要約: 我々は、よく知られたアッパー信頼境界(UCB)獲得関数に基づく新たな獲得関数を開発する。
我々は,本手法の有用性を示すために,合成アプリケーションと実世界のアプリケーションの両方について包括的な実験を行った。
- 参考スコア(独自算出の注目度): 53.476096769837724
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization (BO) is an efficient method for optimizing expensive
black-box functions. In real-world applications, BO often faces a major problem
of missing values in inputs. The missing inputs can happen in two cases. First,
the historical data for training BO often contain missing values. Second, when
performing the function evaluation (e.g. computing alloy strength in a heat
treatment process), errors may occur (e.g. a thermostat stops working) leading
to an erroneous situation where the function is computed at a random unknown
value instead of the suggested value. To deal with this problem, a common
approach just simply skips data points where missing values happen. Clearly,
this naive method cannot utilize data efficiently and often leads to poor
performance. In this paper, we propose a novel BO method to handle missing
inputs. We first find a probability distribution of each missing value so that
we can impute the missing value by drawing a sample from its distribution. We
then develop a new acquisition function based on the well-known Upper
Confidence Bound (UCB) acquisition function, which considers the uncertainty of
imputed values when suggesting the next point for function evaluation. We
conduct comprehensive experiments on both synthetic and real-world applications
to show the usefulness of our method.
- Abstract(参考訳): ベイズ最適化(BO)は高価なブラックボックス関数を最適化する効率的な方法である。
現実世界のアプリケーションでは、BOはしばしば入力値の欠落という大きな問題に直面します。
入力の欠如は2つのケースで起こり得る。
まず、BOをトレーニングするための歴史的データは、しばしば欠落した値を含む。
第2に、機能評価(例えば熱処理プロセスにおける合金強度の計算など)を行う場合、エラーが発生する(例えば、サーモスタットが動作を停止する)と、関数が提案された値ではなくランダム未知の値で計算される誤った状況となる。
この問題に対処するために、共通のアプローチは、値が欠けているデータポイントを単にスキップするだけです。
明らかに、このナイーブな方法は効率的にデータを活用できず、しばしばパフォーマンスが低下する。
本稿では,欠落した入力を処理する新しいBO法を提案する。
まず、各欠落値の確率分布を見つけ、その分布からサンプルを引き出すことで欠落値を引き起こせるようにする。
次に,関数評価の次点を提案する際の不確実性を考慮した,よく知られたuper confidence bound (ucb) 獲得関数に基づく新たな獲得関数を開発する。
本手法の有用性を示すために,合成と実世界の両方の応用について総合的な実験を行う。
関連論文リスト
- Online non-parametric likelihood-ratio estimation by Pearson-divergence
functional minimization [55.98760097296213]
iid 観測のペア $(x_t sim p, x'_t sim q)$ が時間の経過とともに観測されるような,オンラインな非パラメトリック LRE (OLRE) のための新しいフレームワークを提案する。
本稿では,OLRE法の性能に関する理論的保証と,合成実験における実証的検証について述べる。
論文 参考訳(メタデータ) (2023-11-03T13:20:11Z) - Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。
カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。
我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-10-09T03:55:09Z) - Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T03:35:45Z) - Bayesian Optimization under Stochastic Delayed Feedback [36.16843889404038]
既存のBOメソッドは、関数評価(フィードバック)が学習者の即時または固定遅延後に利用可能であると仮定する。
本稿では,遅延フィードバックを待ちながら新しい関数クエリを選択するジレンマに効率よく対処する,線形後悔保証付きアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-06-19T07:34:08Z) - A Huber loss-based super learner with applications to healthcare
expenditures [0.0]
本稿では,2乗誤差損失と絶対損失とを結合した「ロバスト」損失関数であるHuber損失に基づく超学習者を提案する。
提案手法は,ハマーリスクの最適化だけでなく,有限サンプル設定でも直接利用できることを示す。
論文 参考訳(メタデータ) (2022-05-13T19:57:50Z) - Signal to Noise Ratio Loss Function [0.0]
本研究は,分類問題を対象とした新たな損失関数を提案する。
与えられた間隔で確率変数の確率に対して、最も厳密な上界と下界を導出する。
パラメトリック分類問題に対する真の正の確率に対して下界が提案される。
論文 参考訳(メタデータ) (2021-10-23T18:44:32Z) - Efficient Exploration in Binary and Preferential Bayesian Optimization [0.5076419064097732]
BOアルゴリズムは,異なるタイプの不確かさを区別することが重要であることを示す。
本稿では,最先端のBO関数より優れた新たな獲得関数を提案する。
論文 参考訳(メタデータ) (2021-10-18T14:44:34Z) - Scalable Personalised Item Ranking through Parametric Density Estimation [53.44830012414444]
暗黙のフィードバックから学ぶことは、一流問題の難しい性質のために困難です。
ほとんどの従来の方法は、一級問題に対処するためにペアワイズランキングアプローチとネガティブサンプラーを使用します。
本論文では,ポイントワイズと同等の収束速度を実現する学習対ランクアプローチを提案する。
論文 参考訳(メタデータ) (2021-05-11T03:38:16Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Piecewise Linear Regression via a Difference of Convex Functions [50.89452535187813]
本稿では,データに対する凸関数(DC関数)の差を利用した線形回帰手法を提案する。
実際に実装可能であることを示すとともに,実世界のデータセット上で既存の回帰/分類手法に匹敵する性能を有することを実証的に検証した。
論文 参考訳(メタデータ) (2020-07-05T18:58:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。