論文の概要: Using Distance Correlation for Efficient Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2102.08993v1
- Date: Wed, 17 Feb 2021 19:37:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-19 14:31:19.391543
- Title: Using Distance Correlation for Efficient Bayesian Optimization
- Title(参考訳): 距離相関を用いたベイズ最適化
- Authors: Takuya Kanazawa
- Abstract要約: 本論文では,$textsfGP-DC$というベイズ最適化手法を提案する。
探索と搾取を自動的にバランスさせ、手動のパラメータチューニングを必要としない。
ベンチマーク関数で$textsfgp-dc$を評価し、最先端メソッドよりも優れています。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a novel approach for Bayesian optimization, called
$\textsf{GP-DC}$, which combines Gaussian processes with distance correlation.
It balances exploration and exploitation automatically, and requires no manual
parameter tuning. We evaluate $\textsf{GP-DC}$ on a number of benchmark
functions and observe that it outperforms state-of-the-art methods such as
$\textsf{GP-UCB}$ and max-value entropy search, as well as the classical
expected improvement heuristic. We also apply $\textsf{GP-DC}$ to optimize
sequential integral observations with a variable integration range and verify
its empirical efficiency on both synthetic and real-world datasets.
- Abstract(参考訳): 本稿では,ガウス過程と距離相関を組み合わせたベイズ最適化($\textsf{GP-DC}$)を提案する。
探索と搾取を自動的にバランスさせ、手動のパラメータチューニングを必要としない。
複数のベンチマーク関数で$\textsf{GP-DC}$を評価し、$\textsf{GP-UCB}$やmax-valueエントロピー探索のような最先端のメソッドよりも優れていることを観察します。
また、$\textsf{GP-DC}$を適用し、逐次積分観測を可変積分範囲で最適化し、合成と実世界の両方のデータセットに対する経験的効率を検証する。
関連論文リスト
- A Specialized Semismooth Newton Method for Kernel-Based Optimal
Transport [92.96250725599958]
カーネルベース最適輸送(OT)推定器は、サンプルからOT問題に対処するための代替的機能的推定手順を提供する。
SSN法は, 標準正規性条件下でのグローバル収束率$O (1/sqrtk)$, 局所二次収束率を達成できることを示す。
論文 参考訳(メタデータ) (2023-10-21T18:48:45Z) - Ensemble-based gradient inference for particle methods in optimization
and sampling [2.9005223064604078]
本稿では,関数評価とベイズ推定に基づく高次微分情報抽出手法を提案する。
我々は,この情報を用いて,アンサンブルに基づく数値法の改良を行い,最適化とサンプリングを行うことを提案する。
論文 参考訳(メタデータ) (2022-09-23T09:21:35Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - DoCoM: Compressed Decentralized Optimization with Near-Optimal Sample
Complexity [25.775517797956237]
本稿では,Douubly Compressed Momentum-assisted tracking algorithm $ttDoCoM$ for communicationを提案する。
我々のアルゴリズムは、実際にいくつかの最先端のアルゴリズムより優れていることを示す。
論文 参考訳(メタデータ) (2022-02-01T07:27:34Z) - Momentum Accelerates the Convergence of Stochastic AUPRC Maximization [80.8226518642952]
高精度リコール曲線(AUPRC)に基づく領域の最適化について検討し,不均衡なタスクに広く利用されている。
我々は、$O (1/epsilon4)$のより優れた反復による、$epsilon$定常解を見つけるための新しい運動量法を開発する。
また,O(1/epsilon4)$と同じ複雑さを持つ適応手法の新たなファミリを設計し,実際により高速な収束を享受する。
論文 参考訳(メタデータ) (2021-07-02T16:21:52Z) - Bayesian Optimistic Optimisation with Exponentially Decaying Regret [58.02542541410322]
現在の実用的なBOアルゴリズムは、$mathcalO(fraclogNsqrtN)$から$mathcalO(e-sqrtN)$まで、$N$は評価の数である。
本稿では,boと木に基づく楽観的楽観化の概念を絡み合うことにより,無音環境における後悔を改善できる可能性について検討する。
次数$mathcal O(N-sqrt)で指数的再帰を達成できる最初の実践的手法であるBOOアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-05-10T13:07:44Z) - Stochastic Optimization of Areas Under Precision-Recall Curves with
Provable Convergence [66.83161885378192]
ROC(AUROC)と精度リコール曲線(AUPRC)の下の領域は、不均衡問題に対する分類性能を評価するための一般的な指標である。
本稿では,深層学習のためのAUPRCの最適化手法を提案する。
論文 参考訳(メタデータ) (2021-04-18T06:22:21Z) - Efficient Bayesian Optimization using Multiscale Graph Correlation [0.0]
GP-MGCというベイズ最適化手法を提案する。
本稿では, GP-MGC の評価を, ベンチマーク関数と実世界のデータセットの両方の応用に適用する。
論文 参考訳(メタデータ) (2021-03-17T04:35:09Z) - Optimistic search strategy: Change point detection for large-scale data
via adaptive logarithmic queries [1.3212010735248336]
変更点検出は、データセグメント化時の適合性の改善を記述したゲイン関数の最大値の探索として、しばしば定式化される。
我々は、ゲイン関数の特定の構造を利用した楽観的な探索戦略を$O(log T)$で提案する。
論文 参考訳(メタデータ) (2020-10-20T11:09:52Z) - Global Optimization of Gaussian processes [52.77024349608834]
少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。
このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。
提案手法の順序の順序による時間収束を,総じて低減する。
論文 参考訳(メタデータ) (2020-05-21T20:59:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。