論文の概要: Taking the GP Out of the Loop

• arxiv url: http://arxiv.org/abs/2506.12818v1
• Date: Sun, 15 Jun 2025 11:37:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-17 17:28:46.906806
• Title: Taking the GP Out of the Loop
• Title（参考訳）: GPをループから外す
• Authors: David Sweet, Siddhant anand Jadhav,
• Abstract要約: 近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近 我々はTuRBO-ENNがTuRBOと比較して1～2桁の精度で提案を行う時間を短縮できることを数値的に示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bayesian optimization (BO) has traditionally solved black box problems where evaluation is expensive and, therefore, design-evaluation pairs (i.e., observations) are few. Recently, there has been growing interest in applying BO to problems where evaluation is cheaper and, thus, observations are more plentiful. An impediment to scaling BO to many observations, $N$, is the $O(N^3)$ scaling of a na{\"i}ve query of the Gaussian process (GP) surrogate. Modern implementations reduce this to $O(N^2)$, but the GP remains a bottleneck. We propose Epistemic Nearest Neighbors (ENN), a surrogate that estimates function values and epistemic uncertainty from $K$ nearest-neighbor observations. ENN has $O(N)$ query time and omits hyperparameter fitting, leaving uncertainty uncalibrated. To accommodate the lack of calibration, we employ an acquisition method based on Pareto-optimal tradeoffs between predicted value and uncertainty. Our proposed method, TuRBO-ENN, replaces the GP surrogate in TuRBO with ENN and its Thompson sampling acquisition method with our Pareto-based alternative. We demonstrate numerically that TuRBO-ENN can reduce the time to generate proposals by one to two orders of magnitude compared to TuRBO and scales to thousands of observations.
• Abstract（参考訳）: ベイズ最適化(BO)は伝統的に評価が高価であるブラックボックス問題を解き、設計と評価のペア(つまり観測)は少ない。 近年,評価が安価である問題にBOを適用することへの関心が高まっている。 BOを多くの観測値にスケーリングする障害である$N$は、ガウス過程(GP)サロゲートのna{\"i}veクエリの$O(N^3)$スケーリングである。 現代の実装では$O(N^2)$に還元されるが、GPはボトルネックのままである。 本研究は, 近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近近 ENNは$O(N)$クエリ時間を持ち、ハイパーパラメータの適合を省略する。 キャリブレーションの欠如に対応するため,予測値と不確実性との間のパレート最適トレードオフに基づく取得手法を用いる。 提案手法であるTuRBO-ENNは,TuRBOのGPサロゲートを ENN に置き換え,Thompson のサンプリング手法をPareto ベースの代替手法に置き換える。 本研究では,TuRBO-ENNがTuRBOと比較して1～2桁の精度で提案を作成できることを示す。

関連論文リスト

• Bayesian Optimization of Robustness Measures Using Randomized GP-UCB-based Algorithms under Input Uncertainty [3.8979646385036175]
  ランダム化ロバストネス尺度GP-UCB(RRGP-UCB)と呼ばれる新しい手法を提案する。 RRGP-UCBは、カイ二乗分布に基づいて確率分布からトレードオフパラメータ$beta$をサンプリングし、明示的に$beta$を指定することを避ける。 RRGP-UCBは、最適解と推定解に基づいて、後悔の期待値に厳密な制約を与えることを示す。
  論文  参考訳（メタデータ） (2025-04-04T05:01:54Z)
• Optimal Recovery Meets Minimax Estimation [20.84190812813031]
  目標は、所定のノルムで$hat f$から$f$に近似する数値アルゴリズムを設計することである。 本稿では,この問題に対処し,誤差が$L_q$-normで測定された場合,Besovクラスに対するノイズレベル認識(NLA)の最小値を決定する。
  論文  参考訳（メタデータ） (2025-02-24T21:37:54Z)
• Gaussian credible intervals in Bayesian nonparametric estimation of the unseen [7.54430260415628]
  未確認種問題は、異なる種に属する個体の集団から、おそらく無限のサンプルを、ngeq1$と仮定する。 我々は,任意の$ngeq1$に対して,K_n,m$に対して大きな$m$信頼区間を導出する新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-01-27T12:48:05Z)
• Efficient Learning of POMDPs with Known Observation Model in Average-Reward Setting [56.92178753201331]
  我々は,POMDPパラメータを信念に基づくポリシを用いて収集したサンプルから学習することのできる観測・認識スペクトル(OAS)推定手法を提案する。 提案するOAS-UCRLアルゴリズムに対して,OASプロシージャの整合性を示し,$mathcalO(sqrtT log(T)$の残差保証を証明した。
  論文  参考訳（メタデータ） (2024-10-02T08:46:34Z)
• Kernelized Normalizing Constant Estimation: Bridging Bayesian Quadrature and Bayesian Optimization [51.533164528799084]
  小さい相対誤差内で正規化定数を推定するために、難易度は$lambda$の値に依存する。 関数評価がノイズである場合でも,このパターンは真であることがわかった。
  論文  参考訳（メタデータ） (2024-01-11T07:45:09Z)
• A Specialized Semismooth Newton Method for Kernel-Based Optimal Transport [92.96250725599958]
  カーネルベース最適輸送(OT)推定器は、サンプルからOT問題に対処するための代替的機能的推定手順を提供する。 SSN法は, 標準正規性条件下でのグローバル収束率$O (1/sqrtk)$, 局所二次収束率を達成できることを示す。
  論文  参考訳（メタデータ） (2023-10-21T18:48:45Z)
• Sample-Then-Optimize Batch Neural Thompson Sampling [50.800944138278474]
  我々はトンプソンサンプリング(TS)ポリシーに基づくブラックボックス最適化のための2つのアルゴリズムを提案する。 入力クエリを選択するには、NNをトレーニングし、トレーニングされたNNを最大化してクエリを選択するだけです。 我々のアルゴリズムは、大きなパラメータ行列を逆転する必要性を助長するが、TSポリシーの妥当性は保たれている。
  論文  参考訳（メタデータ） (2022-10-13T09:01:58Z)
• Input Dependent Sparse Gaussian Processes [1.1470070927586014]
  我々は、観測データを入力として受信し、誘導点の位置とパラメータを$q$で出力するニューラルネットワークを使用する。 提案手法をいくつかの実験で評価し,他の最先端のスパース変分GP手法とよく似た性能を示すことを示した。
  論文  参考訳（メタデータ） (2021-07-15T12:19:10Z)
• Uncertainty quantification using martingales for misspecified Gaussian processes [52.22233158357913]
  本稿では,ガウス過程(GP)の不確定な定量化を,不特定先行条件下で解決する。 マルティンゲール法を用いて未知関数に対する信頼シーケンス(CS)を構築する。 我々のCSは統計的に有効であり、実証的に標準GP法より優れています。
  論文  参考訳（メタデータ） (2020-06-12T17:58:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。