論文の概要: Adaptive Candidate Point Thompson Sampling for High-Dimensional Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2604.08891v1
- Date: Fri, 10 Apr 2026 02:54:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-13 17:57:53.653153
- Title: Adaptive Candidate Point Thompson Sampling for High-Dimensional Bayesian Optimization
- Title(参考訳): 高次元ベイズ最適化のための適応的候補点トンプソンサンプリング
- Authors: Donney Fan, Geoff Pleiss,
- Abstract要約: 適応候補トンプソンサンプリング(ACTS)について紹介する。
ACTSは、代理モデルサンプルの勾配によって導かれる部分空間の候補点を生成する。
より優れた最大値のサンプルを生成し、合成および実世界のベンチマーク間で最適化を改善する。
- 参考スコア(独自算出の注目度): 10.764160559530845
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In Bayesian optimization, Thompson sampling selects the evaluation point by sampling from the posterior distribution over the objective function maximizer. Because this sampling problem is intractable for Gaussian process (GP) surrogates, the posterior distribution is typically restricted to fixed discretizations (i.e., candidate points) that become exponentially sparse as dimensionality increases. While previous works aim to increase candidate point density through scalable GP approximations, our orthogonal approach increases density by adaptively reducing the search space during sampling. Specifically, we introduce Adaptive Candidate Thompson Sampling (ACTS), which generates candidate points in subspaces guided by the gradient of a surrogate model sample. ACTS is a simple drop-in replacement for existing TS methods -- including those that use trust regions or other local approximations -- producing better samples of maxima and improved optimization across synthetic and real-world benchmarks.
- Abstract(参考訳): ベイズ最適化において、トンプソンサンプリングは、目的関数最大化器上の後部分布からサンプリングすることで評価点を選択する。
このサンプリング問題はガウス過程(GP)のサロゲートにとって難解であるため、後続の分布は通常、次元が増加するにつれて指数的にスパースになる固定された離散化(すなわち、候補点)に制限される。
従来の研究は、スケーラブルなGP近似によって候補点密度を増大させることを目的としていたが、我々の直交アプローチはサンプリング中の探索空間を適応的に減少させることで密度を増大させる。
具体的には、サロゲートモデルサンプルの勾配によって導かれる部分空間の候補点を生成する適応候補トンプソンサンプリング(ACTS)を導入する。
ACTSは、信頼領域やその他のローカル近似を使用するものを含む、既存のTSメソッドの単純なドロップイン代替であり、最大値のより良いサンプルを生成し、合成および実世界のベンチマーク間で最適化を改善している。
関連論文リスト
- Local Entropy Search over Descent Sequences for Bayesian Optimization [48.7994415668802]
実用的な方法は、勾配降下のような局所最適化手法を用いて初期設計の近傍を反復的に洗練することである。
降下列で到達可能な解を明示的に対象とするベイズ最適化パラダイムである局所エントロピー探索(LES)を提案する。
論文 参考訳(メタデータ) (2025-11-24T15:52:17Z) - Thompson Sampling via Fine-Tuning of LLMs [68.1722422968855]
我々は,スケーラブルな大規模獲得関数を必要としないトンプソンサンプリングに基づく代替案を提案する。
我々のアプローチであるThompson Smpling via Finening (ToSFiT) は、プロンプト条件付き言語モデルに埋め込まれた事前知識を活用し、後方に向けて漸進的に適応する。
分析の結果,ToSFiTアルゴリズムの基盤となる極大性原理の後続確率への注意的適応が重要であることが明らかとなった。
論文 参考訳(メタデータ) (2025-10-15T09:13:59Z) - Gaussian Process Thompson Sampling via Rootfinding [2.94944680995069]
トンプソンサンプリング(Thompson sample, TS)は、ベイズ決定における単純かつ効果的な政策である。
連続最適化では、目的関数の後方はしばしばガウス過程(GP)であり、サンプルパスは多数の局所最適値を持つ。
本稿では,勾配に基づくマルチスタートの開始点を慎重に選択するGP-TSの効率的なグローバル最適化手法を提案する。
論文 参考訳(メタデータ) (2024-10-10T16:06:45Z) - Bayesian Frequency Estimation Under Local Differential Privacy With an Adaptive Randomized Response Mechanism [0.4604003661048266]
本稿では,局所的な差分プライバシーの下でのカテゴリー分布の適応的オンラインベイズ推定アルゴリズムAdOBEst-LDPを提案する。
ベイズ推定によって過去の民営化データにサブセット選択プロセスを適用することにより、アルゴリズムは将来の民営化データの有用性を向上させる。
論文 参考訳(メタデータ) (2024-05-11T13:59:52Z) - Proximal Oracles for Optimization and Sampling [18.77973093341588]
非滑らかな目的関数による凸最適化と非滑らかなポテンシャルによる対数凹型サンプリングについて検討する。
非滑らか性による課題を克服するため、アルゴリズムは最適化とサンプリングに2つの強力な近位フレームワークを用いる。
論文 参考訳(メタデータ) (2024-04-02T18:52:28Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳(メタデータ) (2022-09-27T07:58:25Z) - Variational Refinement for Importance Sampling Using the Forward
Kullback-Leibler Divergence [77.06203118175335]
変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。
重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。
近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
論文 参考訳(メタデータ) (2021-06-30T11:00:24Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-06-22T16:07:02Z) - Variance Reduction for Better Sampling in Continuous Domains [5.675136204504504]
最適探索分布は, 先行分布よりも分布の中心付近でピークとなる可能性が示唆された。
本研究では, 人口規模に応じて, 探索分布を変形させるための明示的な値を提供する。
論文 参考訳(メタデータ) (2020-04-24T12:25:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。