論文の概要: Understanding Hidden Spatial Preferences in Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2610.14696v1
- Date: Sat, 10 Oct 2026 08:14:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 12:16:05.534845
- Title: Understanding Hidden Spatial Preferences in Bayesian Optimization
- Title(参考訳): ベイズ最適化における隠れた空間的嗜好の理解
- Abstract要約: 有界領域では、ガウス過程の後方分散は典型的には、面、端、角に近いほど大きい。
この空間的嗜好は、通常、探査戦略の一部として選択されるのではなく、サロゲートから受け継がれる。
我々は,空間的重みによる嗜好を制御し,その構成をニューラルサロゲートで補正する。
- 参考スコア(独自算出の注目度): 5.290770123198504
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization uses posterior uncertainty to decide where to explore, but this uncertainty is not spatially neutral. On bounded domains, Gaussian-process posterior variance is typically larger near faces, edges, and corners, giving variance-based acquisition functions a systematic boundary bias. This spatial preference is usually inherited from the surrogate rather than chosen as part of the exploration strategy. We separate these roles by keeping the predictive model fixed and modifying the spatial preference of the exploration term. We control the preference with spatial weight fields and amortize their construction with neural surrogates. Controlled experiments show that the Gaussian process' default boundary bias changes which parts of the domain are explored and which optima are reached. We compare three alternative exploration principles and find, across standard benchmark functions and stochastic robot-pushing tasks, that they can often lower regret, particularly early in the optimization. The spatial structure of posterior uncertainty is therefore not a neutral default: it shapes the exploration strategy and can materially affect optimization performance.
- Abstract(参考訳): ベイズ最適化は後続の不確実性を用いて探索する場所を決定するが、この不確実性は空間的に中立ではない。
有界領域では、ガウス過程の後方分散は典型的には、近傍の面、辺、角よりも大きく、分散に基づく取得関数は体系的な境界バイアスを与える。
この空間的嗜好は、通常、探査戦略の一部として選択されるのではなく、サロゲートから受け継がれる。
予測モデルを固定し,探索項の空間的嗜好を変更することにより,これらの役割を分離する。
我々は,空間的重みによる嗜好を制御し,その構成をニューラルサロゲートで補正する。
制御された実験により、ガウス過程のデフォルト境界バイアスは、どの領域が探索され、どの領域が最適かによって変化することが示された。
標準ベンチマーク関数と確率論的ロボット処理タスクの3つの代替探索原理を比較して,特に最適化の初期段階において,後悔度を低くすることができることを発見した。
したがって、後続の不確実性の空間構造は中立的なデフォルトではなく、探索戦略を形作り、最適化性能に実質的に影響を及ぼすことができる。
関連論文リスト
- Preference Data Selection for Mitigating the Alignment Tax in Large Language Models [52.18310687523229]
BALIGNは、アライメント効率を最適化しながら破滅的な忘れを緩和するバランスのとれたデータ選択戦略である。
3つの重要なデータ中心の機能を統一された複合リスクスコアに集約することにより、BALIGNは、ハイリスクな選好サンプルを体系的にフィルタリングする。
標準的な人間の嗜好データセットの実験では、BALIGNはアライメントゲインを損なうことなく基礎的能力を強く保持している。
論文 参考訳(メタデータ) (2026-08-25T07:58:42Z) - How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。
因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。
本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
論文 参考訳(メタデータ) (2026-06-10T21:07:49Z) - Boundary Variance Inflation Causes Acquisition Bias in Gaussian Processes [4.936911993071877]
有界領域上の定常核を持つガウス過程は、境界付近で膨らんだ後方分散を示す。
我々は根本原因を単純な幾何学的メカニズムに辿る。
任意の取得、カーネル、および有界ドメインシェルに対して、関数なし選択強調診断を導入する。
論文 参考訳(メタデータ) (2026-05-25T15:59:40Z) - Practical Global and Local Bounds in Gaussian Process Regression via Chaining [4.500208956289746]
本稿では,予期しないデータに対する期待値の上限値と下限値を推定するための連鎖に基づくフレームワークを提案する。
また,特定入力における局所不確実性定量化手法を開発した。
論文 参考訳(メタデータ) (2025-11-12T09:30:01Z) - On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization [57.179679246370114]
既存の手法の潜在的な制限は、ステップサイズが提案されない限り、ほとんどの摂動推定器に固有のバイアスである。
本稿では, 良好な構成を維持しつつ, バイアスを排除した非バイアス勾配スケーリング推定器のファミリーを提案する。
論文 参考訳(メタデータ) (2025-10-22T18:25:43Z) - Random Exploration in Bayesian Optimization: Order-Optimal Regret and
Computational Efficiency [18.17090625880964]
本研究では,分布から引き出されたランダムサンプルを用いて領域を探索する手法について検討する。
このランダム探索手法が最適誤差率を達成することを示す。
論文 参考訳(メタデータ) (2023-10-23T20:30:44Z) - Learning Regions of Interest for Bayesian Optimization with Adaptive
Level-Set Estimation [84.0621253654014]
本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。
理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
論文 参考訳(メタデータ) (2023-07-25T09:45:47Z) - Sampling from Gaussian Process Posteriors using Stochastic Gradient
Descent [43.097493761380186]
勾配アルゴリズムは線形系を解くのに有効な方法である。
最適値に収束しない場合であっても,勾配降下は正確な予測を導出することを示す。
実験的に、勾配降下は十分に大規模または不条件の回帰タスクにおいて最先端の性能を達成する。
論文 参考訳(メタデータ) (2023-06-20T15:07:37Z) - A Particle-based Sparse Gaussian Process Optimizer [5.672919245950197]
本稿では,下降の動的過程を利用した新しいスワム・スワムベースのフレームワークを提案する。
このアプローチの最大の利点は、降下を決定する前に現在の状態についてより深い探索を行うことである。
論文 参考訳(メタデータ) (2022-11-26T09:06:15Z) - Incorporating Expert Prior in Bayesian Optimisation via Space Warping [54.412024556499254]
大きな探索空間では、アルゴリズムは関数の最適値に達する前に、いくつかの低関数値領域を通過する。
このコールドスタートフェーズの1つのアプローチは、最適化を加速できる事前知識を使用することである。
本稿では,関数の事前分布を通じて,関数の最適性に関する事前知識を示す。
先行分布は、探索空間を最適関数の高確率領域の周りに拡張し、最適関数の低確率領域の周りに縮小するようにワープする。
論文 参考訳(メタデータ) (2020-03-27T06:18:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。