論文の概要: Gaussian Process Bandits with Paired Auxiliary Observations
- arxiv url: http://arxiv.org/abs/2610.24737v1
- Date: Sat, 17 Oct 2026 15:07:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-22 16:37:52.222288
- Title: Gaussian Process Bandits with Paired Auxiliary Observations
- Title(参考訳): Paired Auxiliary Observations を用いたガウス過程帯域
- Abstract要約: Auxiliary-Informed Gaussian Process Bandit (AI-GPB) は、補助平均のオフライン推定とペアオンライン観測から得られた補正係数を組み合わせた分散還元法である。
バニラGP-UCBに対する累積的, 単純的後悔は, ペア内相関が中等度であり, ノイズオフラインデータから補助平均値が推定される場合でも, 連続的に減少することを示した。
- 参考スコア(独自算出の注目度): 7.386726456104406
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization (BO) is widely used for expensive black-box optimization, yet observation noise makes each evaluation less informative and slows posterior learning. Standard BO learns from costly outcomes gathered during optimization. In many applications, however, low-cost auxiliary data are available beforehand. We introduce Auxiliary-Informed Gaussian Process Bandit (AI-GPB), a variance-reduction method that combines an offline estimate of the auxiliary mean with a correction coefficient learned from paired online observations. Notably, it exploits correlation between paired observation errors without requiring the auxiliary mean to approximate the objective. We establish finite-sample GP confidence bounds and regret guarantees, including explicit cumulative and simple regret rates for Matérn kernels. Numerical experiments across continuous BO benchmarks with varied landscapes and dimensions show consistent reductions in cumulative and simple regret relative to vanilla GP-UCB, even when within-pair correlation is moderate and the auxiliary mean is estimated from noisy offline data.
- Abstract(参考訳): ベイズ最適化(BO)は高価なブラックボックス最適化に広く用いられているが、観測ノイズにより各評価は情報が少なくなり、後進学習が遅くなる。
標準BOは最適化時に集められたコストのかかる結果から学習する。
しかし、多くのアプリケーションでは、低コストの補助データが事前に利用可能である。
Auxiliary-Informed Gaussian Process Bandit (AI-GPB) は、補助平均のオフライン推定とペアオンライン観測から得られた補正係数を組み合わせた分散還元法である。
特に、目的を近似する補助平均を必要とせず、ペア化された観測誤差間の相関を利用する。
有限サンプルGP信頼境界と後悔保証を確立し、マテル核に対する明示的な累積的および単純な後悔率を含む。
バニラGP-UCBに対する累積的, 単純的後悔を連続的に減少させる連続BOベンチマークの数値実験を行った。
関連論文リスト
- Stochastic Gradient Optimization with Model-Assisted Sampling [0.0]
本稿では, サーベイサンプリング理論を用いて, ミニバッチ勾配を解釈するモデル支援サンプリングフレームワークを提案する。
本研究の目的は,機械学習の最適化とサンプリング理論の橋渡しであり,サンプルベース推定と分散低減を両立させることである。
論文 参考訳(メタデータ) (2026-06-25T15:39:19Z) - Exact Posterior Score Estimation for Solving Linear Inverse Problems [32.51816945978934]
拡散モデルとフローベースモデルは、ガウスの汚職を逆転させるためにデノイザーを訓練することで、強力なデータ先行を学習する。
既存の方法は、近似的な測定マッチング補正で固定された事前訓練されたデノイザを操るか、あるいは前者のデノイズ構造を捨てた条件付き復元モデルを訓練するかのいずれかである。
我々はこのアイデンティティを,標準事前学習の入出力構造を保存した学習目標であるExact Posterior Score(EPS)に変換する。
論文 参考訳(メタデータ) (2026-06-15T17:58:22Z) - Proximal-IMH: Proximal Posterior Proposals for Independent Metropolis-Hastings with Approximate Operators [4.887201041798969]
本稿では,近似後部からのサンプルを補助最適化問題により補正する手法であるProximal-IMHを紹介する。
最適設定のために、近似補正が近似後部と正確な後部とのマッチングを締め付け、受容率と混合率を向上させることを証明した。
この方法は線形および非線形入力出力演算子の両方に適用され、特に正確な後方サンプリングが高価すぎる逆問題に向いている。
論文 参考訳(メタデータ) (2026-02-24T22:58:50Z) - Richer Bayesian Last Layers with Subsampled NTK Features [25.566044416945875]
Bayesian Last Layers (BLL) は、ニューラルネットワークにおける不確実性を推定する便利な、計算的に効率的な方法を提供する。
本稿では,最後の層に分散した空間上のニューラル・タンジェント・カーネル(NTK)特徴の投影を利用して,BLLを改善する手法を提案する。
これにより、標準的なBLLの推論の計算コストを低く保ちながら、完全なネットワークの可変性を考慮に入れた後部推論が可能となる。
論文 参考訳(メタデータ) (2026-02-01T15:24:20Z) - Gradient Extrapolation for Debiased Representation Learning [7.183424522250937]
GERNE(Gradient Extrapolation for Debiased Representation Learning)は、未知の属性トレーニングケースと未知の属性トレーニングケースの両方において、バイアス付き表現を学習するように設計されている。
解析の結果,外挿した勾配がバッチ勾配に向けられた場合,緩やかな相関が小さくなると,脱バイアスモデルを学ぶためのトレーニングを効果的に導くことが示唆された。
論文 参考訳(メタデータ) (2025-03-17T14:48:57Z) - Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T03:35:45Z) - Kernel-Whitening: Overcome Dataset Bias with Isotropic Sentence
Embedding [51.48582649050054]
符号化文の特徴間の相関関係を解消する表現正規化手法を提案する。
またNystromカーネル近似法であるKernel-Whiteningを提案する。
実験により,Kernel-Whiteningは分布内精度を維持しつつ,分布外データセット上でのBERTの性能を著しく向上することが示された。
論文 参考訳(メタデータ) (2022-10-14T05:56:38Z) - Asymptotically Unbiased Instance-wise Regularized Partial AUC
Optimization: Theory and Algorithm [101.44676036551537]
One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。
既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。
本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
論文 参考訳(メタデータ) (2022-10-08T08:26:22Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳(メタデータ) (2021-10-24T10:23:51Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。