論文の概要: Online Adaptive Kernel Mixing for Gaussian Process Decision Making

• arxiv url: http://arxiv.org/abs/2609.19891v1
• Date: Thu, 17 Sep 2026 08:38:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:54.170682
• Title: Online Adaptive Kernel Mixing for Gaussian Process Decision Making
• Title（参考訳）: ガウス過程決定のためのオンライン適応カーネル混合
• Abstract要約: HACK GPsは、カーネルの選択を専門家のアドバイスを伴うオンライン学習とみなす手法である。 BO, LSE, BAL間でのロバストな性能を標準カーネルと比較して観察する。
• 参考スコア（独自算出の注目度）: 4.199844472131922
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Gaussian Processes (GPs) are widely used as surrogates for black-box functions in sequential decision-making problems such as Bayesian optimization (BO), level set estimation (LSE), and Bayesian active learning (BAL). GP performance critically depends on kernels, and standard kernels can lead to suboptimal decisions under misspecification. To address this, we introduce HACK GPs (Hedge Adaptive Cumulative Kernels), a method that views kernel selection as an online learning with expert advice problem. HACK treats each candidate kernel as a GP "expert" and updates a distribution over experts online using AdaHedge, based on a loss received as a proxy for their ability to fit the function and align with the task objective. We provide two variants of HACK: (i) Mixture of Gaussians (MoG) and (ii) categorical sampling. We establish general guarantees showing that, under a loss-gap condition, the weight concentrates on the best kernel and the resulting acquisition function is close to that of the best expert. Empirically, we observe robust performance across BO, LSE, and BAL compared to standard kernels such as Squared Exponential and Matern-5/2, as well as simple ensemble baselines.
• Abstract（参考訳）: ガウス過程(GP)は、ベイズ最適化(BO)、レベルセット推定(LSE)、ベイズアクティブラーニング(BAL)などの逐次決定問題におけるブラックボックス関数のサロゲートとして広く用いられている。 GP性能はカーネルに大きく依存しており、標準カーネルはミススペクテーションの下で最適以下の決定を下す可能性がある。 そこで我々は,HACK GPs(Hedge Adaptive Cumulative Kernels)を紹介した。 HACKは、各候補カーネルをGP"専門家"として扱い、AdaHedgeを使用してオンラインの専門家への配布を更新する。 HACKには2つのバリエーションがあります。 (i)ガウス(MoG)と混同 (ii)分類的サンプリング。 損失ギャップ条件下では、重みが最良カーネルに集中し、結果として得られる獲得関数が最良専門家のそれに近いことを示す一般的な保証を確立する。 BO, LSE, BAL間のロバストな性能を, Squared Exponential や Matern-5/2 などの標準カーネルと比較し, 単純なアンサンブルベースラインと比較した。

関連論文リスト

• Inducing Permutation Invariant Priors in Bayesian Optimization for Carbon Capture and Storage Applications [0.0]
  そこで我々は,Carbon Capture and Storageプロジェクトにおいて,置換不変なベイズ最適化を提案する。 我々の主な貢献は、集合を比較することによって置換不変性を符号化する新しいガウスプロセスカーネル(GP-Perm)である。 また、Deep Setsアーキテクチャを用いたDeep Kernel Learning Model (DKL-DS) も検討し、置換不変な埋め込みを学習する。
  論文  参考訳（メタデータ） (2026-05-04T09:55:35Z)
• Consequences of Kernel Regularity for Bandit Optimization [4.655159257282135]
  カーネルベースおよび局所適応型アルゴリズムは統合されたフレームワーク内で解析可能であることを示す。 これにより、各カーネルファミリに対して明確な後悔境界を導出し、いくつかのケースで新しい結果を得ることができ、他のケースに対して改善された分析を行うことができる。
  論文  参考訳（メタデータ） (2025-12-05T18:54:09Z)
• A Unifying Perspective on Non-Stationary Kernels for Deeper Gaussian Processes [0.9558392439655016]
  代表データセットを用いて動作中のさまざまなカーネルを示し、その特性を慎重に研究し、性能を比較する。 そこで本研究では,既存のカーネルの利点を活かしたカーネルを提案する。
  論文  参考訳（メタデータ） (2023-09-18T18:34:51Z)
• On the Sublinear Regret of GP-UCB [58.25014663727544]
  ガウス過程上信頼境界 (GP-UCB) アルゴリズムは, ほぼ最適の後悔率を有することを示す。 私たちの改善は、基盤となるカーネルの滑らかさに比例してカーネルリッジ推定を正規化するという、重要な技術的貢献に依存しています。
  論文  参考訳（メタデータ） (2023-07-14T13:56:11Z)
• Surrogate modeling for Bayesian optimization beyond a single Gaussian process [62.294228304646516]
  本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。 拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。 提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
  論文  参考訳（メタデータ） (2022-05-27T16:43:10Z)
• Meta-Learning Hypothesis Spaces for Sequential Decision-making [79.73213540203389]
  オフラインデータ(Meta-KeL)からカーネルをメタ学習することを提案する。 穏やかな条件下では、推定されたRKHSが有効な信頼セットを得られることを保証します。 また,ベイズ最適化におけるアプローチの有効性を実証的に評価した。
  論文  参考訳（メタデータ） (2022-02-01T17:46:51Z)
• Misspecified Gaussian Process Bandit Optimization [59.30399661155574]
  カーネル化されたバンディットアルゴリズムは、この問題に対して強い経験的および理論的性能を示した。 本稿では、未知関数を$epsilon$-一様近似で近似できるエンフェミス特定カーネル化帯域設定を、ある再生カーネルヒルベルト空間(RKHS)において有界ノルムを持つ関数で導入する。 提案アルゴリズムは,不特定性に関する事前知識を伴わず,$epsilon$への最適依存を実現する。
  論文  参考訳（メタデータ） (2021-11-09T09:00:02Z)
• Incremental Ensemble Gaussian Processes [53.3291389385672]
  本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。 各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。 新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
  論文  参考訳（メタデータ） (2021-10-13T15:11:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。