論文の概要: Bayesian Optimization over Bounded Domains with the Beta Product Kernel

• arxiv url: http://arxiv.org/abs/2506.16316v1
• Date: Thu, 19 Jun 2025 13:45:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-23 19:00:05.094233
• Title: Bayesian Optimization over Bounded Domains with the Beta Product Kernel
• Title（参考訳）: ベータ積カーネルによる境界領域上のベイズ最適化
• Authors: Huy Hoang Nguyen, Han Zhou, Matthew B. Blaschko, Aleksei Tiulpin,
• Abstract要約: ベータ分布密度関数の積によって誘導される非定常カーネルであるベータカーネルを紹介する。 私たちのカーネルは、よく知られたMat'ernやRBFなど、幅広いカーネルよりも一貫して優れています。
• 参考スコア（独自算出の注目度）: 15.745978363320463
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bayesian optimization with Gaussian processes (GP) is commonly used to optimize black-box functions. The Mat\'ern and the Radial Basis Function (RBF) covariance functions are used frequently, but they do not make any assumptions about the domain of the function, which may limit their applicability in bounded domains. To address the limitation, we introduce the Beta kernel, a non-stationary kernel induced by a product of Beta distribution density functions. Such a formulation allows our kernel to naturally model functions on bounded domains. We present statistical evidence supporting the hypothesis that the kernel exhibits an exponential eigendecay rate, based on empirical analyses of its spectral properties across different settings. Our experimental results demonstrate the robustness of the Beta kernel in modeling functions with optima located near the faces or vertices of the unit hypercube. The experiments show that our kernel consistently outperforms a wide range of kernels, including the well-known Mat\'ern and RBF, in different problems, including synthetic function optimization and the compression of vision and language models.
• Abstract（参考訳）: ガウス過程(GP)によるベイズ最適化はブラックボックス関数の最適化に一般的に用いられる。 Mat\'ern と Radial Basis Function (RBF) の共分散関数は頻繁に用いられるが、それらは函数の領域についていかなる仮定もしない。 この制限に対処するため,ベータ分布密度関数の積によって誘導される非定常カーネルであるベータカーネルを導入する。 このような定式化により、カーネルは自然に有界領域上の関数をモデル化できる。 本研究では,異なる環境におけるスペクトル特性の実験的解析に基づいて,カーネルが指数的固有デカレートを示すという仮説を裏付ける統計的証拠を示す。 実験により, ユニットハイパーキューブの面や頂点付近にオプティマを配置したモデル関数におけるベータカーネルのロバスト性を示す。 実験により、我々のカーネルは、よく知られたMat\'ernやRBFを含む幅広いカーネルよりも、合成関数最適化や視覚と言語モデルの圧縮など、様々な問題において、一貫して性能が向上していることが示された。

関連論文リスト

• Feature maps for the Laplacian kernel and its generalizations [3.671202973761375]
  ガウス核とは異なり、ラプラシア核は分離できない。 ラプラシア核とその2つの一般化に対してランダムな特徴を与える。 実データセット上でこれらのランダムな特徴写像の有効性を実証する。
  論文  参考訳（メタデータ） (2025-02-21T16:36:20Z)
• Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
  線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。 ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
  論文  参考訳（メタデータ） (2023-04-17T14:23:43Z)
• Random Gegenbauer Features for Scalable Kernel Methods [11.370390549286757]
  我々は、GZK(Generalized Zonal Kernels)と呼ばれる新しい、リッチなカーネル関数のクラスを近似する効率的なランダムな特徴を提案する。 提案したGZKファミリーは、ゲゲンバウアー級数展開における因子を導入することにより、粒子核を一般化する。 提案手法は最近のカーネル近似法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-02-07T19:30:36Z)
• Revisiting Memory Efficient Kernel Approximation: An Indefinite Learning Perspective [0.8594140167290097]
  マトリックス近似は、大規模機械学習アプローチにおいて重要な要素である。 我々はMEKAをシフト不変カーネルだけでなく、非定常カーネルにも適用できるように拡張する。 我々は、安定な正の半定値MEKA近似を開発するために、スペクトルシフトのランツォスに基づく推定を提案する。
  論文  参考訳（メタデータ） (2021-12-18T10:01:34Z)
• Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
  カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。 我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
  論文  参考訳（メタデータ） (2021-09-24T14:48:20Z)
• A Robust Asymmetric Kernel Function for Bayesian Optimization, with Application to Image Defect Detection in Manufacturing Systems [2.4278445972594525]
  我々は、ロバストなカーネル関数、非対称な弾性ネットラジアル基底関数(AEN-RBF)を提案する。 理論的には、AEN-RBFは穏やかな条件下でより小さな平均2乗予測誤差を実現できることを示す。 また、AEN-RBFカーネル関数は、外れ値に対する感度が低いことも示している。
  論文  参考訳（メタデータ） (2021-09-22T17:59:05Z)
• A Mean-Field Theory for Learning the Sch\"{o}nberg Measure of Radial Basis Functions [13.503048325896174]
  トレーニングサンプルから放射基底関数のシュンベルク積分表現の分布を学習する。 スケーリング限界において、ランゲヴィン粒子の経験的測度が、反射的イオ拡散ドリフト過程の法則に収束することを証明する。
  論文  参考訳（メタデータ） (2020-06-23T21:04:48Z)
• The Convergence Indicator: Improved and completely characterized parameter bounds for actual convergence of Particle Swarm Optimization [68.8204255655161]
  我々は、粒子が最終的に単一点に収束するか、分岐するかを計算するのに使用できる新しい収束指標を導入する。 この収束指標を用いて、収束群につながるパラメータ領域を完全に特徴づける実際の境界を提供する。
  論文  参考訳（メタデータ） (2020-06-06T19:08:05Z)
• SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for Gaussian Process Regression with Derivatives [86.01677297601624]
  本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。 我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
  論文  参考訳（メタデータ） (2020-03-05T14:33:20Z)
• Improved guarantees and a multiple-descent curve for Column Subset Selection and the Nystr\"om method [76.73096213472897]
  我々は,データ行列のスペクトル特性を利用して近似保証を改良する手法を開発した。 我々のアプローチは、特異値減衰の既知の速度を持つデータセットのバウンダリが大幅に向上する。 RBFパラメータを変更すれば,改良された境界線と多重発振曲線の両方を実データセット上で観測できることが示される。
  論文  参考訳（メタデータ） (2020-02-21T00:43:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。