論文の概要: Scalable Bayesian Quadrature via Operator-Adapted Features
- arxiv url: http://arxiv.org/abs/2610.38212v1
- Date: Wed, 28 Oct 2026 03:06:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-03 18:35:14.430282
- Title: Scalable Bayesian Quadrature via Operator-Adapted Features
- Title(参考訳): 演算子適応型特徴量によるスケーラブルベイズ四分法
- Abstract要約: カーネルメソッドは、$ntimes n$ kernel matrixを反転させる3次コストと、カーネル積分の評価の2つの繰り返しボトルネックに直面している。
演算子適応有限関数近似により,両課題に対処する。
以上の結果から, truncated estimator は, $m lesssim n$ basis function で対応するベンチマーク統計値を得ることができた。
- 参考スコア(独自算出の注目度): 5.318704573293208
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Kernel methods face two recurrent bottlenecks: the cubic cost of inverting an $n\times n$ kernel matrix, as in kernel ridge regression, and the evaluation of kernel integrals, as required in kernel quadrature. Existing low-rank kernel and Gaussian process approximations primarily address the former bottleneck, but do not control the downstream quadrature error when both the kernel matrix and kernel mean are approximated, particularly when the integrand lies outside the kernel reproducing kernel Hilbert space. We address both challenges through an operator-adapted finite-feature approximation. Specifically, we construct a finite-dimensional working kernel from the eigenvalues and eigenfunctions of a second-order differential operator. We establish convergence guarantees for the resulting finite-feature estimators in kernel quadrature, with extension to other related kernel methods. Our results show that, with $m \lesssim n$ basis functions, the truncated estimator attains the corresponding benchmark statistical rates. The theory covers fixed/random designs, noisy/noiseless observations, oversmoothing/undersmoothing regimes, and Matérn/Gaussian-type weights. We provide explicit error bounds that quantify the roles of the spectral cutoff, regularization parameter, lengthscale, sampling geometry, and operator boundary condition. We verify the convergence results in numerical experiments.
- Abstract(参考訳): カーネルメソッドは、カーネルリッジ回帰のように$n\times n$ kernel matrixを反転させる3次コストと、カーネル二次化に必要なカーネル積分の評価の2つの繰り返しボトルネックに直面している。
既存の低ランクカーネルとガウス過程近似は、主に以前のボトルネックに対処するが、カーネル行列とカーネル平均の両方が近似されたとき、特にカーネル再生カーネルヒルベルト空間の外にあるとき、下流の二次誤差を制御しない。
演算子適応有限関数近似により,両課題に対処する。
具体的には、2階微分作用素の固有値と固有関数から有限次元ワーキングカーネルを構築する。
我々は、他の関連するカーネルメソッドの拡張とともに、カーネルの二次構造における有限機能推定器の収束保証を確立する。
この結果から, truncated estimator は, $m \lesssim n$ basis function で対応するベンチマーク統計値を得ることができた。
この理論は固定/ランダムな設計、ノイズなし/ノイズなしの観測、過度に平らな/下降状態、マテラン/ガウス式の重みをカバーしている。
スペクトルカットオフ、正規化パラメータ、長さスケール、サンプリング幾何、演算子境界条件の役割を定量化する明示的なエラー境界を提供する。
数値実験において収束結果を検証する。
関連論文リスト
- Feature maps for the Laplacian kernel and its generalizations [3.671202973761375]
ガウス核とは異なり、ラプラシア核は分離できない。
ラプラシア核とその2つの一般化に対してランダムな特徴を与える。
実データセット上でこれらのランダムな特徴写像の有効性を実証する。
論文 参考訳(メタデータ) (2025-02-21T16:36:20Z) - Universality of Kernel Random Matrices and Kernel Regression in the Quadratic Regime [11.655527064124074]
本研究では、カーネル回帰の研究を2次構造に拡張し、$n asymp d2$とする。
具体的には、元のカーネルランダム行列と二次カーネルランダム行列の差分に限定した作用素ノルム近似を確立する。
我々は、$n/d2$が非ゼロ定数に収束する二次状態におけるKRRの正確なトレーニングとテスト誤差を特徴付ける。
論文 参考訳(メタデータ) (2024-08-02T07:29:49Z) - Variance-Reducing Couplings for Random Features [57.73648780299374]
ランダム機能(RF)は、機械学習においてカーネルメソッドをスケールアップする一般的なテクニックである。
ユークリッド空間と離散入力空間の両方で定義されるRFを改善するための結合を求める。
パラダイムとしての分散還元の利点と限界について、驚くほどの結論に達した。
論文 参考訳(メタデータ) (2024-05-26T12:25:09Z) - Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - General Graph Random Features [42.75616308187867]
重み付き隣接行列の任意の関数の偏りのない推定のためのランダムウォークに基づく新しいアルゴリズムを提案する。
提案アルゴリズムは, ノード数に関して, グラフカーネル評価の厳密な3次スケーリングを克服し, 準四次時間的複雑性を享受する。
論文 参考訳(メタデータ) (2023-10-07T15:47:31Z) - Learning "best" kernels from data in Gaussian process regression. With
application to aerodynamics [0.4588028371034406]
本稿では,ガウス過程の回帰/クリギングサロゲートモデリング手法におけるカーネルの選択/設計アルゴリズムを紹介する。
アルゴリズムの最初のクラスはカーネルフローであり、機械学習の分類の文脈で導入された。
アルゴリズムの第2のクラスはスペクトル核リッジ回帰と呼ばれ、近似される関数のノルムが最小となるような「最良の」カーネルを選択することを目的としている。
論文 参考訳(メタデータ) (2022-06-03T07:50:54Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Towards Unbiased Random Features with Lower Variance For Stationary
Indefinite Kernels [26.57122949130266]
本アルゴリズムは,既存のカーネル近似法と比較して,より低い分散と近似誤差を達成する。
もともと選択されたカーネルの近似性が向上し、分類精度と回帰能力が向上する。
論文 参考訳(メタデータ) (2021-04-13T13:56:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。