論文の概要: Sharp Asymptotic Theory of Maximum Likelihood Estimation for Gaussian Processes with an RBF Kernel

• arxiv url: http://arxiv.org/abs/2610.10080v2
• Date: Tue, 13 Oct 2026 18:51:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:14.990753
• Title: Sharp Asymptotic Theory of Maximum Likelihood Estimation for Gaussian Processes with an RBF Kernel
• Title（参考訳）: RBFカーネルを用いたガウス過程の最大近似推定のシャープ漸近理論
• Abstract要約: ガウス過程は機械学習、空間統計学、時系列解析、最適化、ベイズ統計学、科学応用に広く利用されている。 GPモデルの中心的な構成要素はカーネルであり、通常はパラメトリックファミリによって指定される。 広く使われているにもかかわらず、カーネルパラメータは標準GPソフトウェアで実装されているMLEの最大値によって定期的に推定される。 本稿は、我々の知る限り、固定領域下でのナゲット空間の分散、長さスケール、および分散の関節MLEの完全な特徴付けを行う。
• 参考スコア（独自算出の注目度）: 10.616187869643502
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Gaussian processes (GPs) are widely used across machine learning, spatial statistics, time-series analysis, optimization, Bayesian statistics, and scientific applications. A central component of a GP model is its kernel, which is typically specified through a parametric family. Among the most widely used choices is the radial basis function (RBF), also known as the squared exponential or Gaussian kernel, owing to its simple form, smoothness, and flexibility. In practice, the kernel parameters are routinely estimated by the maximum likelihood estimators (MLEs), as implemented by standard GP software. Despite this widespread use, the asymptotic behavior of the MLEs remains poorly understood under fixed-domain asymptotics, even for the RBF kernel. The main difficulty arises from the increasingly strong dependence among densely sampled observations and the nonlinear dependence of the covariance matrix on the kernel parameters. In this paper, we address this gap by providing, to the best of our knowledge, the first complete asymptotic characterization of the joint MLE of the spatial variance, lengthscale, and nugget variance under fixed-domain asymptotics. We establish consistency, derive convergence rates for all three parameters, prove joint asymptotic normality, and show that these rates are minimax optimal.
• Abstract（参考訳）: ガウス過程(GP)は機械学習、空間統計学、時系列解析、最適化、ベイズ統計学、科学応用で広く使われている。 GPモデルの中心的な構成要素はカーネルであり、通常はパラメトリックファミリによって指定される。 最も広く使われている選択は放射基底関数(RBF)であり、その単純形式、滑らかさ、柔軟性のため、平方指数あるいはガウス核としても知られている。 実際には、カーネルパラメータは標準GPソフトウェアで実装されている最大極大推定器(MLE)によって定期的に推定される。 このような広く使われているにもかかわらず、MLEの漸近的挙動はRBFカーネルにおいても固定ドメイン漸近法では理解されていない。 主な困難は、密度の高いサンプル観察における強い依存と、カーネルパラメータに対する共分散行列の非線形依存から生じる。 本稿では、このギャップを、我々の知る限り、固定領域の漸近下での空間的分散、長さスケール、およびナゲット分散の関節MLEの完全な漸近特性を初めて提供することによって解決する。 整合性を確立し、3つのパラメータすべてに対して収束率を導出し、共同漸近正規性を証明し、これらの速度が極小極小であることを示す。

関連論文リスト

• Data eccentricity, asymptotics of Gaussian RBF reproducing kernel Hilbert space, and kernel PCA [4.061135251278187]
  等方スケーリングにおいて、ガウス RBF カーネル空間は、大きな帯域幅制限でヒルベルト等方性をユークリッド空間に再現していることを示す。 また、カーネルPCAについても検討し、ガウスRBF固有値、固有射影、および主成分が全て古典的(線形)の成分に帯域幅として収束していることを示す。 さまざまなデータセットのコレクションに対する実験では、$がデータセット固有の収束挙動の単純で信頼性の高い予測器を提供することを示している。
  論文  参考訳（メタデータ） (2026-07-23T21:18:41Z)
• The Kernel Manifold: A Geometric Approach to Gaussian Process Model Selection [0.8536502059643899]
  カーネル・オブ・カーネルズ幾何に基づくベイズ最適化フレームワークを提案する。 多次元スケーリング(MDS)埋め込みは、離散カーネルライブラリを連続ユークリッド多様体にマッピングし、滑らかなBOを可能にする。 提案手法は, 合成ベンチマーク, 実世界の時系列データセット, 追加的な製造ケーススタディである。
  論文  参考訳（メタデータ） (2026-01-08T20:52:53Z)
• Consequences of Kernel Regularity for Bandit Optimization [4.655159257282135]
  カーネルベースおよび局所適応型アルゴリズムは統合されたフレームワーク内で解析可能であることを示す。 これにより、各カーネルファミリに対して明確な後悔境界を導出し、いくつかのケースで新しい結果を得ることができ、他のケースに対して改善された分析を行うことができる。
  論文  参考訳（メタデータ） (2025-12-05T18:54:09Z)
• Non-Asymptotic Optimization and Generalization Bounds for Stochastic Gauss-Newton in Overparameterized Models [5.076419064097734]
  本稿では,Levenberg-Marquardt ダンピングとミニバッチサンプリングによる行列Gauss-Newton (SGN) 法の解析を行った。 我々の理論的結果は、最適化経路に沿ってガウスニュートンの最小固有値が大きいと、より厳密な安定性境界が得られるSGNの好適な一般化規則を同定する。
  論文  参考訳（メタデータ） (2025-11-06T01:50:45Z)
• Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
  本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。 我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。 全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• Kernel-based off-policy estimation without overlap: Instance optimality beyond semiparametric efficiency [53.90687548731265]
  本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。 任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
  論文  参考訳（メタデータ） (2023-01-16T02:57:37Z)
• FaDIn: Fast Discretized Inference for Hawkes Processes with General Parametric Kernels [82.53569355337586]
  この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。 脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。 その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
  論文  参考訳（メタデータ） (2022-10-10T12:35:02Z)
• Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
  オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。 我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
  論文  参考訳（メタデータ） (2021-12-29T18:46:52Z)
• Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
  汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。 様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。 提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
  論文  参考訳（メタデータ） (2021-06-10T18:17:57Z)
• SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for Gaussian Process Regression with Derivatives [86.01677297601624]
  本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。 我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
  論文  参考訳（メタデータ） (2020-03-05T14:33:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。