論文の概要: Posterior contraction rates for banded approximations of Gaussian processes
- arxiv url: http://arxiv.org/abs/2611.16482v1
- Date: Thu, 12 Nov 2026 08:52:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.402269
- Title: Posterior contraction rates for banded approximations of Gaussian processes
- Title(参考訳): ガウス過程のバンド近似に対する後部収縮率
- Abstract要約: 本稿では,カーネル行列を設計点の空間的近接度に応じて分散する,スパース共分散行列に基づく近似のクラスを提案する。
得られた近似後部分布の精度を解析し,提案手法が最適な統計的推測特性を保っていることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Gaussian process regression models are widely used in modern statistics and machine learning due to their flexibility, interpretability, built-in uncertainty quantification, and strong theoretical foundations. However, training Gaussian processes (GPs) has a computational cost of $O(n^3)$, while the memory and prediction costs are also $O(n^2)$. For large datasets commonly encountered in practice, this becomes infeasible and necessitates the use of approximate posterior methods. In this work, we propose a class of approximations based on sparse covariance matrices, where the kernel matrix is sparsified according to the spatial proximity of the design points. We analyze the accuracy of the resulting approximate posterior distribution and show that the proposed approach preserves optimal statistical inference properties, provided that the dependencies among a sufficient number of neighboring points for each feature are retained. We derive explicit sufficient and necessary conditions on the number of neighbors required in a general setting and apply these results to standard kernels, including the squared exponential and Matérn kernels. Our theoretical findings are supported by numerical experiments.
- Abstract(参考訳): ガウス過程回帰モデルは、その柔軟性、解釈可能性、組込みの不確実性定量化、強力な理論的基礎のために、現代の統計学や機械学習で広く使われている。
しかし、ガウス過程(GP)のトレーニングには計算コストが$O(n^3)$であり、メモリと予測コストも$O(n^2)$である。
実際に一般的に遭遇する大規模なデータセットでは、これは実現不可能となり、近似後続法を使う必要がある。
本研究では,設計点の空間的近接度に応じてカーネル行列をスペーシングする,スパース共分散行列に基づく近似のクラスを提案する。
提案手法は,各特徴に対する十分数の隣接点間の依存が維持されることを前提として,得られた近似後部分布の精度を解析し,提案手法が最適な統計的推測特性を保っていることを示す。
一般設定で必要となる近傍の数について十分かつ必要な条件を導出し、これらの結果を二乗指数およびマテランカーネルを含む標準カーネルに適用する。
我々の理論的知見は数値実験によって裏付けられている。
関連論文リスト
- Adaptive multi-resolution Gaussian processes: Scalable exact inference with naturally data-sparse covariance matrices [5.518484221206969]
この作業は、スケーラブルかつ正確な適応型マルチレゾリューション・ガウス・プロセス・フレームワークを提供することによってギャップを埋める。
マルチレゾリューションベースでサポートドメインを縮小することにより、マトリックスブロックサイズが制限され、スパシティが保証される。
理論的解析と数値実験により,我々のモデルは,$mathcalO(n log2 n)$トレーニングコストと$mathcalO(logd n)$予測コストで正確な推論を行うことを示した。
論文 参考訳(メタデータ) (2026-09-24T14:14:37Z) - Linear cost and exponentially convergent approximation of Gaussian Matérn processes on intervals [43.341057405337295]
ガウス過程に基づく統計モデルの推測と予測のための計算コストは、観測数に応じて3倍にスケールする。
本研究では,線形コストと共分散誤差が指数関数的に高速に減少する手法を提案近似の$m$で開発する。
この方法はスペクトル密度の最適な有理近似に基づいており、その結果、$m$独立マルコフ過程の和として表される近似が得られる。
論文 参考訳(メタデータ) (2024-10-16T19:57:15Z) - Contraction rates for conjugate gradient and Lanczos approximate posteriors in Gaussian process regression [0.0]
我々は確率的数値の分野から最近提案された近似アルゴリズムのクラスを分析する。
数値解析結果とカーネル行列のスペクトルのアート集中結果の状態を組み合わせ、最小値の収縮率を求める。
論文 参考訳(メタデータ) (2024-06-18T14:50:42Z) - Posterior Contraction Rates for Mat\'ern Gaussian Processes on
Riemannian Manifolds [51.68005047958965]
我々は,本質的なガウス過程が実際により優れた性能を発揮することを示す。
我々の研究は、データ効率の異なるレベルを区別するために、よりきめ細かい分析が必要であることを示している。
論文 参考訳(メタデータ) (2023-09-19T20:30:58Z) - FaDIn: Fast Discretized Inference for Hawkes Processes with General
Parametric Kernels [82.53569355337586]
この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。
脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。
その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
論文 参考訳(メタデータ) (2022-10-10T12:35:02Z) - Real-Time Regression with Dividing Local Gaussian Processes [62.01822866877782]
局所ガウス過程は、ガウス過程の回帰に基づく新しい、計算効率の良いモデリング手法である。
入力空間の反復的データ駆動分割により、実際にはトレーニングポイントの総数において、サブ線形計算複雑性が達成される。
実世界のデータセットに対する数値的な評価は、予測と更新の速度だけでなく、精度の点で他の最先端手法よりも有利であることを示している。
論文 参考訳(メタデータ) (2020-06-16T18:43:31Z) - Mean-Field Approximation to Gaussian-Softmax Integral with Application
to Uncertainty Estimation [23.38076756988258]
ディープニューラルネットワークにおける不確実性を定量化するための,新しい単一モデルに基づくアプローチを提案する。
平均場近似式を用いて解析的に難解な積分を計算する。
実験的に,提案手法は最先端の手法と比較して競合的に機能する。
論文 参考訳(メタデータ) (2020-06-13T07:32:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。