論文の概要: Adaptive multi-resolution Gaussian processes: Scalable exact inference with naturally data-sparse covariance matrices
- arxiv url: http://arxiv.org/abs/2609.30348v1
- Date: Thu, 24 Sep 2026 14:14:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.073258
- Title: Adaptive multi-resolution Gaussian processes: Scalable exact inference with naturally data-sparse covariance matrices
- Title(参考訳): 適応多分解能ガウス過程:自然データスパース共分散行列を用いたスケーラブルな正確な推論
- Abstract要約: この作業は、スケーラブルかつ正確な適応型マルチレゾリューション・ガウス・プロセス・フレームワークを提供することによってギャップを埋める。
マルチレゾリューションベースでサポートドメインを縮小することにより、マトリックスブロックサイズが制限され、スパシティが保証される。
理論的解析と数値実験により,我々のモデルは,$mathcalO(n log2 n)$トレーニングコストと$mathcalO(logd n)$予測コストで正確な推論を行うことを示した。
- 参考スコア(独自算出の注目度): 5.518484221206969
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Gaussian processes constitute a cornerstone of probabilistic machine learning, yet scaling them to large datasets typically forces a trade-off between computational efficiency and model fidelity. This work bridges this gap by presenting an adaptive multi-resolution Gaussian process framework that is both scalable and exact. Our key innovation is constructing a naturally data-sparse covariance matrix with adaptive multi-resolution basis functions. These basis functions are directly anchored to samples, eliminating the need for auxiliary points. By shrinking the support domains of multi-resolution basis, the matrix block sizes are limited, guaranteeing sparsity. The inverse of the data-sparse covariance matrix is computed exactly and efficiently via the sparse Cholesky inverse algorithm. To further improve predictive uncertainties, we construct an augmented basis function. Theoretical analysis and numerical experiments demonstrate that our model achieves exact inference with $\mathcal{O}(n \log^2 n)$ training cost and $\mathcal{O}(\log^d n)$ prediction cost, establishing a principled framework for scalable and high-fidelity Gaussian process regression.
- Abstract(参考訳): ガウス過程は確率的機械学習の基盤となるが、大きなデータセットにスケールすることは、計算効率とモデル忠実さのトレードオフを強いる。
この作業は、スケーラブルかつ正確な適応型マルチ解像度ガウスプロセスフレームワークを提供することによって、このギャップを埋める。
我々の重要な革新は、適応的な多分解能基底関数を持つ自然データスパース共分散行列を構築することである。
これらの基底関数はサンプルに直接固定され、補助点の必要がなくなる。
マルチレゾリューションベースでサポートドメインを縮小することにより、マトリックスブロックサイズが制限され、スパシティが保証される。
データスパース共分散行列の逆はスパースチョレスキー逆アルゴリズムによって正確に効率的に計算される。
予測の不確実性をさらに改善するため,拡張基底関数を構築した。
理論的解析と数値実験により,我々のモデルは,スケーラブルかつ高忠実なガウス過程の回帰の原理的枠組みを確立するため,トレーニングコスト$\mathcal{O}(n \log^2n)$と予測コスト$\mathcal{O}(\log^dn)$を正確に推定できることが示されている。
関連論文リスト
- Scalable Learning of Multivariate Distributions via Coresets [48.02318786960811]
我々は,多変量条件変換モデル(MCTM)のための新しいコアセットの構築を行い,そのスケーラビリティと訓練効率を向上させる。
提案手法は,重要サンプリングによる大幅なデータ削減を実現する。
これまでコアセットが組み込まれてきた従来のフルパラメトリックモデルと比較して,我々の半パラメトリックアプローチは適応性の向上を示す。
論文 参考訳(メタデータ) (2026-03-20T09:28:43Z) - Low-rank computation of the posterior mean in Multi-Output Gaussian Processes [0.6445605125467574]
マルチアウトプットガウス過程(MOGP)と,MOGPの後方平均を効率的に計算するための低ランクアプローチについて考察する。
論文 参考訳(メタデータ) (2025-04-30T11:19:58Z) - A unified error analysis for randomized low-rank approximation with application to data assimilation [39.47298454012977]
中心行列および非標準行列に対するフロベニウスノルムにおける低ランク近似誤差の解析のための統一的なフレームワークを提案する。
最小限の仮定の下では、期待と確率の正確な境界を導出する。
私たちの境界には、プロパティを導出し、実践的な選択を動機付けるための明確な解釈があります。
論文 参考訳(メタデータ) (2024-05-08T04:51:56Z) - An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。
このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。
本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-09-30T15:57:14Z) - Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood
Estimation for Latent Gaussian Models [69.22568644711113]
我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。
理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。
シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
論文 参考訳(メタデータ) (2023-06-05T21:08:34Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Analysis of Bayesian Inference Algorithms by the Dynamical Functional
Approach [2.8021833233819486]
学生自明なシナリオにおいて,大ガウス潜在変数モデルを用いて近似推論のアルゴリズムを解析する。
完全データモデルマッチングの場合、レプリカ法から派生した静的順序パラメータの知識により、効率的なアルゴリズム更新が得られる。
論文 参考訳(メタデータ) (2020-01-14T17:22:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。