論文の概要: Novel Pivoted Cholesky Decompositions for Efficient Gaussian Process Inference

• arxiv url: http://arxiv.org/abs/2507.20678v1
• Date: Mon, 28 Jul 2025 10:01:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-29 16:23:58.075265
• Title: Novel Pivoted Cholesky Decompositions for Efficient Gaussian Process Inference
• Title（参考訳）: 効率的なガウス過程推論のための新しいピボットコレスキー分解法
• Authors: Filip de Roos, Fabio Muratore,
• Abstract要約: コレスキー分解は、対称行列と正定値行列を持つ線形系を解くための基本的なツールである。 行列の行と列を反復的に置換するピボット戦略を導入する。 その結果,提案する選択戦略は同等か,あるいはほとんどの場合,従来のベースラインよりも優れていることがわかった。
• 参考スコア（独自算出の注目度）: 2.8391355909797644
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The Cholesky decomposition is a fundamental tool for solving linear systems with symmetric and positive definite matrices which are ubiquitous in linear algebra, optimization, and machine learning. Its numerical stability can be improved by introducing a pivoting strategy that iteratively permutes the rows and columns of the matrix. The order of pivoting indices determines how accurately the intermediate decomposition can reconstruct the original matrix, thus is decisive for the algorithm's efficiency in the case of early termination. Standard implementations select the next pivot from the largest value on the diagonal. In the case of Bayesian nonparametric inference, this strategy corresponds to greedy entropy maximization, which is often used in active learning and design of experiments. We explore this connection in detail and deduce novel pivoting strategies for the Cholesky decomposition. The resulting algorithms are more efficient at reducing the uncertainty over a data set, can be updated to include information about observations, and additionally benefit from a tailored implementation. We benchmark the effectiveness of the new selection strategies on two tasks important to Gaussian processes: sparse regression and inference based on preconditioned iterative solvers. Our results show that the proposed selection strategies are either on par or, in most cases, outperform traditional baselines while requiring a negligible amount of additional computation.
• Abstract（参考訳）: コールスキー分解は、線形代数、最適化、機械学習においてユビキタスな対称および正定行列を持つ線形系を解くための基本的なツールである。 その数値安定性は、行列の行と列を反復的に置換するピボット戦略を導入することで改善できる。 ピボットインデックスの順序は、中間分解が元の行列をどれだけ正確に再構築できるかを決定するため、早期終了の場合のアルゴリズムの効率は決定的である。 標準実装では、対角線上の最大の値から次のピボットを選択する。 ベイズ的非パラメトリック推論の場合、この戦略はグレディエントロピーの最大化に対応し、しばしば実験の活発な学習と設計に使用される。 この関係を詳細に探求し、コレスキー分解のための新たなピボット戦略を導出する。 結果のアルゴリズムはデータセット上の不確実性を低減し、観察に関する情報を含むように更新し、さらに適切な実装の恩恵を受けることができる。 本稿では,ガウス過程に重要な2つのタスク,すなわち事前条件付き反復解法に基づくスパース回帰と推論に対して,新しい選択戦略の有効性をベンチマークする。 この結果から,提案手法は従来のベースラインよりも高い性能を保ちつつ,付加的な計算量を必要とすることが示唆された。

関連論文リスト

• Efficient algorithms for the Hadamard decomposition [14.653207365119796]
  アダマール分解はデータ解析と行列圧縮の強力な技術である。 本稿では、与えられた行列を2つ以上の低ランク近似の積に分解するフレームワークを開発する。 本研究では,アダマール分解に対する既存の降下法との比較実験を行った。
  論文  参考訳（メタデータ） (2025-04-18T11:14:25Z)
• Column and row subset selection using nuclear scores: algorithms and theory for Nyström approximation, CUR decomposition, and graph Laplacian reduction [0.0]
  我々は,高速,効率的,理論的に保証された列選択のための統一手法を開発した。 まず、カーネル近似やCUR分解といったタスクに適用可能な空間分割決定アルゴリズムを導出し、実装する。 次に、保証濃度境界を満たすランダム化スキームに依存する行列自由形式を考案する。
  論文  参考訳（メタデータ） (2024-07-01T18:10:19Z)
• An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
  クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。 このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。 本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-09-30T15:57:14Z)
• Exploring the Algorithm-Dependent Generalization of AUPRC Optimization with List Stability [107.65337427333064]
  AUPRC(Area Under the Precision-Recall Curve)の最適化は、機械学習にとって重要な問題である。 本研究では, AUPRC最適化の単依存一般化における最初の試行について述べる。 3つの画像検索データセットの実験は、我々のフレームワークの有効性と健全性に言及する。
  論文  参考訳（メタデータ） (2022-09-27T09:06:37Z)
• Piecewise linear regression and classification [0.20305676256390928]
  本稿では,線形予測器を用いた多変量回帰と分類問題の解法を提案する。 本論文で記述されたアルゴリズムのpython実装は、http://cse.lab.imtlucca.it/bemporad/parcで利用可能である。
  論文  参考訳（メタデータ） (2021-03-10T17:07:57Z)
• Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature Selection [138.97647716793333]
  再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。 提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
  論文  参考訳（メタデータ） (2020-12-29T04:08:38Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• Provably Convergent Working Set Algorithm for Non-Convex Regularized Regression [0.0]
  本稿では、収束保証付き非正則正規化器のためのワーキングセットアルゴリズムを提案する。 その結果,ブロックコーディネートや勾配ソルバの完全解法と比較して高い利得を示した。
  論文  参考訳（メタデータ） (2020-06-24T07:40:31Z)
• Effective Dimension Adaptive Sketching Methods for Faster Regularized Least-Squares Optimization [56.05635751529922]
  スケッチに基づくL2正規化最小二乗問題の解法を提案する。 我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
  論文  参考訳（メタデータ） (2020-06-10T15:00:09Z)
• Optimal Feature Manipulation Attacks Against Linear Regression [64.54500628124511]
  本稿では,データセットに慎重に設計した有害なデータポイントを付加したり,元のデータポイントを修正したりすることで,線形回帰による係数の操作方法について検討する。 エネルギー予算を考慮し, 目標が指定された回帰係数を1つ変更する場合に, 最適毒素データ点の閉形式解をまず提示する。 次に、攻撃者が1つの特定の回帰係数を変更しつつ、他をできるだけ小さく変更することを目的とした、より困難なシナリオに分析を拡張します。
  論文  参考訳（メタデータ） (2020-02-29T04:26:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。