論文の概要: Improving Iterative Gaussian Processes via Warm Starting Sequential Posteriors
- arxiv url: http://arxiv.org/abs/2511.16340v1
- Date: Thu, 20 Nov 2025 13:20:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-21 17:08:52.635739
- Title: Improving Iterative Gaussian Processes via Warm Starting Sequential Posteriors
- Title(参考訳): 逐次後処理のウォーム開始による反復ガウス過程の改善
- Authors: Alan Yufei Dong, Jihao Andreas Lin, José Miguel Hernández-Lobato,
- Abstract要約: そこで本研究では,大規模線形系の解の収束性を改善する手法を提案する。
これは増分的なデータ付加を伴うタスクにおいて重要なことであり、我々の手法は、許容度を解く際にスピードアップを達成し、また、固定された計算予算下でのベイズ性能の向上も示している。
- 参考スコア(独自算出の注目度): 26.12002178317587
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scalable Gaussian process (GP) inference is essential for sequential decision-making tasks, yet improving GP scalability remains a challenging problem with many open avenues of research. This paper focuses on iterative GPs, where iterative linear solvers, such as conjugate gradients, stochastic gradient descent or alternative projections, are used to approximate the GP posterior. We propose a new method which improves solver convergence of a large linear system by leveraging the known solution to a smaller system contained within. This is significant for tasks with incremental data additions, and we show that our technique achieves speed-ups when solving to tolerance, as well as improved Bayesian optimisation performance under a fixed compute budget.
- Abstract(参考訳): 連続的な意思決定タスクには拡張ガウス過程 (GP) の推論が不可欠であるが、多くのオープンな研究方法においてGPのスケーラビリティの改善は難しい問題である。
本稿では, 共役勾配, 確率勾配勾配, 代替射影などの反復線形解法を用いて, GP後部を近似する反復線形解法について述べる。
そこで本研究では,大規模線形系の解の収束性を改善する手法を提案する。
これは増分的なデータ付加を伴うタスクにおいて重要なことであり、我々の手法は、許容度を解く際にスピードアップを達成するとともに、固定された計算予算下でのベイズ最適化性能を向上させることを示します。
関連論文リスト
- Closed-Form Last Layer Optimization [72.49151473937319]
正方形損失の下では、線形最終層重みに対する最適解は閉形式で知られている。
これは、バックボーン上の勾配降下ステップと最終層上のクローズドフォーム更新の交互に行われることを示す。
論文 参考訳(メタデータ) (2025-10-06T09:14:39Z) - A quantum gradient descent algorithm for optimizing Gaussian Process models [28.16587217223671]
ガウス過程モデルを最適化するための量子勾配降下アルゴリズムを提案する。
本アルゴリズムは,ログ限界確率の勾配の計算において指数的高速化を実現する。
論文 参考訳(メタデータ) (2025-03-22T14:14:31Z) - Improving Linear System Solvers for Hyperparameter Optimisation in Iterative Gaussian Processes [31.305425519412758]
本稿では,線形系解法を用いる反復法に着目し,限界次数勾配を推定する。
本稿では,解決者間で適用可能な3つの重要な改善点について論じる。
これらのテクニックは、トレランスの解決時に最大7,2倍のスピードアップを提供し、停止時に平均残留ノルムを最大7,7倍まで下げる。
論文 参考訳(メタデータ) (2024-05-28T16:58:37Z) - Enhancing Gaussian Process Surrogates for Optimization and Posterior Approximation via Random Exploration [2.984929040246293]
ガウス過程シュロゲートモデルの精度を高めるために、ランダムな探索ステップに依存する新しいノイズフリーベイズ最適化戦略。
新しいアルゴリズムは、古典的なGP-UCBの実装の容易さを維持しているが、さらなる探索がそれらの収束を促進する。
論文 参考訳(メタデータ) (2024-01-30T14:16:06Z) - Stochastic Gradient Descent for Gaussian Processes Done Right [86.83678041846971]
emphdone right -- 最適化とカーネルコミュニティからの具体的な洞察を使用するという意味で -- が、勾配降下は非常に効果的であることを示している。
本稿では,直感的に設計を記述し,設計選択について説明する。
本手法は,分子結合親和性予測のための最先端グラフニューラルネットワークと同程度にガウス過程の回帰を配置する。
論文 参考訳(メタデータ) (2023-10-31T16:15:13Z) - On the Sublinear Regret of GP-UCB [58.25014663727544]
ガウス過程上信頼境界 (GP-UCB) アルゴリズムは, ほぼ最適の後悔率を有することを示す。
私たちの改善は、基盤となるカーネルの滑らかさに比例してカーネルリッジ推定を正規化するという、重要な技術的貢献に依存しています。
論文 参考訳(メタデータ) (2023-07-14T13:56:11Z) - Constrained Optimization via Exact Augmented Lagrangian and Randomized
Iterative Sketching [55.28394191394675]
等式制約付き非線形非IBS最適化問題に対する適応的不正確なニュートン法を開発した。
ベンチマーク非線形問題,LVMのデータによる制約付きロジスティック回帰,PDE制約問題において,本手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-05-28T06:33:37Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - An adaptive stochastic gradient-free approach for high-dimensional
blackbox optimization [0.0]
本研究では,高次元非平滑化問題に対する適応勾配フリー (ASGF) アプローチを提案する。
本稿では,グローバルな問題と学習タスクのベンチマークにおいて,本手法の性能について述べる。
論文 参考訳(メタデータ) (2020-06-18T22:47:58Z) - Global Optimization of Gaussian processes [52.77024349608834]
少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。
このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。
提案手法の順序の順序による時間収束を,総じて低減する。
論文 参考訳(メタデータ) (2020-05-21T20:59:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。