論文の概要: Adaptive finite element type decomposition of Gaussian processes
- arxiv url: http://arxiv.org/abs/2505.24066v1
- Date: Thu, 29 May 2025 23:18:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-02 19:47:52.699763
- Title: Adaptive finite element type decomposition of Gaussian processes
- Title(参考訳): ガウス過程の適応有限要素型分解
- Authors: Jaehoan Kim, Anirban Bhattacharya, Debdeep Pati,
- Abstract要約: コンパクトに支持された基底関数の線形結合をとることによって得られる近似ガウス過程(GP)のクラスについて検討する。
固定された滑らか度パラメータによるSPDE関連手法は,基本関数数や帯域幅の選択にも拘わらず,最適以下となることを示す。
逆に,基本関数の個数に適切な事前を置けば,後続のアプローチは根底にある真の関数のすべてのレベルに対して適応的に速度-最適となることを示した。
- 参考スコア(独自算出の注目度): 6.3604274262732945
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we investigate a class of approximate Gaussian processes (GP) obtained by taking a linear combination of compactly supported basis functions with the basis coefficients endowed with a dependent Gaussian prior distribution. This general class includes a popular approach that uses a finite element approximation of the stochastic partial differential equation (SPDE) associated with Mat\'ern GP. We explored another scalable alternative popularly used in the computer emulation literature where the basis coefficients at a lattice are drawn from a Gaussian process with an inverse-Gamma bandwidth. For both approaches, we study concentration rates of the posterior distribution. We demonstrated that the SPDE associated approach with a fixed smoothness parameter leads to a suboptimal rate despite how the number of basis functions and bandwidth are chosen when the underlying true function is sufficiently smooth. On the flip side, we showed that the later approach is rate-optimal adaptively over all smoothness levels of the underlying true function if an appropriate prior is placed on the number of basis functions. Efficient computational strategies are developed and numerics are provided to illustrate the theoretical results.
- Abstract(参考訳): 本稿では,コンパクトに支持された基底関数の線形結合と依存したガウス事前分布を持つ基底係数を併用して得られる近似ガウス過程(GP)のクラスについて検討する。
この一般クラスは、Mat\'ern GPに付随する確率偏微分方程式(SPDE)の有限要素近似を利用する一般的なアプローチを含む。
我々は,格子の基底係数を逆ガンマ帯域幅を持つガウス過程から引き出すという,コンピュータエミュレーションの文献で広く使われている別のスケーラブルな代替手法を探索した。
両手法とも後部分布の濃度比について検討した。
固定された滑らか度パラメータによるSPDE関連手法は,基礎となる真の関数が十分に滑らかである場合に,基底関数の数や帯域幅がどう選択されるかに関わらず,最適以下になることを示した。
逆に, 基本関数の個数に適切な事前を配置した場合, 後者のアプローチは, 基礎となる実関数のすべての滑らか度レベルに対して適応的に速度-最適となることを示した。
効率的な計算戦略が開発され、理論結果を説明する数値が提供される。
関連論文リスト
- Differentially Private Optimization with Sparse Gradients [60.853074897282625]
微分プライベート(DP)最適化問題を個人勾配の空間性の下で検討する。
これに基づいて、スパース勾配の凸最適化にほぼ最適な速度で純粋および近似DPアルゴリズムを得る。
論文 参考訳(メタデータ) (2024-04-16T20:01:10Z) - Stochastic Gradient Descent for Gaussian Processes Done Right [86.83678041846971]
emphdone right -- 最適化とカーネルコミュニティからの具体的な洞察を使用するという意味で -- が、勾配降下は非常に効果的であることを示している。
本稿では,直感的に設計を記述し,設計選択について説明する。
本手法は,分子結合親和性予測のための最先端グラフニューラルネットワークと同程度にガウス過程の回帰を配置する。
論文 参考訳(メタデータ) (2023-10-31T16:15:13Z) - Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。
ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文 参考訳(メタデータ) (2023-04-17T14:23:43Z) - Relaxed Gaussian process interpolation: a goal-oriented approach to Bayesian optimization [0.0]
本研究では,ガウス過程(GP)モデリングの文脈で予測分布を求める新しい手法を提案する。
緩和ガウス過程(reGP)と呼ばれる手法は、興味の範囲でより良い予測分布を提供する。
これはゴール指向の方法と見なすことができ、ベイズ最適化において特に興味深いものとなる。
論文 参考訳(メタデータ) (2022-06-07T06:26:46Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳(メタデータ) (2020-12-21T17:29:58Z) - SGB: Stochastic Gradient Bound Method for Optimizing Partition Functions [15.33098084159285]
本稿では,学習環境における分割関数の最適化の問題に対処する。
本稿では,2次代理を持つ分割関数の上界に依存する有界偏化アルゴリズムの変種を提案する。
論文 参考訳(メタデータ) (2020-11-03T04:42:51Z) - Preferential Bayesian optimisation with Skew Gaussian Processes [0.225596179391365]
選好関数の真の後続分布はスキューガウス過程(SkewGP)であることを示す。
我々は、正確なSkiwGP後部を計算し、標準取得関数を用いたPBOの代理モデルとして利用する効率的な手法を導出する。
また、我々のフレームワークは、混合優先カテゴリーBOを扱うように拡張可能であることも示している。
論文 参考訳(メタデータ) (2020-08-15T08:23:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。