論文の概要: Efficient Deep Gaussian Process Surrogates via Mini-Batch Latent MAP Estimation

• arxiv url: http://arxiv.org/abs/2610.38038v1
• Date: Tue, 27 Oct 2026 22:49:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.343757
• Title: Efficient Deep Gaussian Process Surrogates via Mini-Batch Latent MAP Estimation
• Title（参考訳）: Mini-Batch Latent MAP 推定による効率的な深いガウス過程のサロゲート
• Abstract要約: ディープガウス過程(Deep Gaussian process, DGP)は、非定常応答曲面を持つコンピュータ実験のための柔軟な代理モデルである。 本稿では,遅延表現のMAP推定値を得るため,勾配に基づく最適化を用いた潜時最深部ガウス過程 (LaMP-DGP) を提案する。 数値実験や実データ解析を通じて、LaMP-DGPは一貫して競合性能を提供する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep Gaussian processes (DGPs) are flexible surrogate models for computer experiments with nonstationary response surfaces, but inference over their latent representations remains computationally challenging. Existing methods typically rely on variational inference or Markov chain Monte Carlo (MCMC), which impose variational-family assumptions or require costly posterior sampling. We propose the latent maximum-a-posteriori deep Gaussian process (LaMP-DGP), which uses gradient-based optimization to obtain MAP estimates of the latent representations and enables efficient probabilistic prediction through linked-GP calculations. To scale LaMP-DGP to large datasets, we develop a mini-batch optimization algorithm and, under a polynomial mini-batch bias-decay condition, establish a stationarity bound for latent-state optimization that motivates a growing batch-size schedule. Across numerical experiments and real-data analyses, LaMP-DGP provides consistently competitive predictive performance relative to doubly stochastic variational inference, stochastic gradient Hamiltonian Monte Carlo, and fully Bayesian Vecchia DGP inference. Computationally, LaMP-DGP is substantially faster than the Vecchia MCMC approach while remaining broadly competitive with the stochastic-gradient alternatives. These results position LaMP-DGP as a competitive and computationally efficient alternative for DGP inference. An R package, "LaMPDGP", is available for implementing the proposed method.
• Abstract（参考訳）: ディープガウス過程(Deep Gaussian process, DGP)は、非定常応答曲面を持つコンピュータ実験のための柔軟な代理モデルであるが、その潜在表現に対する推論は計算的に困難である。 既存の手法は変分推論やマルコフ連鎖モンテカルロ (MCMC) に依存しており、これは変分系列の仮定を課すか、高価な後続サンプリングを必要とする。 本稿では,遅延表現のMAP推定値を得るために勾配に基づく最適化を用い,リンク-GP計算による効率的な確率的予測を可能にする潜時最深部ガウス過程(LaMP-DGP)を提案する。 そこで我々は,LMP-DGPを大規模データセットに拡張するために,最小バッチ最適化アルゴリズムを開発し,多項式最小バッチバイアスデカイ条件の下で,バッチサイズの増大を動機付ける潜在状態最適化の定常性を確立する。 数値実験や実データ解析を通じて、LaMP-DGPは2つの確率的変分推論、確率的勾配のハミルトンモンテカルロ、完全にベイズ的ヴェッキアDGP推定に対して、一貫した競争力のある予測性能を提供する。 計算学的には、LaMP-DGPはVecchia MCMCアプローチよりもかなり高速であるが、確率的-階調的な代替品と広く競合する。 これらの結果は、LaMP-DGPをDGP推論の競合的で効率的な代替品として位置づけている。 提案手法の実装には,Rパッケージ "LaMPDGP" が利用できる。

関連論文リスト

• Unbiased Dynamic Pruning for Efficient Group-Based Policy Optimization [60.87651283510059]
  Group Relative Policy Optimization (GRPO) はLLM推論を効果的にスケールするが、計算コストは禁じている。 本研究では,非バイアス勾配推定を保ちながら動的プルーニングを可能にする動的プルーニングポリシー最適化(DPPO)を提案する。 刈り込みによって引き起こされるデータの空間性を軽減するため,ウィンドウベースの欲求戦略であるDense Prompt Packingを導入する。
  論文  参考訳（メタデータ） (2026-03-04T14:48:53Z)
• Domain Invariant Learning for Gaussian Processes and Bayesian Exploration [39.83530605880014]
  そこで本研究では,確率を最小限に最適化したガウス過程(DIL-GP)の領域不変学習アルゴリズムを提案する。 数値実験により、複数の合成および実世界のデータセットの予測におけるDIL-GPの優位性を示す。
  論文  参考訳（メタデータ） (2023-12-18T16:13:34Z)
• A Kronecker product accelerated efficient sparse Gaussian Process (E-SGP) for flow emulation [2.563626165548781]
  本稿では,流体力学の代理モデリングのための効率的なスパースガウス法(E-SGP)を提案する。 これは、効率的なGP(E-GP)と変動エネルギーのないガウス過程(VEF-SGP)の概念を組み合わせた近似スパースGPアルゴリズムのさらなる発展である。
  論文  参考訳（メタデータ） (2023-12-13T11:29:40Z)
• Optimality Guarantees for Particle Belief Approximation of POMDPs [55.83001584645448]
  部分的に観測可能なマルコフ決定プロセス(POMDP)は、現実の意思決定と制御の問題に対する柔軟な表現を提供する。 POMDPは、特に状態と観測空間が連続的またはハイブリッドである場合、解決するのが非常に難しい。 本稿では,これらのアルゴリズムが使用する粒子フィルタリング手法の近似誤差を特徴付ける理論を提案する。
  論文  参考訳（メタデータ） (2022-10-10T21:11:55Z)
• A Sparse Expansion For Deep Gaussian Processes [33.29293167413832]
  ガウス過程(TMGP)に基づいた高精度な推論と効率的なトレーニングのための効率的なスキームを提案する。 合成モデルと実データセットに関する数値実験により、既存のDGPモデルよりもDTMGPの計算効率が優れていることを示した。
  論文  参考訳（メタデータ） (2021-12-11T00:59:33Z)
• Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
  乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。 NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
  論文  参考訳（メタデータ） (2021-10-26T10:45:25Z)
• Incremental Ensemble Gaussian Processes [53.3291389385672]
  本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。 各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。 新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
  論文  参考訳（メタデータ） (2021-10-13T15:11:25Z)
• Deep Gaussian Process Emulation using Stochastic Imputation [0.0]
  本稿では,命令を用いた計算機モデルエミュレーションのための新しいディープガウス過程 (DGP) 推論法を提案する。 この手法は、遅延層を強制的に命令することで、DGPをリンクされたGPに変換し、これは、フィードフォワード結合GPの系をリンクすることによって形成される最先端の代理モデルである。
  論文  参考訳（メタデータ） (2021-07-04T10:46:23Z)
• Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
  サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。 本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。 本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
  論文  参考訳（メタデータ） (2020-06-18T14:24:05Z)
• Improving Sampling Accuracy of Stochastic Gradient MCMC Methods via Non-uniform Subsampling of Gradients [54.90670513852325]
  サンプリング精度を向上させるための一様でないサブサンプリング手法を提案する。 EWSGは、一様勾配MCMC法がバッチ勾配MCMC法の統計的挙動を模倣するように設計されている。 EWSGの実践的な実装では、データインデックス上のMetropolis-Hastingsチェーンを介して、一様でないサブサンプリングを効率的に行う。
  論文  参考訳（メタデータ） (2020-02-20T18:56:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。