論文の概要: A Bayesian Framework for Built-in Input Dimension Reduction for Gaussian Process Modeling
- arxiv url: http://arxiv.org/abs/2607.19498v1
- Date: Tue, 21 Jul 2026 18:16:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-23 18:51:37.903872
- Title: A Bayesian Framework for Built-in Input Dimension Reduction for Gaussian Process Modeling
- Title(参考訳): ガウス過程モデリングのための入力次元削減のためのベイズフレームワーク
- Abstract要約: 本稿では,GPモデリングと推論により次元減少をシームレスに統合するベイズフレームワークを提案する。
我々のアプローチは、スティーフェル多様体に先行する階層的ベイズモデルに基づいており、射影行列の正則性を強制し、測地流を伴うハミルトンモンテカルロによる後部推論を可能にする。
- 参考スコア(独自算出の注目度): 6.586256098975453
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Gaussian process (GP) modeling is widely used in computational science and engineering. However, fitting a GP to high-dimensional inputs remains challenging due to the curse of dimensionality. While various methods have been proposed to reduce input dimensionality, they typically follow a two-stage approach, performing dimension reduction and GP fitting separately. We introduce a Bayesian framework that seamlessly integrates dimensionality reduction with GP modeling and inference. Our approach, built on a hierarchical Bayesian model with priors on the Stiefel manifold, enforces orthonormality on the projection matrix and enables posterior inference via Hamiltonian Monte Carlo with geodesic flow. Additionally, we extend this framework by incorporating Deep Gaussian Processes (DGP) with built-in dimension reduction, providing a more flexible and powerful tool for complex datasets. Through extensive numerical studies, we demonstrate that while the proposed Bayesian method incurs higher computational costs, it improves predictive performance and uncertainty quantification, providing a principled and robust alternative to existing methods.
- Abstract(参考訳): ガウス過程(GP)モデリングは計算科学や工学で広く使われている。
しかし、GPを高次元入力に合わせることは次元性の呪いのため依然として難しい。
入力次元を減少させる様々な手法が提案されているが、通常は2段階のアプローチで、次元の縮小とGPフィッティングを別々に行う。
本稿では,GPモデリングと推論により次元減少をシームレスに統合するベイズフレームワークを提案する。
我々のアプローチは、スティーフェル多様体に先行する階層的ベイズモデルに基づいており、射影行列の正則性を強制し、測地流を持つハミルトンモンテカルロによる後部推論を可能にする。
さらに、このフレームワークは、DGP(Deep Gaussian Processes)を内蔵次元の削減に組み込むことで拡張され、複雑なデータセットに対してより柔軟で強力なツールを提供する。
ベイズ法は計算コストを増大させるが,予測性能と不確かさの定量化が向上し,既存手法に対する原則的かつ堅牢な代替手段が提供されることを示した。
関連論文リスト
- Multi-Dimensional Visual Data Recovery: Scale-Aware Tensor Modeling and Accelerated Randomized Computation [51.65236537605077]
我々は,新しいタイプのネットワーク圧縮最適化手法,完全ランダム化テンソルネットワーク圧縮(FCTN)を提案する。
FCTNは多次元データ処理と解析において顕著な業績を残している。
定式化モデルの解法を保証した効率的なアルゴリズムを導出する。
論文 参考訳(メタデータ) (2026-02-13T14:56:37Z) - Model-Based and Sample-Efficient AI-Assisted Math Discovery in Sphere Packing [51.30643063554434]
上界の先導手法である三点法は、大高精度半確定プログラム(SDP)の解法に問題を還元する。
我々は、SDP構成を、ポリシーが一連の許容成分からSDP定式化を組み立てる逐次決定過程、SDPゲームとして定式化する。
従来からある幾何学的問題において,モデルに基づく探索が計算の進歩を推し進めることができることを示す。
論文 参考訳(メタデータ) (2025-12-04T14:11:52Z) - Deep Jump Gaussian Processes for Surrogate Modeling of High-Dimensional Piecewise Continuous Functions [5.240783452267199]
本稿では,高次元のピースワイド連続関数を代用する新しい手法であるDeep Jump Gaussian Processes (DJGP)を紹介する。
DJGPは、局所線型射影層を追加することにより、高次元入力空間における従来のジャンプガウス過程の限界を克服する。
合成およびベンチマークデータセットの実験により、DJGPはより優れた予測精度とより信頼性の高い不確実性を提供することが示された。
論文 参考訳(メタデータ) (2025-10-24T18:59:24Z) - Weighted Euclidean Distance Matrices over Mixed Continuous and Categorical Inputs for Gaussian Process Models [1.22995445255292]
Weighted Euclidean distance matrices Gaussian Process (WEGP)を紹介する。
この入力のすべてのカテゴリ選択の中からユークリッド距離行列(EDM)を推定することにより、各カテゴリ入力に対するカーネル関数を構築する。
我々は,合成および実世界の最適化問題において,優れた性能を実現する。
論文 参考訳(メタデータ) (2025-03-04T13:55:22Z) - Training Deep Learning Models with Norm-Constrained LMOs [56.00317694850397]
線形最小化オラクル(LMO)を用いて問題の幾何学に適応する新しいアルゴリズム群を提案する。
我々は,Adamに頼らずに,我々のアルゴリズムであるScionを用いたナノGPTトレーニングの大幅な高速化を示す。
論文 参考訳(メタデータ) (2025-02-11T13:10:34Z) - Pushing the Limits of Large Language Model Quantization via the Linearity Theorem [71.3332971315821]
本稿では,階層的$ell$再構成誤差と量子化によるモデルパープレキシティ増加との直接的な関係を確立する「線形定理」を提案する。
この知見は,(1)アダマール回転とHIGGSと呼ばれるMSE最適格子を用いた単純なデータフリーLCM量子化法,(2)非一様層ごとの量子化レベルを求める問題に対する最適解の2つの新しい応用を可能にする。
論文 参考訳(メタデータ) (2024-11-26T15:35:44Z) - Hyperboloid GPLVM for Discovering Continuous Hierarchies via Nonparametric Estimation [41.13597666007784]
次元性低減(DR)は複雑な高次元データの有用な表現を提供する。
最近のDR法は、階層データの忠実な低次元表現を導出する双曲幾何学に焦点を当てている。
本稿では,非パラメトリック推定による暗黙的な連続性を持つ高次元階層データを埋め込むためのhGP-LVMを提案する。
論文 参考訳(メタデータ) (2024-10-22T05:07:30Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Pushing the Envelope of Rotation Averaging for Visual SLAM [69.7375052440794]
視覚SLAMシステムのための新しい最適化バックボーンを提案する。
従来の単分子SLAMシステムの精度, 効率, 堅牢性を向上させるために, 平均化を活用している。
我々のアプローチは、公開ベンチマークの最先端技術に対して、同等の精度で最大10倍高速に表示することができる。
論文 参考訳(メタデータ) (2020-11-02T18:02:26Z) - Bayesian learning of orthogonal embeddings for multi-fidelity Gaussian
Processes [3.564709604457361]
プロジェクション」マッピングは、事前未知と見なされる正則行列から成り、GPパラメータと共同で推論する必要がある。
提案するフレームワークをGPを用いたマルチ忠実度モデルに拡張し,複数の出力を同時にトレーニングするシナリオを含む。
提案手法の利点は, 産業用ガスタービン用最終段翼の3次元空力最適化に難渋するものである。
論文 参考訳(メタデータ) (2020-08-05T22:28:53Z) - Intrinsic Gaussian Processes on Manifolds and Their Accelerations by
Symmetry [9.773237080061815]
既存の手法は主に熱核推定のための低次元制約領域に焦点を当てている。
本研究は一般方程式上でGPを構築するための本質的なアプローチを提案する。
本手法は指数写像を用いてブラウン運動サンプル経路をシミュレーションすることにより熱核を推定する。
論文 参考訳(メタデータ) (2020-06-25T09:17:40Z) - Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。
我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。
また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
論文 参考訳(メタデータ) (2020-02-16T09:01:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。