論文の概要: Weighted Euclidean Distance Matrices over Mixed Continuous and Categorical Inputs for Gaussian Process Models
- arxiv url: http://arxiv.org/abs/2503.02630v1
- Date: Tue, 04 Mar 2025 13:55:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-05 19:24:38.412392
- Title: Weighted Euclidean Distance Matrices over Mixed Continuous and Categorical Inputs for Gaussian Process Models
- Title(参考訳): ガウス過程モデルに対する混合連続およびカテゴリー入力上の重み付きユークリッド距離行列
- Authors: Mingyu Pu, Songhao Wang, Haowei Wang, Szu Hui Ng,
- Abstract要約: Weighted Euclidean distance matrices Gaussian Process (WEGP)を紹介する。
この入力のすべてのカテゴリ選択の中からユークリッド距離行列(EDM)を推定することにより、各カテゴリ入力に対するカーネル関数を構築する。
我々は,合成および実世界の最適化問題において,優れた性能を実現する。
- 参考スコア(独自算出の注目度): 1.22995445255292
- License:
- Abstract: Gaussian Process (GP) models are widely utilized as surrogate models in scientific and engineering fields. However, standard GP models are limited to continuous variables due to the difficulties in establishing correlation structures for categorical variables. To overcome this limitati on, we introduce WEighted Euclidean distance matrices Gaussian Process (WEGP). WEGP constructs the kernel function for each categorical input by estimating the Euclidean distance matrix (EDM) among all categorical choices of this input. The EDM is represented as a linear combination of several predefined base EDMs, each scaled by a positive weight. The weights, along with other kernel hyperparameters, are inferred using a fully Bayesian framework. We analyze the predictive performance of WEGP theoretically. Numerical experiments validate the accuracy of our GP model, and by WEGP, into Bayesian Optimization (BO), we achieve superior performance on both synthetic and real-world optimization problems.
- Abstract(参考訳): ガウス過程(GP)モデルは、科学と工学の分野でサロゲートモデルとして広く利用されている。
しかし、標準GPモデルは分類変数の相関構造を確立するのが困難であるため、連続変数に限られる。
この制限を克服するために、Weighted Euclidean distance matrices Gaussian Process (WEGP)を導入する。
WEGPは、この入力のすべてのカテゴリ選択の中でユークリッド距離行列(EDM)を推定することにより、各カテゴリ入力のカーネル関数を構成する。
EDMは、いくつかの予め定義された基底EDMの線形結合として表現され、それぞれが正の重みでスケールされる。
重みは他のカーネルハイパーパラメータとともに、完全にベイズ的フレームワークを用いて推論される。
WEGPの予測性能を理論的に解析する。
数値実験により, MWGPによるベイズ最適化(BO)の精度を検証し, 合成および実世界の最適化問題において優れた性能を実現する。
関連論文リスト
- Fusion of Gaussian Processes Predictions with Monte Carlo Sampling [61.31380086717422]
科学と工学において、私たちはしばしば興味のある変数の正確な予測のために設計されたモデルで作業します。
これらのモデルが現実の近似であることを認識し、複数のモデルを同じデータに適用し、結果を統合することが望ましい。
論文 参考訳(メタデータ) (2024-03-03T04:21:21Z) - Stochastic PDE representation of random fields for large-scale Gaussian
process regression and statistical finite element analysis [0.0]
複素測地における大規模統計有限要素解析とガウス過程(GP)回帰のための枠組みを開発する。
スパース精度行列を用いて、関連する事前確率密度を求める。
前者の性質は、SPDEのパラメータとおそらく分数次数によって支配される。
論文 参考訳(メタデータ) (2023-05-23T09:59:31Z) - A mixed-categorical correlation kernel for Gaussian process [0.0]
本稿では, 連続指数関数型カーネルを拡張し, 混合カテゴリー変数の処理を行うカーネルベースアプローチを提案する。
提案したカーネルは、連続緩和とゴーワー距離に基づくGPモデルの両方を一般化する新しいGPサロゲートを導く。
論文 参考訳(メタデータ) (2022-11-15T16:13:04Z) - Manifold Gaussian Variational Bayes on the Precision Matrix [70.44024861252554]
複雑なモデルにおける変分推論(VI)の最適化アルゴリズムを提案する。
本研究では,変分行列上の正定値制約を満たすガウス変分推論の効率的なアルゴリズムを開発した。
MGVBPはブラックボックスの性質のため、複雑なモデルにおけるVIのための準備が整ったソリューションである。
論文 参考訳(メタデータ) (2022-10-26T10:12:31Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Computationally-efficient initialisation of GPs: The generalised
variogram method [1.0312968200748118]
我々の戦略は,MLトレーニングの初期条件を見つけるための事前訓練段階として利用することができる。
合成および実世界のデータを用いて,異なるカーネルに対して,精度,MLとの整合性,計算複雑性を実験的に検証する。
論文 参考訳(メタデータ) (2022-10-11T12:13:21Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Incremental Ensemble Gaussian Processes [53.3291389385672]
本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。
各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。
新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
論文 参考訳(メタデータ) (2021-10-13T15:11:25Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - On MCMC for variationally sparse Gaussian processes: A pseudo-marginal
approach [0.76146285961466]
ガウス過程(GP)は、機械学習や統計学において強力なモデルを構築するために頻繁に用いられる。
本稿では,2重推定器による確率と大規模データセットの正確な推測と計算的ゲインを提供する擬似マージナル(PM)方式を提案する。
論文 参考訳(メタデータ) (2021-03-04T20:48:29Z) - Gaussian Process Latent Class Choice Models [7.992550355579791]
離散選択モデル(DCM)における確率的機械学習の非パラメトリッククラスを提案する。
提案モデルでは,GPを用いた行動同質クラスタ(ラテントクラス)に確率的に個人を割り当てる。
モデルは2つの異なるモード選択アプリケーションでテストされ、異なるLCCMベンチマークと比較される。
論文 参考訳(メタデータ) (2021-01-28T19:56:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。