論文の概要: Empirical Gaussian Processes
- arxiv url: http://arxiv.org/abs/2602.12082v1
- Date: Thu, 12 Feb 2026 15:39:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-13 21:07:25.898409
- Title: Empirical Gaussian Processes
- Title(参考訳): 実証ガウス過程
- Authors: Jihao Andreas Lin, Sebastian Ament, Louis C. Tiao, David Eriksson, Maximilian Balandat, Eytan Bakshy,
- Abstract要約: 経験的GPは、柔軟でデータ駆動のGPプリエントを構築するための原則化されたフレームワークである。
本研究では,経験的GPが学習曲線外挿と時系列予測ベンチマークの競合性能を達成することを示す。
- 参考スコア(独自算出の注目度): 18.40952262882312
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Gaussian processes (GPs) are powerful and widely used probabilistic regression models, but their effectiveness in practice is often limited by the choice of kernel function. This kernel function is typically handcrafted from a small set of standard functions, a process that requires expert knowledge, results in limited adaptivity to data, and imposes strong assumptions on the hypothesis space. We study Empirical GPs, a principled framework for constructing flexible, data-driven GP priors that overcome these limitations. Rather than relying on standard parametric kernels, we estimate the mean and covariance functions empirically from a corpus of historical observations, enabling the prior to reflect rich, non-trivial covariance structures present in the data. Theoretically, we show that the resulting model converges to the GP that is closest (in KL-divergence sense) to the real data generating process. Practically, we formulate the problem of learning the GP prior from independent datasets as likelihood estimation and derive an Expectation-Maximization algorithm with closed-form updates, allowing the model handle heterogeneous observation locations across datasets. We demonstrate that Empirical GPs achieve competitive performance on learning curve extrapolation and time series forecasting benchmarks.
- Abstract(参考訳): ガウス過程(GP)は強力で広く使われている確率回帰モデルであるが、実効性はカーネル関数の選択によって制限されることが多い。
このカーネル関数は通常、専門家の知識を必要とし、データへの適応性が制限され、仮説空間に強い仮定を課すプロセスである、少数の標準関数から手作りされる。
本稿では,これらの制約を克服する,柔軟なデータ駆動型GPプリエントを構築するための原則的フレームワークである経験的GPについて検討する。
標準パラメトリックカーネルに頼るのではなく、過去の観測のコーパスから平均と共分散関数を経験的に推定し、データに存在するリッチで非自明な共分散構造を事前に反映できるようにする。
理論的には、得られたモデルが実データ生成過程に最も近い(KL偏差の意味で)GPに収束することを示す。
実際に,独立データセットからGPを学習する問題を確率推定として定式化し,クローズドフォーム更新による期待最大化アルゴリズムを導出することにより,モデルがデータセット間の不均一な観測位置を扱えるようにした。
我々は,経験的GPが学習曲線外挿と時系列予測ベンチマークの競合性能を達成することを実証した。
関連論文リスト
- Compactly-supported nonstationary kernels for computing exact Gaussian processes on big data [3.8836840455173625]
ガウス過程(英: Gaussian process, GP)は、暗黙的な不確実性特徴を持つ機械学習手法である。
従来のGPの実装には、その柔軟性を制限する固定化されたカーネルが含まれる。
スパーシリティと非定常性の両方を発見およびエンコードできる代替カーネルを導出する。
論文 参考訳(メタデータ) (2024-11-07T20:07:21Z) - Inference at the data's edge: Gaussian processes for modeling and inference under model-dependency, poor overlap, and extrapolation [0.0]
ガウス過程 (GP) はフレキシブルな非線形回帰法である。
これは、予測された(非現実的な)値に対する不確実性を扱うための原則化されたアプローチを提供する。
これは外挿または弱い重なり合いの条件下では特に有用である。
論文 参考訳(メタデータ) (2024-07-15T05:09:50Z) - Bayesian Gaussian Process ODEs via Double Normalizing Flows [27.015257976208737]
本稿では,ODEベクトル場を再パラメータ化するために正規化フローを導入し,データ駆動の事前分布を導出する。
また, GP ODE の後部推定に正規化フローを適用し, 強平均場仮定の問題を解く。
シミュレーション力学系と実世界の人間の動作データに対するアプローチの有効性を検証した。
論文 参考訳(メタデータ) (2023-09-17T09:28:47Z) - FaDIn: Fast Discretized Inference for Hawkes Processes with General
Parametric Kernels [82.53569355337586]
この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。
脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。
その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
論文 参考訳(メタデータ) (2022-10-10T12:35:02Z) - Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。
NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
論文 参考訳(メタデータ) (2021-10-26T10:45:25Z) - Incremental Ensemble Gaussian Processes [53.3291389385672]
本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。
各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。
新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
論文 参考訳(メタデータ) (2021-10-13T15:11:25Z) - Learning Inconsistent Preferences with Gaussian Processes [14.64963271587818]
我々は,Chuらによる優先的なガウス過程を再考し,潜在ユーティリティ関数の値を通じてデータ項目のランク付けを強制するモデル化の仮定に挑戦する。
本稿では、より表現力のある遅延優先構造をデータ中に捉えることのできるpgpの一般化を提案する。
実験結果から, ランキングビリティの侵害は, 現実の優先データにおいてユビキタスである可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-06T11:57:45Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。