論文の概要: Adaptive RKHS Fourier Features for Compositional Gaussian Process Models

• arxiv url: http://arxiv.org/abs/2407.01856v1
• Date: Mon, 1 Jul 2024 23:56:56 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-03 17:13:22.483449
• Title: Adaptive RKHS Fourier Features for Compositional Gaussian Process Models
• Title（参考訳）: 合成ガウス過程モデルのための適応RKHSフーリエ特性
• Authors: Xinxing Shi, Thomas Baldwin-McDonald, Mauricio A. Álvarez,
• Abstract要約: ディープガウス過程(Deep Gaussian Processs, DGP)は、非定常過程をモデル化するために構成構造を利用する。 DGP推論の最近の進歩は、再生カーネルヒルベルト空間(RKHS)からのグローバルフーリエ特徴を取り入れることで、複雑な非定常パターンを捕捉するDGPの能力を向上できることを示している。 本稿では,これらの特徴を線形変換を含む構成GPに拡張する。
• 参考スコア（独自算出の注目度）: 12.036747050794135
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep Gaussian Processes (DGPs) leverage a compositional structure to model non-stationary processes. DGPs typically rely on local inducing point approximations across intermediate GP layers. Recent advances in DGP inference have shown that incorporating global Fourier features from Reproducing Kernel Hilbert Space (RKHS) can enhance the DGPs' capability to capture complex non-stationary patterns. This paper extends the use of these features to compositional GPs involving linear transformations. In particular, we introduce Ordinary Differential Equation (ODE) -based RKHS Fourier features that allow for adaptive amplitude and phase modulation through convolution operations. This convolutional formulation relates our work to recently proposed deep latent force models, a multi-layer structure designed for modelling nonlinear dynamical systems. By embedding these adjustable RKHS Fourier features within a doubly stochastic variational inference framework, our model exhibits improved predictive performance across various regression tasks.
• Abstract（参考訳）: ディープガウス過程(Deep Gaussian Processs, DGP)は、非定常過程をモデル化するために構成構造を利用する。 DGPは通常、中間GP層にまたがる局所的誘導点近似に依存する。 DGP推論の最近の進歩は、再生カーネルヒルベルト空間(RKHS)からのグローバルフーリエ特徴を取り入れることで、複雑な非定常パターンを捕捉するDGPの能力を向上できることを示している。 本稿では,これらの特徴を線形変換を含む構成GPに拡張する。 特に、正規微分方程式(ODE)に基づくRKHSフーリエ機能を導入し、畳み込み演算による適応振幅と位相変調を実現する。 この畳み込みの定式化は、非線形力学系をモデル化するために設計された多層構造である、最近提案されたディープ潜在力モデルに関係している。 これらの調整可能なRKHSフーリエ特徴を2つの確率的変分推論フレームワークに組み込むことで、様々な回帰タスクにおいて予測性能が向上することを示す。

関連論文リスト

• Latent Space Energy-based Neural ODEs [73.01344439786524]
  本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。 マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。 発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
  論文  参考訳（メタデータ） (2024-09-05T18:14:22Z)
• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Deep Transformed Gaussian Processes [0.0]
  変換ガウス過程(英: Transformed Gaussian Processs、TGP)は、可逆変換を用いて、前者のプロセス(典型的にはGP)からサンプルを共分散から変換することによって定義される過程である。 本稿では,プロセスの階層化の傾向に従い,DTGP(Deep Transformed Gaussian Processs)と呼ばれるTGPの一般化を提案する。 実験では、提案したDTGPを複数の回帰データセットで評価し、優れたスケーラビリティと性能を実現した。
  論文  参考訳（メタデータ） (2023-10-27T16:09:39Z)
• Heterogeneous Multi-Task Gaussian Cox Processes [61.67344039414193]
  異種相関タスクを共同でモデル化するためのマルチタスクガウスコックスプロセスの新たな拡張を提案する。 MOGPは、分類、回帰、ポイントプロセスタスクの専用可能性のパラメータに先行して、異種タスク間の情報の共有を容易にする。 モデルパラメータを推定するための閉形式反復更新を実現する平均場近似を導出する。
  論文  参考訳（メタデータ） (2023-08-29T15:01:01Z)
• Linear Time GPs for Inferring Latent Trajectories from Neural Spike Trains [7.936841911281107]
  我々は,Hida-Mat'ernカーネルと共役変分推論(CVI)を利用した潜在GPモデルの一般的な推論フレームワークであるcvHMを提案する。 我々は任意の確率で線形時間複雑性を持つ潜在神経軌道の変分推定を行うことができる。
  論文  参考訳（メタデータ） (2023-06-01T16:31:36Z)
• Non-Gaussian Process Regression [0.0]
  我々はGPフレームワークを時間変化したGPの新たなクラスに拡張し、重い尾の非ガウス的振る舞いの簡単なモデリングを可能にする。 このモデルに対するマルコフ連鎖モンテカルロ推論手順を示し、潜在的な利点を実証する。
  論文  参考訳（メタデータ） (2022-09-07T13:08:22Z)
• Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
  乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。 NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
  論文  参考訳（メタデータ） (2021-10-26T10:45:25Z)
• Incremental Ensemble Gaussian Processes [53.3291389385672]
  本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。 各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。 新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
  論文  参考訳（メタデータ） (2021-10-13T15:11:25Z)
• Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
  汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。 様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。 提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
  論文  参考訳（メタデータ） (2021-06-10T18:17:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。