論文の概要: Towards Flexibility and Interpretability of Gaussian Process State-Space Model

• arxiv url: http://arxiv.org/abs/2301.08843v3
• Date: Thu, 6 Apr 2023 15:07:11 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-07 17:16:00.700052
• Title: Towards Flexibility and Interpretability of Gaussian Process State-Space Model
• Title（参考訳）: ガウス過程状態空間モデルの柔軟性と解釈可能性
• Authors: Zhid Lin, Feng Yin and Juan Maro\~nas
• Abstract要約: 我々はTGPSSMと呼ばれる新しい確率的状態空間モデルを提案する。 TGPSSMはパラメトリック正規化フローを利用して、標準GPSSMのGPプリエントを豊かにする。 本稿では,潜在状態の変動分布に柔軟かつ最適な構造を提供するスケーラブルな変分推論アルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 4.75409418039844
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The Gaussian process state-space model (GPSSM) has garnered considerable attention over the past decade. However, the standard GP with a preliminary kernel, such as the squared exponential kernel or Mat\'{e}rn kernel, that is commonly used in GPSSM studies, limits the model's representation power and substantially restricts its applicability to complex scenarios. To address this issue, we propose a new class of probabilistic state-space models called TGPSSMs, which leverage a parametric normalizing flow to enrich the GP priors in the standard GPSSM, enabling greater flexibility and expressivity. Additionally, we present a scalable variational inference algorithm that offers a flexible and optimal structure for the variational distribution of latent states. The proposed algorithm is interpretable and computationally efficient due to the sparse GP representation and the bijective nature of normalizing flow. Moreover, we incorporate a constrained optimization framework into the algorithm to enhance the state-space representation capabilities and optimize the hyperparameters, leading to superior learning and inference performance. Experimental results on synthetic and real datasets corroborate that the proposed TGPSSM outperforms several state-of-the-art methods. The accompanying source code is available at \url{https://github.com/zhidilin/TGPSSM}.
• Abstract（参考訳）: ガウス過程状態空間モデル(GPSSM)は過去10年間、かなりの注目を集めてきた。 しかし、GPSSM研究で一般的に使われている2乗指数カーネルやMat\'{e}rnカーネルのような予備的なカーネルを持つ標準GPは、モデルの表現力を制限し、複雑なシナリオに適用性を大幅に制限する。 この問題に対処するために, パラメトリック正規化フローを利用して標準GPSSMのGPプリエントを強化し, 柔軟性と表現性を向上する, TGPSSMs と呼ばれる新しい確率的状態空間モデルを提案する。 さらに,遅延状態の変動分布に対して柔軟かつ最適な構造を提供するスケーラブルな変分推論アルゴリズムを提案する。 提案アルゴリズムは,スパースGP表現と正規化フローの主観的性質により,解釈可能かつ計算的に効率的である。 さらに,制約付き最適化フレームワークをアルゴリズムに組み込んで,状態空間表現能力の向上とハイパーパラメータの最適化を行い,優れた学習と推論性能を実現する。 合成および実データセットの実験結果は、提案したTGPSSMがいくつかの最先端手法より優れていることを裏付ける。 ソースコードは \url{https://github.com/zhidilin/TGPSSM} で公開されている。

関連論文リスト

• Recursive Gaussian Process State Space Model [4.572915072234487]
  動作領域とGPハイパーパラメータの両方に適応可能な新しいオンラインGPSSM法を提案する。 ポイントを誘導するオンライン選択アルゴリズムは、情報的基準に基づいて開発され、軽量な学習を実現する。 合成データセットと実世界のデータセットの総合的な評価は,提案手法の精度,計算効率,適応性を示す。
  論文  参考訳（メタデータ） (2024-11-22T02:22:59Z)
• Towards Efficient Modeling and Inference in Multi-Dimensional Gaussian Process State-Space Models [11.13664702335756]
  我々は,高次元潜在状態空間における遷移関数を効率的にモデル化するために,効率的な変換ガウス過程(ETGP)をGPSSMに統合することを提案する。 また,パラメータ数および計算複雑性の観点から,既存の手法を超越した変分推論アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-09-03T04:34:33Z)
• Learning Regions of Interest for Bayesian Optimization with Adaptive Level-Set Estimation [84.0621253654014]
  本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。 理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
  論文  参考訳（メタデータ） (2023-07-25T09:45:47Z)
• Linear Time GPs for Inferring Latent Trajectories from Neural Spike Trains [7.936841911281107]
  我々は,Hida-Mat'ernカーネルと共役変分推論(CVI)を利用した潜在GPモデルの一般的な推論フレームワークであるcvHMを提案する。 我々は任意の確率で線形時間複雑性を持つ潜在神経軌道の変分推定を行うことができる。
  論文  参考訳（メタデータ） (2023-06-01T16:31:36Z)
• Output-Dependent Gaussian Process State-Space Model [34.34146690947695]
  本稿では,出力依存型より現実的なGPSSMを提案する。 合成データセットと実データセットの両方の実験は、学習および推論性能の点で出力依存型GPSSMの優位性を示す。
  論文  参考訳（メタデータ） (2022-12-15T04:05:39Z)
• Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
  乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。 NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
  論文  参考訳（メタデータ） (2021-10-26T10:45:25Z)
• Incremental Ensemble Gaussian Processes [53.3291389385672]
  本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。 各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。 新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
  論文  参考訳（メタデータ） (2021-10-13T15:11:25Z)
• Gaussian Process-based Min-norm Stabilizing Controller for Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
  本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。 この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
  論文  参考訳（メタデータ） (2020-11-14T01:27:32Z)
• Bayesian Sparse learning with preconditioned stochastic gradient MCMC and its applications [5.660384137948734]
  提案アルゴリズムは, 温和な条件下で, 制御可能なバイアスで正しい分布に収束する。 提案アルゴリズムは, 温和な条件下で, 制御可能なバイアスで正しい分布に収束可能であることを示す。
  論文  参考訳（メタデータ） (2020-06-29T20:57:20Z)
• A Dynamical Systems Approach for Convergence of the Bayesian EM Algorithm [59.99439951055238]
  我々は、(離散時間)リアプノフ安定性理論が、必ずしも勾配ベースではない最適化アルゴリズムの分析(および潜在的な設計)において、いかに強力なツールとして役立つかを示す。 本稿では,不完全データベイズフレームワークにおけるパラメータ推定を,MAP-EM (maximum a reari expectation-maximization) と呼ばれる一般的な最適化アルゴリズムを用いて行うことに着目したML問題について述べる。 高速収束(線形あるいは二次的)が達成され,S&Cアプローチを使わずに発表することが困難であった可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-23T01:34:18Z)
• Stochastic batch size for adaptive regularization in deep network optimization [63.68104397173262]
  ディープラーニングフレームワークにおける機械学習問題に適用可能な適応正規化を取り入れた一階最適化アルゴリズムを提案する。 一般的なベンチマークデータセットに適用した従来のネットワークモデルに基づく画像分類タスクを用いて,提案アルゴリズムの有効性を実証的に実証した。
  論文  参考訳（メタデータ） (2020-04-14T07:54:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。