論文の概要: Towards Flexibility and Interpretability of Gaussian Process State-Space
Model
- arxiv url: http://arxiv.org/abs/2301.08843v1
- Date: Sat, 21 Jan 2023 01:26:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-24 16:06:47.345750
- Title: Towards Flexibility and Interpretability of Gaussian Process State-Space
Model
- Title(参考訳): ガウス過程状態空間モデルの柔軟性と解釈可能性
- Authors: Zhid Lin and Feng Yin
- Abstract要約: 本稿では,新しい確率的状態空間モデルであるTGPSSMを提案する。
フローを正規化することで、標準GPSSMのGPプリエントを豊かにすることで、状態空間モデルはより柔軟で表現力のあるものになる。
GPモデルのスパース表現の利点を継承することにより,スケーラブルかつ解釈可能な変分学習アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 5.6163324917007
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Gaussian process state-space model (GPSSM) has attracted much attention over
the past decade. However, the model representation power of GPSSM is far from
satisfactory. Most GPSSM works rely on the standard Gaussian process (GP) with
a preliminary kernel, such as squared exponential (SE) kernel and Mat\'{e}rn
kernel, which limit the model representation power and its application in
complex scenarios. To address this issue, this paper proposes a novel class of
probabilistic state-space model named TGPSSM that enriches the GP priors in the
standard GPSSM through parametric normalizing flow, making the state-space
model more flexible and expressive. In addition, by inheriting the advantages
of sparse representation of GP models, we propose a scalable and interpretable
variational learning algorithm to learn the TGPSSM and infer the latent
dynamics simultaneously. By integrating a constrained optimization framework
and explicitly constructing a non-Gaussian state variational distribution, the
proposed learning algorithm enables the TGPSSM to significantly improve the
capabilities of state space representation and model inference. Experimental
results based on various synthetic and real datasets corroborate that the
proposed TGPSSM yields superior learning and inference performance compared to
several state-of-the-art methods. The accompanying source code is available at
https://github.com/zhidilin/TGPSSM.
- Abstract(参考訳): ガウス過程状態空間モデル(GPSSM)は過去10年間に多くの注目を集めてきた。
しかし、GPSSMのモデル表現力は十分ではない。
GPSSMの作業の多くは、二乗指数(SE)カーネルやMat\'{e}rnカーネルのような予備的なカーネルを持つ標準ガウス過程(GP)に依存しており、モデル表現力とその複雑なシナリオへの応用を制限する。
そこで本研究では,パラメータ正規化フローを通した標準GPSSMにおけるGPオーディエンスを豊かにすることで,状態空間モデルをより柔軟かつ表現性の高いものにする,新しい確率的状態空間モデルであるTGPSSMを提案する。
さらに,GPモデルの疎表現の利点を継承することにより,TGPSSMを学習し,潜在力学を同時に推定するスケーラブルかつ解釈可能な変分学習アルゴリズムを提案する。
制約付き最適化フレームワークを統合し,非ガウス状態の変動分布を明示的に構築することにより,TGPSSMは状態空間表現とモデル推論の能力を大幅に向上させることができる。
種々の合成および実データに基づく実験結果から,提案したTGPSSMは,いくつかの最先端手法と比較して,優れた学習と推論性能が得られることが示された。
ソースコードはhttps://github.com/zhidilin/tgpssmで入手できる。
関連論文リスト
- Recursive Gaussian Process State Space Model [4.572915072234487]
動作領域とGPハイパーパラメータの両方に適応可能な新しいオンラインGPSSM法を提案する。
ポイントを誘導するオンライン選択アルゴリズムは、情報的基準に基づいて開発され、軽量な学習を実現する。
合成データセットと実世界のデータセットの総合的な評価は,提案手法の精度,計算効率,適応性を示す。
論文 参考訳(メタデータ) (2024-11-22T02:22:59Z) - Towards Efficient Modeling and Inference in Multi-Dimensional Gaussian
Process State-Space Models [11.13664702335756]
我々は,高次元潜在状態空間における遷移関数を効率的にモデル化するために,効率的な変換ガウス過程(ETGP)をGPSSMに統合することを提案する。
また,パラメータ数および計算複雑性の観点から,既存の手法を超越した変分推論アルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-09-03T04:34:33Z) - Learning Regions of Interest for Bayesian Optimization with Adaptive
Level-Set Estimation [84.0621253654014]
本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。
理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
論文 参考訳(メタデータ) (2023-07-25T09:45:47Z) - Linear Time GPs for Inferring Latent Trajectories from Neural Spike
Trains [7.936841911281107]
我々は,Hida-Mat'ernカーネルと共役変分推論(CVI)を利用した潜在GPモデルの一般的な推論フレームワークであるcvHMを提案する。
我々は任意の確率で線形時間複雑性を持つ潜在神経軌道の変分推定を行うことができる。
論文 参考訳(メタデータ) (2023-06-01T16:31:36Z) - Output-Dependent Gaussian Process State-Space Model [34.34146690947695]
本稿では,出力依存型より現実的なGPSSMを提案する。
合成データセットと実データセットの両方の実験は、学習および推論性能の点で出力依存型GPSSMの優位性を示す。
論文 参考訳(メタデータ) (2022-12-15T04:05:39Z) - Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。
NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
論文 参考訳(メタデータ) (2021-10-26T10:45:25Z) - Incremental Ensemble Gaussian Processes [53.3291389385672]
本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。
各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。
新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
論文 参考訳(メタデータ) (2021-10-13T15:11:25Z) - Gaussian Process-based Min-norm Stabilizing Controller for
Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。
この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
論文 参考訳(メタデータ) (2020-11-14T01:27:32Z) - Bayesian Sparse learning with preconditioned stochastic gradient MCMC
and its applications [5.660384137948734]
提案アルゴリズムは, 温和な条件下で, 制御可能なバイアスで正しい分布に収束する。
提案アルゴリズムは, 温和な条件下で, 制御可能なバイアスで正しい分布に収束可能であることを示す。
論文 参考訳(メタデータ) (2020-06-29T20:57:20Z) - A Dynamical Systems Approach for Convergence of the Bayesian EM
Algorithm [59.99439951055238]
我々は、(離散時間)リアプノフ安定性理論が、必ずしも勾配ベースではない最適化アルゴリズムの分析(および潜在的な設計)において、いかに強力なツールとして役立つかを示す。
本稿では,不完全データベイズフレームワークにおけるパラメータ推定を,MAP-EM (maximum a reari expectation-maximization) と呼ばれる一般的な最適化アルゴリズムを用いて行うことに着目したML問題について述べる。
高速収束(線形あるいは二次的)が達成され,S&Cアプローチを使わずに発表することが困難であった可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-23T01:34:18Z) - Stochastic batch size for adaptive regularization in deep network
optimization [63.68104397173262]
ディープラーニングフレームワークにおける機械学習問題に適用可能な適応正規化を取り入れた一階最適化アルゴリズムを提案する。
一般的なベンチマークデータセットに適用した従来のネットワークモデルに基づく画像分類タスクを用いて,提案アルゴリズムの有効性を実証的に実証した。
論文 参考訳(メタデータ) (2020-04-14T07:54:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。