論文の概要: Variational message passing for online polynomial NARMAX identification
- arxiv url: http://arxiv.org/abs/2204.00769v1
- Date: Sat, 2 Apr 2022 05:39:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-07 09:14:37.677582
- Title: Variational message passing for online polynomial NARMAX identification
- Title(参考訳): オンライン多項式narmax識別のための変分メッセージパッシング
- Authors: Wouter Kouw, Albert Podusenko, Magnus Koudahl, Maarten Schoukens
- Abstract要約: オンライン非線形システム同定のための変分ベイズ推論手法を提案する。
NARMAXモデルのクラスに焦点をあて、確率的な形式に設定し、Forneyスタイルのグラフで表現する。
このグラフにおける推論は、変分メッセージパッシングアルゴリズムにより効率よく実行される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose a variational Bayesian inference procedure for online nonlinear
system identification. For each output observation, a set of parameter
posterior distributions is updated, which is then used to form a posterior
predictive distribution for future outputs. We focus on the class of polynomial
NARMAX models, which we cast into probabilistic form and represent in terms of
a Forney-style factor graph. Inference in this graph is efficiently performed
by a variational message passing algorithm. We show empirically that our
variational Bayesian estimator outperforms an online recursive least-squares
estimator, most notably in small sample size settings and low noise regimes,
and performs on par with an iterative least-squares estimator trained offline.
- Abstract(参考訳): オンライン非線形システム同定のための変分ベイズ推論手法を提案する。
各アウトプット観測では、パラメータの後続分布が更新され、将来のアウトプットに対する後続予測分布を形成するために使用される。
我々は多項式 NARMAX モデルのクラスに焦点をあて、確率形式にし、Forney-style factor graph の項で表す。
このグラフにおける推論は、変分メッセージパッシングアルゴリズムにより効率よく実行される。
我々の変動ベイズ推定器は、オンライン再帰的最小二乗推定器よりも優れており、特に小さなサンプルサイズ設定と低ノイズレジームにおいて、オフラインで訓練された反復的最小二乗推定器と同等の性能を発揮する。
関連論文リスト
- Inferring Change Points in High-Dimensional Regression via Approximate Message Passing [9.660892239615366]
信号と変化点位置の両方を推定するための近似メッセージパッシング(AMP)アルゴリズムを提案する。
パラメータ数$p$がサンプル数$n$に比例する高次元極限において、その性能を厳格に特徴づける。
高次元極限における変化点上のベイズ後部分布を効率よく計算するために,我々のAMPイテレートをどのように利用できるかを示す。
論文 参考訳(メタデータ) (2024-04-11T15:57:12Z) - A Heavy-Tailed Algebra for Probabilistic Programming [53.32246823168763]
本稿では,確率変数の尾を解析するための体系的アプローチを提案する。
本稿では,確率型プログラミング言語コンパイラの静的解析(サンプル作成前)において,この手法をどのように利用できるかを示す。
実験結果から,重み付き代数を利用する推論アルゴリズムは,多数の密度モデリングおよび変分推論タスクにおいて優れた性能が得られることを確認した。
論文 参考訳(メタデータ) (2023-06-15T16:37:36Z) - Low-rank extended Kalman filtering for online learning of neural
networks from streaming data [71.97861600347959]
非定常データストリームから非線形関数のパラメータを推定するための効率的なオンライン近似ベイズ推定アルゴリズムを提案する。
この方法は拡張カルマンフィルタ (EKF) に基づいているが、新しい低ランク+斜角行列分解法を用いている。
変分推論に基づく手法とは対照的に,本手法は完全に決定論的であり,ステップサイズチューニングを必要としない。
論文 参考訳(メタデータ) (2023-05-31T03:48:49Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Scaling Structured Inference with Randomization [64.18063627155128]
本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。
我々の手法は古典的DPベースの推論に広く適用できる。
また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-12-07T11:26:41Z) - Fast and Robust Online Inference with Stochastic Gradient Descent via
Random Scaling [0.9806910643086042]
本稿では,勾配降下アルゴリズムの平均化法により推定されるパラメータのベクトルに対するオンライン推論法を提案する。
我々のアプローチはオンラインデータで完全に運用されており、機能中心極限定理によって厳格に支えられている。
論文 参考訳(メタデータ) (2021-06-06T15:38:37Z) - Probabilistic Circuits for Variational Inference in Discrete Graphical
Models [101.28528515775842]
変分法による離散的グラフィカルモデルの推論は困難である。
エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。
Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。
選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
論文 参考訳(メタデータ) (2020-10-22T05:04:38Z) - Estimation of Switched Markov Polynomial NARX models [75.91002178647165]
非線形自己回帰(NARX)成分を特徴とするハイブリッド力学系のモデル群を同定する。
提案手法は, 特定の回帰器を持つ3つの非線形サブモデルからなるSMNARX問題に対して実証される。
論文 参考訳(メタデータ) (2020-09-29T15:00:47Z) - Bayesian System ID: Optimal management of parameter, model, and
measurement uncertainty [0.0]
システム識別(ID)の確率的定式化の頑健さを,スパース,ノイズ,間接データに対して評価した。
従来手法の目的関数面と比較して,ログ後部は幾何学的特性が向上したことを示す。
論文 参考訳(メタデータ) (2020-03-04T22:48:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。