論文の概要: Dynamical System Identification, Model Selection and Model Uncertainty
Quantification by Bayesian Inference
- arxiv url: http://arxiv.org/abs/2401.16943v1
- Date: Tue, 30 Jan 2024 12:16:52 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-31 15:22:15.269751
- Title: Dynamical System Identification, Model Selection and Model Uncertainty
Quantification by Bayesian Inference
- Title(参考訳): ベイズ推論による力学系同定・モデル選択・モデル不確かさの定量化
- Authors: Robert K. Niven, Laurent Cordier, Ali Mohammad-Djafari, Markus Abel
and Markus Quade
- Abstract要約: 2つのアルゴリズム(JMAP)と変分ベイズ近似(VBA)を比較した。
多変量ガウス確率とそれ以前の分布に対して、ベイジアン定式化はガウス後続分布と証拠分布を与える。
後ガウスノルムは、量的モデル選択のための堅牢な計量を提供する。
- 参考スコア(独自算出の注目度): 0.8999666725996975
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: This study presents a Bayesian maximum \textit{a~posteriori} (MAP) framework
for dynamical system identification from time-series data. This is shown to be
equivalent to a generalized zeroth-order Tikhonov regularization, providing a
rational justification for the choice of the residual and regularization terms,
respectively, from the negative logarithms of the likelihood and prior
distributions. In addition to the estimation of model coefficients, the
Bayesian interpretation gives access to the full apparatus for Bayesian
inference, including the ranking of models, the quantification of model
uncertainties and the estimation of unknown (nuisance) hyperparameters. Two
Bayesian algorithms, joint maximum \textit{a~posteriori} (JMAP) and variational
Bayesian approximation (VBA), are compared to the popular SINDy algorithm for
thresholded least-squares regression, by application to several dynamical
systems with added noise. For multivariate Gaussian likelihood and prior
distributions, the Bayesian formulation gives Gaussian posterior and evidence
distributions, in which the numerator terms can be expressed in terms of the
Mahalanobis distance or ``Gaussian norm'' $||\vy-\hat{\vy}||^2_{M^{-1}} =
(\vy-\hat{\vy})^\top {M^{-1}} (\vy-\hat{\vy})$, where $\vy$ is a vector
variable, $\hat{\vy}$ is its estimator and $M$ is the covariance matrix. The
posterior Gaussian norm is shown to provide a robust metric for quantitative
model selection.
- Abstract(参考訳): 本研究では時系列データから動的システム同定のためのベイズ最大値 \textit{a~posteriori} (map) フレームワークを提案する。
これは一般化ゼロ階のチホノフ正則化と等価であることが示され、確率と先行分布の負の対数から、残留項と正則化項の選択をそれぞれ合理的に正当化する。
モデル係数の推定に加えて、ベイズ解釈は、モデルのランク付け、モデルの不確かさの定量化、未知(ニュアサンス)ハイパーパラメータの推定を含むベイズ推論の完全な装置へのアクセスを与える。
2つのベイズアルゴリズム、ジョイント最大値 \textit{a~posteriori} (JMAP) と変分ベイズ近似 (VBA) は、雑音を付加したいくつかの力学系に適用することにより、閾値最小二乗回帰に対する一般的なSINDyアルゴリズムと比較する。
多変量ガウス確率と先行分布について、ベイズ式はガウス的後続分布とエビデンス分布を与え、そこでは数値項はマハラノビス距離の項で表すことができ、例えば ``ガウス的ノルム'' $|\vy-\hat{\vy}||^2_{M^{-1}} = (\vy-\hat{\vy})^\top {M^{-1}} (\vy-\hat{\vy})$, ここで$\vy$はベクトル変数、$\hat{\vy}$は推定値、$M$は共分散行列である。
後ガウスノルムは定量的モデル選択のための堅牢な計量を提供する。
関連論文リスト
- Closed-form Filtering for Non-linear Systems [83.91296397912218]
我々は密度近似と計算効率の面でいくつかの利点を提供するガウスPSDモデルに基づく新しいフィルタのクラスを提案する。
本研究では,遷移や観測がガウスPSDモデルである場合,フィルタリングを効率的にクローズド形式で行うことができることを示す。
提案する推定器は, 近似の精度に依存し, 遷移確率の正則性に適応する推定誤差を伴って, 高い理論的保証を享受する。
論文 参考訳(メタデータ) (2024-02-15T08:51:49Z) - Bayesian Approach to Linear Bayesian Networks [3.8711489380602804]
提案手法は, 部分共分散行列の逆数を用いて, 位相次数の各要素を逆方向と親方向から反復的に推定する。
提案手法は,BHLSM,LISTEN,TDアルゴリズムといった最先端の頻繁な手法より合成データの方が優れていることを示す。
論文 参考訳(メタデータ) (2023-11-27T08:10:53Z) - Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood
Estimation for Latent Gaussian Models [69.22568644711113]
我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。
理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。
シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
論文 参考訳(メタデータ) (2023-06-05T21:08:34Z) - Characteristic Function of the Tsallis $q$-Gaussian and Its Applications
in Measurement and Metrology [0.0]
ツァリス$q$-ガウス分布は標準ガウス分布の強力な一般化である。
本稿では,独立な$q$-ガウス確率変数の線形結合の特性について述べる。
これは不確実性解析のためのモンテカルロ法に代わる計算手順を提供する。
論文 参考訳(メタデータ) (2023-03-15T13:42:35Z) - General Gaussian Noise Mechanisms and Their Optimality for Unbiased Mean
Estimation [58.03500081540042]
プライベート平均推定に対する古典的なアプローチは、真の平均を計算し、バイアスのないがおそらく相関のあるガウスノイズを加えることである。
すべての入力データセットに対して、集中的な差分プライバシーを満たす非バイアス平均推定器が、少なくとも多くのエラーをもたらすことを示す。
論文 参考訳(メタデータ) (2023-01-31T18:47:42Z) - Ensemble Multi-Quantiles: Adaptively Flexible Distribution Prediction
for Uncertainty Quantification [4.728311759896569]
本稿では,機械学習における不確実性を定量化するために,分布予測の新しい,簡潔かつ効果的な手法を提案する。
これは回帰タスクにおいて$mathbbP(mathbfy|mathbfX=x)$の適応的に柔軟な分布予測を組み込む。
UCIデータセットからの大規模な回帰タスクでは、EMQが最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2022-11-26T11:45:32Z) - A Variational Inference Approach to Inverse Problems with Gamma
Hyperpriors [60.489902135153415]
本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。
提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
論文 参考訳(メタデータ) (2021-11-26T06:33:29Z) - Inverting brain grey matter models with likelihood-free inference: a
tool for trustable cytoarchitecture measurements [62.997667081978825]
脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。
我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。
次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
論文 参考訳(メタデータ) (2021-11-15T09:08:27Z) - Probabilistic semi-nonnegative matrix factorization: a Skellam-based
framework [0.7310043452300736]
我々は,Skellam-SNMFと呼ばれる半負行列分解(SNMF)に対処する新しい確率モデルを提案する。
先行成分,スケラム分布型隠れ変数,観測データからなる階層的生成モデルである。
2つの推論アルゴリズムが導出される: 最大エンファ後推定のための期待最大化(EM)アルゴリズムと、完全ベイズ推定のためのヴァリベイズEM(VBEM)アルゴリズム。
論文 参考訳(メタデータ) (2021-07-07T15:56:22Z) - Estimating Stochastic Linear Combination of Non-linear Regressions
Efficiently and Scalably [23.372021234032363]
サブサンプルサイズが大きくなると、推定誤差が過度に犠牲になることを示す。
私たちの知る限りでは、線形テキスト+確率モデルが保証される最初の研究です。
論文 参考訳(メタデータ) (2020-10-19T07:15:38Z) - The Generalized Lasso with Nonlinear Observations and Generative Priors [63.541900026673055]
我々は、幅広い測定モデルで満たされるガウス下測度を仮定する。
この結果から, 局所埋込特性を仮定して, 均一回復保証まで拡張できることが示唆された。
論文 参考訳(メタデータ) (2020-06-22T16:43:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。