論文の概要: Dynamic sparsity on dynamic regression models
- arxiv url: http://arxiv.org/abs/2009.14131v1
- Date: Tue, 29 Sep 2020 16:26:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-13 07:03:12.914424
- Title: Dynamic sparsity on dynamic regression models
- Title(参考訳): 動的回帰モデルにおける動的スパーシティ
- Authors: Paloma W. Uribe and Hedibert F. Lopes
- Abstract要約: ベイズフレームワーク内のガウス動的線形回帰に対する変数選択と縮小について考察する。
本稿では,動的モデルに対するスパイク・アンド・スラブ先行値の拡張に基づく,時間変化の空間性を実現する新しい手法を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the present work, we consider variable selection and shrinkage for the
Gaussian dynamic linear regression within a Bayesian framework. In particular,
we propose a novel method that allows for time-varying sparsity, based on an
extension of spike-and-slab priors for dynamic models. This is done by
assigning appropriate Markov switching priors for the time-varying
coefficients' variances, extending the previous work of Ishwaran and Rao
(2005). Furthermore, we investigate different priors, including the common
Inverted gamma prior for the process variances, and other mixture prior
distributions such as Gamma priors for both the spike and the slab, which leads
to a mixture of Normal-Gammas priors (Griffin ad Brown, 2010) for the
coefficients. In this sense, our prior can be view as a dynamic variable
selection prior which induces either smoothness (through the slab) or shrinkage
towards zero (through the spike) at each time point. The MCMC method used for
posterior computation uses Markov latent variables that can assume binary
regimes at each time point to generate the coefficients' variances. In that
way, our model is a dynamic mixture model, thus, we could use the algorithm of
Gerlach et al (2000) to generate the latent processes without conditioning on
the states. Finally, our approach is exemplified through simulated examples and
a real data application.
- Abstract(参考訳): 本研究では,ベイズフレームワーク内のガウス動的線形回帰に対する変数選択と縮小について考察する。
特に,動的モデルに対するスパイク・アンド・スラブ先行値の拡張に基づく,時間変化の空間性を実現する新しい手法を提案する。
これは、時間変化係数の分散に対して適切なマルコフ切替先を割り当て、Ishwaran と Rao (2005) の以前の研究を拡張して行われる。
さらに,プロセス分散に先立つ共通反転ガンマ前駆体や,スパイクとスラブの両方のガンマ前駆体などの混合前駆体など,係数に正規ガンマ前駆体(griffin ad brown, 2010)が混在する他の混合前駆体についても検討した。
この意味では、前者は、各時点において(スラブを通して)滑らかさまたは(スパイクを通して)ゼロへの縮小を誘導する動的変数選択前と見ることができる。
後続計算に使用されるMCMC法ではマルコフ潜時変数を用いて各時点に二項規則を仮定して係数の分散を生成する。
このようにして、我々のモデルは動的混合モデルであり、Gerlach et al (2000) のアルゴリズムを用いて状態を条件付けせずに潜伏過程を生成することができる。
最後に,本手法はシミュレーション例と実データアプリケーションを用いて実証する。
関連論文リスト
- HJ-sampler: A Bayesian sampler for inverse problems of a stochastic process by leveraging Hamilton-Jacobi PDEs and score-based generative models [1.949927790632678]
本稿では,ブラウン運動文脈におけるコールホップ変換(Cole-Hopf transform)と呼ばれるログ変換に基づく。
本稿では,HJ-sampler という新しいアルゴリズムを開発し,与えられた終端観測による微分方程式の逆問題に対する推論を行う。
論文 参考訳(メタデータ) (2024-09-15T05:30:54Z) - von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。
後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Fusion of Gaussian Processes Predictions with Monte Carlo Sampling [61.31380086717422]
科学と工学において、私たちはしばしば興味のある変数の正確な予測のために設計されたモデルで作業します。
これらのモデルが現実の近似であることを認識し、複数のモデルを同じデータに適用し、結果を統合することが望ましい。
論文 参考訳(メタデータ) (2024-03-03T04:21:21Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - A Class of Two-Timescale Stochastic EM Algorithms for Nonconvex Latent
Variable Models [21.13011760066456]
expectation-Maximization (EM)アルゴリズムは、変数モデルを学習するための一般的な選択肢である。
本稿では,Two-Time Methodsと呼ばれる手法の一般クラスを提案する。
論文 参考訳(メタデータ) (2022-03-18T22:46:34Z) - Sampling Approximately Low-Rank Ising Models: MCMC meets Variational
Methods [35.24886589614034]
一般相互作用が$J$である超キューブ上の二次定値イジングモデルを考える。
我々の一般的な結果は、低ランクのIsingモデルに対する最初のサンプリングアルゴリズムを示唆している。
論文 参考訳(メタデータ) (2022-02-17T21:43:50Z) - Time varying regression with hidden linear dynamics [74.9914602730208]
線形力学系に従って未知のパラメータが進化することを前提とした時間変化線形回帰モデルを再検討する。
反対に、基礎となる力学が安定である場合、このモデルのパラメータは2つの通常の最小二乗推定と組み合わせることで、データから推定できることが示される。
論文 参考訳(メタデータ) (2021-12-29T23:37:06Z) - A Variational Inference Approach to Inverse Problems with Gamma
Hyperpriors [60.489902135153415]
本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。
提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
論文 参考訳(メタデータ) (2021-11-26T06:33:29Z) - Estimation of Switched Markov Polynomial NARX models [75.91002178647165]
非線形自己回帰(NARX)成分を特徴とするハイブリッド力学系のモデル群を同定する。
提案手法は, 特定の回帰器を持つ3つの非線形サブモデルからなるSMNARX問題に対して実証される。
論文 参考訳(メタデータ) (2020-09-29T15:00:47Z) - On the Discrepancy between Density Estimation and Sequence Generation [92.70116082182076]
log-likelihoodは、同じファミリー内のモデルを考えるとき、BLEUと非常に相関している。
異なる家族間でのモデルランキングの相関はみられない。
論文 参考訳(メタデータ) (2020-02-17T20:13:35Z) - Variational Autoencoders with Riemannian Brownian Motion Priors [4.8461049669050915]
変分オートエンコーダ(VAEs)は、一般にユークリッドであると仮定される低次元の潜在空間における与えられたデータを表す。
最近の研究は、この前はモデルキャパシティに有害な影響があり、性能が劣ることを示している。
本稿では、この前の未知の正規化因子に依存しない効率的な推論手法を提案する。
論文 参考訳(メタデータ) (2020-02-12T20:35:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。