論文の概要: Fast Gibbs Sampling on Bayesian Hidden Markov Model with Missing Observations
- arxiv url: http://arxiv.org/abs/2601.01442v1
- Date: Sun, 04 Jan 2026 09:10:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-06 16:25:22.353502
- Title: Fast Gibbs Sampling on Bayesian Hidden Markov Model with Missing Observations
- Title(参考訳): 欠損観察によるベイズ隠れマルコフモデルによる高速ギブズサンプリング
- Authors: Dongrong Li, Tianwei Yu, Xiaodan Fan,
- Abstract要約: 隠れマルコフモデル(英語: Hidden Markov Model、MM)は、シーケンシャルデータを扱うための広く使われている統計モデルである。
実世界のデータセットに欠落した観測は、しばしば数値シミュレーションや実データに現れる。
本稿では,欠落するエントリ数と多くの時間的複雑さの両方を推定するアルゴリズムを提案する。
提案アルゴリズムは,理論上,理論的に正当化可能な,より大きな有効サンプルサイズ(ESS)を要約毎に生成する。
- 参考スコア(独自算出の注目度): 0.30586855806896046
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The Hidden Markov Model (HMM) is a widely-used statistical model for handling sequential data. However, the presence of missing observations in real-world datasets often complicates the application of the model. The EM algorithm and Gibbs samplers can be used to estimate the model, yet suffering from various problems including non-convexity, high computational complexity and slow mixing. In this paper, we propose a collapsed Gibbs sampler that efficiently samples from HMMs' posterior by integrating out both the missing observations and the corresponding latent states. The proposed sampler is fast due to its three advantages. First, it achieves an estimation accuracy that is comparable to existing methods. Second, it can produce a larger Effective Sample Size (ESS) per iteration, which can be justified theoretically and numerically. Third, when the number of missing entries is large, the sampler has a significant smaller computational complexity per iteration compared to other methods, thus is faster computationally. In summary, the proposed sampling algorithm is fast both computationally and theoretically and is particularly advantageous when there are a lot of missing entries. Finally, empirical evaluations based on numerical simulations and real data analysis demonstrate that the proposed algorithm consistently outperforms existing algorithms in terms of time complexity and sampling efficiency (measured in ESS).
- Abstract(参考訳): 隠れマルコフモデル(HMM)は、シーケンシャルデータを扱うための広く使われている統計モデルである。
しかし、実世界のデータセットに見当たらない観察の存在は、しばしばモデルの応用を複雑にする。
EMアルゴリズムとギブスサンプリング器はモデルの推定に使えるが、非凸性、高い計算複雑性、遅い混合といった様々な問題に悩まされている。
本稿では,HMMの後部から効率的に試料を採取するGibsスライダを提案する。
提案手法は3つの利点により高速である。
まず、既存の手法に匹敵する推定精度を達成する。
第二に、イテレーション毎により大きな有効サンプルサイズ(ESS)を生成でき、理論的にも数値的にも正当化できる。
第三に、欠落するエントリの数が大きい場合、サンプルは、他の手法に比べて、イテレーション毎に計算の複雑さが著しく小さく、計算が速くなる。
要約すると、提案アルゴリズムは計算的かつ理論的に高速であり、多くの欠落点が存在する場合に特に有利である。
最後に,数値シミュレーションと実データ解析に基づく経験的評価により,提案アルゴリズムは時間複雑性とサンプリング効率(ESSで測定)において,既存のアルゴリズムよりも一貫して優れていることを示した。
関連論文リスト
- Adaptive Sampled Softmax with Inverted Multi-Index: Methods, Theory and Applications [79.53938312089308]
MIDX-Samplerは、逆多重インデックスアプローチに基づく新しい適応型サンプリング戦略である。
本手法は, サンプリングバイアス, 勾配バイアス, 収束速度, 一般化誤差境界などの重要な問題に対処するため, 厳密な理論的解析によって裏付けられている。
論文 参考訳(メタデータ) (2025-01-15T04:09:21Z) - Parallel Simulation for Log-concave Sampling and Score-based Diffusion Models [55.07411490538404]
本稿では,次元$d$の適応的複雑性依存性を改善する並列サンプリング手法を提案する。
我々の手法は科学計算による並列シミュレーション技術に基づいている。
論文 参考訳(メタデータ) (2024-12-10T11:50:46Z) - Deep Ensembles Meets Quantile Regression: Uncertainty-aware Imputation for Time Series [45.76310830281876]
量子回帰に基づくタスクネットワークのアンサンブルを用いて不確実性を推定する新しい手法であるQuantile Sub-Ensemblesを提案する。
提案手法は,高い損失率に頑健な高精度な計算法を生成するだけでなく,非生成モデルの高速な学習により,計算効率も向上する。
論文 参考訳(メタデータ) (2023-12-03T05:52:30Z) - Learning distributed representations with efficient SoftMax normalization [3.8673630752805437]
有界ノルムを持つ埋め込みベクトルに対して$rm SoftMax(XYT)$の正規化定数を計算する線形時間近似を提案する。
本稿では,提案手法が競合手法よりも高い精度あるいは同等の精度を達成できるような事前学習した埋め込みデータセットについて述べる。
提案アルゴリズムは解釈可能で,任意の埋め込み問題に容易に適応できる。
論文 参考訳(メタデータ) (2023-03-30T15:48:26Z) - Approximate Gibbs Sampler for Efficient Inference of Hierarchical Bayesian Models for Grouped Count Data [0.0]
本研究は、推定精度を維持しつつ、HBPRMを効率的に学習するための近似ギブスサンプリング器(AGS)を開発した。
実データと合成データを用いた数値実験により,AGSの優れた性能を示した。
論文 参考訳(メタデータ) (2022-11-28T21:00:55Z) - Finding Geometric Models by Clustering in the Consensus Space [61.65661010039768]
本稿では,未知数の幾何学的モデル,例えばホモグラフィーを求めるアルゴリズムを提案する。
複数の幾何モデルを用いることで精度が向上するアプリケーションをいくつか提示する。
これには、複数の一般化されたホモグラフからのポーズ推定、高速移動物体の軌道推定が含まれる。
論文 参考訳(メタデータ) (2021-03-25T14:35:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。