論文の概要: Bridging the Usability Gap: Theoretical and Methodological Advances for
Spectral Learning of Hidden Markov Models
- arxiv url: http://arxiv.org/abs/2302.07437v2
- Date: Sat, 29 Apr 2023 20:35:44 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-02 18:34:34.009858
- Title: Bridging the Usability Gap: Theoretical and Methodological Advances for
Spectral Learning of Hidden Markov Models
- Title(参考訳): ユーザビリティギャップの橋渡し--隠れマルコフモデルのスペクトル学習のための理論的および方法論的進歩
- Authors: Xiaoyuan Ma, Jordan Rodu
- Abstract要約: Baum-Welch (B-W) アルゴリズムは隠れマルコフモデル(HMM)を推定する最も広く受け入れられている手法である
ローカルのオプティマで立ち往生する傾向があり、多くのリアルタイムアプリケーションでは遅すぎる可能性がある。
本稿では,誤り伝播の問題を緩和するプロジェクテッドSHMM (PSHMM) という新しいアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 1.9798034349981157
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Baum-Welch (B-W) algorithm is the most widely accepted method for
inferring hidden Markov models (HMM). However, it is prone to getting stuck in
local optima, and can be too slow for many real-time applications. Spectral
learning of HMMs (SHMM), based on the method of moments (MOM) has been proposed
in the literature to overcome these obstacles. Despite its promises, asymptotic
theory for SHMM has been elusive, and the long-run performance of SHMM can
degrade due to unchecked propagation of error. In this paper, we (1) provide an
asymptotic distribution for the approximate error of the likelihood estimated
by SHMM, (2) propose a novel algorithm called projected SHMM (PSHMM) that
mitigates the problem of error propagation, and (3) develop online learning
variants of both SHMM and PSHMM that accommodate potential nonstationarity. We
compare the performance of SHMM with PSHMM and estimation through the B-W
algorithm on both simulated data and data from real world applications, and
find that PSHMM not only retains the computational advantages of SHMM, but also
provides more robust estimation and forecasting.
- Abstract(参考訳): Baum-Welch (B-W) アルゴリズムは隠れマルコフモデル (HMM) を推論する最も広く受け入れられている手法である。
しかし、ローカルの最適化では立ち往生する傾向があり、多くのリアルタイムアプリケーションでは遅すぎる可能性がある。
モーメント法(MOM)に基づくHMM(SHMM)のスペクトル学習は,これらの障害を克服するために文献で提案されている。
SHMMに対する漸近的理論は期待されているが, SHMMの長期性能は未確認誤差の伝播により劣化する可能性がある。
本稿では, SHMMが推定した推定値の近似誤差の漸近分布について, 2) 誤り伝播の問題を緩和するプロジェクテッドSHMM (PSHMM) と呼ばれる新しいアルゴリズムを提案し, (3) 潜在的な非定常性に対応するSHMMとPSHMMの両方のオンライン学習用変種を開発する。
SHMMの性能をPSHMMと比較し、実世界のアプリケーションからのデータとシミュレーションデータの両方でB-Wアルゴリズムを用いて推定し、PSHMMがSHMMの計算上の優位性を保持するだけでなく、より堅牢な推定と予測を提供することを示した。
関連論文リスト
- Chain-of-Thought Prompting for Demographic Inference with Large Multimodal Models [58.58594658683919]
大規模マルチモーダルモデル (LMM) は、様々な研究課題において変換可能性を示している。
以上の結果から,LMMはゼロショット学習,解釈可能性,未修正入力の処理に長所があることが示唆された。
本稿では,目標外予測問題を効果的に緩和するChain-of-Thought拡張プロンプト手法を提案する。
論文 参考訳(メタデータ) (2024-05-24T16:26:56Z) - Sample-efficient neural likelihood-free Bayesian inference of implicit HMMs [1.8843687952462742]
暗黙的HMMの高次元隠蔽状態を推定するための, 試料効率の低い新しい手法を提案する。
提案手法は,マルコフ特性を利用した自己回帰フローを用いて,隠れ状態の難解な後部分布を直接学習することに依存する。
論文 参考訳(メタデータ) (2024-05-02T21:13:34Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Mixture of Coupled HMMs for Robust Modeling of Multivariate Healthcare
Time Series [7.5986411724707095]
隠れマルコフモデル(M-CHMM)を結合した新しいモデルのクラスを提案する。
モデル学習を実現するために、CHMM内の潜伏変数のシーケンスをサンプリングする2つのアルゴリズムを導出する。
既存の推論手法と比較して,アルゴリズムは計算可能であり,混合性が向上し,推定精度が向上する。
論文 参考訳(メタデータ) (2023-11-14T02:55:37Z) - SGMM: Stochastic Approximation to Generalized Method of Moments [8.48870560391056]
本稿では,モーメントの一般化法 (Generalized Method of Moments, SGMM) というアルゴリズムを導入し, モーメント制約モデルの推定と推定を行う。
我々のSGMMは、人気のあるHansen (1982) (オフライン) GMMの新たな近似であり、ストリーミングデータセットをリアルタイムに処理できる高速でスケーラブルな実装を提供する。
論文 参考訳(メタデータ) (2023-08-25T00:22:45Z) - Efficient Learning and Decoding of the Continuous-Time Hidden Markov
Model for Disease Progression Modeling [119.50438407358862]
本稿では,CT-HMMモデルに対する効率的なEMベースの学習手法の完全な特徴付けについて述べる。
EMに基づく学習は、後状態確率の推定と、状態条件付き統計量の計算という2つの課題から成り立っていることを示す。
緑内障データセットとアルツハイマー病データセットを用いて,100以上の状態のCT-HMMを用いて疾患進行の可視化と予測を行う。
論文 参考訳(メタデータ) (2021-10-26T20:06:05Z) - Towards interpretability of Mixtures of Hidden Markov Models [0.0]
隠れマルコフモデル(MHMM)の混合は、シーケンシャルデータのクラスタリングに頻繁に使用される。
MHMMの解釈可能性に対する情報理論的尺度(エントロピー)を提案する。
解釈性を改善するために,エントロピー規則化期待最大化(EM)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-03-23T14:25:03Z) - DenseHMM: Learning Hidden Markov Models by Learning Dense
Representations [0.0]
本研究では,隠れ状態と観測可能性の両方の密表現を学習できる隠れマルコフモデル(hmms)の修正を提案する。
標準的なHMMと比較して、遷移確率は原子ではなく、カーネル化によるこれらの表現で構成されている。
DenseHMMの性質は、合成および生物医学的データセットで実証的に研究されている。
論文 参考訳(メタデータ) (2020-12-17T17:48:27Z) - Efficient semidefinite-programming-based inference for binary and
multi-class MRFs [83.09715052229782]
分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。
一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
論文 参考訳(メタデータ) (2020-12-04T15:36:29Z) - DS-UI: Dual-Supervised Mixture of Gaussian Mixture Models for
Uncertainty Inference [52.899219617256655]
本稿では、ディープニューラルネットワーク(DNN)に基づく画像認識において、ベイズ推定に基づく不確実性推論(UI)を改善するための二重教師付き不確実性推論(DS-UI)フレームワークを提案する。
DS-UIでは、最後の完全連結(FC)層とガウス混合モデル(MoGMM)を組み合わせ、MoGMM-FC層を得る。
実験の結果,DS-UIは誤分類検出において最先端のUI手法よりも優れていた。
論文 参考訳(メタデータ) (2020-11-17T12:35:02Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。