論文の概要: End-to-End Training of a Neural HMM with Label and Transition Probabilities

• arxiv url: http://arxiv.org/abs/2310.02724v1
• Date: Wed, 4 Oct 2023 10:56:00 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-05 15:28:30.448035
• Title: End-to-End Training of a Neural HMM with Label and Transition Probabilities
• Title（参考訳）: ラベルと遷移確率を持つニューラルHMMのエンドツーエンドトレーニング
• Authors: Daniel Mann, Tina Raissi, Wilfried Michel, Ralf Schl\"uter, Hermann Ney
• Abstract要約: 隠れマルコフモデル(HMM)を用いたエンドツーエンドニューラルネットワークトレーニングのための新しいモデリング手法について検討する。 提案手法では,時間統計を暗黙的にエンコードするブランクラベルとは対照的に,セグメント間の遷移に関する明示的で学習可能な確率が存在する。 トランジションモデルトレーニングでは認識性能は向上しないが,アライメント品質に肯定的な影響を与えることがわかった。
• 参考スコア（独自算出の注目度）: 36.32865468394113
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We investigate a novel modeling approach for end-to-end neural network training using hidden Markov models (HMM) where the transition probabilities between hidden states are modeled and learned explicitly. Most contemporary sequence-to-sequence models allow for from-scratch training by summing over all possible label segmentations in a given topology. In our approach there are explicit, learnable probabilities for transitions between segments as opposed to a blank label that implicitly encodes duration statistics. We implement a GPU-based forward-backward algorithm that enables the simultaneous training of label and transition probabilities. We investigate recognition results and additionally Viterbi alignments of our models. We find that while the transition model training does not improve recognition performance, it has a positive impact on the alignment quality. The generated alignments are shown to be viable targets in state-of-the-art Viterbi trainings.
• Abstract（参考訳）: 本研究では,隠れ状態間の遷移確率をモデル化し,明示的に学習する隠れマルコフモデル(hmm)を用いて,エンドツーエンドニューラルネットワークトレーニングのための新しいモデリング手法を提案する。 現代のシーケンシャル・ツー・シーケンスモデルの多くは、与えられたトポロジー内のすべての可能なラベルセグメンテーションを総和することで、スクラッチからトレーニングを可能にする。 提案手法では,時間統計を暗黙的にエンコードするブランクラベルとは対照的に,セグメント間の遷移に関する明示的で学習可能な確率が存在する。 ラベルと遷移確率の同時トレーニングを可能にするGPUベースのフォワードバックワードアルゴリズムを実装した。 本モデルでは,認識結果とビタビアライメントについても検討する。 遷移モデルトレーニングでは認識性能は向上しないが,アライメント品質に肯定的な影響を与えることがわかった。 生成されたアライメントは、最先端のビタビトレーニングで実行可能なターゲットであることが示されている。

関連論文リスト

• Learning a Neural Association Network for Self-supervised Multi-Object Tracking [34.07776597698471]
  本稿では,多目的追跡のためのデータアソシエーションを自己管理的に学習するための新しいフレームワークを提案する。 実世界のシナリオでは、オブジェクトの動きが通常マルコフプロセスで表現できるという事実により、我々は、トラッキングのための検出を関連付けるためにニューラルネットワークをトレーニングする新しい期待(EM)アルゴリズムを提案する。 我々は,挑戦的なMOT17とMOT20データセットに対するアプローチを評価し,自己教師付きトラッカーと比較して最先端の結果を得る。
  論文  参考訳（メタデータ） (2024-11-18T12:22:29Z)
• Exploring Beyond Logits: Hierarchical Dynamic Labeling Based on Embeddings for Semi-Supervised Classification [49.09505771145326]
  モデル予測に依存しない階層型動的ラベル付け(HDL)アルゴリズムを提案し,画像埋め込みを用いてサンプルラベルを生成する。 本手法は,半教師付き学習における擬似ラベル生成のパラダイムを変える可能性がある。
  論文  参考訳（メタデータ） (2024-04-26T06:00:27Z)
• Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple Logits Retargeting Approach [102.0769560460338]
  我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。 提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-03-01T03:27:08Z)
• Semi-Supervised Class-Agnostic Motion Prediction with Pseudo Label Regeneration and BEVMix [59.55173022987071]
  クラス非依存動作予測のための半教師あり学習の可能性について検討する。 我々のフレームワークは一貫性に基づく自己学習パラダイムを採用しており、ラベルのないデータからモデルを学習することができる。 本手法は,弱さと完全教師付き手法に匹敵する性能を示す。
  論文  参考訳（メタデータ） (2023-12-13T09:32:50Z)
• Latent State Models of Training Dynamics [51.88132043461152]
  異なるランダムなシードでモデルをトレーニングし、トレーニングを通じてさまざまなメトリクスを計算します。 次に、結果のメトリクス列に隠れマルコフモデル(HMM)を適合させる。 我々はHMM表現を用いて相転移を研究し、収束を遅くする潜伏状態(detour state)を特定する。
  論文  参考訳（メタデータ） (2023-08-18T13:20:08Z)
• Concurrent Misclassification and Out-of-Distribution Detection for Semantic Segmentation via Energy-Based Normalizing Flow [0.0]
  最近のセマンティックセグメンテーションモデルは、トレーニングデータセットの分布に類似したテスト時間例を正確に分類する。 本稿では,正規化フローフレームワークに依存するIDMとOOD検出を同時に行うための生成モデルを提案する。 FlowEneDetは、事前トレーニングされたDeepLabV3+およびSegFormerセマンティックセグメンテーションモデルに適用した場合、IDM/OOD検出におけるCityscapes、Cityscapes-C、FishyScapes、SegmentMeIfYouCanベンチマークの有望な結果を達成する。
  論文  参考訳（メタデータ） (2023-05-16T17:02:57Z)
• Learning to Rectify for Robust Learning with Noisy Labels [25.149277009932423]
  分類ネットワークのトレーニング手順を適応的に修正するためのワープ確率推論(WarPI)を提案する。 雑音ラベルによる頑健な学習の4つのベンチマークでWarPIを評価し, 異種雑音下での新たな最先端の学習を実現する。
  論文  参考訳（メタデータ） (2021-11-08T02:25:50Z)
• Parameter Decoupling Strategy for Semi-supervised 3D Left Atrium Segmentation [0.0]
  本稿では,パラメータ分離戦略に基づく半教師付きセグメンテーションモデルを提案する。 提案手法は,Atrial Challengeデータセット上での最先端の半教師付き手法と競合する結果を得た。
  論文  参考訳（メタデータ） (2021-09-20T14:51:42Z)
• Scalable and Adaptive Graph Neural Networks with Self-Label-Enhanced training [1.2183405753834562]
  大規模グラフにグラフニューラルネットワーク(gnn)を直接実装することは困難である。 スケーラブルで適応的なグラフニューラルネットワーク(SAGN)を提案する。 自己学習アプローチとラベル伝播を深く結合したsle(self-label-enhance)フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-04-19T15:08:06Z)
• Provably End-to-end Label-Noise Learning without Anchor Points [118.97592870124937]
  本稿では,アンカーポイントを使わずにラベルノイズ学習を実現するためのエンドツーエンドフレームワークを提案する。 提案フレームワークでは,クリーンなクラス後確率が十分に分散している場合,遷移行列を同定できる。
  論文  参考訳（メタデータ） (2021-02-04T03:59:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。