論文の概要: Learning Dependencies of Discrete Speech Representations with Neural
Hidden Markov Models
- arxiv url: http://arxiv.org/abs/2210.16659v1
- Date: Sat, 29 Oct 2022 17:46:58 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-01 16:59:58.562893
- Title: Learning Dependencies of Discrete Speech Representations with Neural
Hidden Markov Models
- Title(参考訳): ニューラル隠れマルコフモデルを用いた離散音声表現の学習依存性
- Authors: Sung-Lin Yeh, Hao Tang
- Abstract要約: 我々は、潜在変数間のマルコフ的依存関係を仮定し、ニューラル隠れマルコフモデルを用いて音声表現を学ぶことを提案する。
当社のフレームワークでは,パラメータの固定数を保ちながら,独立性を前提とした自己教師型モデルと比較することが可能です。
- 参考スコア(独自算出の注目度): 19.400428010647573
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While discrete latent variable models have had great success in
self-supervised learning, most models assume that frames are independent. Due
to the segmental nature of phonemes in speech perception, modeling dependencies
among latent variables at the frame level can potentially improve the learned
representations on phonetic-related tasks. In this work, we assume Markovian
dependencies among latent variables, and propose to learn speech
representations with neural hidden Markov models. Our general framework allows
us to compare to self-supervised models that assume independence, while keeping
the number of parameters fixed. The added dependencies improve the
accessibility of phonetic information, phonetic segmentation, and the cluster
purity of phones, showcasing the benefit of the assumed dependencies.
- Abstract(参考訳): 離散潜在変数モデルは自己教師あり学習において大きな成功を収めているが、ほとんどのモデルはフレームが独立であると仮定している。
音声認識における音韻の分節的性質から,フレームレベルの潜在変数間のモデリング依存性は,音韻関連タスクにおける学習表現を改善する可能性がある。
本研究では,潜在変数間のマルコフ依存を仮定し,ニューラル隠れマルコフモデルを用いた音声表現の学習を提案する。
私たちの一般的なフレームワークでは、パラメータの数を固定しながら、独立性を前提とした自己教師付きモデルと比較することができます。
追加された依存関係は、音素情報のアクセシビリティ、音素セグメンテーション、および携帯電話のクラスタ純度を改善し、想定される依存関係の利点を示す。
関連論文リスト
- LatentQA: Teaching LLMs to Decode Activations Into Natural Language [72.87064562349742]
自然言語におけるモデルアクティベーションに関するオープンな疑問に答えるタスクであるLatentQAを紹介する。
本稿では,アクティベーションと関連する質問応答ペアのデータセット上で,デコーダLLMを微調整するLatent Interpretation Tuning (LIT)を提案する。
我々のデコーダはまた、ステレオタイプ付き文のモデルのデバイアス化や世代ごとの感情制御など、モデルを制御するために使用する差別化可能な損失も規定している。
論文 参考訳(メタデータ) (2024-12-11T18:59:33Z) - Verbalized Probabilistic Graphical Modeling with Large Language Models [8.961720262676195]
この研究は、大規模言語モデルによる学習自由ベイズ推論を促進する新しいベイズ急進的アプローチを導入している。
本研究は,AI言語理解システムの改善の可能性を示すとともに,信頼性評価とテキスト生成品質を効果的に向上させることを示唆する。
論文 参考訳(メタデータ) (2024-06-08T16:35:31Z) - LLMs can learn self-restraint through iterative self-reflection [57.26854891567574]
大規模言語モデル(LLM)は、特定のトピックに関連する知識と不確実性に基づいて、その振る舞いを動的に適応できなければならない。
この適応的行動は、私たちが自己規制と呼ぶもので、教えるのは簡単ではない。
モデルが信頼している場合にのみ応答を生成できるようにするユーティリティ関数を考案する。
論文 参考訳(メタデータ) (2024-05-15T13:35:43Z) - A Probabilistic Model Behind Self-Supervised Learning [53.64989127914936]
自己教師付き学習(SSL)では、アノテートラベルなしで補助的なタスクを通じて表現が学習される。
自己教師型学習のための生成潜在変数モデルを提案する。
対照的な方法を含む識別的SSLのいくつかのファミリーは、表現に匹敵する分布を誘導することを示した。
論文 参考訳(メタデータ) (2024-02-02T13:31:17Z) - Flow Factorized Representation Learning [109.51947536586677]
本稿では、異なる入力変換を定義する潜在確率パスの別個のセットを規定する生成モデルを提案する。
本モデルは,ほぼ同変モデルに近づきながら,標準表現学習ベンチマークにおいて高い確率を達成することを示す。
論文 参考訳(メタデータ) (2023-09-22T20:15:37Z) - Learning Semantic Textual Similarity via Topic-informed Discrete Latent
Variables [17.57873577962635]
我々は、意味的テキスト類似性のためのトピックインフォームド離散潜在変数モデルを開発した。
我々のモデルはベクトル量子化による文対表現のための共有潜在空間を学習する。
我々のモデルは意味的テキスト類似性タスクにおいて、いくつかの強力な神経ベースラインを超えることができることを示す。
論文 参考訳(メタデータ) (2022-11-07T15:09:58Z) - Advanced Conditional Variational Autoencoders (A-CVAE): Towards
interpreting open-domain conversation generation via disentangling latent
feature representation [15.742077523458995]
本稿では,メソスコピックスケールの特徴的絡み合いを伴う認知的アプローチを通じて,先行知識による生成モデルを活用することを提案する。
本稿では,潜在空間分布の解釈可能性を客観的に評価できるオープンドメイン対話のための新しい指標を提案する。
論文 参考訳(メタデータ) (2022-07-26T07:39:36Z) - An Empirical Investigation of Commonsense Self-Supervision with
Knowledge Graphs [67.23285413610243]
大規模知識グラフから抽出した情報に基づく自己監督は、言語モデルの一般化を改善することが示されている。
本研究では,言語モデルに適用可能な合成データを生成するための知識サンプリング戦略とサイズの影響について検討する。
論文 参考訳(メタデータ) (2022-05-21T19:49:04Z) - Disentangling Generative Factors in Natural Language with Discrete
Variational Autoencoders [0.0]
連続変数は、テキスト中のほとんどの生成因子が離散的であるという事実から、テキストデータの特徴をモデル化するのに理想的ではないかもしれない。
本稿では,言語特徴を離散変数としてモデル化し,不整合表現を学習するための変数間の独立性を促進する変分自動符号化手法を提案する。
論文 参考訳(メタデータ) (2021-09-15T09:10:05Z) - Neuro-Symbolic Representations for Video Captioning: A Case for
Leveraging Inductive Biases for Vision and Language [148.0843278195794]
ビデオキャプションのためのマルチモーダルなニューラルシンボリック表現を学習するための新しいモデルアーキテクチャを提案する。
本手法では,ビデオ間の関係を学習する辞書学習手法と,そのペアによるテキスト記述を用いる。
論文 参考訳(メタデータ) (2020-11-18T20:21:19Z) - Learning Structured Latent Factors from Dependent Data:A Generative
Model Framework from Information-Theoretic Perspective [18.88255368184596]
本稿では,潜在空間における様々な基盤構造を持つ生成モデル学習のための新しいフレームワークを提案する。
我々のモデルは、様々なタイプの望まれる構造を反映した意味論的に意味のある潜在因子の集合を学習するための原則化されたアプローチを提供する。
論文 参考訳(メタデータ) (2020-07-21T06:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。