論文の概要: Semantic enrichment towards efficient speech representations

• arxiv url: http://arxiv.org/abs/2307.01323v1
• Date: Mon, 3 Jul 2023 19:52:56 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-06 19:05:37.362242
• Title: Semantic enrichment towards efficient speech representations
• Title（参考訳）: 効率的な音声表現へのセマンティックエンリッチメント
• Authors: Ga\"elle Laperri\`ere, Ha Nguyen, Sahar Ghannay, Bassam Jabaian, Yannick Est\`eve
• Abstract要約: 本研究では,SAMU-XLSRモデルのドメイン内セマンティックエンリッチメントについて検討する。 我々は、低リソース言語移植性のために、同じドメインのフランス語とイタリア語のベンチマークを使用することの利点を示す。
• 参考スコア（独自算出の注目度）: 9.30840529284715
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Over the past few years, self-supervised learned speech representations have emerged as fruitful replacements for conventional surface representations when solving Spoken Language Understanding (SLU) tasks. Simultaneously, multilingual models trained on massive textual data were introduced to encode language agnostic semantics. Recently, the SAMU-XLSR approach introduced a way to make profit from such textual models to enrich multilingual speech representations with language agnostic semantics. By aiming for better semantic extraction on a challenging Spoken Language Understanding task and in consideration with computation costs, this study investigates a specific in-domain semantic enrichment of the SAMU-XLSR model by specializing it on a small amount of transcribed data from the downstream task. In addition, we show the benefits of the use of same-domain French and Italian benchmarks for low-resource language portability and explore cross-domain capacities of the enriched SAMU-XLSR.
• Abstract（参考訳）: 近年,SLU(Spoken Language Understanding)タスクを解く際に,従来の表面表現の代替として,自己教師付き学習音声表現が出現している。 同時に、大量のテキストデータに基づいて訓練された多言語モデルを導入し、言語に依存しないセマンティクスを符号化した。 近年、SAMU-XLSRアプローチは、言語に依存しないセマンティクスで多言語言語表現を豊かにするための、このようなテキストモデルから利益を得る方法を導入している。 本研究は,難解な音声言語理解タスクにおけるより優れた意味抽出を目指して,計算コストを考慮して,下流タスクからの少量の転写データに特化することにより,samu-xlsrモデルの特定のドメイン内意味化について検討する。 さらに,同領域のフランス語とイタリア語のベンチマークを低リソース言語のポータビリティに活用することのメリットを示し,拡張SAMU-XLSRのクロスドメイン能力について検討する。

関連論文リスト

• A dual task learning approach to fine-tune a multilingual semantic speech encoder for Spoken Language Understanding [12.887586659035497]
  自己指導型学習は、音声言語理解のための発話を効率的に表現するために広く利用されている。 テキストSSLモデルは言語に依存しないセマンティクスを符号化するために提案されている。 SAMU-XLSRフレームワークはこの意味情報を多言語音声表現の強化に用いた。
  論文  参考訳（メタデータ） (2024-06-17T23:07:53Z)
• MINERS: Multilingual Language Models as Semantic Retrievers [23.686762008696547]
  本稿では,意味検索タスクにおける多言語言語モデルの有効性を評価するためのベンチマークであるMINERSを紹介する。 我々は,200以上の多言語にわたるサンプルの検索において,LMの堅牢性を評価する包括的なフレームワークを構築した。 以上の結果から,意味論的に類似した埋め込みを検索することで,最先端のアプローチと競合する性能が得られることが示された。
  論文  参考訳（メタデータ） (2024-06-11T16:26:18Z)
• Label Aware Speech Representation Learning For Language Identification [49.197215416945596]
  本稿では,自己指導型表現学習と事前学習タスクのための言語ラベル情報を組み合わせた新しいフレームワークを提案する。 このフレームワークは、ラベル認識音声表現(LASR)学習と呼ばれ、三重項に基づく目的関数を使用して、言語ラベルと自己教師付き損失関数を組み込む。
  論文  参考訳（メタデータ） (2023-06-07T12:14:16Z)
• The Interpreter Understands Your Meaning: End-to-end Spoken Language Understanding Aided by Speech Translation [13.352795145385645]
  音声翻訳(ST)は、エンドツーエンドの音声言語理解のために、音声モデルを事前訓練する良い方法である。 我々は,本モデルが単言語および多言語意図分類に基づくベースラインよりも高い性能を達成することを示す。 また、音声要約のための新しいベンチマークデータセットを作成し、低リソース/ゼロショットを英語からフランス語またはスペイン語に転送する。
  論文  参考訳（メタデータ） (2023-05-16T17:53:03Z)
• Beyond Contrastive Learning: A Variational Generative Model for Multilingual Retrieval [109.62363167257664]
  本稿では,多言語テキスト埋め込み学習のための生成モデルを提案する。 我々のモデルは、$N$言語で並列データを操作する。 本手法は, 意味的類似性, ビットクストマイニング, 言語間質問検索などを含む一連のタスクに対して評価を行う。
  論文  参考訳（メタデータ） (2022-12-21T02:41:40Z)
• Multilingual Word Sense Disambiguation with Unified Sense Representation [55.3061179361177]
  本稿では,知識と教師付き多言語単語センス曖昧化(MWSD)システムを提案する。 我々は複数の言語に統一されたセンス表現を構築し、リッチソース言語から貧しい言語へアノテーションを転送することでMWSDのアノテーション不足問題に対処する。 SemEval-13およびSemEval-15データセットの評価により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2022-10-14T01:24:03Z)
• Transducer-based language embedding for spoken language identification [38.60303603000269]
  音響的特徴と言語的特徴は,音声言語識別作業において重要な手がかりである。 近年の先進的なLIDシステムは、言語的特徴符号化を欠いた音響的特徴を主に用いている。 本稿では,RNNトランスデューサモデルを言語埋め込みフレームワークに統合することにより,LIDタスクのための新しいトランスデューサベースの言語埋め込み手法を提案する。
  論文  参考訳（メタデータ） (2022-04-08T07:23:43Z)
• AM2iCo: Evaluating Word Meaning in Context across Low-ResourceLanguages with Adversarial Examples [51.048234591165155]
  本稿では, AM2iCo, Adversarial and Multilingual Meaning in Contextを提案する。 言語間文脈における単語の意味の同一性を理解するために、最先端(SotA)表現モデルを忠実に評価することを目的としている。 その結果、現在のSotAプリトレーニングエンコーダは人間のパフォーマンスにかなり遅れていることが明らかとなった。
  論文  参考訳（メタデータ） (2021-04-17T20:23:45Z)
• Unsupervised Domain Adaptation of a Pretrained Cross-Lingual Language Model [58.27176041092891]
  最近の研究は、大規模未ラベルテキストに対する言語間言語モデルの事前学習が、大幅な性能向上をもたらすことを示唆している。 本稿では,絡み合った事前学習した言語間表現からドメイン固有の特徴を自動的に抽出する,教師なし特徴分解手法を提案する。 提案モデルでは、相互情報推定を利用して、言語間モデルによって計算された表現をドメイン不変部分とドメイン固有部分に分解する。
  論文  参考訳（メタデータ） (2020-11-23T16:00:42Z)
• SPLAT: Speech-Language Joint Pre-Training for Spoken Language Understanding [61.02342238771685]
  音声理解には、入力音響信号を解析してその言語内容を理解し、予測するモデルが必要である。 大規模無注釈音声やテキストからリッチな表現を学習するために,様々な事前学習手法が提案されている。 音声と言語モジュールを協調的に事前学習するための,新しい半教師付き学習フレームワークであるSPLATを提案する。
  論文  参考訳（メタデータ） (2020-10-05T19:29:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。