論文の概要: Learning task-specific subspaces via interventional post-training of speech foundation models

• arxiv url: http://arxiv.org/abs/2606.17967v1
• Date: Tue, 16 Jun 2026 14:18:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-17 17:15:32.476922
• Title: Learning task-specific subspaces via interventional post-training of speech foundation models
• Title（参考訳）: 音声基礎モデルの介入後学習によるタスク固有部分空間の学習
• Authors: Jack Cox, Jon Barker,
• Abstract要約: 介入型コントラスト学習を用いた訓練後改善手法を提案する。 我々は、音声基礎モデルの絡み合った表現空間から、別コンテンツと話者部分空間への変換を学習する。
• 参考スコア（独自算出の注目度）: 10.599866062045917
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Speech foundation models, pre-trained on large corpora of unlabelled speech data, produce general-purpose representations which are useful across tasks. However, these representations encode information about salient speech variables in a distributed manner, while downstream speech tasks rely on only some of this variability. In this work, we propose a post-training refinement approach using interventional contrastive learning. By leveraging an interventional dataset and multi-part contrastive loss, we learn a transformation from the entangled representation space of speech foundation models into separate content and speaker subspaces. We evaluate the learnt representations on speaker verification and keyword spotting tasks, showing improved out-of-domain speaker verification performance and evidence that speaker and content information are separated across the learned subspaces.
• Abstract（参考訳）: 音声基礎モデルは,音声データの大規模なコーパスに基づいて事前学習され,タスク間で有用な汎用表現を生成する。 しかし、これらの表現は有能な音声変数に関する情報を分散的に符号化する一方、下流の音声タスクはこの変数のいくつかにのみ依存する。 本研究では,介入型コントラスト学習を用いた学習後改善手法を提案する。 介入データセットと複数部分のコントラスト損失を利用して、音声基礎モデルの絡み合った表現空間から、別コンテンツと話者部分空間への変換を学習する。 話者検証とキーワードスポッティングタスクにおける学習表現を評価し、ドメイン外の話者検証性能の改善と、学習サブスペース間で話者情報とコンテンツ情報が分離されている証拠を示す。

関連論文リスト

• Learning Multiple Utterance-Level Attribute Representations with a Unified Speech Encoder [11.899124832007042]
  自己教師付き学習で訓練された音声基礎モデルは、幅広い音声処理タスクをサポートする汎用的な音声表現を生成する。 最近のポストトレーニング手法は、音声表現を発話レベルの意味表現と整合させ、効果的なマルチモーダル(音声テキスト)と多言語アプリケーションを可能にする。 本稿では,複数種類の発話レベルの表現を単一音声基盤モデルで生成可能な統合後学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-09T12:34:57Z)
• Eta-WavLM: Efficient Speaker Identity Removal in Self-Supervised Speech Representations Using a Simple Linear Equation [1.3874486202578669]
  自己教師付き学習(SSL)は、注釈のないデータから意味のある表現を学習することで、音声技術における高価なラベリングへの依存を減らした。 本稿では,SSL表現を話者固有成分と話者非依存成分に線形に分解する新しいアンタングル法を提案する。
  論文  参考訳（メタデータ） (2025-05-25T19:05:26Z)
• Improving Speaker Diarization using Semantic Information: Joint Pairwise Constraints Propagation [53.01238689626378]
  本稿では,話者ダイアリゼーションシステムにおける意味情報を活用する新しい手法を提案する。 音声言語理解モジュールを導入し、話者関連意味情報を抽出する。 本稿では,これらの制約を話者ダイアリゼーションパイプラインに統合する新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2023-09-19T09:13:30Z)
• Self-supervised Fine-tuning for Improved Content Representations by Speaker-invariant Clustering [78.2927924732142]
  話者不変クラスタリング(Spin)を自己教師付き学習手法として提案する。 Spinは、単一のGPU上で45分間の微調整で、スピーカー情報を切り離し、コンテンツ表現を保存する。
  論文  参考訳（メタデータ） (2023-05-18T15:59:36Z)
• SPADE: Self-supervised Pretraining for Acoustic DisEntanglement [2.294014185517203]
  室内音響を音声から切り離す自己教師型手法を提案する。 提案手法は,ラベル付きトレーニングデータが少ない場合に,ベースライン上での性能を著しく向上することを示す。
  論文  参考訳（メタデータ） (2023-02-03T01:36:38Z)
• Improving Self-Supervised Speech Representations by Disentangling Speakers [56.486084431528695]
  音声における自己教師付き学習は、大規模無意味な音声コーパス上で、音声表現ネットワークを訓練することを含む。 話者を遠ざけることは非常に困難であり、スピーカー情報を削除すればコンテンツも失われる可能性がある。 本稿では,コンテンツが著しく失われることなく,話者のゆがみを解消できる新しいSSL手法を提案する。
  論文  参考訳（メタデータ） (2022-04-20T04:56:14Z)
• VQMIVC: Vector Quantization and Mutual Information-Based Unsupervised Speech Representation Disentanglement for One-shot Voice Conversion [54.29557210925752]
  ワンショット音声変換は、音声表現のアンタングルメントによって効果的に実現できる。 コンテンツエンコーディングにはベクトル量子化(VQ)を使用し、トレーニング中に相互情報(MI)を相関指標として導入する。 実験結果は,提案手法が効果的に非絡み合った音声表現を学習する際の優位性を反映している。
  論文  参考訳（メタデータ） (2021-06-18T13:50:38Z)
• SPLAT: Speech-Language Joint Pre-Training for Spoken Language Understanding [61.02342238771685]
  音声理解には、入力音響信号を解析してその言語内容を理解し、予測するモデルが必要である。 大規模無注釈音声やテキストからリッチな表現を学習するために,様々な事前学習手法が提案されている。 音声と言語モジュールを協調的に事前学習するための,新しい半教師付き学習フレームワークであるSPLATを提案する。
  論文  参考訳（メタデータ） (2020-10-05T19:29:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。