論文の概要: SepRQ : Self-Supervised Speech Mixture Representation Learning via Mask-Free, Multi-Scale Source Separation
- arxiv url: http://arxiv.org/abs/2610.04690v1
- Date: Sat, 03 Oct 2026 18:05:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 17:43:20.207458
- Title: SepRQ : Self-Supervised Speech Mixture Representation Learning via Mask-Free, Multi-Scale Source Separation
- Title(参考訳): SepRQ : マスクのないマルチスケール音源分離による自己教師付き音声混合表現学習
- Abstract要約: 自己教師付き学習(SSL)は音声表現学習の標準であるが、主流モデルは単一話者音声を中心に設計されている。
我々は、マスク付き予測を疑似ソース分離の目的に置き換えるオープンソースのSSLフレームワークであるSepRQを紹介する。
SepRQは、SUPERBベンチマークにおける話者ダイアリゼーションと音声分離の最先端性能を達成する。
- 参考スコア(独自算出の注目度): 17.827635453708304
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-supervised learning (SSL) is standard for speech representation learning, but mainstream models are designed around single-speaker audio, limiting their usefulness in multi-speakers scenarios. We present SepRQ, an open-source SSL framework that replaces masked prediction with a pseudo-source-separation objective over frozen random-projection codebooks. By adopting a novel mask-free, multiresolution approach, SepRQ achieves state-of-the-art performance in Speaker Diarization and Speech Separation on the SUPERB benchmark, surpassing WavLM and other cocktail-party derived SSLs at both Base and Large scales, while requiring only 85.68M inference parameters. SepRQ also demonstrates strong performance across target-speaker tasks requiring enrollment (such as Target-Speaker Automatic Speech Recognition), and on the challenging multi-domain DIHARD 3 diarization dataset. Notably, we report strong separation capabilities on three-speaker mixtures (WSJ0-3Mix), where current SSL literature struggles. While cocktail-party SSLs remain scarce and closed-source, limited to C-HuBERT and the enrollment-based SA-WavLM, we open-source SepRQ to the community.
- Abstract(参考訳): 自己教師付き学習(SSL)は、音声表現学習の標準であるが、主流モデルは、単一話者音声を中心に設計されており、マルチ話者シナリオにおけるそれらの有用性を制限している。
SepRQは、マスク付き予測を、凍結したランダム投影コードブック上の擬似ソース分離目的に置き換えるオープンソースのSSLフレームワークである。
マスクフリーでマルチレゾリューションのアプローチを採用することで、SepRQはSUPERBベンチマークにおける話者ダイアリゼーションと音声分離における最先端のパフォーマンスを達成し、WavLMや他のカクテルパーティーによるSSLをベースと大規模の両方で上回り、推論パラメータは85.68Mしか必要としない。
SepRQはまた、登録を必要とするターゲット話者タスク(ターゲット話者自動音声認識など)と、挑戦的なマルチドメインDIHARD 3ダイアリゼーションデータセット上で、強力なパフォーマンスを示す。
特に,現在のSSL文献が苦戦している3つの話者混合体(WSJ0-3Mix)について,強い分離機能について報告する。
カクテルパーティのSSLは、C-HuBERTと登録ベースのSA-WavLMに限られているが、私たちはSepRQをコミュニティにオープンソース化した。
関連論文リスト
- Generate, Analyze, and Refine: Training-Free Sound Source Localization via MLLM Meta-Reasoning [24.266987119038134]
音源定位タスクは、音響と視覚の相関を利用して、音の放射する物体の位置を特定することを目的としている。
既存のSSLメソッドの多くは、対照的な学習ベースの特徴マッチングに依存しているが、明確な推論と検証は欠如している。
マルチモーダル大規模言語モデルの本質的な推論機能を利用する訓練不要なSSLフレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-08T08:40:33Z) - CBF-AFA: Chunk-Based Multi-SSL Fusion for Automatic Fluency Assessment [0.22499166814992438]
AFA(Automatic Fluency Assessment)は、特に非ネイティブ話者の音声リズム、ポーズ、拡散を捉える上で、依然として困難である。
本稿では, 音声, 韻律, 騒々しい音声モデリングにおいて, 相補的な強みのために選択された自己教師付き学習(SSL)モデルを統合するチャンクベースアプローチを提案する。
提案手法では,AvalinguoではF1スコアが2.8,Pearson相関が6.2,F1スコアが4.2,Pearsonポイントが4.0であった。
論文 参考訳(メタデータ) (2025-06-25T08:39:22Z) - What Makes a Good Speech Tokenizer for LLM-Centric Speech Generation? A Systematic Study [58.55905182336196]
音声言語モデル(SLM)は、音声とテキストの理解と生成を統一するための有望な経路を提供する。
LLM中心のSLMにおける音声トークン化設計の役割について検討し,音声ヘッドと話者モデルを用いて検討した。
SLMにマルチトークン予測(MTP)を導入し、各隠れ状態が複数の音声トークンを復号化できるようにする。
論文 参考訳(メタデータ) (2025-06-14T15:26:31Z) - Large Language Models are Strong Audio-Visual Speech Recognition Learners [53.142635674428874]
マルチモーダル・大規模言語モデル(MLLM)は,近年,多モーダル理解能力の強化により,研究の焦点となっている。
本稿では,Llama-AVSRを提案する。
我々は,最大公的なAVSRベンチマークであるLSS3に対する提案手法を評価し,WERが0.79%,AVSRが0.77%であるASRとAVSRのタスクに対して,新しい最先端の結果が得られることを示した。
論文 参考訳(メタデータ) (2024-09-18T21:17:27Z) - SLICER: Learning universal audio representations using low-resource
self-supervised pre-training [53.06337011259031]
ラベルなし音声データに事前学習エンコーダを組み込むための自己指導型学習手法を提案する。
我々の主な目的は、多種多様な音声および非音声タスクにまたがる一般化が可能な音声表現を学習することである。
論文 参考訳(メタデータ) (2022-11-02T23:45:33Z) - Combining Spectral and Self-Supervised Features for Low Resource Speech
Recognition and Translation [27.857955394020475]
自己教師付き学習(SSL)モデルは、様々なディープラーニングベースの音声タスクにうまく適用されている。
SSL表現の品質は、SSLトレーニングドメインとターゲットデータドメインの関連性に大きく依存します。
SFとSSLの表現を組み合わせるための学習可能かつ解釈可能なフレームワークを提案する。
論文 参考訳(メタデータ) (2022-04-05T20:09:15Z) - UniSpeech-SAT: Universal Speech Representation Learning with Speaker
Aware Pre-Training [72.004873454347]
教師なし話者情報抽出の2つの手法が導入された。
SUPERBベンチマークによる実験結果から,提案方式は最先端の性能を実現することが示された。
トレーニングデータセットを94万時間公開オーディオデータにスケールアップし、さらなるパフォーマンス向上を実現しています。
論文 参考訳(メタデータ) (2021-10-12T05:43:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。