論文の概要: From 2.1M Hours of Raw Broadcast Audio to Finnish Speech SSL: Confidence Filtering and Architectural Analysis at Scale

• arxiv url: http://arxiv.org/abs/2610.13102v1
• Date: Fri, 09 Oct 2026 06:57:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.440033
• Title: From 2.1M Hours of Raw Broadcast Audio to Finnish Speech SSL: Confidence Filtering and Architectural Analysis at Scale
• Title（参考訳）: 生放送音声の210万時間からフィンランド音声SSL:信頼度フィルタリングと大規模構造解析
• Abstract要約: 放送アーカイブは、自己教師型学習(SSL)のためのスケールと多様性を提供する 先行研究は通常、音声を抽出するために音声活動の検出や言語識別(LID)に頼っている。 フィンランドのSSL研究は、制約のない放送音声の2.1M時間から始まる。
• 参考スコア（独自算出の注目度）: 16.242315184237967
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Broadcast archives offer scale and diversity for self-supervised learning (SSL) but contain substantial noisy, non-speech, and multilingual content. Prior work typically relies on voice activity detection or language identification (LID) to extract speech, ensuring presence rather than quality. Whether and how to filter unlabeled speech by quality for SSL, particularly from noisy broadcasts, remains underexplored. We present a large-scale Finnish SSL study starting from 2.1M hours of unconstrained broadcast audio. We propose automatic speech recognition (ASR) confidence as a proxy for pretraining data quality and show 3-7% relative WER improvements over LID-based filtering despite a smaller training set. We further address the lack of controlled architectural comparisons in speech SSL by evaluating Transformer, Macaron-Net, Conformer, and E-Branchformer at matched parameter budgets. Our models improve upon prior Finnish SSL baselines, particularly at Base scale and out-of-domain.
• Abstract（参考訳）: 放送アーカイブは、自己教師付き学習(SSL)のためのスケールと多様性を提供するが、かなりのノイズ、非音声、多言語コンテンツを含んでいる。 先行研究は、通常、音声活動の検出や言語識別(LID)に頼って音声を抽出し、品質よりも確実な存在を保証する。 SSLの品質によって、特にノイズの多い放送からラベルなしの音声をフィルタリングする方法は、まだ未調査だ。 フィンランドのSSL研究は、制約のない放送音声の2.1M時間から始まる。 データ品質を事前訓練するためのプロキシとして自動音声認識(ASR)信頼度を提案し、トレーニングセットが小さいにもかかわらず、LIDベースのフィルタリングよりも37%の相対的なWER改善を示す。 さらに,Transformer,Macaron-Net,Conformer,E-Branchformerをパラメータ予算で評価することにより,音声SSLにおける制御されたアーキテクチャ比較の欠如に対処する。 我々のモデルは、以前のフィンランドのSSLベースライン、特にBaseスケールとout-of- domainを改善しています。

関連論文リスト

• SepRQ : Self-Supervised Speech Mixture Representation Learning via Mask-Free, Multi-Scale Source Separation [17.827635453708304]
  自己教師付き学習(SSL)は音声表現学習の標準であるが、主流モデルは単一話者音声を中心に設計されている。 我々は、マスク付き予測を疑似ソース分離の目的に置き換えるオープンソースのSSLフレームワークであるSepRQを紹介する。 SepRQは、SUPERBベンチマークにおける話者ダイアリゼーションと音声分離の最先端性能を達成する。
  論文  参考訳（メタデータ） (2026-10-03T18:05:45Z)
• Leveraging Audio-LLMs to Filter Speech-to-Speech Training Data [5.0319300412852765]
  本研究では,音声から直接ペア音声の保存/ドロップ決定を行うために,音声モデルの訓練方法について検討する。 軽量なランク付け器は、ノイズの多い音声ペアから保持/ドロップ擬似ラベルを生成し、その後、音声大言語モデルを訓練して、保持/ドロップを予測する。 CVSS-CとSpeechMatrixの実験では、非フィルタリングトレーニングよりも一貫した改善が見られ、エンドツーエンドのS2STでは最大1.4のASR-BLEUが得られる。
  論文  参考訳（メタデータ） (2026-06-11T15:55:23Z)
• CBF-AFA: Chunk-Based Multi-SSL Fusion for Automatic Fluency Assessment [0.22499166814992438]
  AFA(Automatic Fluency Assessment)は、特に非ネイティブ話者の音声リズム、ポーズ、拡散を捉える上で、依然として困難である。 本稿では, 音声, 韻律, 騒々しい音声モデリングにおいて, 相補的な強みのために選択された自己教師付き学習(SSL)モデルを統合するチャンクベースアプローチを提案する。 提案手法では,AvalinguoではF1スコアが2.8,Pearson相関が6.2,F1スコアが4.2,Pearsonポイントが4.0であった。
  論文  参考訳（メタデータ） (2025-06-25T08:39:22Z)
• Performance Analysis of Speech Encoders for Low-Resource SLU and ASR in Tunisian Dialect [11.013934239276036]
  自己教師付き学習(SSL)によって事前訓練された音声エンコーダは、様々な下流タスクにおいて顕著な性能を示した。 本稿では,低音源のチュニジア・アラビア方言の文脈におけるSSLアプローチの有効性を比較することで貢献する。
  論文  参考訳（メタデータ） (2024-07-05T14:21:36Z)
• An Initial Investigation of Language Adaptation for TTS Systems under Low-resource Scenarios [76.11409260727459]
  本稿では,最近のSSLベースの多言語TSシステムであるZMM-TTSの言語適応性について検討する。 本研究では,事前学習言語と対象言語との音声学的な類似性が,対象言語の適応性能に影響を及ぼすことを示す。
  論文  参考訳（メタデータ） (2024-06-13T08:16:52Z)
• XLAVS-R: Cross-Lingual Audio-Visual Speech Representation Learning for Noise-Robust Speech Perception [62.660135152900615]
  音声認識と翻訳システムではノイズの多い入力が不十分である。 XLAVS-Rは、雑音による音声認識と翻訳のための言語間音声・視覚音声表現モデルである。
  論文  参考訳（メタデータ） (2024-03-21T13:52:17Z)
• Deploying self-supervised learning in the wild for hybrid automatic speech recognition [20.03807843795386]
  自己教師付き学習(SSL)法は自動音声認識(ASR)において非常に成功したことが証明されている。 我々は、データ前処理からストリーミングハイブリッドASRモデルのデプロイまで、SSLの未転写オーディオデータを利用する方法を示す。
  論文  参考訳（メタデータ） (2022-05-17T19:37:40Z)
• Audio Self-supervised Learning: A Survey [60.41768569891083]
  SSL(Self-Supervised Learning)は、人間のアノテーションを必要とせずに、大規模データから一般的な表現を見つけることを目的としている。 コンピュータビジョンと自然言語処理の分野での成功により、近年では音声処理や音声処理の分野で採用されている。
  論文  参考訳（メタデータ） (2022-03-02T15:58:29Z)
• Wav2vec-Switch: Contrastive Learning from Original-noisy Speech Pairs for Robust Speech Recognition [52.71604809100364]
  音声の文脈化表現に雑音のロバスト性をエンコードするwav2vec-Switchを提案する。 具体的には、オリジナルノイズの多い音声ペアを同時にwav2vec 2.0ネットワークに供給する。 既存のコントラスト学習タスクに加えて、原音声と雑音音声の量子化表現を追加の予測対象に切り替える。
  論文  参考訳（メタデータ） (2021-10-11T00:08:48Z)
• LeBenchmark: A Reproducible Framework for Assessing Self-Supervised Representation Learning from Speech [63.84741259993937]
  膨大なラベルのないデータを用いた自己教師付き学習(SSL)は、画像処理と自然言語処理に成功している。 最近の研究では、音声からSSLも調べた。 音声からSSLを評価する再現可能なフレームワークであるLeBenchmarkを提案する。
  論文  参考訳（メタデータ） (2021-04-23T08:27:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。