論文の概要: Phonologically Informed Tokenization for German Speech Recognition: A Cross-Domain Study
- arxiv url: http://arxiv.org/abs/2610.11646v1
- Date: Thu, 08 Oct 2026 10:20:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.955585
- Title: Phonologically Informed Tokenization for German Speech Recognition: A Cross-Domain Study
- Title(参考訳): ドイツ語音声認識のための音韻インフォームド・トークン化の検討
- Abstract要約: 音韻的に情報を得たトークン化がエンドツーエンド音声認識の競争対象になるかどうかを問う。
CTC を微調整した Omnilingual ASR wav2vec 2.0 バックボーン上の3つのトークン化因子ファミリーを比較した。
本研究は,ドイツ語テストセットの語彙変化,すなわち,ドメイン内読み上げ音声,方言自発音声,標準ドイツ語自発音声の40点を比較検討した。
- 参考スコア(独自算出の注目度): 19.373047831487035
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: German is a morphologically rich language whose syllable structure is exceptionally well-predicted by the Knuth--Liang hyphenation algorithm. We ask whether phonologically informed tokenization can serve as a competitive target for end-to-end speech recognition. We compare three tokenizer families on the Omnilingual ASR wav2vec 2.0 backbone fine-tuned with CTC: the pretrained multilingual character inventory, a data-driven Byte-Pair Encoding (BPE) over orthography, and phonologically informed units from Pyphen syllabification and grapheme-to-phoneme conversion. Across 40 fine-tunes, we evaluate on three German test sets spanning orthogonal shifts: in-domain read speech, dialectal spontaneous speech, and standard-German spontaneous speech. In-domain, all phonologically informed tokenizers match BPE and the multilingual character baseline on both WER and CER. Under domain shift the picture splits along vocabulary size rather than the linguistic axis of variation: at small vocabularies, syllable-aware tokenization improves on dialectal speech, where phonetic surface forms vary but syllable structure is preserved, and stays ahead on spontaneous speech, where new word-forms violate vocabulary closure. A phoneme-level confusion analysis further shows that all tokenizers commit the same canonical function-word errors, indicating that the acoustic encoder, not the tokenizer, dominates the error topology. Our findings suggest that tokenizer choice may depend on the vocabulary budget as much as on the distribution shift expected at deployment rather than reducing to a single universal optimum.
- Abstract(参考訳): ドイツ語は形態学的に豊かな言語であり、音節構造はクヌース=リアンハイフン化アルゴリズムによって非常によく予測されている。
音韻的に情報を得たトークン化がエンドツーエンド音声認識の競争対象になるかどうかを問う。
我々は,CTCを微調整したOmnilingual ASR wav2vec 2.0バックボーンの3つのトークンライザファミリーを比較した: 事前訓練された多言語文字のインベントリ,データ駆動のByte-Pair Encoding (BPE) とPyphen syllabification と Grapheme-to-phoneme 変換の音韻的情報ユニット。
直交変化を呈する3つのドイツ語テストセット,すなわちドメイン内可読音声,方言自発音声,標準ドイツ語自発音声について検討した。
ドメイン内では、すべての音韻的に情報を得たトークン化器は、WERとCERの両方のBPEと多言語文字ベースラインに一致する。
ドメインシフトの下では、画像は、変化の言語軸ではなく、語彙サイズに沿って分割される:小さな語彙では、音節認識のトークン化は方言言語で改善され、音節面は変化しているが音節構造は保存され、新しい単語形式が語彙閉鎖に反する自然発話に先行する。
さらに、音素レベルの混乱解析により、全てのトークンコーダが同じ標準関数ワードエラーを犯し、トークンコーダではなく音響エンコーダがエラートポロジを支配していることを示す。
この結果から, トークン化の選択肢は, 単一の普遍的最適化に還元するのではなく, 展開時に期待される分布シフトよりも, 語彙予算に依存する可能性が示唆された。
関連論文リスト
- Beyond Atomic Tokens: Factorizing Syllables for Language Model Pretraining [8.518399717813192]
ベトナム語と中国語の言語的に動機づけられたトークンであるtextbfPhonemic Tokenizerを紹介した。
各音節をIPAに変換し、その音節をオンセット、ライム、トーンの3つの音韻的要素に分解する。
textbfPhonemicBERTでは、分解されたコンポーネントの埋め込みと完全なマスク付き音節の再構成を組み合わせたトークン化をインスタンス化する。
論文 参考訳(メタデータ) (2026-09-18T06:21:38Z) - KIT's Submission to Cross-Lingual Voice Cloning in IWSLT 2026 [61.29502937013759]
言語間音声のクローニングは、ソース言語参照から話者識別を保ちながら、ターゲット言語で音声を生成することを目的としている。
鍵となる課題は、アクセントの変化とドメイン固有の語彙の存在において、知性と自然性を維持することである。
我々は、多言語テキスト音声モデル、FishAudio-S2-Proを構築し、言語制御を改善しアクセントリークを低減するために、言語タグプロンプトを導入する。
論文 参考訳(メタデータ) (2026-06-05T13:09:21Z) - How Tokenization Limits Phonological Knowledge Representation in Language Models and How to Improve Them [16.77683912171153]
サブワードベースのトークン化は局所的およびグローバルな音韻的特徴の符号化を系統的に弱めることを示す。
言語モデルに音韻的認識を注入する軽量なIPAに基づく微調整法を提案する。
論文 参考訳(メタデータ) (2026-04-18T18:40:56Z) - Speech Codec Probing from Semantic and Phonetic Perspectives [49.01048570474675]
音声トークン化器は,マルチモーダルシステムにおいて,音声を大言語モデル (LLM) に接続するために必須である。
新たな証拠は、音声表現において「意味」と呼ばれるものは、テキスト由来の意味論と一致しないことを示している。
論文 参考訳(メタデータ) (2026-03-11T03:32:25Z) - Tokens with Meaning: A Hybrid Tokenization Approach for NLP [0.2826977330147589]
自然言語処理(NLP)におけるトークン化の役割
規則に基づく形態素解析と統計的サブワードセグメンテーションを組み合わせたハイブリッドトークン化フレームワークを提案する。
本手法は, 音韻正規化, ルートアフィックス, および形態素保存と語彙効率のバランスをとる新しいアルゴリズムを用いる。
論文 参考訳(メタデータ) (2025-08-19T22:17:42Z) - What Makes a Good Speech Tokenizer for LLM-Centric Speech Generation? A Systematic Study [58.55905182336196]
音声言語モデル(SLM)は、音声とテキストの理解と生成を統一するための有望な経路を提供する。
LLM中心のSLMにおける音声トークン化設計の役割について検討し,音声ヘッドと話者モデルを用いて検討した。
SLMにマルチトークン予測(MTP)を導入し、各隠れ状態が複数の音声トークンを復号化できるようにする。
論文 参考訳(メタデータ) (2025-06-14T15:26:31Z) - Languages in Multilingual Speech Foundation Models Align Both Phonetically and Semantically [58.019484208091534]
事前訓練された言語モデル(LM)における言語間アライメントは、テキストベースのLMの効率的な転送を可能にしている。
テキストに基づく言語間アライメントの発見と手法が音声に適用されるかどうかについては、未解決のままである。
論文 参考訳(メタデータ) (2025-05-26T07:21:20Z) - Sylber: Syllabic Embedding Representation of Speech from Raw Audio [25.703703711031178]
クリーンでロバストな音節構造を持つ音声表現を生成する新モデルSylberを提案する。
具体的には,Syllabicの埋め込みを自己教師なしのSyllabicセグメンテーションから抽出し,自己教師付き学習フレームワークを提案する。
1) 高速で線形な音節分割アルゴリズム,2) 平均4.27トークン毎の効率的な音節トークン化,3) 効率的な音声言語モデリングに適した新しい音韻単位,である。
論文 参考訳(メタデータ) (2024-10-09T17:59:04Z) - Textless Unit-to-Unit training for Many-to-Many Multilingual Speech-to-Speech Translation [65.13824257448564]
本稿では,多言語多言語音声音声合成のためのテキストレス学習手法を提案する。
音声単位を擬似テキストとして扱うことにより、音声の言語内容に焦点を合わせることができる。
提案するUTUTモデルは,音声音声合成(S2ST)だけでなく,多言語音声合成(T2S)やテキスト音声合成(T2ST)にも有効であることを示す。
論文 参考訳(メタデータ) (2023-08-03T15:47:04Z) - Bridging the Modality Gap for Speech-to-Text Translation [57.47099674461832]
エンド・ツー・エンドの音声翻訳は、ある言語における音声を、エンド・ツー・エンドの方法で他の言語におけるテキストに変換することを目的としている。
既存のほとんどの手法では、音響表現と意味情報を同時に学習するために、単一のエンコーダを持つエンコーダ・デコーダ構造を用いる。
本稿では,音声とテキスト間のモダリティギャップを埋めることで,エンドツーエンドのモデル性能を向上させることを目的とした音声翻訳モデルのための音声テキスト適応手法を提案する。
論文 参考訳(メタデータ) (2020-10-28T12:33:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。