論文の概要: Towards Stress-Aware Sentence-Level Filipino G2P With Weakly-Supervised ByT5 Fine-Tuning
- arxiv url: http://arxiv.org/abs/2609.09974v1
- Date: Wed, 09 Sep 2026 10:02:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.979586
- Title: Towards Stress-Aware Sentence-Level Filipino G2P With Weakly-Supervised ByT5 Fine-Tuning
- Title（参考訳）: ByT5ファインチューニングによる応力認識型フィリピンG2Pの実現に向けて
- Abstract要約: Grapheme-to-phoneme conversion (G2P) とは、音素のシーケンスを対応する音素のシーケンスに変換するタスクである。
そこで本研究では,フィリピンにおける文レベルの音素データを取得する方法について検討する。
我々は,3つの文レベルG2Pデータセットに基づいて,多言語語レベルG2Pデータに基づいて事前学習したByT5ベースのモデルを微調整する。
- 参考スコア（独自算出の注目度）: 0.22020053359163302
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Grapheme-to-phoneme conversion (G2P) refers to the task of converting a sequence of graphemes to a corresponding sequence of phonemes. While Filipino G2P is fairly straightforward due to its shallow orthography, the inclusion of prosodic features such as stress adds a layer of complexity that requires sentence-level context instead of single-word inputs. However, sentence-level data for Filipino typically do not include phoneme transcriptions, posing a challenge for training G2P models. As such, we investigate how to obtain sentence-level phoneme data for Filipino using available data and compare the resulting models with multilingual word-level G2P as well as measure how accurately they predict stress marker position for Filipino. We propose fine-tuning a ByT5-based model, pre-trained on multilingual word-level G2P data, on three sentence-level G2P datasets annotated with an LLM-assisted pipeline guided by data from Wiktionary. This approach produces models that perform well on the G2P task, achieving at best around 0.54% PER and 2.50% CER, a significant decrease compared to base model PER at around 19.74%, on a manually-corrected test set. The model is able to correctly classify most of the main stress classes in Filipino, but struggles particularly with malumi words. We show that a ByT5-based model performs well at sentence-level Filipino G2P and offers strong potential for Filipino homograph disambiguation.
- Abstract（参考訳）: Grapheme-to-phoneme conversion (G2P)は、音素のシーケンスを対応する音素のシーケンスに変換するタスクである。
フィリピンのG2Pは浅い正書法のため比較的単純であるが、ストレスのような韻律的特徴を含めると、単語入力の代わりに文レベルのコンテキストを必要とする複雑さの層が増す。
しかしながら、フィリピンの文レベルのデータは、通常、音素の書き起こしを含まないため、G2Pモデルを訓練する上での課題である。
そこで本研究では,フィリピン語における文レベルの音素データと多言語語レベルのG2Pとの比較を行い,フィリピン語におけるストレスマーカーの位置を正確に予測する方法について検討した。
WiktionaryのデータでガイドされたLLM支援パイプラインを付加した3つの文レベルG2Pデータセット上で、多言語語レベルのG2Pデータに基づいて事前訓練されたByT5ベースのモデルを微調整する。
このアプローチはG2Pタスクでよく機能するモデルを生成し、最大で0.54%のPERと2.50%のCERを達成している。
このモデルはフィリピンの主要なストレスクラスの大部分を正しく分類することができるが、特にマルーミ語で苦戦している。
ByT5ベースのモデルが文レベルのフィリピンG2Pで良好に機能し、フィリピンのホモグラフの曖昧さに強い可能性を秘めていることを示す。
関連論文リスト
- Fast, Not Fancy: Rethinking G2P with Rich Data and Rule-Based Models [2.8948274245812327]
ホログラフの曖昧さは、G2P変換において重要な課題である。
本稿では、ホモグラフに着目したデータセットを構築するための半自動パイプラインを提案し、その効果を実証する。
我々は、最もよく知られたルールベースのG2PシステムであるeSpeakを高速なホモグラフ対応バージョンであるHomoFast eSpeakに改良する。
論文 参考訳（メタデータ） (2025-05-19T11:11:12Z) - Discourse Features Enhance Detection of Document-Level Machine-Generated Content [53.41994768824785]
機械生成コンテンツは、学術プラジャリズムや誤報の拡散といった課題を提起する。
既存のMGC検出器は、しばしば表面レベルの情報のみに焦点を当て、暗黙的かつ構造的な特徴を見渡す。
これらの課題を克服するために、新しい方法論とデータセットを導入します。
論文 参考訳（メタデータ） (2024-12-17T08:47:41Z) - Improving Grapheme-to-Phoneme Conversion through In-Context Knowledge Retrieval with Large Language Models [74.71484979138161]
Grapheme-to-phoneme (G2P)変換は、Text-to-Speech (TTS)システムにおいて重要なステップである。
文脈対応シナリオの処理におけるLLM(Large Language Models)の成功に触発されて,文脈型G2P変換システムを提案する。
ICKRをG2P変換システムに組み込むことの有効性は、Librig2pデータセットで完全に実証されている。
論文 参考訳（メタデータ） (2024-11-12T05:38:43Z) - MetaKP: On-Demand Keyphrase Generation [52.48698290354449]
オンデマンドのキーフレーズ生成は,特定のハイレベルな目標や意図に従うキーフレーズを必要とする新しいパラダイムである。
そこで我々は,4つのデータセット,7500のドキュメント,3760の目標からなる大規模ベンチマークであるMetaKPを紹介した。
ソーシャルメディアからの流行事象検出に応用して,一般のNLP基盤として機能する可能性を示す。
論文 参考訳（メタデータ） (2024-06-28T19:02:59Z) - Mitigating the Exposure Bias in Sentence-Level Grapheme-to-Phoneme (G2P)
Transduction [44.19022422439438]
ByT5と呼ばれるT5に基づくトークン化なしバイトレベルモデルは、単語レベルのG2P変換に有望な結果を与えた。
本稿では, 文レベルと段落レベルのG2Pの性能を, 損失に基づくサンプリング手法を用いて緩和することで改善できることを示す。
論文 参考訳（メタデータ） (2023-08-16T15:49:36Z) - Unifying Language Learning Paradigms [96.35981503087567]
データセットやセットアップ全体にわたって普遍的に有効である事前学習モデルのための統一的なフレームワークを提案する。
本研究では, 事前学習対象を相互に配置し, 異なる対象間の補間を効果的に行う方法を示す。
また,テキスト内学習において,ゼロショットSuperGLUEで175B GPT-3,ワンショット要約でT5-XXLの性能を3倍に向上させた。
論文 参考訳（メタデータ） (2022-05-10T19:32:20Z) - ByT5 model for massively multilingual grapheme-to-phoneme conversion [13.672109728462663]
ByT5をベースとしたG2Pモデルを実装することで,多言語グラフから音素への変換を実現する。
バイトレベルの入力で動作する ByT5 は,多言語G2P でトークンベースの mT5 モデルよりも有意に優れていた。
論文 参考訳（メタデータ） (2022-04-06T20:03:38Z) - g2pW: A Conditional Weighted Softmax BERT for Polyphone Disambiguation
in Mandarin [0.3211619859724084]
多音不明瞭化は、マンダリン・グラテム・音素変換において最も重要な課題である。
本稿では,学習可能なソフトマックスウェイトを適応させて,ポリフォニックな特徴を持つBERTの出力を条件付ける,g2pWという新しい手法を提案する。
実験の結果,g2pWはCPPデータセット上の既存の手法よりも優れていた。
論文 参考訳（メタデータ） (2022-03-20T02:28:25Z) - PanGu-$\alpha$: Large-scale Autoregressive Pretrained Chinese Language
Models with Auto-parallel Computation [58.31465205357637]
PanGu-$alpha$という,最大200億パラメータの大規模オートレグレッシブ言語モデルをトレーニングするプラクティスを紹介します。
PanGu-$alpha$はMindSporeの下で開発され、2048 Ascend 910 AIプロセッサのクラスタでトレーニングされている。
論文 参考訳（メタデータ） (2021-04-26T06:59:36Z) - One Model to Pronounce Them All: Multilingual Grapheme-to-Phoneme
Conversion With a Transformer Ensemble [0.0]
モデルアンサンブルを多言語トランスフォーマーと自己学習に応用し、15言語のための高効率なG2Pソリューションを開発するための簡単なアプローチについて述べる。
最良モデルでは14.99ワード誤り率(WER)と3.30音素誤り率(PER)が達成され,共有タスク競合ベースラインよりも大幅に改善された。
論文 参考訳（メタデータ） (2020-06-23T21:28:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。