論文の概要: Yo-ByT5: Efficient and High-Fidelity Diacritic Restoration for Yorùbá

• arxiv url: http://arxiv.org/abs/2610.01634v1
• Date: Thu, 01 Oct 2026 13:03:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:24.14175
• Title: Yo-ByT5: Efficient and High-Fidelity Diacritic Restoration for Yorùbá
• Title（参考訳）: Yo-ByT5 ヨルバの効率的かつ高忠実なダイアクリティカルな復元
• Abstract要約: ByT5-smallを微調整したバイトレベルの自動発音復元モデルであるYo-ByT5を紹介する。 Yo-ByT5は最強のモデルであるmT5ベースのパフォーマンスと10.14%、CERは3.48%と一致している。 トレーニングコードとモデルアウトプットもリリースし、Yorbのダイアクリティカルリストアのための、より大規模で汎用的なベンチマークの開発も求めています。
• 参考スコア（独自算出の注目度）: 2.136162308817592
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Yorùbá is a widely spoken tonal language that depends on diacritics to avoid lexical ambiguity. However, it is often written without these diacritics, thereby hindering downstream Natural Language Processing (NLP) tasks. In this paper, we introduce Yo-ByT5, a byte-level Automatic Diacritic Restoration (ADR) model fine-tuned from ByT5-small. We evaluate Yo-ByT5 alongside five publicly released Yorùbá ADR models and one open-weight large language model (LLM) on the YAD benchmark under a consistent protocol. Our results demonstrate that Yo-ByT5 matches the performance of the strongest existing model, mT5-base, with a DER of 10.14% and a CER of 3.48%. Furthermore, it exhibits superior text fidelity despite using approximately half the parameter count of mT5-base. We also release our training code and model outputs, as well as call for the development of a larger, purpose-built benchmark for Yorùbá diacritic restoration.
• Abstract（参考訳）: ヨルバー語は広く話される声調言語であり、語彙的曖昧さを避けるためにダイアクリティカルな言語に依存する。 しかし、これらのダイアクリティカルティクスを使わずに書かれることも多く、それによって下流の自然言語処理(NLP)タスクが妨げられる。 本稿では,By-ByT5-smallを微調整したバイトレベルの自動発音復元(ADR)モデルであるYo-ByT5を紹介する。 YADベンチマークでは,Yo-ByT5を5つの公開されたYor'bá ADRモデルと1つのオープンウェイトな大規模言語モデル(LLM)とともに一貫したプロトコルで評価する。 以上の結果から,Yo-ByT5は最強モデルであるmT5ベースの性能に10.14%,CERは3.48%と一致した。 さらに、mT5-baseのパラメータの約半分を使用しながら、優れたテキスト忠実度を示す。 トレーニングコードとモデルアウトプットもリリースし、Yor'báのダイアクリティカルリストアのための、より大規模で汎用的なベンチマークの開発も求めています。

関連論文リスト

• Pushing on Multilingual Reasoning Models with Language-Mixed Chain-of-Thought [23.847410628315544]
  英語とターゲット言語を切り替える推論スキーマである**Language-Mixed CoT**を紹介する。 我々は6つのファミリー(Qwen2.5、Llama-3.1、Gemma-3など)でNinveモデル(4B-35B)を訓練する。 我々のベストモデル**KO-REAson-35B*は、平均スコア(64.0 pm 25)で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2025-10-05T14:39:41Z)
• YAD: Leveraging T5 for Improved Automatic Diacritization of Yorùbá Text [2.84807470189944]
  本稿では、Yorub'a diacritizationシステムを評価するために、Yorub'a Automatic diacritization (YAD)ベンチマークデータセットを提案する。 また、Yorub'aのテキスト・トゥ・テキスト・トランスフォーマーであるT5モデルを事前訓練し、このモデルが複数言語で訓練されたT5モデルより優れていることを示した。
  論文  参考訳（メタデータ） (2024-12-28T17:03:30Z)
• MrT5: Dynamic Token Merging for Efficient Byte-level Language Models [50.46453950887946]
  この研究は、より効率的なByT5の変種であるMrT5(MergeT5)を導入し、トークン削除機構をエンコーダに統合し、入力シーケンスの長さを動的に短縮する。 MrT5は、削除されたトークンから重要な情報をよりコンパクトなシーケンスに"マージ"し、残りのトークンからコンテキスト情報を活用する。 MrT5は、XNLI、TyDi QA、文字レベルのタスクなどの下流評価ではByT5に匹敵する精度を示し、シーケンス長を最大75%削減する。
  論文  参考訳（メタデータ） (2024-10-28T06:14:12Z)
• UT5: Pretraining Non autoregressive T5 with unrolled denoising [9.656399724144192]
  自動回帰型T5モデルの教師なし事前訓練について,非学習型聴覚障害者を用いて検討した。 我々は,SQuAD質問生成やXSumなどの下流生成タスクにおいて,そのSoTA結果を示した。
  論文  参考訳（メタデータ） (2023-11-14T21:28:10Z)
• Evaluating Byte and Wordpiece Level Models for Massively Multilingual Semantic Parsing [3.431659287330068]
  バイトレベル(ByT5)とワードピースベース(mT5)をMASSIVE多言語意味解析データセットの51言語におけるシーケンスモデルと比較する。 すべての言語からのゴールドデータに基づいてトレーニングされたモデルに対して、正確なマッチング精度のギャップを5ポイントに縮めることができます。
  論文  参考訳（メタデータ） (2022-12-14T13:48:32Z)
• Text Embeddings by Weakly-Supervised Contrastive Pre-training [98.31785569325402]
  E5は最先端のテキスト埋め込みのファミリーであり、幅広いタスクにうまく転送される。 E5は、テキストの単一ベクトル表現を必要とするタスクに対して、汎用的な埋め込みモデルとして簡単に使用できる。
  論文  参考訳（メタデータ） (2022-12-07T09:25:54Z)
• Evaluation of Transfer Learning for Polish with a Text-to-Text Model [54.81823151748415]
  ポーランド語におけるテキスト・テキスト・モデルの質を評価するための新しいベンチマークを導入する。 KLEJベンチマークはテキスト・トゥ・テキスト、en-pl翻訳、要約、質問応答に適応している。 本稿では,ポーランド語のための汎用テキスト・テキスト・ツー・テキスト・モデルであるplT5について述べる。
  論文  参考訳（メタデータ） (2022-05-18T09:17:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。