Fugu-MT 論文翻訳(概要): YAD: Leveraging T5 for Improved Automatic Diacritization of Yorùbá Text

論文の概要: YAD: Leveraging T5 for Improved Automatic Diacritization of Yorùbá Text

arxiv url: http://arxiv.org/abs/2412.20218v1
Date: Sat, 28 Dec 2024 17:03:30 GMT
ステータス: 翻訳完了
システム内更新日: 2024-12-31 16:01:21.191714
Title: YAD: Leveraging T5 for Improved Automatic Diacritization of Yorùbá Text
Title（参考訳）: YAD: ヨルバ文字の自動発音改善のためのT5を活用する
Authors: Akindele Michael Olawole, Jesujoba O. Alabi, Aderonke Busayo Sakpere, David I. Adelani,
Abstract要約: 本稿では、Yorub'a diacritizationシステムを評価するために、Yorub'a Automatic diacritization (YAD)ベンチマークデータセットを提案する。また、Yorub'aのテキスト・トゥ・テキスト・トランスフォーマーであるT5モデルを事前訓練し、このモデルが複数言語で訓練されたT5モデルより優れていることを示した。
参考スコア（独自算出の注目度）: 2.84807470189944
License:
Abstract: In this work, we present Yor\`ub\'a automatic diacritization (YAD) benchmark dataset for evaluating Yor\`ub\'a diacritization systems. In addition, we pre-train text-to-text transformer, T5 model for Yor\`ub\'a and showed that this model outperform several multilingually trained T5 models. Lastly, we showed that more data and larger models are better at diacritization for Yor\`ub\'a
Abstract（参考訳）: 本稿では,Yor\`ub\'a自動ダイアクリマイゼーション(YAD)ベンチマークデータセットについて述べる。さらに、Yor\`ub\'aのテキスト・トゥ・テキスト・トランスフォーマーであるT5モデルを事前訓練し、このモデルが複数の多言語で訓練されたT5モデルより優れていることを示した。最後に、Yor\`ub\'aのダイアクリタイズにおいて、より多くのデータとより大きなモデルの方が優れていることを示した。

関連論文リスト

Automatic Pull Request Description Generation Using LLMs: A T5 Model Approach [0.0]
本稿では,コミットメッセージとソースコードコメントに基づくPR記述の自動生成手法を提案する。我々は,33,466個のPRを含むデータセットを用いて,事前学習したT5モデルを微調整した。以上の結果から,T5モデルはLexRankより有意に優れていた。
論文参考訳（メタデータ） (2024-08-01T21:22:16Z)
Multilingual E5 Text Embeddings: A Technical Report [63.503320030117145]
異なるサイズの3つの埋め込みモデルを提供し、推論効率と埋め込み品質のバランスを提供する。そこで我々は,新しい命令調整型埋め込みモデルを導入し,その性能は類似サイズの最先端の英語のみのモデルと同等である。
論文参考訳（メタデータ） (2024-02-08T13:47:50Z)
Model-Generated Pretraining Signals Improves Zero-Shot Generalization of Text-to-Text Transformers [98.30298332661323]
本稿では,T5などのテキスト変換器のゼロショット一般化におけるモデル生成信号の有効性について検討する。我々は新しいモデルMETRO-T0を開発し、ELECTRA-Style事前学習戦略を用いて事前訓練を行い、次にNLPタスクの混合を即時微調整する。その結果,METRO-T0の有効性は,パラメータのよりバランスの取れた寄与と,それらの能力の有効利用に起因していることが判明した。
論文参考訳（メタデータ） (2023-05-21T21:06:23Z)
Are Character-level Translations Worth the Wait? Comparing ByT5 and mT5 for Machine Translation [9.736284584478032]
特に微調整データに制限がある場合の翻訳における文字レベルのモデリングの有効性を示す。モデル予測の駆動におけるソーステキストの重要性を評価する一方で,ByT5内の単語レベルのパターンを強調した。我々は、バイトモデルの効率トレードオフを評価し、翻訳品質を高めるために、非時間クリティカルなシナリオでの使用法を提案する。
論文参考訳（メタデータ） (2023-02-28T00:50:19Z)
Text Embeddings by Weakly-Supervised Contrastive Pre-training [98.31785569325402]
E5は最先端のテキスト埋め込みのファミリーであり、幅広いタスクにうまく転送される。 E5は、テキストの単一ベクトル表現を必要とするタスクに対して、汎用的な埋め込みモデルとして簡単に使用できる。
論文参考訳（メタデータ） (2022-12-07T09:25:54Z)
Evaluation of Transfer Learning for Polish with a Text-to-Text Model [54.81823151748415]
ポーランド語におけるテキスト・テキスト・モデルの質を評価するための新しいベンチマークを導入する。 KLEJベンチマークはテキスト・トゥ・テキスト、en-pl翻訳、要約、質問応答に適応している。本稿では,ポーランド語のための汎用テキスト・テキスト・ツー・テキスト・モデルであるplT5について述べる。
論文参考訳（メタデータ） (2022-05-18T09:17:14Z)
nmT5 -- Is parallel data still relevant for pre-training massively multilingual language models? [9.560948239388662]
本研究は,mT5事前学習における並列データの導入が及ぼす影響について考察する。機械翻訳などの目的を持つマルチタスク言語モデリングは,性能向上のための簡単な方法であることがわかった。
論文参考訳（メタデータ） (2021-06-03T23:12:27Z)
mT6: Multilingual Pretrained Text-to-Text Transformer with Translation Pairs [51.67970832510462]
翻訳ペア(mt6)を用いた多言語テキスト間トランスフォーマーの改良本研究では,機械翻訳,翻訳ペアスパン破壊,翻訳スパン破壊という3つの言語間事前学習タスクについて検討した。実験の結果,mT6はmT5よりも舌間移動性が向上することがわかった。
論文参考訳（メタデータ） (2021-04-18T03:24:07Z)
NT5?! Training T5 to Perform Numerical Reasoning [0.8827543048499855]
テキスト上の数値推論(NRoT)は、既存の事前学習目標ではうまく対処できないユニークな課題を提示します。 T5マルチタスクフレームワークを複数の数値推論データセットでトレーニングすることで、手動で分割機能を設計することなく、難易度を高めることができることを示した。
論文参考訳（メタデータ） (2021-04-15T08:34:44Z)
mT5: A massively multilingual pre-trained text-to-text transformer [60.0210636815514]
The Text-to-Text Transfer Transformer (T5) は、統一されたテキスト・トゥ・テキストフォーマットとスケールを利用して、英語のNLPタスクで最先端の結果を得る。 101言語をカバーする新しいCommon Crawlベースのデータセットで事前トレーニングを行ったマルチ言語版T5であるmT5を紹介する。
論文参考訳（メタデータ） (2020-10-22T17:58:14Z)
Text-to-Text Pre-Training for Data-to-Text Tasks [9.690158790639131]
データ・トゥ・テキスト・タスクのための事前訓練+微調整戦略について検討する。実験により,テキストからテキストへの事前学習により,単純なエンドツーエンドのトランスフォーマーモデルが実現できることが示唆された。
論文参考訳（メタデータ） (2020-05-21T02:46:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。