論文の概要: Together We Can: Multilingual Automatic Post-Editing for Low-Resource Languages

• arxiv url: http://arxiv.org/abs/2410.17973v1
• Date: Wed, 23 Oct 2024 15:37:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-24 13:56:15.192635
• Title: Together We Can: Multilingual Automatic Post-Editing for Low-Resource Languages
• Title（参考訳）: We can together: 低リソース言語のための多言語自動後編集
• Authors: Sourabh Deoghare, Diptesh Kanojia, Pushpak Bhattacharyya,
• Abstract要約: 本研究では,低リソースのインド・アーリア語における機械翻訳の品質を高めるために,多言語自動編集(APE)システムの可能性を検討する。 言語間移動を容易にするため,Hindi-MarathiとMarathi-Hindi APE三重項を生成する。 実験により、多言語 APE モデルは、対応するイングリッシュ・ヒンディー語とイングリッシュ・マラティ語をそれぞれ2.5ドルと2.39ドル TER で上回った。
• 参考スコア（独自算出の注目度）: 43.354917413940534
• License:
• Abstract: This exploratory study investigates the potential of multilingual Automatic Post-Editing (APE) systems to enhance the quality of machine translations for low-resource Indo-Aryan languages. Focusing on two closely related language pairs, English-Marathi and English-Hindi, we exploit the linguistic similarities to develop a robust multilingual APE model. To facilitate cross-linguistic transfer, we generate synthetic Hindi-Marathi and Marathi-Hindi APE triplets. Additionally, we incorporate a Quality Estimation (QE)-APE multi-task learning framework. While the experimental results underline the complementary nature of APE and QE, we also observe that QE-APE multitask learning facilitates effective domain adaptation. Our experiments demonstrate that the multilingual APE models outperform their corresponding English-Hindi and English-Marathi single-pair models by $2.5$ and $2.39$ TER points, respectively, with further notable improvements over the multilingual APE model observed through multi-task learning ($+1.29$ and $+1.44$ TER points), data augmentation ($+0.53$ and $+0.45$ TER points) and domain adaptation ($+0.35$ and $+0.45$ TER points). We release the synthetic data, code, and models accrued during this study publicly at https://github.com/cfiltnlp/Multilingual-APE.
• Abstract（参考訳）: 本研究では,低リソースのインド・アーリア語における機械翻訳の品質を高めるために,多言語自動編集(APE)システムの可能性について検討する。 英語-マラティー語と英語-ヒンディー語という,密接に関連する2つの言語ペアに着目し,言語的類似性を利用して,頑健な多言語 APE モデルを構築する。 言語間移動を容易にするため,Hindi-MarathiとMarathi-Hindi APE三重項を生成する。 さらに、品質推定(QE)-APEマルチタスク学習フレームワークを組み込んだ。 実験結果はAPEとQEの相補的な性質を裏付けるものであるが、QE-APEマルチタスク学習は効果的なドメイン適応を促進する。 実験により、多言語APEモデルは、対応する英ヒンディー語と英マラーティ語を2.5ドルと2.39ドル TERポイントで上回り、マルチタスク学習(+1.29ドルと+1.44ドル TERポイント)、データ拡張(+0.53ドルと$+0.45ドル TERポイント)、ドメイン適応(+0.35ドルと$+0.45ドル TERポイント)によって観測される多言語APEモデルよりもさらに顕著な改善が見られた。 この研究で得られた合成データ、コード、モデルについては、https://github.com/cfiltnlp/Multilingual-APEで公開しています。

関連論文リスト

• Towards Building an End-to-End Multilingual Automatic Lyrics Transcription Model [14.39119862985503]
  利用可能なデータセットを用いた多言語ALTシステムの構築を目指している。 英語のALTに有効であることが証明されたアーキテクチャにヒントを得て,これらの手法を多言語シナリオに適用する。 単言語モデルと比較して,多言語モデルの性能を評価する。
  論文  参考訳（メタデータ） (2024-06-25T15:02:32Z)
• Breaking Boundaries: Investigating the Effects of Model Editing on Cross-linguistic Performance [6.907734681124986]
  本稿では,多言語文脈における知識編集技術を検討することにより,言語的平等の必要性を戦略的に識別する。 Mistral, TowerInstruct, OpenHathi, Tamil-Llama, Kan-Llamaなどのモデルの性能を,英語,ドイツ語,フランス語,イタリア語,スペイン語,ヒンディー語,タミル語,カンナダ語を含む言語で評価した。
  論文  参考訳（メタデータ） (2024-06-17T01:54:27Z)
• How do Large Language Models Handle Multilingualism? [81.15060972112563]
  本研究では,大規模言語モデル(LLM)が多言語モデルをどのように扱うかを検討する。 LLMはまずクエリを理解し、タスク解決のために多言語入力を英語に変換する。 中間層では、英語を思考に用い、自己意識とフィードフォワード構造を持つ多言語知識を取り入れている。
  論文  参考訳（メタデータ） (2024-02-29T02:55:26Z)
• PolyLM: An Open Source Polyglot Large Language Model [57.64420154135178]
  我々は6400億(B)トークンでトレーニングされた多言語大言語モデル(LLM)であるPolyLMについて述べる。 その多言語的能力を高めるために,1) バイリンガルデータをトレーニングデータに統合し,2) 事前学習中に英語以外のデータの比率を30%から60%に引き上げるカリキュラム学習戦略を採用する。 さらに,モデル微調整のために,132.7Kの多言語命令を自動的に生成する多言語自己指示手法を提案する。
  論文  参考訳（メタデータ） (2023-07-12T09:00:37Z)
• Learning to translate by learning to communicate [11.43638897327485]
  我々は,最新のunsupervised NMTシステムを改善するために,事前学習された多言語モデルを用いてEmergent Communication (EC)を使用する手法を定式化し,検証する。 提案手法では,多言語モデルを用いて視覚的なタスクを遂行するために,多言語世代をインセンティブとしたEC画像参照ゲームに,多言語モデルを組み込む。 本報告では,2種類のECファインチューニング(Steinert-Threlkeld et al., 2022)について述べる。
  論文  参考訳（メタデータ） (2022-07-14T15:58:06Z)
• Towards the Next 1000 Languages in Multilingual Machine Translation: Exploring the Synergy Between Supervised and Self-Supervised Learning [48.15259834021655]
  数百の言語をカバーする多言語機械翻訳モデルを構築するための実践的なアプローチを提案する。 私たちは、異なる言語ペアのデータ可用性に応じて、教師付きと自己監督型の目的の混合を使用します。 この2つのトレーニングパラダイム間の相乗効果により、ゼロリソース設定で高品質な翻訳を生成できることを実証する。
  論文  参考訳（メタデータ） (2022-01-09T23:36:44Z)
• CUNI systems for WMT21: Multilingual Low-Resource Translation for Indo-European Languages Shared Task [0.0]
  複数の類似言語ペアに対してジョイントモデルを使用することで,各ペアの翻訳品質が向上することを示す。 また,チャララクタレベルのバイリンガルモデルと非常に類似した言語対が競合することを示す。
  論文  参考訳（メタデータ） (2021-09-20T08:10:39Z)
• Improving Multilingual Neural Machine Translation For Low-Resource Languages: French-, English- Vietnamese [4.103253352106816]
  本稿では,多言語mtシステムにおける希少な単語問題に対処するための2つの単純な戦略を提案する。 両言語対のバイリンガルベースラインシステムに対して,+1.62と+2.54のBLEU点が大幅に改善された。
  論文  参考訳（メタデータ） (2020-12-16T04:43:43Z)
• Cross-lingual Machine Reading Comprehension with Language Branch Knowledge Distillation [105.41167108465085]
  言語間機械読解(CLMRC)は、ローソース言語に大規模なデータセットがないため、依然として難しい問題である。 本稿では,Language Branch Machine Reading (LBMRC) という新しい拡張手法を提案する。 LBMRCは、個々の言語に精通したMultiple Machine Read comprehension (MRC)モデルを訓練する。 複数の言語分岐モデルから全ての対象言語に対する単一モデルへのアマルガメート知識の多言語蒸留アプローチを考案する。
  論文  参考訳（メタデータ） (2020-10-27T13:12:17Z)
• Knowledge Distillation for Multilingual Unsupervised Neural Machine Translation [61.88012735215636]
  unsupervised neural machine translation (UNMT) は、最近、いくつかの言語対に対して顕著な結果を得た。 UNMTは単一の言語ペア間でのみ翻訳することができ、同時に複数の言語ペアに対して翻訳結果を生成することはできない。 本稿では,1つのエンコーダと1つのデコーダを用いて13言語間を翻訳する簡単な手法を実証的に紹介する。
  論文  参考訳（メタデータ） (2020-04-21T17:26:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。