論文の概要: Climbing the Ladder: Automating Data Pipelines and Reproducing Baselines in Low-Resource Settings

• arxiv url: http://arxiv.org/abs/2610.30374v1
• Date: Wed, 21 Oct 2026 19:36:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.119404
• Title: Climbing the Ladder: Automating Data Pipelines and Reproducing Baselines in Low-Resource Settings
• Title（参考訳）: ライダーのクリービング:データパイプラインの自動化と低リソース環境でのベースラインの再現
• Abstract要約: 我々は、シチリア語用にカスタマイズされた小さなニューラルネットワーク翻訳(NMT)システムを再開発する。 バイリンガルジャーナルArba SiculaのPDFから並列テキストを抽出する保守ソフトウェアを構築した。 我々は,スクラッチから訓練した小型トランスフォーマーと,低ランク微調整による事前学習NLLBモデルとの比較を行った。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The massively multilingual translation systems that now include Sicilian learned it from noisy, non-standardised web text. To obtain better translation quality, we redevelop the small neural machine translation (NMT) system that Wdowiak customized for Sicilian. We rebuild on maintained software the extraction of the parallel text from the PDFs of the bilingual journal Arba Sicula, whose sentences are aligned by a language-agnostic sentence encoder with thresholds tuned against an existing hand alignment and then filtered for the typical errors of automatic alignment. Furthermore, the tokenization and the desinence-biased subword segmentation of the original system are ported to a Perl-free implementation, and all the results are measured on a frozen test set drawn from the journal. We compare small Transformers trained from scratch with the pretrained NLLB model adapted by low-rank fine-tuning, in both directions and with Italian as a closely related bridge language, and we adapt to the pretrained model the reverse-training recipe of the original system, i.e., a stage on forward-scored back-translations of the web Sicilian followed by a stage on the curated literary text. The pretrained model is by far the better of the two, and the staged training improves the translation into Sicilian more than the translation from it. On the test set of the original system, and in the tokenized space in which it was scored, the staged model with a larger adapter and more back-translations is above the reverse-training recipe in the directions that involve English and below it between Sicilian and Italian. Yet, a multilingual adapter degrades the directions on which it was not trained, which limits its use as a general multilingual model.
• Abstract（参考訳）: 現在シチリア語を含む多言語翻訳システムは、ノイズの多い非標準のウェブテキストから学習した。 より優れた翻訳品質を得るために、WdowiakがSicilian用にカスタマイズした小さなニューラルネットワーク翻訳(NMT)システムを再開発する。 我々は,既存の手書きアライメントに合わせて調整されたしきい値を持つ言語に依存しない文エンコーダで文を整列し,自動アライメントの典型的なエラーに対してフィルタリングするバイリンガルジャーナルArba SiculaのPDFから並列テキストを抽出する保守ソフトウェアを再構築した。 さらに、元のシステムのトークン化とデシネンスバイアス付きサブワードセグメンテーションをPerlフリー実装に移植し、全ての結果をジャーナルから引き出された凍結テストセットで測定する。 我々は、スクラッチから訓練された小さなトランスフォーマーと、低ランク微調整による事前訓練されたNLLBモデルと、近縁なブリッジ言語としてのイタリア語を比較し、事前訓練されたモデル、すなわち、Web Sicilianの後方翻訳のステージ、およびキュレートされた文学テキストのステージに適応する。 事前訓練されたモデルは2つよりもはるかに優れており、段階的な訓練は、シチリア語への翻訳よりも、シチリア語への翻訳を改善する。 元のシステムのテストセットと、それが採点されたトークン化された空間では、より大きなアダプタとより多くの後方翻訳を持つステージドモデルは、英語とシチリア語とイタリア語の間の方向の逆トレーニングのレシピよりも上である。 しかし、多言語アダプタは訓練されていない方向を劣化させ、一般的な多言語モデルとしての使用を制限する。

関連論文リスト

• Crowdsourcing Piedmontese to Test LLMs on Non-Standard Orthography [1.3873397698625443]
  このデータセットは、フロレス+から派生した145のイタリア・ピエモンテの並列文からなる。 このリソースを使用して、トークン化パリティ、トピック分類、機械翻訳に関するいくつかの大きな言語モデルをベンチマークする。
  論文  参考訳（メタデータ） (2026-02-16T12:02:29Z)
• Boosting Unsupervised Machine Translation with Pseudo-Parallel Data [2.900810893770134]
  本研究では,モノリンガルコーパスから抽出した擬似並列文対と,モノリンガルコーパスから逆転写された合成文対を利用する訓練戦略を提案する。 裏書きされたデータのみに基づいてトレーニングされたベースラインに対して、最大14.5 BLEUポイント(ウクライナ語)の改善を達成しました。
  論文  参考訳（メタデータ） (2023-10-22T10:57:12Z)
• T3L: Translate-and-Test Transfer Learning for Cross-Lingual Text Classification [50.675552118811]
  言語間テキスト分類は通常、様々な言語で事前訓練された大規模多言語言語モデル(LM)に基づいて構築される。 本稿では,古典的な「翻訳とテスト」パイプラインを再考し,翻訳と分類の段階を適切に分離することを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:33:22Z)
• End-to-End Training for Back-Translation with Categorical Reparameterization Trick [0.0]
  バックトランスレーションは、ニューラルネットワーク翻訳(NMT)における効果的な半教師付き学習フレームワークである 事前学習されたNMTモデルは、モノリンガル文を翻訳し、他のNMTモデルのトレーニングのために合成バイリンガル文ペアを作成する。 翻訳文の離散的性質は、情報勾配が2つのNMTモデル間で流れるのを防ぐ。
  論文  参考訳（メタデータ） (2022-02-17T06:31:03Z)
• Anticipation-free Training for Simultaneous Translation [70.85761141178597]
  同時翻訳(SimulMT)は、原文が完全に利用可能になる前に翻訳を開始することで翻訳プロセスを高速化する。 既存の手法は遅延を増大させるか、SimulMTモデルに適応的な読み書きポリシーを導入し、局所的なリオーダーを処理し、翻訳品質を改善する。 本稿では,翻訳過程をモノトニック翻訳ステップと並べ替えステップに分解する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-01-30T16:29:37Z)
• Cross-lingual Transferring of Pre-trained Contextualized Language Models [73.97131976850424]
  本稿では,PRLMのための新しい言語間モデル転送フレームワークTreLMを提案する。 シンボルの順序と言語間のシーケンス長の差に対処するため,中間的なTRILayer構造を提案する。 提案手法は,スクラッチから学習した言語モデルに対して,性能と効率の両面で,限られたデータで著しく優れることを示す。
  論文  参考訳（メタデータ） (2021-07-27T06:51:13Z)
• Continual Mixed-Language Pre-Training for Extremely Low-Resource Neural Machine Translation [53.22775597051498]
  我々は,mbart を未熟な言語に効果的に適用するための,継続的な事前学習フレームワークを提案する。 その結果,mBARTベースラインの微調整性能を一貫して改善できることが示された。 私たちのアプローチは、両方の言語が元のmBARTの事前トレーニングで見られる翻訳ペアのパフォーマンスを高めます。
  論文  参考訳（メタデータ） (2021-05-09T14:49:07Z)
• Rewriter-Evaluator Architecture for Neural Machine Translation [17.45780516143211]
  ニューラルマシン翻訳(NMT)モデルを改善するための新しいアーキテクチャであるRewriter-Evaluatorを提案する。 それはリライターと評価者で構成されています。 毎回、書き換え者は過去の翻訳を改善するために新しい翻訳を作成し、評価者は翻訳品質を推定し、書き換えプロセスを終了させるかどうかを決定する。 中国語-英語と英語-ドイツ語の2つの翻訳タスクについて広範な実験を行い、提案されたアーキテクチャがNMTモデルのパフォーマンスを著しく改善することを示した。
  論文  参考訳（メタデータ） (2020-12-10T02:21:34Z)
• Simplify-then-Translate: Automatic Preprocessing for Black-Box Machine Translation [5.480070710278571]
  文の単純化による自動前処理(APP)によるブラックボックス機械翻訳システムの改善手法を提案する。 まず,ブラックボックスMTシステムによるバックトランスレーションにより,大規模なドメイン内パラフレーズコーパスを自動生成する手法を提案する。 この前処理によって、非前処理のソース文と比較して翻訳性能が向上することを示す。
  論文  参考訳（メタデータ） (2020-05-22T14:15:53Z)
• Learning Contextualized Sentence Representations for Document-Level Neural Machine Translation [59.191079800436114]
  文書レベルの機械翻訳は、文間の依存関係をソース文の翻訳に組み込む。 本稿では,ニューラルマシン翻訳(NMT)を訓練し,文のターゲット翻訳と周辺文の双方を予測することによって,文間の依存関係をモデル化するフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-30T03:38:01Z)
• Multilingual Denoising Pre-training for Neural Machine Translation [132.66750663226287]
  mBART(mBART)は、大規模モノリンガルコーパスで事前訓練されたシーケンスからシーケンスまでの自動エンコーダである。 mBARTは、完全なシーケンス・ツー・シーケンスモデルを事前訓練する最初の方法の1つである。
  論文  参考訳（メタデータ） (2020-01-22T18:59:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。