論文の概要: Enhancing Document-Level Machine Translation via Filtered Synthetic Corpora and Two-Stage LLM Adaptation

• arxiv url: http://arxiv.org/abs/2603.22186v1
• Date: Mon, 23 Mar 2026 16:48:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:39.793087
• Title: Enhancing Document-Level Machine Translation via Filtered Synthetic Corpora and Two-Stage LLM Adaptation
• Title（参考訳）: フィルタ合成コーパスと2段階LLM適応による文書レベル機械翻訳の高速化
• Authors: Ireh Kim, Tesia Sker, Chanwoo Kim,
• Abstract要約: 大きな言語モデル(LLM)は文脈情報のモデリングに優れており、文書レベルの翻訳タスクに自然に適合する。 LLMを付加した文書レベルのデータを利用した2段階の微調整手法を提案する。 まず、豊富な文レベルのMTリソースを微調整し、次にフィルタリングされた文書レベルのコーパスを微調整する。
• 参考スコア（独自算出の注目度）: 4.0913617519821255
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In Machine Translation, Large Language Models (LLMs) have generally underperformed compared to conventional encoder-decoder systems and thus see limited adoption. However, LLMs excel at modeling contextual information, making them a natural fit for document-level translation tasks where coherence across sentences is crucial. Despite this potential, document-level MT with LLMs faces two key challenges: (1) the scarcity of large-scale, high-quality document-level parallel data; and (2) the propensity of LLMs to introduce hallucinations and omissions during generation. To address these challenges, we propose a two-stage fine-tuning strategy leveraging LLM-augmented document-level data. First, we augment data by converting summarization data into document-level parallel data using a LLM, and then filter it using multiple metrics, leveraging sacreBLEU, COMET, and LaBSE-based cosine similarity-to improve data quality. Finally, we employ a two-stage fine-tuning strategy: first fine-tuning on the abundant sentence-level MT resources, and then on the filtered document-level corpus.
• Abstract（参考訳）: 機械翻訳では、Large Language Models (LLM) は従来のエンコーダ・デコーダシステムに比べて性能が劣っているため、採用は限られている。 しかし、LLMは文脈情報のモデリングに優れており、文間の一貫性が不可欠である文書レベルの翻訳タスクに適している。 この可能性にもかかわらず、LLMを用いた文書レベルのMTは、(1)大規模で高品質な文書レベルの並列データの不足、(2)世代間での幻覚や省略をもたらすLLMの妥当性の2つの主要な課題に直面している。 これらの課題に対処するために,LLMを付加した文書レベルのデータを利用した2段階の微調整手法を提案する。 まず,LLMを用いて要約データを文書レベルの並列データに変換し,そのデータを複数のメトリクスでフィルタリングし,SsareBLEU,COMET,LaBSEベースのコサイン類似性を利用してデータ品質を向上させる。 最後に,2段階の微調整手法を用いる。まず文レベルMTリソースを微調整し,次に文書レベルコーパスをフィルタリングする。

関連論文リスト

• URaG: Unified Retrieval and Generation in Multimodal LLMs for Efficient Long Document Understanding [55.45331924836242]
  MLLM内での検索と生成を統一するフレームワークであるURaGについて述べる。 URaGは,計算オーバーヘッドを44～56%削減し,最先端性能を実現する。
  論文  参考訳（メタデータ） (2025-11-13T17:54:09Z)
• Train a Unified Multimodal Data Quality Classifier with Synthetic Data [56.872668770081766]
  マルチモーダル大言語モデル(MLLM)は、画像テキストキャプションデータとインターリーブド文書データの混合に基づいて、継続的に事前訓練される。 我々は,高品質な画像文キャプションとインターリーブデータの両方をフィルタリングするために,一元的マルチモーダルデータ品質として効率的なMLLMを訓練することを提案する。
  論文  参考訳（メタデータ） (2025-10-16T21:53:28Z)
• DaMoC: Efficiently Selecting the Optimal Large Language Model for Fine-tuning Domain Tasks Based on Data and Model Compression [7.1654056866441245]
  大規模言語モデル(LLM)は、一般的なタスクでは優れているが、ドメイン固有のタスクでは苦労し、特定のデータに対して微調整を必要とする。 この課題に対処するデータ・モデル圧縮フレームワーク(DaMoC)を導入します。 トレーニング時間に約20倍の時間を節約しながら,最適なLLMを選択することができることを示す。
  論文  参考訳（メタデータ） (2025-09-01T08:06:49Z)
• M-DocSum: Do LVLMs Genuinely Comprehend Interleaved Image-Text in Document Summarization? [49.53982792497275]
  本稿では,LVLM(Large Vision-Language Models)が文書中のインターリーブ画像テキストを真に理解しているかどうかを検討する。 既存の文書理解ベンチマークは、しばしば質問応答形式を用いてLVLMを評価する。 マルチモーダル文書要約ベンチマーク(M-DocSum-Bench)について紹介する。 M-DocSum-Benchは500の高品質なarXiv論文と、人間の好みに合わせたインターリーブされたマルチモーダル要約で構成されている。
  論文  参考訳（メタデータ） (2025-03-27T07:28:32Z)
• LLM2Vec: Large Language Models Are Secretly Powerful Text Encoders [34.421335513040795]
  大規模デコーダのみの言語モデル(LLM)は、今日のNLPタスクとベンチマークのほとんどで最先端のモデルである。 LLM2Vecは、任意のデコーダのみのLCMを強力なテキストエンコーダに変換する、単純な教師なしアプローチである。
  論文  参考訳（メタデータ） (2024-04-09T02:51:05Z)
• Adapting Large Language Models for Document-Level Machine Translation [46.370862171452444]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクを大幅に進歩させた。 近年の研究では、中程度のLLMはタスク固有の微調整後、より大きなLLMよりも優れていることが示されている。 本研究では,特定の言語対に対する文書レベルの機械翻訳(DocMT)にLLMを適用することに焦点を当てた。
  論文  参考訳（メタデータ） (2024-01-12T09:29:13Z)
• Curated LLM: Synergy of LLMs and Data Curation for tabular augmentation in low-data regimes [57.62036621319563]
  本稿では,Large Language Models (LLMs) の知識を低データ構造におけるデータ拡張に活用したCLLMを紹介する。 従来のジェネレータと比較して,低データ方式におけるCLLMの優れた性能を示す。
  論文  参考訳（メタデータ） (2023-12-19T12:34:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。