論文の概要: Beyond Many-Shot Translation: Scaling In-Context Demonstrations For Low-Resource Machine Translation

• arxiv url: http://arxiv.org/abs/2602.04764v1
• Date: Wed, 04 Feb 2026 17:02:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-05 19:45:11.64765
• Title: Beyond Many-Shot Translation: Scaling In-Context Demonstrations For Low-Resource Machine Translation
• Title（参考訳）: マルチショット翻訳を超えて: 低リソース機械翻訳のためのインコンテキストデモをスケールする
• Authors: Luis Frentzen Salim, Esteban Carlin, Alexandre Morinvil, Xi Ai, Lun-Wei Ku,
• Abstract要約: In-context Learningは、低リソース機械翻訳にLarge Language Modelsを適用する新しい方法を提供するかもしれない。 本研究では,Long-context モデルを用いた数千例のサンプルに対して,数ショット設定以上の低リソース機械翻訳ICLのスケーリングについて検討する。 JavaneseとSundaneseに関する我々の実験は、追加のコンテキストからのゲインがすばやく飽和し、最大コンテキストウィンドウの近くで分解可能であることを示している。
• 参考スコア（独自算出の注目度）: 49.82863380286994
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Building machine translation (MT) systems for low-resource languages is notably difficult due to the scarcity of high-quality data. Although Large Language Models (LLMs) have improved MT system performance, adapting them to lesser-represented languages remains challenging. In-context learning (ICL) may offer novel ways to adapt LLMs for low-resource MT by conditioning models on demonstration at inference time. In this study, we explore scaling low-resource machine translation ICL beyond the few-shot setting to thousands of examples with long-context models. We scale in-context token budget to 1M tokens and compare three types of training corpora used as in-context supervision: monolingual unsupervised data, instruction-style data, and parallel data (English--target and Indonesian--target). Our experiments on Javanese and Sundanese show that gains from additional context saturate quickly and can degrade near the maximum context window, with scaling behavior strongly dependent on corpus type. Notably, some forms of monolingual supervision can be competitive with parallel data, despite the latter offering additional supervision. Overall, our results characterize the effective limits and corpus-type sensitivity of long-context ICL for low-resource MT, highlighting that larger context windows do not necessarily yield proportional quality gains.
• Abstract（参考訳）: 低リソース言語のための機械翻訳(MT)システムの構築は、高品質なデータが不足しているため、特に困難である。 大規模言語モデル (LLM) はMTシステムの性能を改善しているが、より表現の少ない言語に適応することは依然として困難である。 In-context Learning (ICL) は、低リソースMTにLLMを適応させる新しい方法を提供する。 本研究では,Long-context モデルを用いた数千例のサンプルに対して,数ショット設定以上の低リソース機械翻訳ICLのスケーリングについて検討する。 In-contextトークンの予算を100万トークンに拡大し,モノリンガルな教師なしデータ,命令スタイルデータ,並列データ(英語ターゲットとインドネシアターゲット)の3種類のトレーニングコーパスを比較した。 JavaneseとSundaneseに関する我々の実験は、追加のコンテキストからのゲインが急速に飽和し、最大コンテキストウィンドウの近くで分解可能であることを示している。 特に、モノリンガル監視のいくつかの形態は、追加の監視を提供するにもかかわらず、並列データと競合する可能性がある。 本研究の結果は,低リソースMTにおける長文ICLの有効限界とコーパス型感度を特徴付けるものであり,より大きなコンテキストウィンドウが必ずしも品質向上をもたらすとは限らないことを示唆している。

関連論文リスト

• Bridging the Linguistic Divide: A Survey on Leveraging Large Language Models for Machine Translation [33.08089616645845]
  大言語モデル(LLM)は機械翻訳(MT)のランドスケープを再構築した 我々は,数発のプロンプト,言語間移動,パラメータ効率の微調整などの手法を解析する。 幻覚、評価の不整合、遺伝バイアスなど、永続的な課題について議論する。
  論文  参考訳（メタデータ） (2025-04-02T17:26:40Z)
• Understanding In-Context Machine Translation for Low-Resource Languages: A Case Study on Manchu [53.437954702561065]
  In-context machine translation (MT) with large language model (LLMs) は低リソースMTにおいて有望な手法である。 本研究は,辞書,文法書,検索した並列例などの資源の種類が翻訳性能に与える影響を系統的に検討する。 結果から,良質な辞書や優れた並列例は有用であり,文法はほとんど役に立たないことが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-17T14:53:49Z)
• Enhancing Code Generation for Low-Resource Languages: No Silver Bullet [55.39571645315926]
  大規模言語モデル(LLM)は、プログラミング言語の構文、意味論、使用パターンを学ぶために、大規模で多様なデータセットに依存している。 低リソース言語では、そのようなデータの限られた可用性は、モデルを効果的に一般化する能力を損なう。 本稿では,低リソース言語におけるLLMの性能向上のためのいくつかの手法の有効性を実証研究する。
  論文  参考訳（メタデータ） (2025-01-31T12:23:28Z)
• Quality or Quantity? On Data Scale and Diversity in Adapting Large Language Models for Low-Resource Translation [62.202893186343935]
  低リソース言語に大規模言語モデルを適用するのに何が必要かについて検討する。 我々は、事前トレーニングとスーパーバイザードファインチューニング(SFT)の間に並列データが重要であることを示す。 2つの低リソース言語群にまたがる3つの LLM 実験により,本研究の一般化可能性を示す一貫した傾向が示された。
  論文  参考訳（メタデータ） (2024-08-23T00:59:38Z)
• Shortcomings of LLMs for Low-Resource Translation: Retrieval and Understanding are Both the Problem [4.830018386227]
  本研究では,機械翻訳パイプラインの自動化の一環として,事前学習された大言語モデル(LLM)が低リソース言語から高リソース言語への翻訳を指示する際の文脈内学習能力について検討する。 我々は南ケチュアをスペイン語に翻訳する一連の実験を行い、デジタル化された教育材料と平行コーパスの制約されたデータベースから得られた様々な種類の文脈の情報量について検討する。
  論文  参考訳（メタデータ） (2024-06-21T20:02:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。