論文の概要: Training with Ciphers to Enhance In-Context Terminology Learning For Translation from Rare Languages
- arxiv url: http://arxiv.org/abs/2610.24593v1
- Date: Sat, 17 Oct 2026 09:56:52 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:08:20.268208
- Title: Training with Ciphers to Enhance In-Context Terminology Learning For Translation from Rare Languages
- Title(参考訳): 希少言語からの翻訳のための文脈用語学習を支援するための暗号を用いた学習
- Abstract要約: 標準IC-Trainはこの能力を弱くしか開発せず,RareCipherFTを提案する。
RareCipherFTは、各トレーニングターゲットと、まれな用語を共有するコンテキスト内サンプルをペアリングする。
そして、その用語をコンテキストと参照の両方で文字シャッフルされた暗号に置き換える。
- 参考スコア(独自算出の注目度): 19.55574267306257
- License:
- Abstract: Fine-tuning LLMs with in-context examples (IC-Train) lets translation models adapt to new parallel data at deployment, but it is unclear whether they actually learn the translations of rare terms from those examples. We formalize this capability as in-context term learning (ICTL). We show that standard IC-Train develops this capability only weakly, and propose RareCipherFT, which strengthens it without any lexical resources. RareCipherFT pairs each training target with in-context examples that share a rare term with it. It then replaces that term with a character-shuffled cipher in both the context and the reference, so the term can only be recovered by copying from context. The ciphered fraction of training data is annealed to preserve translation quality. Across seven translation directions between English and Tamil, Assamese, Mizo, Nepali and Hausa, and four models from 1B to 7B parameters, RareCipherFT raises term recall over standard IC-Train by 5-15 absolute points without lowering COMET. Probes using synonyms, nonce words and controls for shared surface context show that these gains come from linking source terms to their in-context translations rather than from shortcuts.
- Abstract(参考訳): インコンテキスト例(IC-Train)を用いた微調整LDMでは、デプロイ時に新しい並列データに変換モデルを適用することができるが、これらの例から稀な単語の翻訳を実際に学習するかどうかは不明である。
本稿では,この機能をICTL(In-context term learning)として定式化する。
本稿では,標準IC-Trainがこの能力を弱くしか開発していないことを示すとともに,語彙資源を使わずに強化したRareCipherFTを提案する。
RareCipherFTは、各トレーニングターゲットと、まれな用語を共有するコンテキスト内サンプルをペアリングする。
そして、その用語をコンテキストと参照の両方で文字シャッフルされた暗号に置き換える。
トレーニングデータの暗号化された分画は、翻訳品質を維持するために焼成される。
英語とタミル語、アッサム語、ミゾ語、ネパール語、ハウサ語、および1Bから7Bパラメータの4つのモデルの間で、RareCipherFTは標準IC-TrainをCOMETを下げることなく5~15の絶対点で項リコールする。
共義語、ナンス語、共有表面コンテキストの制御を用いたプローブは、これらがショートカットからではなく、ソース語をテキスト内翻訳にリンクすることによるものであることを示している。
関連論文リスト
- Understanding In-Context Machine Translation for Low-Resource Languages: A Case Study on Manchu [53.437954702561065]
In-context machine translation (MT) with large language model (LLMs) は低リソースMTにおいて有望な手法である。
本研究は,辞書,文法書,検索した並列例などの資源の種類が翻訳性能に与える影響を系統的に検討する。
結果から,良質な辞書や優れた並列例は有用であり,文法はほとんど役に立たないことが明らかとなった。
論文 参考訳(メタデータ) (2025-02-17T14:53:49Z) - BridG MT: Enhancing LLMs' Machine Translation Capabilities with Sentence Bridging and Gradual MT [5.323504404265276]
本稿では, 文列をブリッジとして生成し, 翻訳し易いものから難しいものへと徐々に移行するBridG MTと, 文列を先行翻訳を用いて逐次変換するGradual MTを提案する。
7言語にまたがる4つのLLM実験により,本手法が翻訳性能を効果的に向上することを示した。
論文 参考訳(メタデータ) (2024-10-15T15:26:28Z) - Simplifying Translations for Children: Iterative Simplification Considering Age of Acquisition with LLMs [19.023628411128406]
本稿では,翻訳における単語をAoA(High Age of Acquisitions)に置き換える手法を提案する。
その結果,提案手法は高AoA語を低AoA語に効果的に置き換えることを示した。
論文 参考訳(メタデータ) (2024-08-08T04:57:36Z) - Principled Paraphrase Generation with Parallel Corpora [52.78059089341062]
ラウンドトリップ機械翻訳によって引き起こされる暗黙の類似性関数を形式化する。
一つのあいまいな翻訳を共有する非パラフレーズ対に感受性があることが示される。
この問題を緩和する別の類似度指標を設計する。
論文 参考訳(メタデータ) (2022-05-24T17:22:42Z) - CUE Vectors: Modular Training of Language Models Conditioned on Diverse
Contextual Signals [11.310756148007753]
本稿では,多種多様な文・外部文脈(メタデータを含む)を用いたニューラルネットワークモデルの学習をモジュール化する枠組みを提案する。
我々のアプローチである文脈的普遍埋め込み(CUE)は、日付や著者などの文脈の1つのセットでLMを訓練し、記事タイトルや前文のような新しいメタデータタイプに適応する。
我々は、複数のメタデータ型を持つNYTimesテキストコーパス上でCUEフレームワークを検証する。
論文 参考訳(メタデータ) (2022-03-16T17:37:28Z) - When Does Translation Require Context? A Data-driven, Multilingual
Exploration [71.43817945875433]
談話の適切な処理は機械翻訳(MT)の品質に大きく貢献する
文脈認識型MTにおける最近の研究は、評価中に少量の談話現象を標的にしようとしている。
談話現象のモデル性能を識別・評価するタグの集合である,多言語談話認識ベンチマークを開発した。
論文 参考訳(メタデータ) (2021-09-15T17:29:30Z) - Rejuvenating Low-Frequency Words: Making the Most of Parallel Data in
Non-Autoregressive Translation [98.11249019844281]
知識蒸留(KD)は、非自己回帰翻訳(NAT)モデルを訓練するための合成データを構築するために一般的に用いられる。
低周波対象語に対するアライメントを向上するために,逆KDを提案する。
その結果,提案手法は翻訳品質を大幅に向上させることができることがわかった。
論文 参考訳(メタデータ) (2021-06-02T02:41:40Z) - Divide and Rule: Training Context-Aware Multi-Encoder Translation Models
with Little Resources [20.057692375546356]
マルチエンコーダモデルは、文書レベルのコンテキスト情報を現在の文と共にエンコードすることで、翻訳品質の向上を目指しています。
これらのパラメータのトレーニングは、コンテキストのトレーニング信号がスパースしているため、大量のデータを必要とする。
本稿では,並列文集合の訓練信号を豊かにするための,分割文対に基づく効率的な代替手法を提案する。
論文 参考訳(メタデータ) (2021-03-31T15:15:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。