論文の概要: Translate-and-Revise: Boosting Large Language Models for Constrained Translation

• arxiv url: http://arxiv.org/abs/2407.13164v1
• Date: Thu, 18 Jul 2024 05:08:09 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-19 16:51:58.124761
• Title: Translate-and-Revise: Boosting Large Language Models for Constrained Translation
• Title（参考訳）: Translate-and-Revise: 制約付き翻訳のための大規模言語モデルの強化
• Authors: Pengcheng Huang, Yongyu Mu, Yuzhang Wu, Bei Li, Chunyang Xiao, Tong Xiao, Jingbo Zhu,
• Abstract要約: 制約付き翻訳には,大規模言語モデル(LLM)の機能を利用する。 LLMは、翻訳命令や制約をプロンプトとして取り込むことで、このタスクに容易に適応できる。 標準LLMよりも制約に基づく翻訳精度が15%向上したことを示す。
• 参考スコア（独自算出の注目度）: 42.37981028583618
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Imposing constraints on machine translation systems presents a challenging issue because these systems are not trained to make use of constraints in generating adequate, fluent translations. In this paper, we leverage the capabilities of large language models (LLMs) for constrained translation, given that LLMs can easily adapt to this task by taking translation instructions and constraints as prompts. However, LLMs cannot always guarantee the adequacy of translation, and, in some cases, ignore the given constraints. This is in part because LLMs might be overly confident in their predictions, overriding the influence of the constraints. To overcome this overiding behaviour, we propose to add a revision process that encourages LLMs to correct the outputs by prompting them about the constraints that have not yet been met. We evaluate our approach on four constrained translation tasks, encompassing both lexical and structural constraints in multiple constraint domains. Experiments show 15\% improvement in constraint-based translation accuracy over standard LLMs and the approach also significantly outperforms neural machine translation (NMT) state-of-the-art methods.
• Abstract（参考訳）: 機械翻訳システムに制約を課すことは、これらのシステムでは、適切な流動的な翻訳を生成するために制約を利用するように訓練されていないため、難しい問題となる。 本稿では,LLMが翻訳命令や制約をプロンプトとして取り込むことで,このタスクに容易に適応できることから,制約付き翻訳のための大規模言語モデル(LLM)の機能を利用する。 しかし、LLMは翻訳の精度を常に保証しておらず、場合によっては与えられた制約を無視している。 これは、LLMが制約の影響をオーバーライドし、予測に過度に自信を持っているためである。 このオーバライドな振る舞いを克服するために、まだ満たされていない制約について、LSMにアウトプットを修正するよう促すリビジョンプロセスを追加することを提案する。 我々は、複数の制約領域における語彙的制約と構造的制約の両方を含む4つの制約付き翻訳タスクに対するアプローチを評価する。 実験では、標準LLMよりも制約ベースの翻訳精度が15倍向上し、アプローチはニューラルマシン翻訳(NMT)の最先端手法を著しく上回っている。

関連論文リスト

• Refining Translations with LLMs: A Constraint-Aware Iterative Prompting Approach [7.5069214839655345]
  大言語モデル(LLM)は機械翻訳(MT)において顕著な熟練性を示している 本稿では,意味的正確性に不可欠なキーワードを優先することで,翻訳忠実度を高める多段階のプロンプトチェーンを提案する。 FLORES-200およびWMTデータセットのベースモデルとしてLlamaとQwenを使用した実験は、ベースラインよりも大幅に改善されている。
  論文  参考訳（メタデータ） (2024-11-13T05:40:24Z)
• Can General-Purpose Large Language Models Generalize to English-Thai Machine Translation ? [2.1969983462375318]
  大規模言語モデル(LLM)は、一般的なタスクではうまく機能するが、低リソースおよび低計算環境での一般化に苦慮する。 本研究は,英語-タイ語機械翻訳とコードスイッチングデータセット上で,様々なLLMと特殊翻訳モデルをテストすることにより,この制限を検証した。
  論文  参考訳（メタデータ） (2024-10-22T16:26:03Z)
• Attribute Controlled Fine-tuning for Large Language Models: A Case Study on Detoxification [76.14641982122696]
  本稿では,属性制御付き大規模言語モデル(LLM)の制約学習スキーマを提案する。 提案手法は, ベンチマーク上での競合性能と毒性検出タスクを達成しながら, 不適切な応答を少ないLCMに導出することを示す。
  論文  参考訳（メタデータ） (2024-10-07T23:38:58Z)
• TasTe: Teaching Large Language Models to Translate through Self-Reflection [82.83958470745381]
  大規模言語モデル(LLM)は、様々な自然言語処理タスクにおいて顕著な性能を示した。 本稿では,自己回帰を通した翻訳を行うTasTeフレームワークを提案する。 WMT22ベンチマークにおける4つの言語方向の評価結果から,既存の手法と比較して,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2024-06-12T17:21:21Z)
• Building Accurate Translation-Tailored LLMs with Language Aware Instruction Tuning [57.323716555996114]
  オフターゲット翻訳は、特に低リソース言語では未解決の問題である。 最近の研究は、翻訳命令の機能を強調するために高度なプロンプト戦略を設計するか、LLMの文脈内学習能力を活用している。 本研究では,LLMの命令追従能力(特に翻訳方向)を向上させるために,2段階の微調整アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2024-03-21T13:47:40Z)
• TEaR: Improving LLM-based Machine Translation with Systematic Self-Refinement [26.26493253161022]
  大規模言語モデル(LLM)は機械翻訳(MT)において印象的な結果を得た 我々は,体系的LLMに基づく自己精製翻訳フレームワーク,textbfTEaRを紹介する。
  論文  参考訳（メタデータ） (2024-02-26T07:58:12Z)
• Improving Machine Translation with Large Language Models: A Preliminary Study with Cooperative Decoding [73.32763904267186]
  大きな言語モデル(LLM)は、優れた翻訳品質を達成する可能性を示す。 我々は,NMTシステムを事前翻訳モデルとして扱うCooperative Decoding(CoDec)と,MT指向LLMを補足解として提案する。
  論文  参考訳（メタデータ） (2023-11-06T03:41:57Z)
• Disambiguated Lexically Constrained Neural Machine Translation [20.338107081523212]
  LCNMTへの現在のアプローチは、あらかじめ指定された語彙制約が文脈的に適切であると仮定している。 この問題を解決するために,不明瞭なLCNMT(D-LCNMT)を提案する。 D-LCNMTは堅牢で効果的な2段階のフレームワークであり、最初は文脈に基づいて制約を曖昧にし、その曖昧な制約をLCNMTに統合する。
  論文  参考訳（メタデータ） (2023-05-27T03:15:10Z)
• Dictionary-based Phrase-level Prompting of Large Language Models for Machine Translation [91.57514888410205]
  大規模言語モデル(LLM)は、プロンプトによる機械翻訳(MT)能力を示す。 LLMは、低リソースやドメイン転送のシナリオで一般的なまれな単語で入力を翻訳するのに苦労する。 LLMプロンプトは、バイリンガル辞書からの事前知識を用いてプロンプトの制御ヒントを提供することにより、稀な単語に対する効果的な解決策を提供することができることを示す。
  論文  参考訳（メタデータ） (2023-02-15T18:46:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。