Fugu-MT 論文翻訳(概要): Leveraging LLMs for MT in Crisis Scenarios: a blueprint for low-resource languages

論文の概要: Leveraging LLMs for MT in Crisis Scenarios: a blueprint for low-resource languages

arxiv url: http://arxiv.org/abs/2410.23890v1
Date: Thu, 31 Oct 2024 12:52:26 GMT
ステータス: 翻訳完了
システム内更新日: 2024-11-01 17:03:26.454386
Title: Leveraging LLMs for MT in Crisis Scenarios: a blueprint for low-resource languages
Title（参考訳）: Crisis ScenariosにおけるMTのためのLLMの活用:低リソース言語のための青写真
Authors: Séamus Lankford, Andy Way,
Abstract要約: 堅牢で適応可能な機械翻訳(MT)システムの必要性は、これまで以上に迫っている。本研究では,Large Language Models (LLMs) とMultilingual LLMs (MLLMs) を利用して,このようなシナリオにおけるMT機能の向上を図る。本研究は,LLMの最先端機能と微調整技術とコミュニティ主導型コーパス開発戦略を組み合わせた新しいアプローチを概説する。
参考スコア（独自算出の注目度）: 2.648836772989769
License:
Abstract: In an evolving landscape of crisis communication, the need for robust and adaptable Machine Translation (MT) systems is more pressing than ever, particularly for low-resource languages. This study presents a comprehensive exploration of leveraging Large Language Models (LLMs) and Multilingual LLMs (MLLMs) to enhance MT capabilities in such scenarios. By focusing on the unique challenges posed by crisis situations where speed, accuracy, and the ability to handle a wide range of languages are paramount, this research outlines a novel approach that combines the cutting-edge capabilities of LLMs with fine-tuning techniques and community-driven corpus development strategies. At the core of this study is the development and empirical evaluation of MT systems tailored for two low-resource language pairs, illustrating the process from initial model selection and fine-tuning through to deployment. Bespoke systems are developed and modelled on the recent Covid-19 pandemic. The research highlights the importance of community involvement in creating highly specialised, crisis-specific datasets and compares custom GPTs with NLLB-adapted MLLM models. It identifies fine-tuned MLLM models as offering superior performance compared with their LLM counterparts. A scalable and replicable model for rapid MT system development in crisis scenarios is outlined. Our approach enhances the field of humanitarian technology by offering a blueprint for developing multilingual communication systems during emergencies.
Abstract（参考訳）: 危機コミュニケーションの進化する状況において、堅牢で適応可能な機械翻訳(MT)システムの必要性は、特に低リソース言語において、これまで以上に迫られている。本研究では,Large Language Models (LLMs) とMultilingual LLMs (MLLMs) を利用して,このようなシナリオにおけるMT機能の向上を図る。本研究は, LLMの最先端能力と微調整技術, コミュニティ主導型コーパス開発戦略を組み合わせた新しいアプローチを概説する。本研究の核となるのは、2つの低リソース言語ペアに適したMTシステムの開発と実証評価である。ベスポークシステムは、最近のコビッドウイルスのパンデミックに基づいて開発され、モデル化されている。この研究は、高度に専門化された危機固有のデータセットの作成におけるコミュニティの関与の重要性を強調し、カスタムGPTとNLLB適応MLLMモデルを比較した。微調整されたMLLMモデルは、LLMのモデルと比べて優れた性能を提供する。危機シナリオにおける高速MTシステム開発のためのスケーラブルでレプリケートなモデルについて概説する。我々のアプローチは、緊急時に多言語通信システムを開発するための青写真を提供することで、人道技術分野を強化する。

関連論文リスト

RA-BLIP: Multimodal Adaptive Retrieval-Augmented Bootstrapping Language-Image Pre-training [55.54020926284334]
近年,MLLM (Multimodal Large Language Models) が注目されている。検索拡張技術はLLMとMLLMの両方に有効なプラグインであることが証明されている。本研究では,MLLMの新しい検索支援フレームワークであるRA-BLIP(Retrieval-Augmented Bootstrapping Language-Image Pre-training)を提案する。
論文参考訳（メタデータ） (2024-10-18T03:45:19Z)
A Comprehensive Review of Multimodal Large Language Models: Performance and Challenges Across Different Tasks [74.52259252807191]
MLLM(Multimodal Large Language Models)は、単一のモダリティシステムの能力を超えた現実世界のアプリケーションの複雑さに対処する。本稿では,自然言語,視覚,音声などのマルチモーダルタスクにおけるMLLMの応用を体系的に整理する。
論文参考訳（メタデータ） (2024-08-02T15:14:53Z)
Unlocking the Potential of Model Merging for Low-Resource Languages [66.7716891808697]
大規模言語モデルを新しい言語に適応させるには、通常、継続事前訓練(CT)と、教師付き微調整(SFT)が含まれる。我々は低リソース言語の代替としてモデルマージを提案し、異なる機能を持つモデルを追加トレーニングなしで単一のモデルに組み合わせる。 Llama-2-7Bをベースとした実験により、モデルマージはタスク解決能力の低い低リソース言語に対して、極めて少ないデータを持つシナリオにおいて、CT-then-SFTよりも優れていることが実証された。
論文参考訳（メタデータ） (2024-07-04T15:14:17Z)
Self-Distillation for Model Stacking Unlocks Cross-Lingual NLU in 200+ Languages [2.53740603524637]
機械翻訳モデル(MT)は優れた多言語表現を生成し、低リソース言語でも強力な翻訳性能が得られる。本研究は,MTエンコーダをサンプル効率のよい自己蒸留法により,言語バックボーンに直接組み込むことにより,両世界のベストを得られる。 MT-LLMは、MTエンコーダから固有の多言語表現アライメントを保持しており、低リソース言語は英語中心のLLMに埋め込まれた豊富な知識を取り入れることができる。
論文参考訳（メタデータ） (2024-06-18T16:00:20Z)
A Review of Multi-Modal Large Language and Vision Models [1.9685736810241874]
大規模言語モデル(LLM)が研究と応用の焦点として登場した。近年、LLMはマルチモーダル大言語モデル(MM-LLM)に拡張されている。本稿では,近年のMM-LLMとともに,マルチモーダル機能を有するLLMの現状を概観する。
論文参考訳（メタデータ） (2024-03-28T15:53:45Z)
Improving Machine Translation with Large Language Models: A Preliminary Study with Cooperative Decoding [73.32763904267186]
大きな言語モデル(LLM)は、優れた翻訳品質を達成する可能性を示す。我々は,NMTシステムを事前翻訳モデルとして扱うCooperative Decoding(CoDec)と,MT指向LLMを補足解として提案する。
論文参考訳（メタデータ） (2023-11-06T03:41:57Z)
Simultaneous Machine Translation with Large Language Models [51.470478122113356]
我々は,SimulMTタスクに大規模言語モデルを適用する可能性を検討する。 MUST-Cデータセットと異なる9言語でtextttLlama2-7b-chatモデルを用いて実験を行った。その結果,LLM は BLEU と LAAL の指標で専用MT モデルよりも優れていた。
論文参考訳（メタデータ） (2023-09-13T04:06:47Z)
A Survey of Large Language Models [81.06947636926638]
言語モデリングは、過去20年間、言語理解と生成のために広く研究されてきた。近年,大規模コーパス上でのトランスフォーマーモデルの事前学習により,事前学習言語モデル (PLM) が提案されている。パラメータスケールの違いを識別するために、研究コミュニティは大規模言語モデル (LLM) という用語を提唱した。
論文参考訳（メタデータ） (2023-03-31T17:28:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。