論文の概要: Assessing the Impact of Typological Features on Multilingual Machine Translation in the Age of Large Language Models
- arxiv url: http://arxiv.org/abs/2602.03551v1
- Date: Tue, 03 Feb 2026 14:02:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-04 18:37:15.492825
- Title: Assessing the Impact of Typological Features on Multilingual Machine Translation in the Age of Large Language Models
- Title（参考訳）: 大規模言語モデルにおける多言語機械翻訳における音韻的特徴の影響評価
- Authors: Vitalii Hirak, Jaap Jumelet, Arianna Bisazza,
- Abstract要約: 言語をモデル化する本質的な難易度を決定するために, 類型的特性が提案されている。
我々は,NLLB-200 と Tower+ という2つの大きな事前学習型多言語翻訳モデルを解析した。
幅広い言語セットに基づいて、ターゲット言語型付けが両方のモデルの翻訳品質を駆動していることが分かる。
- 参考スコア（独自算出の注目度）: 11.604740935992147
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite major advances in multilingual modeling, large quality disparities persist across languages. Besides the obvious impact of uneven training resources, typological properties have also been proposed to determine the intrinsic difficulty of modeling a language. The existing evidence, however, is mostly based on small monolingual language models or bilingual translation models trained from scratch. We expand on this line of work by analyzing two large pre-trained multilingual translation models, NLLB-200 and Tower+, which are state-of-the-art representatives of encoder-decoder and decoder-only machine translation, respectively. Based on a broad set of languages, we find that target language typology drives translation quality of both models, even after controlling for more trivial factors, such as data resourcedness and writing script. Additionally, languages with certain typological properties benefit more from a wider search of the output space, suggesting that such languages could profit from alternative decoding strategies beyond the standard left-to-right beam search. To facilitate further research in this area, we release a set of fine-grained typological properties for 212 languages of the FLORES+ MT evaluation benchmark.
- Abstract（参考訳）: 多言語モデリングの大きな進歩にもかかわらず、言語間の大きな品質格差は持続している。
不均一な訓練資源の明らかな影響に加えて、言語をモデル化することの本質的な困難を判断するタイプロジカルな特性も提案されている。
しかし、既存の証拠は主に、スクラッチから訓練された小さなモノリンガル言語モデルまたはバイリンガル翻訳モデルに基づいている。
我々は,エンコーダデコーダとデコーダのみの機械翻訳の最先端技術であるNLLB-200とT Tower+の2つの大規模訓練済み多言語翻訳モデルを解析することにより,このラインを拡張した。
幅広い言語に基づいて,データ資源化やスクリプト作成など,より簡単な要素を制御した上でも,対象言語型付けが両モデルの翻訳品質を向上させることがわかった。
さらに、特定の型的特性を持つ言語は、出力空間のより広い探索の恩恵を受けており、そのような言語は標準左から右へのビーム探索を超えて、代替の復号戦略から利益を得る可能性があることを示唆している。
そこで本研究では,FLORES+ MT評価ベンチマークの212言語に対する微粒化特性のセットを公表した。
関連論文リスト
- Soft Language Clustering for Multilingual Model Pre-training [57.18058739931463]
本稿では,インスタンスを条件付きで符号化するためのフレキシブルガイダンスとして,コンテキスト的にプロンプトを検索するXLM-Pを提案する。
我々のXLM-Pは、(1)言語間における言語不変および言語固有知識の軽量なモデリングを可能にし、(2)他の多言語事前学習手法との容易な統合を可能にする。
論文 参考訳（メタデータ） (2023-06-13T08:08:08Z) - Language Embeddings Sometimes Contain Typological Generalizations [0.0]
我々は、1295の言語における聖書翻訳の膨大な多言語データセットに基づいて、自然言語処理タスクのニューラルネットワークを訓練する。
学習された言語表現は、既存の類型データベースや、新しい量的構文的・形態的特徴セットと比較される。
いくつかの一般化は言語型学の伝統的な特徴に驚くほど近いが、ほとんどのモデルは以前の研究と同様に言語学的に意味のある一般化をしていないと結論付けている。
論文 参考訳（メタデータ） (2023-01-19T15:09:59Z) - HiJoNLP at SemEval-2022 Task 2: Detecting Idiomaticity of Multiword
Expressions using Multilingual Pretrained Language Models [0.6091702876917281]
本稿では,多言語事前学習言語モデル上でのMWEの文脈的表現からのみ慣用性を検出する手法について述べる。
実験の結果,より大きなモデルの方が慣用性検出に有効であることが確認された。
論文 参考訳（メタデータ） (2022-05-27T01:55:59Z) - Discovering Representation Sprachbund For Multilingual Pre-Training [139.05668687865688]
多言語事前学習モデルから言語表現を生成し、言語分析を行う。
すべての対象言語を複数のグループにクラスタリングし、表現のスプラックバンドとして各グループに名前を付ける。
言語間ベンチマークで実験を行い、強いベースラインと比較して大幅な改善が達成された。
論文 参考訳（メタデータ） (2021-09-01T09:32:06Z) - Towards Zero-shot Language Modeling [90.80124496312274]
人間の言語学習に誘導的に偏りを持つニューラルモデルを構築した。
類型的に多様な訓練言語のサンプルからこの分布を推測する。
我々は、保留言語に対する遠隔監視として、追加の言語固有の側情報を利用する。
論文 参考訳（メタデータ） (2021-08-06T23:49:18Z) - XCOPA: A Multilingual Dataset for Causal Commonsense Reasoning [68.57658225995966]
XCOPA (Cross-lingual Choice of Plausible Alternatives) は11言語における因果コモンセンス推論のための多言語データセットである。
提案手法は,翻訳に基づく転送と比較して,現在の手法の性能が低下していることを明らかにする。
論文 参考訳（メタデータ） (2020-05-01T12:22:33Z) - Linguistic Typology Features from Text: Inferring the Sparse Features of
World Atlas of Language Structures [73.06435180872293]
我々は、バイト埋め込みと畳み込み層に基づく繰り返しニューラルネットワーク予測器を構築する。
様々な言語型の特徴を確実に予測できることを示す。
論文 参考訳（メタデータ） (2020-04-30T21:00:53Z) - Bridging Linguistic Typology and Multilingual Machine Translation with
Multi-View Language Representations [83.27475281544868]
特異ベクトル標準相関解析を用いて、各情報源からどのような情報が誘導されるかを調べる。
我々の表現は類型学を組み込み、言語関係と相関関係を強化する。
次に、多言語機械翻訳のための多視点言語ベクトル空間を利用して、競合する全体的な翻訳精度を実現する。
論文 参考訳（メタデータ） (2020-04-30T16:25:39Z) - An Empirical Study of Factors Affecting Language-Independent Models [11.976665726887733]
言語に依存しないモデルは、モノリンガルデータを用いて訓練されたモデルに匹敵するか、さらに優れることを示す。
我々は,多くの異なる言語で言語に依存しないモデルを実験し,それらが類型的に類似した言語に適していることを示す。
論文 参考訳（メタデータ） (2019-12-30T22:41:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。