論文の概要: Predicting Multilingual Classification and Translation Performance of LLMs with Cross-Lingual Alignment $\unicode{x2013}$ Is English Enough?
- arxiv url: http://arxiv.org/abs/2608.03446v1
- Date: Tue, 04 Aug 2026 10:44:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:23.143383
- Title: Predicting Multilingual Classification and Translation Performance of LLMs with Cross-Lingual Alignment $\unicode{x2013}$ Is English Enough?
- Title(参考訳): 言語間アライメント$\unicode{x2013}$の多言語分類とLLMの翻訳性能の予測
- Authors: Adnan Al Ali, Kathy Hämmerl, Jindřich Libovický, Alexander Fraser,
- Abstract要約: 言語間アライメント(CLA)スコアは多言語大言語モデル(LLM)での使用のために提案されている。
CLAスコアの27の変種の比較分析を行い,その違いと3つのタスクにおけるダウンストリーム性能の予測精度について検討した。
英語を用いたCLAは、ソースターゲットのCLAと同等かそれ以上の翻訳品質を予測し、LLMが英語を内部ピボット言語として使用するという新たな証拠を提供する。
- 参考スコア(独自算出の注目度): 45.221423908115895
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multilingual large language models (LLMs) have been shown to perform better on non-English classification tasks when the representations of the given language are more aligned to English within the model. Several cross-lingual alignment (CLA) scores have been proposed for use with LLMs, along with multiple approaches for extracting embeddings from the models. We provide a comparative analysis of 27 CLA score variants, examining how they differ and how well each predicts downstream performance across three tasks. Crucially, while LLMs are widely used for generative tasks such as machine translation, prior work has focused almost exclusively on classification. We therefore investigate whether CLA scores are similarly predictive of translation performance. To enable computing correlations across target languages, we propose a PMI-based translation metric, which is less dependent on the target language and correlates strongly with chrF. We find that CLA with English predicts translation quality comparably to or better than source-target CLA, providing new evidence that LLMs use English as an internal pivot language.
- Abstract(参考訳): 多言語大言語モデル(LLM)は、与えられた言語の表現がモデル内でより英語に整合している場合、非英語の分類タスクにおいてより良い性能を発揮することが示されている。
いくつかの言語間アライメント(CLA)スコアがLLMでの使用のために提案され、モデルから埋め込みを抽出するための複数のアプローチが提案されている。
CLAスコアの27の変種の比較分析を行い,その違いと3つのタスクの下流性能の予測精度について検討した。
重要なことに、LLMは機械翻訳などの生成タスクに広く使われているが、以前の研究はほとんどが分類に重点を置いている。
そこで本研究では,CLAスコアが翻訳性能の予測に類似しているかどうかを考察する。
対象言語間の相関を計算可能にするために,対象言語に依存せず,chrFと強く相関するPMIベースの翻訳指標を提案する。
英語を用いたCLAは、ソースターゲットのCLAと同等かそれ以上の翻訳品質を予測し、LLMが英語を内部ピボット言語として使用するという新たな証拠を提供する。
関連論文リスト
- From BERT to LLMs: Comparing and Understanding Chinese Classifier Prediction in Language Models [15.180712786113192]
我々は,最も人気のあるLarge Language Models (LLMs) が,中国語分類器の適切な知識を持っているかどうかを検討する。
LLMは細調整でもBERTよりも優れていた。
予想通り、この予測は以下の名詞に関する情報から大きな恩恵を受けており、BERTのような双方向の注意機構を持つモデルの利点も説明できる。
論文 参考訳(メタデータ) (2025-08-25T17:41:46Z) - Text Classification in the LLM Era - Where do we stand? [2.7624021966289605]
大規模言語モデルはNLPに革命をもたらし、いくつかのタスクで劇的なパフォーマンス向上を示した。
テキスト分類におけるそのような言語モデルの役割と,他の手法との比較について検討した。
論文 参考訳(メタデータ) (2025-02-17T14:25:54Z) - Large Language Models For Text Classification: Case Study And Comprehensive Review [0.3428444467046467]
各種言語モデル(LLM)の性能を,最先端のディープラーニングモデルや機械学習モデルと比較して評価する。
本研究は,提案手法に基づくモデル応答の有意な変動を明らかにした。
論文 参考訳(メタデータ) (2025-01-14T22:02:38Z) - Language Ranker: A Metric for Quantifying LLM Performance Across High and Low-Resource Languages [48.40607157158246]
大規模言語モデル(LLM)は、英語、ドイツ語、フランス語のような高リソース言語で、低リソース言語の能力は依然として不十分である。
内部表現を用いたLLM性能に基づいて,言語をベンチマークし,ランク付けするための固有測度であるLanguage Rankerを提案する。
分析の結果,高リソース言語は英語との類似度が高く,性能が優れ,低リソース言語は類似度が低いことがわかった。
論文 参考訳(メタデータ) (2024-04-17T16:53:16Z) - Zero-Shot Cross-Lingual Reranking with Large Language Models for
Low-Resource Languages [51.301942056881146]
アフリカ語における言語間情報検索システムにおいて,大規模言語モデル (LLM) がリランカーとしてどのように機能するかを検討する。
私たちの実装は、英語と4つのアフリカの言語(ハウサ語、ソマリ語、スワヒリ語、ヨルバ語)を対象としています。
我々は、英語のクェリとアフリカの言葉の文節による言語横断的な格付けについて検討する。
論文 参考訳(メタデータ) (2023-12-26T18:38:54Z) - Extrapolating Large Language Models to Non-English by Aligning Languages [109.09051737966178]
既存の大きな言語モデルは、異なる言語間で異なる能力を示す。
本稿では,言語間のセマンティックアライメントを構築することで,英語以外の言語に事前学習したLLMを強化する。
論文 参考訳(メタデータ) (2023-08-09T13:32:06Z) - Improving Bilingual Lexicon Induction with Cross-Encoder Reranking [31.142790337451366]
BLICEr (BLI with Cross-Encoder Re rank) と呼ばれる新しい半教師付きポストホックリグレード法を提案する。
鍵となる考え方は、mPLMから言語間の語彙的知識を抽出し、元のCLWEと組み合わせることである。
BLICErは、多様な言語にまたがる2つの標準BLIベンチマークで、新しい結果を確立している。
論文 参考訳(メタデータ) (2022-10-30T21:26:07Z) - On Cross-Lingual Retrieval with Multilingual Text Encoders [51.60862829942932]
言語間文書・文検索タスクにおける最先端多言語エンコーダの適合性について検討する。
教師なしのアドホック文と文書レベルのCLIR実験でそれらの性能をベンチマークする。
我々は、ゼロショット言語とドメイン転送CLIR実験のシリーズにおける英語関連データに基づいて、教師付き方式で微調整された多言語エンコーダの評価を行った。
論文 参考訳(メタデータ) (2021-12-21T08:10:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。