Fugu-MT 論文翻訳(概要): Disentangling Linguistic Relatedness from Task Alignment in Cross-Lingual Transfer

論文の概要: Disentangling Linguistic Relatedness from Task Alignment in Cross-Lingual Transfer

arxiv url: http://arxiv.org/abs/2606.19346v2
Date: Fri, 19 Jun 2026 03:53:59 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-27 00:46:12.91812
Title: Disentangling Linguistic Relatedness from Task Alignment in Cross-Lingual Transfer
Title（参考訳）: 言語間移動におけるタスクアライメントからの言語的関係の遠ざかる
Abstract要約: アラビア語上での7つの大言語モデルの微調整による言語間移動について検討する。密集型および混成型アーキテクチャ全体において、セムティック特化の証拠は見つからない。
参考スコア（独自算出の注目度）: 6.895160319744163
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We study cross-lingual transfer by fine-tuning seven large language models (4B--671B parameters) on Arabic and evaluating zero-shot reading comprehension on Semitic languages and non-Semitic controls. Across dense and Mixture-of-Experts architectures, we find no evidence of Semitic-specific transfer: models with weak baselines improve dramatically across all languages, while strong-baseline models show only marginal gains regardless of language family. A chain-of-thought ablation reinforces this finding -- the same models that benefit most from fine-tuning benefit equally from inference-time reasoning, suggesting both mechanisms address task-format alignment rather than cross-lingual knowledge transfer.
Abstract（参考訳）: アラビア語の7つの大言語モデル(4B--671Bパラメータ)を微調整し,セム語と非セミティック制御のゼロショット読解度を評価する。強いベースラインモデルでは言語族によらず限界的な利得しか示さないが、全ての言語において弱いベースラインを持つモデルは劇的に改善される。チェーン・オブ・ソート・アブレーションは、この発見を補強する -- 推論時推論から等しく微調整の恩恵を受けるのと同じモデルで、両方のメカニズムが言語間の知識伝達よりもタスク・フォーマットのアライメントに対処することを示唆している。

関連論文リスト

Left Behind: Cross-Lingual Transfer as a Bridge for Low-Resource Languages in Large Language Models [0.0]
我々は、英語、カザフ語、モンゴル語で、精度、流布度、完全性に関する大規模な言語モデルをベンチマークする。英語と低リソースの言語条件の間には,13.8～16.7ポイントという一貫したパフォーマンスギャップがある。
論文参考訳（メタデータ） (2026-03-22T03:27:47Z)
When Meanings Meet: Investigating the Emergence and Quality of Shared Concept Spaces during Multilingual Language Model Training [57.230355403478995]
本研究では,EuroLLMの事前学習における言語に依存しない概念空間の開発について検討する。共有概念空間は早期に出現し、洗練され続けていますが、それらとの整合性は言語に依存しています。従来の作業とは対照的に、細かな手作業分析により、翻訳品質の顕著な向上は、行動の変化を反映していることが判明した。
論文参考訳（メタデータ） (2026-01-30T11:23:01Z)
Parallel Universes, Parallel Languages: A Comprehensive Study on LLM-based Multilingual Counterfactual Example Generation [49.2073409243885]
大規模言語モデル(LLM)は、英語の対物生成に優れ、多言語習熟度を示す。対象言語における直接生成された反事実と6言語間の英訳によって導出されるものの両方について自動評価を行う。言語間で生成した偽物に一貫して現れる4つの主要なエラーを識別し分類する。
論文参考訳（メタデータ） (2026-01-01T08:53:49Z)
False Friends Are Not Foes: Investigating Vocabulary Overlap in Multilingual Language Models [53.01170039144264]
多言語コーパスで訓練されたサブワードトークンライザは、言語間で重複するトークンを自然に生成する。トークンの重複は言語間転送を促進するのか、それとも言語間の干渉を導入するのか? 相反する語彙を持つモデルでは、重なり合う結果が得られます。
論文参考訳（メタデータ） (2025-09-23T07:47:54Z)
Adapting Language Models to Indonesian Local Languages: An Empirical Study of Language Transferability on Zero-Shot Settings [1.1556013985948772]
インドネシアの低リソース言語への事前学習言語モデルの転送性を評価する。私たちはターゲット言語を、見る、見る、見る、見る、見えない3つのカテゴリに分類します。マルチ言語モデルは、目に見える言語で、部分的に見られる言語では適度に、目に見えない言語では劣る。対象言語にラベル付きデータを必要としないため,MAD-Xは性能を著しく向上させることがわかった。
論文参考訳（メタデータ） (2025-07-02T12:17:55Z)
MuBench: Assessment of Multilingual Capabilities of Large Language Models Across 61 Languages [33.450081592217074]
MuBenchは61の言語をカバーし、幅広い機能を評価するベンチマークです。我々は、最先端の多言語LLMを評価し、請求項と実際の言語カバレッジとの間に顕著なギャップを見いだした。
論文参考訳（メタデータ） (2025-06-24T09:53:00Z)
Cross-Lingual Pitfalls: Automatic Probing Cross-Lingual Weakness of Multilingual Large Language Models [55.14276067678253]
本稿では,Large Language Models (LLMs) における言語間関係の弱点を効率的に同定するための新しい手法を提案する。この手法を用いて16言語で6,000以上のバイリンガルペアからなる新しいデータセットを構築し、最先端のモデルにおいても弱点を明らかにする効果を実証した。さらに,言語的類似性と言語間の弱点との関係について検討し,言語的関連言語が類似した演奏パターンを共有することを明らかにした。
論文参考訳（メタデータ） (2025-05-24T12:31:27Z)
Self-Translate-Train: Enhancing Cross-Lingual Transfer of Large Language Models via Inherent Capability [31.025371443719404]
自己翻訳-トレイン(Self-Translate-Train)は、大規模言語モデルがトレーニングデータをターゲット言語に翻訳し、自身の生成されたデータに基づいてモデルを微調整する手法である。自己翻訳-トレインがゼロショット転送より優れていることを示すことによって、LLMの言語間機能を引き出すためのより良い手法のさらなる探索を奨励する。
論文参考訳（メタデータ） (2024-06-29T14:40:23Z)
Improving Neural Cross-Lingual Summarization via Employing Optimal Transport Distance for Knowledge Distillation [8.718749742587857]
言語間の要約モデルは、2つの言語のトークン間での自己認識機構に依存している。本稿では,言語間要約のための知識蒸留に基づく新しいフレームワークを提案する。提案手法は,高解像度および低出力の条件下での最先端モデルよりも優れる。
論文参考訳（メタデータ） (2021-12-07T03:45:02Z)
On Negative Interference in Multilingual Models: Findings and A Meta-Learning Treatment [59.995385574274785]
従来の信念に反して、負の干渉は低リソース言語にも影響を及ぼすことを示す。メタ学習アルゴリズムは、より優れた言語間変換性を得、負の干渉を軽減する。
論文参考訳（メタデータ） (2020-10-06T20:48:58Z)
Improving Massively Multilingual Neural Machine Translation and Zero-Shot Translation [81.7786241489002]
ニューラルネットワーク翻訳(NMT)の多言語モデルは理論的には魅力的であるが、しばしばバイリンガルモデルに劣る。我々は,多言語NMTが言語ペアをサポートするためにより強力なモデリング能力を必要とすることを論じる。未知のトレーニング言語ペアの翻訳を強制するために,ランダムなオンライン翻訳を提案する。
論文参考訳（メタデータ） (2020-04-24T17:21:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。