論文の概要: Lost in the Tower of Babel: The Adverse Effects of Incidental Multilingualism in LLMs
- arxiv url: http://arxiv.org/abs/2605.01224v1
- Date: Sat, 02 May 2026 03:39:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:49.650107
- Title: Lost in the Tower of Babel: The Adverse Effects of Incidental Multilingualism in LLMs
- Title(参考訳): バベル塔の喪失 : LLMにおける偶発的多言語主義の逆効果
- Abstract要約: 本稿では,現代多言語NLPが,偶発的多言語主義の脆弱で誤解を招くパラダイムに収束していることを論じる。
このパラダイムは言語間の不平等、不安定、不透明な振る舞いを体系的に生み出すと我々は主張する。
この問題に対処するためには、設計による多言語主義へのシフトが必要だ。
- 参考スコア(独自算出の注目度): 25.841183184960475
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: This paper argues that contemporary multilingual NLP has converged on a fragile and misleading paradigm of incidental multilingualism. Today's LLMs appear multilingual largely because they are trained on massive, uneven web corpora, not because multilingual or multicultural competence has been treated as a core design objective. We contend that this paradigm systematically produces unequal, brittle, and opaque behavior across languages, with severe consequences in real-world and agentic deployments where models must reason, plan, and act across multiple linguistic contexts. We report a focused empirical study of two practical questions: which languages models self-report as supported and which languages they actually respond in across multilingual prompts. We additionally demonstrate how even a simple language-change attack can surface these failures and expose hidden assumptions about language in LLM-based systems. To address this, we call for a shift toward multilingualism by design: a research agenda that treats equitable multilingual performance, cultural grounding, and cross-lingual behavioral understanding as first-class goals in all aspects of the model pipeline.
- Abstract(参考訳): 本稿では,現代多言語NLPが,偶発的多言語主義の脆弱で誤解を招くパラダイムに収束していることを論じる。
現在のLLMは、多言語や多文化の能力が中核的な設計目的として扱われてきたためではなく、大規模で不均一なウェブコーパスで訓練されているため、多言語的に見える。
このパラダイムは、言語間の不平等、不安定、不透明な振る舞いを体系的に生み出すものであり、モデルが複数の言語コンテキストをまたいだ推論、計画、行動を必要とする現実的およびエージェント的デプロイメントにおいて重大な結果をもたらす、と我々は主張する。
本稿では,言語がサポート対象として自己申告をモデル化し,言語が実際に対応しているか,という2つの実践的質問に焦点をあてた実証的研究を報告する。
さらに、単純な言語変更攻撃でさえ、これらの障害を表面化し、LLMベースのシステムにおける言語に関する隠れた仮定を明らかにする。
モデルパイプラインのすべての面において、平等な多言語パフォーマンス、文化的基盤、および言語間行動理解を第一級の目標として扱う研究アジェンダである。
関連論文リスト
- There is No Theoretical Curse of Multilinguality For Embedding Space Structure [21.81373742083686]
多言語NLPの主な目的は、言語ごとの高い単言語性能と、多言語モデルによる大規模言語カバレッジのための言語間アライメントを実現することである。
多言語性の呪いは、言語カバレッジを増加させるにつれて多言語モデルの性能が低下する現象を記述している。
本稿では,多言語埋め込み空間が,必要容量の制限的増加を伴わずに,完全多言語性を実現することができないかどうかを問う。
論文 参考訳(メタデータ) (2026-08-17T19:50:44Z) - High-Dimensional Interlingual Representations of Large Language Models [65.77317753001954]
大規模言語モデル(LLM)は、多言語データセットに基づいて訓練され、言語間構造の形成を示唆する。
資源レベル, 類型, 地理的地域によって異なる31の多様な言語を探索する。
多言語 LLM は非一貫性な言語間アライメントを示す。
論文 参考訳(メタデータ) (2025-03-14T10:39:27Z) - How Do Multilingual Language Models Remember Facts? [50.13632788453612]
これまでに同定された英語のリコール機構が多言語文脈に適用可能であることを示す。
我々は、リコール中の言語の役割をローカライズし、エンリッチメントが言語に依存しないことを発見した。
デコーダのみのLLMでは、FVは2つの異なる段階でこれらの2つの情報を構成する。
論文 参考訳(メタデータ) (2024-10-18T11:39:34Z) - Lens: Rethinking Multilingual Enhancement for Large Language Models [70.85065197789639]
大規模言語モデル(LLM)における多言語機能向上のための新しいアプローチであるLensを提案する。
Lensは2つの部分空間で機能する: 言語に依存しない部分空間で、ターゲット言語と中心言語を一致させて強力な意味表現を継承する部分空間、言語固有の部分空間で、ターゲット言語と中心言語を分離して言語的特異性を保存する部分空間である。
レンズは、モデルの英語能力を維持しながら、多言語のパフォーマンスを著しく向上させ、既存の訓練後のアプローチと比べて計算コストの低い結果を得る。
論文 参考訳(メタデータ) (2024-10-06T08:51:30Z) - Selected Languages are All You Need for Cross-lingual Truthfulness Transfer [38.3269908062146]
Fact-aware Multilingual Selective Synergy (FaMSS) と呼ばれる言語間真性伝達の実践的手法を提案する。
FaMSSは、言語バイアスと転送コントリビューションによって全てのテスト対象言語の最適なサブセットを選択し、その後、言語間真性伝達のための翻訳命令チューニングを使用することができる。
論文 参考訳(メタデータ) (2024-06-20T15:59:07Z) - A Survey on Large Language Models with Multilingualism: Recent Advances and New Frontiers [51.8203871494146]
LLM(Large Language Models)の急速な開発は、自然言語処理における顕著な多言語機能を示している。
LLMのブレークスルーにもかかわらず、多言語シナリオの研究は依然として不十分である。
本調査は,多言語問題に対する研究コミュニティの取り組みを支援することを目的としており,LLMに基づく多言語自然言語処理における中核概念,鍵技術,最新の発展の包括的理解を提供する。
論文 参考訳(メタデータ) (2024-05-17T17:47:39Z) - A Survey on Multilingual Large Language Models: Corpora, Alignment, and Bias [5.096332588720052]
本稿では,MLLMの進化,鍵技術,多言語能力について概説する。
第3に、多言語表現の最先端研究について調査し、現在のMLLMが普遍言語表現を学べるかどうかを検討する。
第4に,MLLMのカテゴリ,評価指標,脱バイアス技術などのバイアスについて論じる。
論文 参考訳(メタデータ) (2024-04-01T05:13:56Z) - How do Large Language Models Handle Multilingualism? [81.15060972112563]
本研究では,大規模言語モデル(LLM)が多言語モデルをどのように扱うかを検討する。
LLMはまずクエリを理解し、タスク解決のために多言語入力を英語に変換する。
中間層では、英語を思考に用い、自己意識とフィードフォワード構造を持つ多言語知識を取り入れている。
論文 参考訳(メタデータ) (2024-02-29T02:55:26Z) - Cross-Lingual Ability of Multilingual Masked Language Models: A Study of
Language Structure [54.01613740115601]
本稿では,構成順序,構成,単語共起の3つの言語特性について検討する。
我々の主な結論は、構成順序と単語共起の寄与は限定的である一方、構成は言語間移動の成功にとってより重要であるということである。
論文 参考訳(メタデータ) (2022-03-16T07:09:35Z) - Discovering Representation Sprachbund For Multilingual Pre-Training [139.05668687865688]
多言語事前学習モデルから言語表現を生成し、言語分析を行う。
すべての対象言語を複数のグループにクラスタリングし、表現のスプラックバンドとして各グループに名前を付ける。
言語間ベンチマークで実験を行い、強いベースラインと比較して大幅な改善が達成された。
論文 参考訳(メタデータ) (2021-09-01T09:32:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。