論文の概要: The Multilingual Artificial Hivemind: Do All LLMs Think Alike in Every Language?
- arxiv url: http://arxiv.org/abs/2610.16755v1
- Date: Mon, 12 Oct 2026 13:20:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-18 21:38:59.728099
- Title: The Multilingual Artificial Hivemind: Do All LLMs Think Alike in Every Language?
- Title(参考訳): 多言語人工Hivemind:全てのLLMはあらゆる言語に似ていますか?
- Abstract要約: LLM(Large Language Models)によって生成されるテキストは、人間によって生成されるテキストに比べて、多様性に制限されることが多い。
近年の進歩は、オープンエンドな英語テキスト生成におけるモデル内およびモデル内崩壊の存在を示している。
我々は、多言語LLM生成テキストも同質であるかどうか、また、この同質性が人間の観察と一致しているかを検討する。
- 参考スコア(独自算出の注目度): 2.347913052515655
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Text generated by Large Language Models (LLMs) often remains limited in diversity compared to that produced by humans. Recent advances demonstrate the presence of inter- and intra-model collapse in open-ended generation of English text, raising concerns about the long-term homogenization of LLM, and more importantly, human thought. However, our understanding of whether this homogenization extends to languages beyond English is limited. In this work, we investigate the role of language on output diversity. Specifically, we aim to understand whether multilingual LLM-generated text is also homogeneous, and whether this homogeneity matches what we observe in humans. Across 23 open-weight models and 13 languages, we find that the artificial hivemind effect is pervasive but uneven in its extent. The intra-model effect holds in three different embedding spaces and under a lexical metric that uses no embedding model, so it is not an artifact of how diversity is measured. The size of the homogenization gap is associated with a model's competence in a language, measured on a held-out translation benchmark, robustly across embedding spaces. Thus, we demonstrate a performance-diversity tradeoff in multilingual LLMs.
- Abstract(参考訳): LLM(Large Language Models)によって生成されるテキストは、人間によって生成されるテキストに比べて、多様性に制限されることが多い。
近年の進歩は、LLMの長期的均質化への懸念、そしてより重要なのは人間の思考のオープンエンド世代におけるモデル間崩壊とモデル内崩壊の存在を実証している。
しかし、この均質化が英語以外の言語にも及ぶかどうかについての我々の理解は限られている。
本研究では,出力多様性における言語の役割について検討する。
具体的には、多言語LLM生成テキストも同質であるかどうか、また、この同質性が人間の観察内容と一致しているかを理解することを目的とする。
23のオープンウェイトモデルと13の言語にまたがって、人工的ヒベミンド効果は広範であるが、その程度は不均一である。
モデル内効果は3つの異なる埋め込み空間と、埋め込みモデルを使用しない語彙計量の下で成り立つため、多様性の測定方法の人工物ではない。
均質化ギャップの大きさは、埋め込み空間にわたって頑健に、保留の翻訳ベンチマークで測定された言語におけるモデルの能力に関連付けられている。
したがって,多言語LLMにおける性能多様性のトレードオフを実証する。
関連論文リスト
- Epistemic Diversity and Knowledge Collapse in Large Language Models [42.81169404715417]
大規模言語モデル(LLM)は、語彙的、意味的、スタイリスティックに同質なテキストを生成する傾向がある。
これは知識崩壊のリスクを生じさせ、同種LLMは時間とともにアクセス可能な情報範囲の縮小を仲介する。
LLM出力における実世界のクレームの変動など、疫学の多様性を測定するための新しい手法を提案する。
論文 参考訳(メタデータ) (2025-10-05T14:29:15Z) - The Emergence of Abstract Thought in Large Language Models Beyond Any Language [95.50197866832772]
大規模言語モデル(LLM)は様々な言語で効果的に機能する。
予備的研究では、LLMの隠れた活性化は、英語以外のプロンプトに反応してもしばしば英語に類似している。
近年の結果は多言語のパフォーマンスが強く、他の言語での特定のタスクにおける英語のパフォーマンスを超えている。
論文 参考訳(メタデータ) (2025-06-11T16:00:54Z) - XToM: Exploring the Multilingual Theory of Mind for Large Language Models [57.9821865189077]
LLMにおける既存の心の理論の評価は英語に限られている。
XToMは5言語にまたがってToMを評価する,厳格に検証された多言語ベンチマークである。
以上の結果から,LLMが言語的文脈にまたがって人間的なメンタライゼーションを再現する能力に限界があることが判明した。
論文 参考訳(メタデータ) (2025-06-03T05:23:25Z) - Crosslingual Capabilities and Knowledge Barriers in Multilingual Large Language Models [62.91524967852552]
大規模言語モデル(LLM)は、多言語コーパスの事前訓練のため、一般的に多言語である。
しかし、これらのモデルは言語間の対応する概念、すなわち言語を横断的に関連付けることができるだろうか?
本研究は,言語横断的タスクにおける最先端LLMの評価である。
論文 参考訳(メタデータ) (2024-06-23T15:15:17Z) - Exploring Multilingual Concepts of Human Value in Large Language Models: Is Value Alignment Consistent, Transferable and Controllable across Languages? [34.38469832305664]
本稿では,AIの安全性の重要性から,人間の価値観に関する概念(すなわち,価値の概念)に焦点を当てる。
我々はまず,LLMにおける価値概念の存在を多言語形式で実証的に確認した。
これらの概念の言語間特性に関するさらなる分析は、言語資源の相違から生じる3つの特徴を明らかにしている。
論文 参考訳(メタデータ) (2024-02-28T07:18:39Z) - Exploring Anisotropy and Outliers in Multilingual Language Models for
Cross-Lingual Semantic Sentence Similarity [64.18762301574954]
これまでの研究によると、文脈言語モデルによって出力される表現は静的な型埋め込みよりも異方性が高い。
これは単言語モデルと多言語モデルの両方に当てはまるように思われるが、多言語コンテキストでの作業はあまり行われていない。
複数の事前訓練された多言語言語モデルにおける外乱次元とその異方性との関係について検討する。
論文 参考訳(メタデータ) (2023-06-01T09:01:48Z) - Cross-Lingual Ability of Multilingual Masked Language Models: A Study of
Language Structure [54.01613740115601]
本稿では,構成順序,構成,単語共起の3つの言語特性について検討する。
我々の主な結論は、構成順序と単語共起の寄与は限定的である一方、構成は言語間移動の成功にとってより重要であるということである。
論文 参考訳(メタデータ) (2022-03-16T07:09:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。