論文の概要: Which English Do LLMs Prefer? Triangulating Structural Bias Towards American English in Foundation Models
- arxiv url: http://arxiv.org/abs/2604.04204v1
- Date: Sun, 05 Apr 2026 17:59:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:18.98084
- Title: Which English Do LLMs Prefer? Triangulating Structural Bias Towards American English in Foundation Models
- Title(参考訳): 英語 LLMs はどちらが好むか? 基礎モデルにおけるアメリカ英語への三元的構造バイアス
- Abstract要約: データキュレーション,デジタル支配,言語標準化の地政学的ヒストリーが,大規模言語モデル(LLM)開発パイプラインをどう形成するかを検討する。
我々は1,813個のAmE-BrE変異体をキュレートしたコーパスを構築し、方言のアライメントを推定するための訓練不要な方法であるDiAlignを導入する。
現代LLMの特権は、AmEを事実上の規範としており、グローバルAI展開における言語的均質化、疫学的不正、不平等に対する懸念を高めている。
- 参考スコア(独自算出の注目度): 12.338320566839483
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) are increasingly deployed in high-stakes domains, yet they expose only limited language settings, most notably "English (US)," despite the global diversity and colonial history of English. Through a postcolonial framing to explain the broader significance, we investigate how geopolitical histories of data curation, digital dominance, and linguistic standardization shape the LLM development pipeline. Focusing on two dominant standard varieties, American English (AmE) and British English (BrE), we construct a curated corpus of 1,813 AmE--BrE variants and introduce DiAlign, a dynamic, training-free method for estimating dialectal alignment using distributional evidence. We operationalize structural bias by triangulating evidence across three stages: (i) audits of six major pretraining corpora reveal systematic skew toward AmE, (ii) tokenizer analyses show that BrE forms incur higher segmentation costs, and (iii) generative evaluations show a persistent AmE preference in model outputs. To our knowledge, this is the first systematic and multi-faceted examination of dialectal asymmetries in standard English varieties across the phases of LLM development. We find that contemporary LLMs privilege AmE as the de facto norm, raising concerns about linguistic homogenization, epistemic injustice, and inequity in global AI deployment, while motivating practical steps toward more dialectally inclusive language technologies.
- Abstract(参考訳): 大規模言語モデル(LLMs)は、ハイテイクなドメインにますます展開されているが、英語のグローバルな多様性と植民地化の歴史にもかかわらず、限定的な言語設定しか公開していない。
データキュレーション, デジタル支配, 言語標準化の地政学的歴史が, LLM開発パイプラインをいかに形作っているかを検討する。
我々は、アメリカ英語(AmE)とイギリス英語(BrE)の2つの支配的な標準多様体に着目し、1,813のAmE-BrE変種をキュレートしたコーパスを構築し、分布証拠を用いて方言アライメントを推定するための動的で訓練なしの方法であるDiAlignを導入する。
我々は3段階にわたる証拠の三角測量により構造バイアスを運用する。
(i)6大プレトレーニングコーパスの監査により,AmEに対する体系的歪が明らかとなった。
(II)トークン化剤分析はBrEが高いセグメンテーションコストを発生させることを示す。
(III) モデル出力におけるAmEの持続的嗜好を示す。
我々の知る限り、LLMの発達段階における標準英語の変種における方言の非対称性の体系的および多面的検証は、これが初めてである。
現代LLMの特権は、AmEが事実上の規範であり、言語的均質化、疫学的不公平、そして世界規模のAI展開における不平等に対する懸念を高めつつ、より方言的に包摂的な言語技術への実践的なステップを動機付けている。
関連論文リスト
- DiaLLM: An Investigation into the Robustness-Generation Gap in English Dialect Adaptation [20.845447775728545]
大型の言語モデルは、方言の英語を理解しやすくするが、それでも標準のアメリカ英語のみを生産する。
我々は、国際英語コーパスにおいて、3つのオープンウェイト言語モデルファミリーを継続的に事前訓練するtextbfDiaLLMを紹介した。
論文 参考訳(メタデータ) (2026-07-08T17:24:27Z) - Multilinguality of Large Language Models From a Structural Perspective [55.097821802807566]
大規模言語モデル(LLM)は、多言語データに対する事前および後訓練によって複数の言語を処理するのに優れている。
その結果,低リソース言語は高水準言語や中級言語と構造的に異なることが明らかとなった。
論文 参考訳(メタデータ) (2026-06-01T07:18:09Z) - Leveraging Routing Dynamics in Mixture-of-Experts Models for Efficient Language Adaptation [50.731838216268706]
多言語コーパス上での英語中心のMoEモデルの継続事前学習における多言語ルーティングのダイナミクスについて検討する。
連続的な多言語事前学習は、初期層と中層に拡散し、言語に依存しないルーティングをもたらす。
最終MoE層における言語固有の専門家と共有専門家を更新するパラメータ効率適応戦略を提案する。
論文 参考訳(メタデータ) (2026-05-28T10:12:41Z) - Shaping Schema via Language Representation as the Next Frontier for LLM Intelligence Expanding [88.11781604392606]
本稿では,言語表現を実世界の地図化とモデル化に使用される言語的・象徴的構造として定義する。
我々は、高度な言語表現によるスキーマ形成が、大規模言語モデルの拡張の次のフロンティアであると主張している。
論文 参考訳(メタデータ) (2026-05-10T02:42:29Z) - Beyond the Final Layer: Intermediate Representations for Better Multilingual Calibration in Large Language Models [50.34755385896279]
大規模言語モデル(LLM)の信頼性確保には信頼度校正が不可欠である
6つのモデルファミリーと100以上の言語にまたがる多言語キャリブレーションの大規模かつ体系的な研究を行う。
非英語言語は体系的に悪い校正に苦しむ。
論文 参考訳(メタデータ) (2025-10-03T16:07:15Z) - Disparities in LLM Reasoning Accuracy and Explanations: A Case Study on African American English [66.97110551643722]
本研究では,Large Language Models (LLMs) 推論タスクにおける方言の相違について検討する。
LLMは、AAE入力に対するより正確な応答とより単純な推論チェーンと説明を生成する。
これらの知見は、LLMの処理方法と異なる言語品種の理由の体系的差異を浮き彫りにした。
論文 参考訳(メタデータ) (2025-03-06T05:15:34Z) - Enhancing Non-English Capabilities of English-Centric Large Language Models through Deep Supervision Fine-Tuning [42.166438218926274]
本稿では、モデルの内部層にさらなる監視を取り入れ、ワークフローをガイドする深層監視微調整法(DFT)を提案する。
提案手法は,非英語入力処理における最終生成結果だけでなく,内部表現の精度も保証する。
論文 参考訳(メタデータ) (2025-03-03T07:59:32Z) - Do Large Language Models Have an English Accent? Evaluating and Improving the Naturalness of Multilingual LLMs [13.558778781305998]
大規模言語モデル (LLM) は主に英語を基本言語として設計されている。
多言語である少数の人々でさえ、強い英語中心の偏見を示す傾向がある。
本稿では,多言語出力の語彙的および構文的自然性を評価するための新しい自動コーパスレベル指標を提案する。
論文 参考訳(メタデータ) (2024-10-21T12:34:17Z) - Assessing Dialect Fairness and Robustness of Large Language Models in Reasoning Tasks [68.33068005789116]
本稿では、標準英語とAAVEで1.2K以上の並列クエリペアを含むベンチマークであるReDialを紹介する。
我々は、GPT、Claude、Llama、Mistral、Phiモデルファミリーなど、広く使われているモデルを評価した。
我々の研究は、方言クエリにおけるLLMバイアスを分析するための体系的で客観的な枠組みを確立する。
論文 参考訳(メタデータ) (2024-10-14T18:44:23Z) - Analyzing and Adapting Large Language Models for Few-Shot Multilingual
NLU: Are We There Yet? [82.02076369811402]
教師付きファインチューニング(SFT)、教師付きインストラクションチューニング(SIT)、インコンテキストラーニング(ICL)は、3つの代替であり、事実上の標準的アプローチである。
提案手法は,6つの高・低リソース言語,3つの異なるNLUタスク,多種多様な言語とドメインのセットアップを用いて,3つのアプローチを網羅的かつ体系的に比較する。
そこで本研究では,教師あり指導のチューニングが,性能とリソース要件の最良のトレードオフであることを示す。
論文 参考訳(メタデータ) (2024-03-04T10:48:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。