論文の概要: Does Modern Standard Arabic (MSA) Dominate Arabic Dialects in LLMs? A Representation-Level Analysis

• arxiv url: http://arxiv.org/abs/2610.11510v1
• Date: Thu, 08 Oct 2026 08:46:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.90367
• Title: Does Modern Standard Arabic (MSA) Dominate Arabic Dialects in LLMs? A Representation-Level Analysis
• Title（参考訳）: 現代標準アラビア語(MSA)はLLMにおけるアラビア方言を支配しているか?表現レベル分析
• Abstract要約: 大型言語モデル (LLMs) は、アラビア語を発音する際にも、アラビア語を発音する際にはしばしば現代標準アラビア語 (MSA) にデフォルトとなる。 我々は、シャニ語とバシラト語の言語支配の枠組み(2025年)を26種類のアラビア語に適応させることで、この仮説を検証した。 MSAがアラビア方言における支配的な内部表現として機能する証拠は見つからない。
• 参考スコア（独自算出の注目度）: 4.440100868992126
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) often default to Modern Standard Arabic (MSA) when generating Arabic, even when prompted with dialectal Arabic. A natural explanation is that their internal representations are dominated by MSA. We test this hypothesis by adapting the language-dominance framework of Shani and Basirat (2025) (https://doi.org/10.18653/v1/2025.blackboxnlp-1.7) to 26 Arabic varieties. Across layers and model families, we find no evidence that MSA acts as a dominant internal representation for Arabic dialects. Instead, dialect representations form a dense and highly overlapping space: normalized mutual information drops sharply compared to patterns reported for more distinct languages. Moreover, the strongest separability effects are not confined to intermediate layers, but can shift toward later layers depending on the architecture. These findings challenge a common interpretation of MSA-biased generation: output preference does not necessarily reveal internal representational dominance. Analyses of multilingual and dialectal LLMs should therefore distinguish generation bias from the geometry of internal representations.
• Abstract（参考訳）: 大型言語モデル (LLMs) は、アラビア語を発音する際にも、アラビア語を発音する際にはしばしば現代標準アラビア語 (MSA) にデフォルトとなる。 自然な説明として、それらの内部表現はMSAに支配されている。 我々は、Shani and Basirat (2025) の言語支配フレームワーク (https://doi.org/10.18653/v1/2025.blackboxnlp-1.7) を26種類のアラビア品種に適用することにより、この仮説を検証した。 階層やモデルファミリー全体にわたって、MSAがアラビア方言における支配的な内部表現として機能する証拠は見つからない。 その代わりに、方言表現は密で非常に重なり合う空間を形成し、正規化された相互情報は、より異なる言語で報告されるパターンと比較して著しく減少する。 さらに、最強の分離性効果は中間層に限らず、アーキテクチャによって後層へと移行することができる。 これらの知見は、MSAバイアスド生成の一般的な解釈に挑戦する: 出力の選好は、必ずしも内部的な表現優位を明らかにしない。 したがって、多言語および方言のLLMの分析は、生成バイアスと内部表現の幾何学を区別すべきである。

関連論文リスト

• Can Dialects Be Steered Like Languages? Sparse Neurons and Distributed Directions in Arabic LLMs [60.9510933247844]
  アラビア語NLPの主な課題は、現代標準アラビア語(MSA)と比較して方言データの不足である。 解釈可能性の観点からすると、これは基本的な疑問を提起する。 本研究では,解釈可能性プローブと制御機構を兼ね備えた2つの相補的推論時間アプローチについて検討した。
  論文  参考訳（メタデータ） (2026-07-04T16:04:44Z)
• From FusHa to Folk: Exploring Cross-Lingual Transfer in Arabic Language Models [9.715150075665354]
  アラビア語モデル (LM) は、現代標準アラビア語 (MSA) で事前訓練されており、その方言に移行することが期待されている。 これは、その方言がMSAと類似性が異なるため、アラビア語のLMに制限を与える。 本研究では,3つの自然言語処理タスクの探索と表現的類似性を用いて,アラビア語モデルの言語間移動について検討する。
  論文  参考訳（メタデータ） (2026-02-10T14:34:04Z)
• DialectalArabicMMLU: Benchmarking Dialectal Capabilities in Arabic and Multilingual Language Models [54.10223256792762]
  アラビア方言における大規模言語モデル(LLM)の性能評価のための新しいベンチマークであるDialectalArabicMMLUを提案する。 MMLU-Redux フレームワークを手動で翻訳し、3K 個の質問応答対を5つの主要な方言に適応することで拡張する。
  論文  参考訳（メタデータ） (2025-10-31T15:17:06Z)
• When Alignment Hurts: Decoupling Representational Spaces in Multilingual Models [33.2971850129622]
  本稿では,大言語モデルの内部表現幾何学を解析し,直接介入することによって,この現象の包括的因果的研究を行う。 我々の重要な貢献は、微調整中に標準品種のサブスペースを継続的に推定するオンライン変分探索フレームワークである。 25の方言にまたがって、我々の介入は、通常の微調整と比較して、平均で+4.9 chrF++と+2.0で生成品質を向上させる。
  論文  参考訳（メタデータ） (2025-08-18T10:34:08Z)
• On The Origin of Cultural Biases in Language Models: From Pre-training Data to Linguistic Phenomena [10.263201685476492]
  本稿では,言語モデル(LM)におけるエンティティ関連文化バイアスの起源を明らかにすることを目的とする。 アラビア文化や西洋文化に関連する58,086のエンティティと367の自然文脈をマスキングしたエンティティのアラビア・英語の並列ベンチマークであるCAMeL-2を紹介する。 CAMeL-2を用いた評価では、アラビア語と比較して英語で試験すると、LMによる文化間のパフォーマンスギャップが減少することがわかった。
  論文  参考訳（メタデータ） (2025-01-08T18:15:47Z)
• Concept Space Alignment in Multilingual LLMs [47.633314194898134]
  一般化は類似の型付けを持つ言語や抽象概念に最適である。 いくつかのモデルでは、プロンプトベースの埋め込みは単語の埋め込みよりもよく整合するが、投影は線形ではない。
  論文  参考訳（メタデータ） (2024-10-01T21:21:00Z)
• AceGPT, Localizing Large Language Models in Arabic [73.39989503874634]
  本稿では,アラビア語のテキストによる事前学習,ネイティブなアラビア語命令を利用したSFT(Supervised Fine-Tuning),アラビア語のGPT-4応答を含む総合的なソリューションを提案する。 目標は、文化的に認知され、価値に整合したアラビア語のLLMを、多様で応用特有のアラビア語コミュニティのニーズに適応させることである。
  論文  参考訳（メタデータ） (2023-09-21T13:20:13Z)
• Post-hoc analysis of Arabic transformer models [20.741730718486032]
  我々は、アラビア語の異なる方言で訓練されたトランスフォーマーモデルにおいて、言語情報がどのようにコード化されているかを探る。 アラビア語の異なる方言に対する形態的タグ付けタスクと方言識別タスクを用いて、モデル上で層とニューロン分析を行う。
  論文  参考訳（メタデータ） (2022-10-18T16:53:51Z)
• Interpreting Arabic Transformer Models [18.98681439078424]
  我々は、アラビア語の様々な種類に基づいて訓練された、アラビア語の事前訓練されたモデルにおいて、言語情報がどのように符号化されているかを探る。 MSA(現代の標準アラビア語)に基づく2つの形態的タグ付けタスクと、方言のPOSタグ付けタスクと、方言の識別タスクである。
  論文  参考訳（メタデータ） (2022-01-19T06:32:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。