論文の概要: Encoding and Propagation of Grammatical Number in Large Language Models

• arxiv url: http://arxiv.org/abs/2611.07283v1
• Date: Thu, 05 Nov 2026 01:04:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.481318
• Title: Encoding and Propagation of Grammatical Number in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける文法数字の符号化と伝播
• Abstract要約: スパースオートエンコーダ (SAE) は、Large Language Model (LLM) 隠れ状態ベクトルを翻訳する手段として、ますます人気が高まっている。 複数名詞', 複数母語', 複数母語', 複数母語', 複数動詞の発見と伝播に, SAE をどのように利用できるかを示す。 我々の主な貢献は、LLMが人間の言語をエンコードする方法を理解するためのSAEの使用に対する新しいアプローチである。
• 参考スコア（独自算出の注目度）: 2.8360662552057327
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Sparse autoencoders (SAEs) have become an increasingly popular means of translating Large Language Model (LLM) hidden state vectors into a human-comprehensible list of features or symbols. As such, SAEs may provide insight into an LLM's knowledge representation and internal ``mental'' grammar - topics of pragmatic interest for mechanistic interpretation of AI behavior and of theoretical interest for the study of in silico representations of human language. Language models with fewer than 100M parameters, trained on small corpora, nonetheless exhibit strong grammatical competence and discourse coherence, despite producing content of limited reliability. We use SAEs that we trained on one such model (Pythia-70M) to conduct an in-depth examination of how a single grammatical phenomenon, number agreement, is represented and processed in an LLM. We demonstrate the mechanism and the methodology by which SAEs can be used to find and propagate ``plural noun'', ``plural matrix subject'', and ``generate a plural verb'' features which cause the LLM to produce plural verb forms such as ``are'', ``do'', or ``have'' instead of ``is'', ``does'', and ``has'' in response to prompts such as ``the men in the park''. We show that intervening to remove these features from the hidden states of plural subject noun tokens causes the model to produce singular verbs instead, and vice versa. We also show that corresponding ``singular noun'' and ``generate a singular verb'' features are not as effective for this task. This asymmetry suggests that Pythia-70m makes use of a privative representation of grammatical number in English. These findings replicated with larger LLMs Gemma-2-2b and Llama-3.1-8b yielded similar results. Our main contribution is a novel approach to the use of SAEs to understanding how LLMs encode human language that addresses a number of technical and methodological challenges.
• Abstract（参考訳）: スパースオートエンコーダ (SAE) は、Large Language Model (LLM) 隠れた状態ベクトルを人間の理解可能な特徴やシンボルリストに変換する手段として、ますます人気が高まっている。 したがって、SAE は LLM の知識表現と内部の `mental' 文法に関する洞察を与えることができる。 1億のパラメータ未満の言語モデルは、小さなコーパスで訓練されているが、しかしながら、信頼性に制限のあるコンテンツを生成するにもかかわらず、文法的能力と談話の一貫性が強い。 我々は1つのモデル(Pythia-70M)で訓練したSAEを用いて、1つの文法的現象、数一致がLLMでどのように表現され、処理されるかを詳細に調べる。 我々は,SAE が ``plural noun'', ``plural matrix subject'', ` ``generate a Multiple verb'' features that the LLM が ``are'', ``do'', ` `have''' など複数の動詞形式を生成させる機構と手法を実証する。 これらの特徴を複数の主語名詞トークンの隠れ状態から取り除こうとする介入は、モデルが代わりに特異動詞を生成する原因となり、その逆も引き起こされる。 また、対応する ``singular noun'' や ``generate a singular verb'' の特徴がこのタスクにはあまり効果がないことを示す。 この非対称性は、Pythia-70mが英語で文法的な数の私的表現を利用することを示唆している。 これらの結果は、より大きなLLMのGemma-2-2bとLlama-3.1-8bで再現された。 我々の主な貢献は、多くの技術的、方法論的な課題に対処する人間の言語をLLMがエンコードする方法を理解するためのSAEの使用に対する新しいアプローチである。

関連論文リスト

• Evaluating In-Context Translation with Synchronous Context-Free Grammar Transduction [17.60599688606413]
  低リソース言語は大きな言語モデル(LLM)を用いた機械翻訳に挑戦する 形式言語のペアを定義する同期文脈自由文法を構築した。 LLMが文法とソース言語文の両方を与えられたとき、ある形式言語から別の形式言語への文の翻訳にどの程度役立つかを計測する。
  論文  参考訳（メタデータ） (2026-04-08T17:35:44Z)
• Memorization or Reasoning? Exploring the Idiom Understanding of LLMs [9.136778374784734]
  MIDASは6つの言語におけるイディオムの大規模なデータセットであり、それぞれが対応する意味と組み合わせられている。 以上の結果から,LLMは暗記だけでなく,文脈的手がかりと推論を統合したハイブリッドアプローチも採用していることが示唆された。 このことは、LLMにおける慣用的理解が、内部知識検索と推論に基づく推論の相互作用から生まれることを意味する。
  論文  参考訳（メタデータ） (2025-05-22T04:31:25Z)
• Unnatural Languages Are Not Bugs but Features for LLMs [92.8332103170009]
  大規模言語モデル(LLM)は、ジェイルブレイクプロンプトなどの非可読テキストシーケンスを処理するために観察されている。 我々はこの認識に挑戦する体系的な調査を行い、非自然言語にはモデルで使用可能な潜在的特徴が含まれていることを示した。
  論文  参考訳（メタデータ） (2025-03-02T12:10:17Z)
• Randomly Sampled Language Reasoning Problems Elucidate Limitations of In-Context Learning [9.75748930802634]
  機械学習の性能を向上させるために,テキスト内学習の能力について検討する。 非常に単純なドメインを考える: 単純な言語タスクにおける次のトークン予測。 この課題において LLM は n-gram モデルに一様に劣ることがわかった。
  論文  参考訳（メタデータ） (2025-01-06T07:57:51Z)
• Large Concept Models: Language Modeling in a Sentence Representation Space [62.73366944266477]
  本稿では,概念を命名した明示的な高レベルな意味表現に基づくアーキテクチャの試みを行う。 概念は言語とモダリティに依存しないものであり、フローにおけるより高いレベルの考えや行動を表している。 本モデルでは,多くの言語に対して,ゼロショットの一般化性能が顕著であることを示す。
  論文  参考訳（メタデータ） (2024-12-11T23:36:20Z)
• How Do Multilingual Language Models Remember Facts? [50.13632788453612]
  これまでに同定された英語のリコール機構が多言語文脈に適用可能であることを示す。 我々は、リコール中の言語の役割をローカライズし、エンリッチメントが言語に依存しないことを発見した。 デコーダのみのLLMでは、FVは2つの異なる段階でこれらの2つの情報を構成する。
  論文  参考訳（メタデータ） (2024-10-18T11:39:34Z)
• Analyzing the Role of Semantic Representations in the Era of Large Language Models [104.18157036880287]
  大規模言語モデル(LLM)の時代における意味表現の役割について検討する。 本稿では, AMRCoT と呼ばれる AMR-driven chain-of- Thought prompting 法を提案する。 AMRのどの入力例が役に立つかは予測できないが,複数単語の表現でエラーが発生する傾向にある。
  論文  参考訳（メタデータ） (2024-05-02T17:32:59Z)
• Towards Language Modelling in the Speech Domain Using Sub-word Linguistic Units [56.52704348773307]
  音節や音素を含む言語単位に基づくLSTMに基づく新しい生成音声LMを提案する。 限られたデータセットでは、現代の生成モデルで要求されるものよりも桁違いに小さいので、我々のモデルはバブリング音声を近似する。 補助的なテキストLM,マルチタスク学習目標,補助的な調音特徴を用いた訓練の効果を示す。
  論文  参考訳（メタデータ） (2021-10-31T22:48:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。