論文の概要: Who Gets a Token, and What Does It Carry? Unequal Name Support and Concept Access in Large Language Models

• arxiv url: http://arxiv.org/abs/2609.34065v1
• Date: Mon, 28 Sep 2026 00:46:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-04 07:20:37.074191
• Title: Who Gets a Token, and What Does It Carry? Unequal Name Support and Concept Access in Large Language Models
• Title（参考訳）: 言語モデルにおける名前サポートと概念アクセス
• Abstract要約: 複数のサブワードから組み立てられた名前が直接シングルトークンアクセスを受け取り、不平等な名前と表層のサポートを生み出していることを示す。 モデルネイティブできめ細かなプレビヘイビアフレームワークであるNameTraceを紹介し、不平等な名前表面サポートが語彙的特性のままであるかどうかを測定する。
• 参考スコア（独自算出の注目度）: 12.338320566839483
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Names are personal identifiers, but they also carry social meaning and are widely used to evaluate how language models treat different people. Such evaluations typically assume that matched names are comparable model inputs. We show that this assumption often fails at the lexical interface: matched names are not necessarily matched inputs. Some names receive direct single-token access, while others are assembled from multiple subwords, creating unequal name-surface support. Across nearly half a million first names and 12 LLM-associated tokenizers, direct lexical access is highly selective, model dependent, and uneven across race- and gender-associated name metadata. We introduce NameTrace, a model-native, fine-grained, pre-behavioral framework for measuring whether unequal name-surface support remains a vocabulary property or becomes visible in task-relevant internal representations. NameTrace measures concept accessibility from the model's own probabilities over task-specific adjective axes with continuous task-aligned weights. On matched atomic and short-fragmented names within the same race/ethnicity--gender-associated strata, support predicts systematic differences in concept accessibility across fellowship, hiring, clinical assessment, and lending. These differences persist across all eight matched strata, extend across model families, and transfer to unseen names. Hidden-state interventions further show that the measured task directions have downstream leverage, shifting later constrained choices. Unequal lexical support is therefore demographically structured at the input and remains visible in task-relevant model computation. NameTrace makes lexical comparability measurable, supporting a broader principle: behavioral comparability begins with lexical comparability.
• Abstract（参考訳）: 名前は個人識別子であるが、社会的な意味を持ち、言語モデルが異なる人々をどのように扱うかを評価するために広く使われている。 このような評価は通常、一致した名前がモデル入力に匹敵するものであると仮定する。 一致した名前は必ずしも一致しない。 いくつかの名前は直接シングルトークンアクセスを受け取り、他の名前は複数のサブワードから組み立てられる。 約50万のファーストネームと12のLDM関連トークンライザを含む、直接的な語彙アクセスは、人種および性別関連の名前メタデータ間で、高い選択的、モデル依存、不均一である。 モデルネイティブできめ細かなプレビヘイビアフレームワークであるNameTraceを導入し、不平等な名前表面サポートが語彙的特性のままであるか、タスク関連内部表現で見えるかを測定する。 NameTraceは、連続的なタスク整列重みを持つタスク固有の形容詞軸に対するモデル自身の確率から概念アクセシビリティを測定する。 同一人種/民族における一致した原子名と短フラグメント名について、ジェンダー関連層は、フェローシップ、雇用、臨床評価、貸与における概念アクセシビリティの体系的差異を予測する。 これらの違いは、一致する8つの層にまたがって持続し、モデルファミリにまたがって拡張され、目に見えない名前に転送される。 隠れ状態の介入は、測定されたタスクの方向が下流のレバレッジを持つことを示す。 したがって、不等語彙のサポートは、入力時に人口統計学的に構造化され、タスク関連モデル計算で見ることができる。 NameTraceは語彙の可視性を測定可能とし、より広い原理をサポートする:行動の可視性は語彙の可視性から始まる。

関連論文リスト

• Adaptive and Multi-Source Entity Matching for Name Standardization of Astronomical Observation Facilities [0.0]
  本研究は、天文観測施設のマルチソースマッピングを作成する手法の開発に焦点をあてる。 適応可能な基準と自然言語処理(NLP)技術を用いてスコアを計算し、2つのエンティティを比較した。 ラベルや定義,説明,外部識別子など,利用可能なすべてのプロパティを活用しています。 結果として得られるマッピングは、エンティティごとに1つの標準化されたラベルのみを提供するマルチソースの同義集合で構成されている。
  論文  参考訳（メタデータ） (2025-10-07T10:04:08Z)
• Tomato, Tomahto, Tomate: Measuring the Role of Shared Semantics among Subwords in Multilingual Language Models [88.07940818022468]
  エンコーダのみの多言語言語モデル(mLM)におけるサブワード間の共有セマンティクスの役割を測る第一歩を踏み出した。 意味的に類似したサブワードとその埋め込みをマージして「意味トークン」を形成する。 グループ化されたサブワードの検査では 様々な意味的類似性を示します
  論文  参考訳（メタデータ） (2024-11-07T08:38:32Z)
• Multicultural Name Recognition For Previously Unseen Names [65.268245109828]
  本論文は、人名の認識を改善することを目的としており、それは、誰かが生まれたり、名前を変えたりする際にも、成長できる多様なカテゴリーである。 私は103か国の名前を見て、モデルが異なる文化の名前でどれだけうまく機能するかを比較します。 文字入力と単語入力を組み合わせたモデルの方が単語のみのモデルより優れており,従来のNERモデルと比較して精度が向上する可能性がある。
  論文  参考訳（メタデータ） (2024-01-23T17:58:38Z)
• Disambiguation of Company names via Deep Recurrent Networks [101.90357454833845]
  企業名文字列の埋め込みである教師付き学習を通じて,Siamese LSTM Network を抽出する手法を提案する。 私たちは、ラベル付けされるサンプルを優先するActive Learningアプローチが、より効率的な全体的な学習パイプラインをもたらす方法を分析します。
  論文  参考訳（メタデータ） (2023-03-07T15:07:57Z)
• More Than Words: Collocation Tokenization for Latent Dirichlet Allocation Models [71.42030830910227]
  モデルが異なる環境でクラスタリングの品質を測定するための新しい指標を提案する。 マージトークンでトレーニングされたトピックは、マージされていないモデルよりも、より明確で、一貫性があり、トピックを区別する効果が高いトピックキーをもたらすことを示す。
  論文  参考訳（メタデータ） (2021-08-24T14:08:19Z)
• Fake it Till You Make it: Self-Supervised Semantic Shifts for Monolingual Word Embedding Tasks [58.87961226278285]
  語彙意味変化をモデル化するための自己教師付きアプローチを提案する。 本手法は,任意のアライメント法を用いて意味変化の検出に利用できることを示す。 3つの異なるデータセットに対する実験結果を用いて,本手法の有用性について述べる。
  論文  参考訳（メタデータ） (2021-01-30T18:59:43Z)
• Machine-learning classifiers for logographic name matching in public health applications: approaches for incorporating phonetic, visual, and keystroke similarity in large-scale probabilistic record linkage [3.888501008639864]
  視覚的,音声的,キーストローク類似性の尺度を開発し,マッチング可能な名前ペアの同定を強化する。 大規模確率的レコードリンクにおける名前類似度スコアを利用する3つの手法の評価を行った。 この結果から,ログラフ名マッチングに視覚的,音声的,キーストローク的類似性を取り入れることの価値が示された。
  論文  参考訳（メタデータ） (2020-01-07T05:21:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。