論文の概要: Readable, Faithful, Used: Three Dissociable Properties of Demographic Identity in a Language Model

• arxiv url: http://arxiv.org/abs/2608.18768v1
• Date: Wed, 19 Aug 2026 10:25:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-20 20:13:55.374487
• Title: Readable, Faithful, Used: Three Dissociable Properties of Demographic Identity in a Language Model
• Title（参考訳）: 可読で信心深い使用:言語モデルにおける3つの復号性
• Abstract要約: 我々は、大きな言語モデルの中で、人口集団のアイデンティティがどこにあるのかを尋ねる。 私たちはMistral-7Bで1,089の読み出し位置を記録し、6つのタイプに因果的に介入した。 単一の頭部の128次元のプローブは、モデル自身の答えよりも21-31%近くまで到達した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models are widely used to simulate survey respondents, yet their answers are homogeneous and unfaithful to real inter-group differences. We ask where demographic group identity lives inside an LLM, how faithfully its geometry mirrors real inter-group opinion structure, and whether it uses what it encodes. Using representational similarity analysis against Pew ground truth over 169 demographic cells, we score 1,089 read-out locations in Mistral-7B and intervene causally across six attribute types. Four results. (1) The standard last-token residual read-out understates the model: attention-head read-outs dominate it in five of six types, with selection-corrected fidelity up to rho=0.63 -- roughly 70% of the measurement-reliability ceiling -- surviving a lexical-similarity control. (2) A single head (L11 H16) is significantly faithful in all six types as a fixed location, while race-based types stay weak and prompt-fragile. Both phenomena replicate -- the analogous head significant in five of six types, weakest on the same race type -- across three checkpoints of a second model family, where ten billion training tokens barely move the map. (3) Causal use does not follow fidelity: the clearest causal pathway sits in one of the least faithful types (p=0.002, cluster-robust, fixed depth), the most faithful type shows no correction-surviving single-layer effect, and replacing the entire identity moves predictions by under 2% of their error. (4) A 128-dimensional probe of the single head lands 21-31% closer to survey truth than the model's own answers -- yet recovers almost none of the per-question group ordering, no better than the answers themselves. Readable, faithfully arranged, and causally used are three dissociable properties of the same model; treating them as one claim is what keeps the "can LLMs simulate populations" debate unresolved.
• Abstract（参考訳）: 大規模な言語モデルは、調査の回答者をシミュレートするために広く使用されているが、その答えは、グループ間の実際の違いに対して均質で不誠実である。 我々は、人口集団のアイデンティティがLLMの中にどこにあるのか、その幾何学が実際のグループ間の意見構造をいかに忠実に反映しているか、そしてそれがコード化したものを使っているかどうかを問う。 169個の人口細胞上でのPewグラウンドの真理に対する表現的類似性解析を用いて、Mistral-7Bにおいて1,089個の読み出し位置を記録し、6つの属性タイプに因果的に介入した。 4つの結果。 1)6つのタイプのうち5つにアテンションヘッド・リードアウトが支配し、選択補正フィリティがrho=0.63(測定信頼性天井の約70%)まで上昇し、レキシカル・類似性制御が残っている。 2) 単一ヘッド (L11 H16) は固定位置として6つのタイプに大きく忠実であるが、レースベース型は弱いままであり、プロンプトフランジである。 両方の現象は、2番目のモデルの3つのチェックポイントにまたがって再現され、100億のトレーニングトークンがマップをほとんど動かさない。 最も明確な因果経路は、最も忠実でないタイプ(p=0.002、クラスタロス、固定深さ)の1つにあり、最も忠実なタイプは、修正が持続する単層効果を示さず、全体のアイデンティティーがエラーの2%以下で予測を移動させる。 (4) 単一頭部の128次元のプローブは、モデル自身の回答よりも21-31%近く真実を調査している。 読みやすく、忠実に配列され、因果的に使用されるのは、同じモデルの3つの解離可能な性質である。

関連論文リスト

• NovGauge: A Fine-Grained Benchmark for Diagnosing LLMs' Capability in Paper Novelty Assessment [54.4265627247104]
  大規模言語モデル(LLM)は、主要なAIカンファレンスでピアレビューでますます使用されている。 既存のベンチマークでは、ノベルティを1つの総合的なスコアとして評価している。 本報告では,詳細なノベルティアセスメント診断のための人手によるベンチマークであるNovGaugeについて述べる。
  論文  参考訳（メタデータ） (2026-09-10T08:34:56Z)
• Marginal Fidelity Does Not Establish User Simulation in Demographic Synthetic Survey Panels: Response Contracts, Support Collapse and Conditioning Failure [51.736723807086385]
  人口密着協定は、個別のシミュレーションの証拠ではなく、エスカレーション契約の証拠であり、シミュレーションされた回答者なしで得られる推定値である。 9つのアライメントされたモデルバッテリペアでは、非個人個体数のクエリの平均は6.27 MAE対12.39であり、9つの比較すべてで勝利する。
  論文  参考訳（メタデータ） (2026-09-07T10:22:22Z)
• Measuring Obedience to Authority Across Large Language Models with the Milgram Paradigm [0.5414847001704247]
  大規模言語モデル(LLM)は、機器を操作し、指示を実行し、制度上の階層の中で機能するエージェントとして、ますます多くデプロイされている。 我々は、Milgramの服従パラダイムを、標準化され、完全にスクリプト化され、レプリカブルなプローブとしてLLMに移植する。 本研究では,19家族の42モデルに対して,6条件のバッテリ上での服従プロファイル,経験的ブレイクオフ分布を測定した。
  論文  参考訳（メタデータ） (2026-08-17T06:48:53Z)
• When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models [45.91367912142692]
  異なるモデルがいまだに同じ狭い部分集合を選択している可能性を示し、単一の引用が誤りを犯さずに、引用モノカルチャーを生成する。 3つのベンダーの11のモデルが、30のランダムなパネルから少なくとも10の論文を選択しており、実際のタイトルと抽象物があるが、作者が作り直され、再割り当て年、隠れた会場と引用数がある。
  論文  参考訳（メタデータ） (2026-08-03T14:27:46Z)
• Can Large Language Models Represent Urban Publics? Behavioral Replication and Population Mismatch in an Affordable-Housing Experiment [1.7984459258809926]
  大規模言語モデルでは,集団構造の維持に失敗しながら,1つの集合コントラストを近似することができることを示す。 都市計画におけるモデル評価は、この空間構造と社会構造が、平均的な効果だけでなくシミュレーションを生き残るかどうかを検証すべきである。
  論文  参考訳（メタデータ） (2026-07-29T16:27:36Z)
• Analyzing and Correcting Benevolence Bias in Large Language Models [25.94213078450494]
  大規模言語モデル(LLM)は、人間の回答者のスタンドインとしてますます使われています。 ここでは、評価バイアス(benevolence bias)を識別し、測定する。これは、LLMがより親切で、より安全で、より社会的に認められた質問に対する回答に傾く傾向の小さいが、一貫性のある傾向である。 バイアスは安定なモデル特性であり、どのシステムにおいてもクォークではないことが分かる。
  論文  参考訳（メタデータ） (2026-07-26T08:37:58Z)
• Distribution-First Population Simulation: Collapse, Calibration, and Recall in Non-WEIRD LLM Persona Modeling [0.0]
  合成親和性ツールは、独立大規模言語モデル(LLM)エージェントとして各個人を動作させる。 このパラダイムには基本的な障害モードがあることを示し、分散優先の修正をそれに対して設定する。
  論文  参考訳（メタデータ） (2026-07-17T15:45:57Z)
• Perception or Prejudice: Can MLLMs Go Beyond First Impressions of Personality? [74.69723255239663]
  グラウンドド・パーソナリティ・推論は、MLLMがそれぞれのビッグファイブ・格付けを、評価、推論、根拠の連鎖を通じて観察可能な証拠に固定することを要求する。 MM-OCEANは、人間の検証によるマルチエージェントパイプラインによって生成され、タイムスタンプによる行動観察、エビデンスに基づく特性分析、およびキューグラウンドMCQの7つのカテゴリがある。 この分析では、フィールド全体にわたって、正しい評価の51%が取得された手がかりに基づかず、ホリスティック・ギャラリング・レートは0-33.5%にしか達していないという顕著な偏見のギャップが明らかになった。
  論文  参考訳（メタデータ） (2026-05-21T07:42:47Z)
• Back into Plato's Cave: Examining Cross-modal Representational Convergence at Scale [40.31924374728614]
  プラトン表現仮説(Platonic Representation hypothesis)は、異なるモダリティで訓練されたニューラルネットワークが一致し、最終的に同じ現実の表現に向かって収束することを示唆している。 この仮説の実験的証拠は脆弱であり, 評価体制に大きく依存していることが示唆された。
  論文  参考訳（メタデータ） (2026-04-20T17:56:02Z)
• PsychBench: Auditing Epidemiological Fidelity in Large Language Model Mental Health Simulations [0.0]
  大きな言語モデルは、臨床訓練、研究、メンタルヘルスツールのために患者をシミュレートするためにますます多くデプロイされている。 LLM患者シミュレーションの最初の疫学的検査である PsychBench を紹介した。 モデルでは, 抽出した個体群を誤って表現しながら, 臨床的に有意な個体を生成できることが示唆された。
  論文  参考訳（メタデータ） (2026-04-19T10:05:25Z)
• Can Humans Tell? A Dual-Axis Study of Human Perception of LLM-Generated News [47.03825808787752]
  人間は、ニュース記事が人によって書かれたか、あるいは大きな言語モデル(LLM)によって書かれたかを知ることができますか? 本稿では,人間対機械(人間対機械)と正当性判定(正当性対偽判定)を連続的なスケールで測定する研究プラットフォームであるJiceGPTを用いて,この問題を考察する。 筆者らは,(1) 被験者が人文テキストから機械生成物を確実に識別できないこと,(2) 認知疲労による約30回の連続的な評価の後,その精度が低下すること,の5つを報告した。
  論文  参考訳（メタデータ） (2026-04-04T15:03:42Z)
• Demographic Fairness in Multimodal LLMs: A Benchmark of Gender and Ethnicity Bias in Face Verification [39.17203445317177]
  顔認証システムとしてMLLM(Multimodal Large Language Models)が検討されている。 6つのモデルファミリーから9つのオープンソースMLLMを評価するベンチマーク研究を提案する。 以上の結果から,顔特定モデルであるFaceLLM-8Bは,両ベンチマークの汎用MLLMよりも有意に優れていた。
  論文  参考訳（メタデータ） (2026-03-26T16:30:00Z)
• "Who Am I, and Who Else Is Here?" Behavioral Differentiation Without Role Assignment in Multi-Agent LLM Systems [0.0]
  本稿では,マルチエージェントの同時議論を組織化する実験プラットフォームを提案する。 異種群は同種群よりも行動の分化が著しく大きいことが判明した。
  論文  参考訳（メタデータ） (2026-03-11T07:05:21Z)
• Causal Understanding by LLMs: The Role of Uncertainty [43.87879175532034]
  近年の論文では、LLMは因果関係分類においてほぼランダムな精度を達成している。 因果的事例への事前曝露が因果的理解を改善するか否かを検討する。
  論文  参考訳（メタデータ） (2025-09-24T13:06:35Z)
• On Language Models' Sensitivity to Suspicious Coincidences [47.116749678046745]
  人間はデータに対して誘導的に一般化する際に不審な偶然に敏感である。 言語モデル(LM)の動作に不審な不審な結果が反映されているかどうかを解析する。
  論文  参考訳（メタデータ） (2025-04-13T00:43:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。