論文の概要: Alignment by Stereotyping: How LLMs Sacrifice Individual Distinctiveness for Cultural Adaptation
- arxiv url: http://arxiv.org/abs/2609.05993v1
- Date: Sat, 05 Sep 2026 09:33:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 11:59:53.898443
- Title: Alignment by Stereotyping: How LLMs Sacrifice Individual Distinctiveness for Cultural Adaptation
- Title(参考訳): ステレオタイピングによるアライメント:LLMが文化的適応のための個人識別性をいかに犠牲にするか
- Abstract要約: 統計学的プロファイルは、ほとんどのモデルにおいて値アライメントの精度を向上するが、個人性には体系的なコストがかかる。
トップパフォーマンスモデルでは、個人を人間のベースラインよりはるかに上まで圧縮し、家族内スケーリングは、本質的な文化的理解を低下させながら、このトレードオフを増幅する。
さらに,対話型交替による人口統計信号の分散は,コンパクトな人口統計ラベルと比較して,プロトタイプ検索を部分的に抑制することを示す。
- 参考スコア(独自算出の注目度): 30.1403215719712
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models are increasingly deployed for personalized interaction, and demographic conditioning via user profiles is a widely adopted strategy for cultural adaptation. We ask whether this approach genuinely serves individual users or achieves accuracy by erasing individual distinctiveness. Studying seven models including frontier GPT-5.1 on the World Values Survey, we find that demographic profiles improve value alignment accuracy for most models, but at a systematic cost to individuality. That is, models pull responses toward demographic group centroids rather than preserving individual differences, a behavioral pattern we term alignment by stereotyping. Permutation tests (10,000 permutations, six demographic attributes, seven models) certify that top-performing models compress individuals far above the human baseline; within-family scaling amplifies this tradeoff while degrading intrinsic cultural understanding. Using a synthetic dialogue dataset validated on real human-chatbot conversations from PRISM (Kirk et al., 2024), we further show that distributing demographic signals across conversational turns partially suppresses prototype retrieval compared to compact demographic labels, a finding validated on real conversations via PRISM but requiring replication at larger scale.
- Abstract(参考訳): 大きな言語モデルは、パーソナライズされたインタラクションのためにますますデプロイされ、ユーザプロファイルによる人口動態条件付けは、文化的適応のための広く採用されている戦略である。
このアプローチが真のユーザに役立つのか、それとも個々の識別性を消去して正確性を実現するのかを問う。
World Values SurveyでフロンティアGPT-5.1を含む7つのモデルについて調査したところ、人口統計プロファイルは、ほとんどのモデルにおける値アライメントの精度を改善するが、個人性には体系的なコストがかかることがわかった。
つまり、モデルが個体群セントロイドに対する反応を個人差を保存するのではなく、ステレオタイピングでアライメント(アライメント)と呼ぶ行動パターンに導く。
置換テスト(10,000の置換、6つの人口統計学的属性、7つのモデル)は、トップパフォーマンスモデルがヒトのベースラインよりはるかに上の個人を圧縮することを証明している。
PRISM (Kirk et al , 2024) の実際の人間とチャットボットの会話で検証された合成対話データセットを用いて, 対話型交替による人口統計信号の分散は, PRISMによる実際の会話で検証されるが, 大規模に複製する必要があること, さらには, プロトタイプの検索を部分的に抑制することを示した。
関連論文リスト
- Whose Norms? Disentangling Cultural and Personal Alignment in Large Language Models [66.34115263472931]
大規模言語モデルは、文化的規範と個人の嗜好のバランスを必要とする社会的意思決定の状況にますます使われてきている。
PACT(Personal-Preference and Cultural-Norm Trade-off framework)を導入し,モデルが文化的規範に従うか,あるいは個人の嗜好を許容するかを評価する。
PACTに関する5つの国による研究は、人間の文化のフォローは主にシナリオ国によって行われており、参加者が自身の文化的文脈を判断する際の合意は最低であることを示している。
論文 参考訳(メタデータ) (2026-06-05T22:20:30Z) - Learning Perspectivist Social Meaning via Demographic-Conditioned Fusion Embeddings [11.048086031066624]
言語における社会的意味は本質的にパースペクティブであり、アノテータの背景、人口統計、イデオロギー的な位置によって異なる。
ほとんどのNLPシステムは、解釈の多様性を無視して、この変化を1つの地平線ラベルに分解する。
我々は、パースペクティビストスペクトルに沿って社会的次元をモデル化し、28万の人間のアノテーションからなるデータセット上で、人口集団間で解釈がどのように異なるかを測定する。
論文 参考訳(メタデータ) (2026-06-05T10:25:01Z) - Large Language Models Should Learn Personalized Rather Than Aggregated Human Preferences [2.276729420256043]
その結果,アグリゲーションマスクは嗜好の多様性,個人の価値観,文脈依存に関する重要な情報であることがわかった。
我々は、嗜好意識モデルを開発するための具体的な研究と政策アジェンダで締めくくる。
論文 参考訳(メタデータ) (2026-05-30T18:47:52Z) - Can Persona-Prompted LLMs Emulate Subgroup Values? An Empirical Analysis of Generalisability and Fairness in Cultural Alignment [75.88231994139132]
GPT-4.1のような最先端モデルでさえ、モーダル選好を予測する精度は57.4%に過ぎなかった。
モデルでは、若者、男性、中国人、キリスト教のペルソナをよりうまくエミュレートする。
論文 参考訳(メタデータ) (2026-04-14T15:06:13Z) - Enhancing Personality Recognition by Comparing the Predictive Power of Traits, Facets, and Nuances [37.83859643892549]
パーソナリティ認識モデルは、行動データから性格特性を推定することを目的としている。
モーダル間(音響)とオブジェクト間(ダイアド・アウェア)のアテンション機構を含むトランスフォーマーベースモデルを訓練した。
その結果、ニュアンスレベルのモデルはファセットやトラストレベルのモデルよりも一貫して優れており、平均2乗誤差を最大74%削減できることがわかった。
論文 参考訳(メタデータ) (2026-02-05T13:35:04Z) - Measuring Social Bias in Vision-Language Models with Face-Only Counterfactuals from Real Photos [79.03150233804458]
現実のイメージは人種と性別を混在させ、背景や衣服などの関連要因や属性を隠蔽する。
テキストのみの対実的評価パラダイムを提案する。
我々は、人種や性別に関連する顔属性のみを編集し、他の視覚的要素を全て固定することで、反事実的変異を生成する。
論文 参考訳(メタデータ) (2026-01-11T14:35:06Z) - Can Language Models Reason about Individualistic Human Values and Preferences? [44.249817353449146]
個人主義的価値推論の課題について言語モデル(LM)について検討する。
最前線のLMでは, 個性値の予測において, 55~65%の精度しか達成できない限界がみられた。
提案した値不等式指数(sigma Inequity)によって測定された大域的個人主義的価値の推論におけるLMの部分性も同定する。
論文 参考訳(メタデータ) (2024-10-04T19:03:41Z) - On the steerability of large language models toward data-driven personas [98.9138902560793]
大規模言語モデル(LLM)は、特定のグループや集団の意見が不足している偏りのある応答を生成することが知られている。
本稿では, LLM を用いて特定の視点の制御可能な生成を実現するための新しい手法を提案する。
論文 参考訳(メタデータ) (2023-11-08T19:01:13Z) - Are Personalized Stochastic Parrots More Dangerous? Evaluating Persona
Biases in Dialogue Systems [103.416202777731]
我々は、対話モデルが採用するペルソナに付随する有害な行動の感度であると定義する「ペルソナバイアス」について検討する。
我々は,人格バイアスを有害な表現と有害な合意のバイアスに分類し,攻撃性,有害継続性,関連性,ステレオタイプ合意,および有害合意の5つの側面において,人格バイアスを測定する包括的な評価枠組みを確立する。
論文 参考訳(メタデータ) (2023-10-08T21:03:18Z) - Mitigating Face Recognition Bias via Group Adaptive Classifier [53.15616844833305]
この研究は、全てのグループの顔がより平等に表現できる公正な顔表現を学ぶことを目的としている。
我々の研究は、競争精度を維持しながら、人口集団間での顔認識バイアスを軽減することができる。
論文 参考訳(メタデータ) (2020-06-13T06:43:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。