論文の概要: Free-form Association Tasks Reveal Stereotype Hallucination in Large Language Models

• arxiv url: http://arxiv.org/abs/2606.30945v1
• Date: Mon, 29 Jun 2026 21:58:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:19.009424
• Title: Free-form Association Tasks Reveal Stereotype Hallucination in Large Language Models
• Title（参考訳）: 自由形式アソシエーションタスクによる大規模言語モデルにおけるステレオタイプ幻覚の探索
• Abstract要約: 自由形態刺激の解釈において人間とLLMが示すステレオタイプの構造を比較した。 人間は多様性を保ちながら、一階の傾向を適度に増幅することで「ステレオタイプの誇張」を行う。 対照的にLLMは、既存の一階の傾向を増幅したり、実際の人間のグループ差を反映したりしない、薄型の二階のステレオタイプを生成する。
• 参考スコア（独自算出の注目度）: 0.40418345173398346
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent studies argue that LLMs can predict human stereotypical judgments. Yet whether LLMs emulate the cognitive processes underlying human stereotypes, or merely retrieve learned associations to solve prediction tasks, remains unclear. Prior work examines LLMs' stereotypes in either (i) controlled judgment tasks like multiple choice surveys, or (ii) contexts constrained by conventionalized and predictable group biases. Here, we compare the structure of the stereotypes that humans and LLMs exhibit in the interpretation of free-form stimuli, namely abstract art and Rorschach blots, which lack pre-established cultural meanings. We recruit participants across five social domains (gender, partisanship, personality, urbanicity, and lifestyle) and elicit both first-order (direct personal interpretations) and second-order responses (predictions about how members of social groups will interpret the stimuli); we replicate this design with two multimodal models (GPT-4o mini and Llama-3.2-11B-Vision-Instruct). Humans and LLMs differ not only in magnitude but in the qualitative nature of their stereotypes. Human first-order responses display heterogeneity with minimal group structure. When predicting group responses, humans engage in "stereotype exaggeration" by moderately amplifying first-order tendencies while preserving diversity. By contrast, LLMs exhibit homogeneous first-order responses, and yet generate stark second-order stereotypes that neither amplify existing first-order tendencies nor reflect actual human group differences, a process we term "stereotype hallucination." LLMs continued to hallucinate stereotypes even when fine-tuned on the response data of actual participants. These findings suggest significant limitations in the use of LLMs to model and predict human behavior in novel contexts involving diverse interpretations.
• Abstract（参考訳）: 近年の研究では、LLMは人間のステレオタイプ的判断を予測できると主張している。 しかし、LLMが人間のステレオタイプに基づく認知過程をエミュレートするか、あるいは単に学習した関連を抽出して予測タスクを解くかは、まだ不明である。 先行研究はLLMsのステレオタイプをどちらの場合も検討する 一 複数の選択調査等の判断業務の制御 (ii) 従来の群バイアスと予測可能な群バイアスによって制約された文脈。 ここでは,人間とLLMが自由形式の刺激,すなわち抽象芸術とロールシャッハ・ブロットの解釈において示すステレオタイプの構造を比較検討する。 我々は,5つの社会ドメイン(ジェンダー,パルチザンシップ,パーソナリティ,都市性,ライフスタイル)の参加者を募集し,第1次(直接的個人解釈)と第2次(社会的グループのメンバーがどのようにその刺激を解釈するかの予測)の両方を付与し,このデザインを2つのマルチモーダルモデル(GPT-4o mini と Llama-3.2-11B-Vision-Instruct)で再現する。 人間とLLMは大きさだけでなく、ステレオタイプの質的な性質でも異なる。 人間の一階反応は、最小のグループ構造を持つ不均一性を示す。 集団反応を予測する際、ヒトは多様性を保ちながら一階の傾向を適度に増幅することで「ステレオタイプ誇張」を行う。 対照的に、LLMは均質な一階反応を示すが、既存の一階傾向を増幅したり、実際の人間集団の違いを反映したりしない、スタークな二階ステレオタイプを生成する。 LLMは、実際の参加者の反応データを微調整しても、ステレオタイプを幻覚し続けた。 これらの知見は、多様な解釈を含む新しい文脈における人間の行動のモデル化と予測にLLMを使うことにおいて、重大な制限があることを示唆している。

関連論文リスト

• Us-vs-Them bias in Large Language Models [0.569978892646475]
  基礎的大言語モデル間で、一貫した内集団陽性および外集団陰性な関連を見いだす。 調査対象者は,保守的ペルソナは対人関係が強く,リベラルなペルソナは対人関係が強かった。
  論文  参考訳（メタデータ） (2025-12-03T07:11:22Z)
• Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond) [90.45301024940329]
  言語モデル(LM)は、多様で人間らしい創造的コンテンツを生成するのに苦労することが多い。 Infinity-Chatは26万の多様な実世界のオープンエンドユーザクエリからなる大規模データセットである。 本研究では, LMのモード崩壊について大規模に検討し, 人工Hivemind効果が明らかとなった。
  論文  参考訳（メタデータ） (2025-10-27T03:16:21Z)
• Simulating Identity, Propagating Bias: Abstraction and Stereotypes in LLM-Generated Text [8.988787218035414]
  ソシオデミノグラフィーのカテゴリーとステレオタイプ的・非ステレオタイプ的属性をリンクする短いテキストを生成する際に,ペルソナ・プロンプトが言語的抽象化のレベルを異にするかどうかを検討する。 本研究は, ソシオデミノグラフィーグループを代表するペルソナの生態に対する批判と, ステレオタイプの普及リスクへの懸念を提起するものである。
  論文  参考訳（メタデータ） (2025-09-10T10:49:21Z)
• Investigating VLM Hallucination from a Cognitive Psychology Perspective: A First Step Toward Interpretation with Intriguing Observations [60.63340688538124]
  幻覚は、視覚言語モデル(VLM)で積極的に研究されている長年の問題である。 既存の研究は、幻覚は技術的な制限や梅毒のバイアスによるもので、後者はモデルがユーザの期待に沿う誤った回答を生み出す傾向があることを意味している。 本研究では, VLMの認知バイアスを分類し, サイコフィナンシー, 論理的不整合, 新たに同定された VLM の行動, 権威へのアピールなど, 幻覚へと導く。
  論文  参考訳（メタデータ） (2025-07-03T19:03:16Z)
• Arbiters of Ambivalence: Challenges of Using LLMs in No-Consensus Tasks [52.098988739649705]
  本研究では, LLMのバイアスと限界について, 応答生成器, 判定器, 討論器の3つの役割について検討した。 我々は、様々な先行的曖昧なシナリオを含む例をキュレートすることで、合意なしのベンチマークを開発する。 以上の結果から, LLMは, オープンエンドの回答を生成する際に, 曖昧な評価を行うことができる一方で, 審査員や討論者として採用する場合は, 合意なしのトピックにスタンスを取る傾向が示唆された。
  論文  参考訳（メタデータ） (2025-05-28T01:31:54Z)
• Deep Binding of Language Model Virtual Personas: a Study on Approximating Political Partisan Misperceptions [13.929713456538932]
  本稿では,マルチターンインタビュー文として生成した合成ユーザ"バックストリー"を用いた仮想ペルソナ構築手法を提案する。 本研究の背景には,ヒトの反応分布を忠実に再現した仮想的ペルソナと,グループ内・グループ外バイアスのオリジナルの研究で観察されたものと密に一致した効果の大きさが示されている。
  論文  参考訳（メタデータ） (2025-04-16T00:10:34Z)
• LLM Agents Display Human Biases but Exhibit Distinct Learning Patterns [0.0]
  経験的タスクから判断する文脈におけるLarge Language Models (LLMs)の選択パターンについて検討する。 その結果,LLMは人間に類似した行動バイアスを呈することがわかった。 しかし、選択パターンをより微妙に分析すると、これは非常に異なる理由で起こることが分かる。
  論文  参考訳（メタデータ） (2025-03-13T10:47:03Z)
• Large Language Models Reflect the Ideology of their Creators [71.65505524599888]
  大規模言語モデル(LLM)は、自然言語を生成するために大量のデータに基づいて訓練される。 本稿では, LLMのイデオロギー的姿勢が創造者の世界観を反映していることを示す。
  論文  参考訳（メタデータ） (2024-10-24T04:02:30Z)
• Scaling Data Diversity for Fine-Tuning Language Models in Human Alignment [84.32768080422349]
  人間の好みの調整は、大きな言語モデルが誤解を招くか有害なコンテンツを生成するのを防ぐ。 本研究では, 微調整後のLLMの最終性能と線形相関を示唆し, 即時多様性の新たな定式化を提案する。
  論文  参考訳（メタデータ） (2024-03-17T07:08:55Z)
• Do LLMs exhibit human-like response biases? A case study in survey design [66.1850490474361]
  大規模言語モデル(LLM)が人間の反応バイアスをどの程度反映しているかについて検討する。 アンケート調査では, LLMが人間のような応答バイアスを示すかどうかを評価するためのデータセットとフレームワークを設計した。 9つのモデルに対する総合的な評価は、一般のオープンかつ商用のLCMは、一般的に人間のような振る舞いを反映しないことを示している。
  論文  参考訳（メタデータ） (2023-11-07T15:40:43Z)
• StereoMap: Quantifying the Awareness of Human-like Stereotypes in Large Language Models [11.218531873222398]
  大規模言語モデル(LLM)は、トレーニングデータに存在する有害な関連を符号化し、永続する。 本稿では,人口集団が社会によってどのように見られているかについての認識を得るために,StereoMapという理論的基盤を持つフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-20T17:22:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。