論文の概要: STEREODISCO: Discovering Stereotypicality in LLMs
- arxiv url: http://arxiv.org/abs/2607.27824v1
- Date: Thu, 30 Jul 2026 08:03:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.448379
- Title: STEREODISCO: Discovering Stereotypicality in LLMs
- Title(参考訳): sterEODISCO:LLMにおけるステレオタイプ性の発見
- Abstract要約: 内部表現におけるステレオタイプの体系的研究に意味微分法を適用するフレームワークであるSTEREODISCOを紹介する。
2つのLSMは、人間よりも社会集団の格付けにおいて互いに一致していることがわかった。
我々はまた、事前の作業で調査されていないステレオタイプの軸も発見します -- 謙虚な対誇らしさ、狭義の対広義の対広義の対勇敢さ、卑劣な対勇敢さなどです。
- 参考スコア(独自算出の注目度): 14.61121805151903
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: LLMs encode, convey, and perpetuate stereotypes. Prior computational research focuses on a small set of semantic axes investigated in social psychology, and operates on word embeddings produced by language models, leaving open which other semantic axes carry stereotypical associations in LLMs and how LLMs internally represent such axes. We introduce STEREODISCO, a framework that adapts the semantic differential method (Osgood et al., 1957) to the systematic study of stereotypes in LLM internal representations. STEREODISCO constructs approx. 2,000 candidate semantic axes from WordNet antonym synsets, recovers each as a geometric axis in the LLM's activation space via probing, and identifies stereotypical axes via a statistical test over concept projections. As a case study, we apply STEREODISCO to social group stereotypes with LLAMA-3-8B-INSTRUCT and MISTRAL-7B-INSTRUCT. We find that the two LLMs agree with each other on social group ratings more than with humans, suggesting that LLM-encoded stereotype content diverges from that documented in social psychology. We also discover stereotypical axes not investigated in prior work -- including humble vs. proud, narrow-minded vs. broad-minded, and cowardly vs. brave, which human annotators independently confirm.
- Abstract(参考訳): LLMはステレオタイプをエンコードし、伝達し、永続する。
それまでの計算研究では、社会心理学において研究され、言語モデルによって生成された単語の埋め込みに焦点が当てられ、他の意味軸がLLMのステレオタイプ的関連を持ち、LLMがそのような軸を内部的にどのように表現するかをオープンにしておく。
LLM内部表現におけるステレオタイプの体系的研究に意味微分法(Osgood et al , 1957)を適用するフレームワークであるSTEREODISCOを導入する。
STEREODISCOは近似を構成する。
WordNetのAntonymシンセットから2000の候補セマンティック軸を抽出し、それぞれがLLMのアクティベーション空間の幾何軸としてプロービングにより復元し、概念射影の統計的テストを通じてステレオタイプ軸を識別する。
LLAMA-3-8B-INSTRUCTおよびMISTRAL-7B-INSTRUCTを用いた社会集団ステレオタイプにSTEREODISCOを適用した。
両者は人間よりも社会集団の格付けで一致していることから, LLMに符号化されたステレオタイプコンテンツは, 社会心理学で記録されたものと異なってくることが示唆された。
我々はまた、先行研究で調査されていないステレオタイプ的軸、例えば、謙虚な対誇らしみ、狭義の対広義の対広義の対広義の対広義の対広義の対広義の対広義の対広義の対広義の対広義の対広義の対広義の対広義の対広義の対極論を含む。
関連論文リスト
- Measuring the Gap Between Human and LLM Research Ideas [63.27812052187884]
高品質な人間研究論文の構想評価フレームワークを構築した。
それぞれの論文に対して、我々は、その中核となるアイデアにインスピレーションを与えたであろう、近縁な先行研究の小さなセットをリバースエンジニアリングする。
本稿では、その機会パターンと研究パラダイムにより、それぞれのアイデアをプロファイルするために、2軸のリサーチテイスト分類を導入する。
論文 参考訳(メタデータ) (2026-07-01T17:59:56Z) - Free-form Association Tasks Reveal Stereotype Hallucination in Large Language Models [0.40418345173398346]
自由形態刺激の解釈において人間とLLMが示すステレオタイプの構造を比較した。
人間は多様性を保ちながら、一階の傾向を適度に増幅することで「ステレオタイプの誇張」を行う。
対照的にLLMは、既存の一階の傾向を増幅したり、実際の人間のグループ差を反映したりしない、薄型の二階のステレオタイプを生成する。
論文 参考訳(メタデータ) (2026-06-29T21:58:18Z) - Verbalizing LLMs' assumptions to explain and control sycophancy [62.927670321859495]
LLMは、真のアセスメントを提供するのではなく、"am I in the wrong?
LLMからこれらの仮定を抽出するフレームワークであるVerbalized Assumptionsを提案する。
我々の研究は、梅毒のメカニズムとしての仮定の新たな理解に貢献している。
論文 参考訳(メタデータ) (2026-04-03T14:15:43Z) - Do Large Language Models Adapt to Language Variation across Socioeconomic Status? [29.1246345717672]
人間は、直面している聴衆に言語スタイルを調整します。
これらのモデルが人間同士のコミュニケーションを仲介するようになり、多様なスタイルに適応できないことは、ステレオタイプを永続させ、コミュニティを疎外する。
本研究では,LLMが社会経済的地位(SES)の異なるコミュニティにおけるソーシャルメディアコミュニケーションにどの程度統合されるかを検討する。
論文 参考訳(メタデータ) (2026-02-12T13:36:38Z) - Simulating Identity, Propagating Bias: Abstraction and Stereotypes in LLM-Generated Text [8.988787218035414]
ソシオデミノグラフィーのカテゴリーとステレオタイプ的・非ステレオタイプ的属性をリンクする短いテキストを生成する際に,ペルソナ・プロンプトが言語的抽象化のレベルを異にするかどうかを検討する。
本研究は, ソシオデミノグラフィーグループを代表するペルソナの生態に対する批判と, ステレオタイプの普及リスクへの懸念を提起するものである。
論文 参考訳(メタデータ) (2025-09-10T10:49:21Z) - How Deep is Love in LLMs' Hearts? Exploring Semantic Size in Human-like Cognition [75.11808682808065]
本研究では,大言語モデル (LLM) が意味的サイズを理解する上で類似した傾向を示すかどうかを検討する。
以上の結果から,マルチモーダルトレーニングはLLMにとって人間的な理解を深める上で不可欠であることが示唆された。
最後に,LLMが実世界のWebショッピングシナリオにおいて,より大きなセマンティックサイズを持つ注目の見出しに影響されているかを検討する。
論文 参考訳(メタデータ) (2025-03-01T03:35:56Z) - Large Language Models Reflect the Ideology of their Creators [71.65505524599888]
大規模言語モデル(LLM)は、自然言語を生成するために大量のデータに基づいて訓練される。
本稿では, LLMのイデオロギー的姿勢が創造者の世界観を反映していることを示す。
論文 参考訳(メタデータ) (2024-10-24T04:02:30Z) - Hate Personified: Investigating the role of LLMs in content moderation [64.26243779985393]
ヘイト検出などの主観的タスクでは,人々が嫌悪感を知覚する場合には,多様なグループを表現できるLarge Language Model(LLM)の能力は不明確である。
追加の文脈をプロンプトに含めることで、LLMの地理的プライミングに対する感受性、ペルソナ属性、数値情報を分析し、様々なグループのニーズがどの程度反映されているかを評価する。
論文 参考訳(メタデータ) (2024-10-03T16:43:17Z) - A Taxonomy of Stereotype Content in Large Language Models [4.4212441764241]
本研究では,現代大言語モデル(LLM)におけるステレオタイプ内容の分類について紹介する。
LLMステレオタイプアソシエーションの90%を占める14のステレオタイプ次元(モラル、能力、健康、信条、感情など)を同定した。
以上の結果から,LLMには高次元のヒトステレオタイプが反映されていることが示唆された。
論文 参考訳(メタデータ) (2024-07-31T21:14:41Z) - Beyond Human Norms: Unveiling Unique Values of Large Language Models through Interdisciplinary Approaches [69.73783026870998]
本研究では,大言語モデルの固有値システムをスクラッチから再構築する新しいフレームワークであるValueLexを提案する。
語彙仮説に基づいて、ValueLexは30以上のLLMから様々な値を引き出すための生成的アプローチを導入している。
我々は,3つのコア値次元,能力,キャラクタ,積分をそれぞれ特定の部分次元で同定し,LLMが非人間的だが構造化された価値体系を持っていることを明らかにした。
論文 参考訳(メタデータ) (2024-04-19T09:44:51Z) - StereoMap: Quantifying the Awareness of Human-like Stereotypes in Large
Language Models [11.218531873222398]
大規模言語モデル(LLM)は、トレーニングデータに存在する有害な関連を符号化し、永続する。
本稿では,人口集団が社会によってどのように見られているかについての認識を得るために,StereoMapという理論的基盤を持つフレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-20T17:22:30Z) - Event knowledge in large language models: the gap between the impossible
and the unlikely [46.540380831486125]
我々は,事前学習された大規模言語モデル (LLM) がイベント知識を持つことを示す。
彼らはほぼ常に、不可能な事象に対して高い確率を割り当てる。
しかし、おそらくは起こりそうもない出来事に対して、一貫性のない選好を示す。
論文 参考訳(メタデータ) (2022-12-02T23:43:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。