論文の概要: Occupational Prompting Reveals Cultural Bias in Large Language Models
- arxiv url: http://arxiv.org/abs/2606.12443v1
- Date: Tue, 19 May 2026 16:58:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 07:09:36.910052
- Title: Occupational Prompting Reveals Cultural Bias in Large Language Models
- Title（参考訳）: 大規模言語モデルにおける文化的バイアスの顕在化
- Authors: Maksim E. Eren, Andrea Brennen, Ryan C. Barron, Eric Michalak,
- Abstract要約: 社会的役割は、期待、優先順位、判断を形作るが、大きな言語モデルが職業的アイデンティティとより広い文化的価値パターンを関連づけているかは、いまだ不明である。
我々は、オープンウェイト言語モデルにおいて、プロのロール・キューがバリューサーベイ・レスポンスにどのように影響するかを調べるために、国籍に基づく文化的プロンプトを職業的プロンプトに置き換える。
以上の結果から,オープンウェイト LLM が国民のアイデンティティではなく職業によって促進される場合,その応答は文化地図の西寄りの広い領域に留まっていることが示唆された。
- 参考スコア（独自算出の注目度）: 1.4874449172133888
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Social roles shape expectations, priorities, and judgments, yet it remains unclear how large language models (LLMs) associate occupational identities with broader cultural value patterns. Prior work used nationality-based cultural prompting to study how LLM responses to value-survey questions align with human cultural benchmarks. In this paper, we extend that framework by replacing cultural prompting with occupational prompting to examine how professional-role cues influence value-survey responses in open-weight LLMs. Using a survey-grounded evaluation pipeline based on questions from the Integrated Values Surveys, we project model responses into the two-dimensional Inglehart--Welzel cultural space. We prompt open-weight LLMs to answer questions under occupational identities such as accountant, teacher, engineer, and nurse, and then analyze how these occupation-conditioned responses are positioned on the cultural map. Our results show that when open-weight LLMs are prompted with occupations rather than national identities, their responses remain within a broadly Western-leaning region of the cultural map. However, different occupations introduce shifts within this region, producing distinct occupational skews. This indicates that occupational prompts are not treated as neutral role labels, but instead elicit structured value patterns. These findings extend survey-based evaluation of cultural bias beyond nationality-based prompting and provide a framework for studying how occupational personas shape value expression in LLMs.
- Abstract（参考訳）: 社会的役割は、期待、優先順位、判断を形作るが、大きな言語モデル(LLM)が職業的アイデンティティとより広い文化的価値パターンをどう関連づけるかは、いまだ不明である。
以前の研究では、ナショナリティに基づく文化的プロンプトを使用して、LLMが価値調査の質問に対する応答が人間の文化的基準とどのように一致しているかを研究していた。
本稿では,オープンウェイトLLMにおいて,プロのロール・キューが価値サーベイ応答にどのように影響するかを検討するために,文化的なプロンプトを職業的プロンプトに置き換えることで,その枠組みを拡張した。
統合価値調査(Integrated Values Surveys)からの質問に基いて,2次元イングルハート-ヴェルツェル文化空間にモデル応答を投影する。
我々は,オープンウェイト LLM に対して,会計士,教師,技術者,看護師などの職業的アイデンティティの下での回答を促し,これらの職業条件の対応が文化地図上でどのように位置づけられているかを分析する。
以上の結果から,オープンウェイト LLM が国民のアイデンティティではなく職業によって促進される場合,その応答は文化地図の西寄りの広い領域に留まっていることが示唆された。
しかし、異なる職業がこの地域に変化をもたらし、異なる職業性スキューを生み出している。
これは、職業的プロンプトが中立的な役割ラベルとして扱われるのではなく、代わりに構造化された価値パターンが引き起こされることを示している。
これらの知見は,LLMにおける職業的ペルソナの形状価値の表現方法を研究するための枠組みとして,国民性に基づくプロンプト以上の文化バイアスのサーベイベース評価を拡張した。
関連論文リスト
- CultureForest: Understanding and Evaluating Cultural Norm Grounded Reasoning in LLMs [59.09971492475217]
TextitCultural Norm Grounded ReasoningのベンチマークであるCultureForestを紹介する。
CultureForestは8つのドメインで5,378のサンプルと53の国/リージョンで構成されている。
大規模な実験では、トップ層モデルでさえ、オープンな設定で大幅に劣化していることが明らかになった。
論文 参考訳（メタデータ） (2026-06-01T08:25:12Z) - LLMs and Cultural Values: the Impact of Prompt Language and Explicit Cultural Framing [0.21485350418225244]
大規模言語モデル(LLM)は、世界中のユーザによって急速に採用され、さまざまな言語でそれらと対話している。
言語と文化のフレーミングが、異なる国の人的価値にどのように影響するかを検討する。
論文 参考訳（メタデータ） (2025-11-06T02:09:29Z) - Which Cultural Lens Do Models Adopt? On Cultural Positioning Bias and Agentic Mitigation in LLMs [53.07843733899881]
大規模言語モデル(LLM)は、幅広い下流生成アプリケーションをアンロックした。
また、米国主流の文化の観点から、文化にまつわる微妙な公平性の問題に対処し、世代を配置するリスクも見いだす。
本稿では、これらのバイアスを解決するための2つの推論時間緩和法を提案する。
論文 参考訳（メタデータ） (2025-09-25T12:28:25Z) - Entangled in Representations: Mechanistic Investigation of Cultural Biases in Large Language Models [42.367959511140036]
本稿では,大規模言語モデルの内部表現を探索する最初の解釈可能性に基づく手法であるCulturescopeを提案する。
本研究は,本質的な文化的偏見の尺度として,文化的平坦化スコアを導入する。
実験の結果,LLMは文化知識空間における西洋支配バイアスと文化的フラット化をエンコードしていることが明らかとなった。
論文 参考訳（メタデータ） (2025-08-12T12:05:32Z) - From Word to World: Evaluate and Mitigate Culture Bias in LLMs via Word Association Test [50.51344198689069]
我々は,人中心語関連テスト(WAT)を拡張し,異文化間認知による大規模言語モデルのアライメントを評価する。
文化選好に対処するために,モデルの内部表現空間に直接,文化固有の意味的関連性を直接埋め込む革新的なアプローチであるCultureSteerを提案する。
論文 参考訳（メタデータ） (2025-05-24T07:05:10Z) - From Surveys to Narratives: Rethinking Cultural Value Adaptation in LLMs [62.9861554207279]
LLM(Large Language Models)における文化的価値の適応は大きな課題である。
これまでの作業は主に、World Values Survey (WVS)データを使用して、LLMをさまざまな文化的価値と整合させる。
我々は,文化価値適応のためのWVSベースのトレーニングについて検討し,調査データのみに頼って文化規範を実践し,事実知識に干渉することを発見した。
論文 参考訳（メタデータ） (2025-05-22T09:00:01Z) - An Evaluation of Cultural Value Alignment in LLM [27.437888319382893]
20カ国の文化と言語を10のLLMで評価し,LLM文化の大規模評価を行った。
以上の結果から,全てのモデルにまたがるアウトプットは中程度の文化的中核となることが示唆された。
より深い調査は、モデルの起源、プロンプト言語、および価値次元が文化的なアウトプットに与える影響に光を当てている。
論文 参考訳（メタデータ） (2025-04-11T09:13:19Z) - Cultural Learning-Based Culture Adaptation of Language Models [70.1063219524999]
大きな言語モデル(LLM)をさまざまな文化的価値に適用することは難しい課題です。
文化的学習に基づくLLMと文化的価値との整合性を高めるための新しい枠組みであるCLCAについて述べる。
論文 参考訳（メタデータ） (2025-04-03T18:16:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。