論文の概要: On the Mutual Influence of Gender and Occupation in LLM Representations

• arxiv url: http://arxiv.org/abs/2503.06792v1
• Date: Sun, 09 Mar 2025 22:11:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-11 15:49:59.441953
• Title: On the Mutual Influence of Gender and Occupation in LLM Representations
• Title（参考訳）: LLM表現におけるジェンダーと職業の相互影響について
• Authors: Haozhe An, Connor Baumler, Abhilasha Sancheti, Rachel Rudinger,
• Abstract要約: LLMにおけるファーストネームの職業と性別の知覚が相互にどのように影響するかを考察する。 LLMのファーストネームのジェンダー表現は、その名前に関連する実世界のジェンダー統計と相関し、ステレオタイプによる女性や男性の仕事の共起に影響されている。
• 参考スコア（独自算出の注目度）: 24.011789371260708
• License:
• Abstract: We examine LLM representations of gender for first names in various occupational contexts to study how occupations and the gender perception of first names in LLMs influence each other mutually. We find that LLMs' first-name gender representations correlate with real-world gender statistics associated with the name, and are influenced by the co-occurrence of stereotypically feminine or masculine occupations. Additionally, we study the influence of first-name gender representations on LLMs in a downstream occupation prediction task and their potential as an internal metric to identify extrinsic model biases. While feminine first-name embeddings often raise the probabilities for female-dominated jobs (and vice versa for male-dominated jobs), reliably using these internal gender representations for bias detection remains challenging.
• Abstract（参考訳）: 職業的文脈におけるファーストネームの性別表現について検討し,LDMにおけるファーストネームの職業感と性別知覚が相互にどう影響するかを検討した。 LLMのファーストネームのジェンダー表現は、その名前に関連する実世界のジェンダー統計と相関し、ステレオタイプによる女性や男性の仕事の共起に影響されている。 さらに、下流の職業予測タスクにおいて、ファーストネームの性別表現がLLMに与える影響と、外生モデルバイアスを特定するための内部指標としての可能性について検討する。 女性のファーストネームの埋め込みは、女性に支配された仕事(および男性に支配された仕事)の確率を高めることが多いが、これらの内部性表現をバイアス検出に確実に使用することは、依然として困難である。

関連論文リスト

• Popular LLMs Amplify Race and Gender Disparities in Human Mobility [2.601262068492271]
  本研究では,大規模言語モデル (LLM) が人種や性別に基づく人体移動の予測に偏りを示すかどうかを検討する。 LLMは、既存の社会的バイアスをよく反映し、増幅する。
  論文  参考訳（メタデータ） (2024-11-18T19:41:20Z)
• Evaluating Gender Bias in Large Language Models [0.8636148452563583]
  本研究では,大規模言語モデル (LLMs) が職業文脈における代名詞選択における性別バイアスの程度について検討した。 対象とする職業は、男性に有意な存在感を持つものから女性に有意な集中力を持つものまで幅広い。 その結果, モデルの代名詞選択と, 労働力データに存在する性別分布との間には, 正の相関関係が認められた。
  論文  参考訳（メタデータ） (2024-11-14T22:23:13Z)
• Revealing and Reducing Gender Biases in Vision and Language Assistants (VLAs) [82.57490175399693]
  画像・テキスト・ビジョン言語アシスタント(VLA)22種における性別バイアスの検討 以上の結果から,VLAは実世界の作業不均衡など,データ中の人間のバイアスを再現する可能性が示唆された。 これらのモデルにおける性別バイアスを排除するため、微調整に基づくデバイアス法は、下流タスクにおけるデバイアスとパフォーマンスの最良のトレードオフを実現する。
  論文  参考訳（メタデータ） (2024-10-25T05:59:44Z)
• Gender Bias in Decision-Making with Large Language Models: A Study of Relationship Conflicts [15.676219253088211]
  大規模言語モデル(LLM)におけるジェンダーエクイティを意思決定レンズを用いて検討する。 我々は3つの名前リスト(男性、女性、中立)にまたがる名前ペアを通して9つの関係構成を探索する。
  論文  参考訳（メタデータ） (2024-10-14T20:50:11Z)
• GenderCARE: A Comprehensive Framework for Assessing and Reducing Gender Bias in Large Language Models [73.23743278545321]
  大規模言語モデル(LLM)は、自然言語生成において顕著な能力を示してきたが、社会的バイアスを増大させることも観察されている。 GenderCAREは、革新的な基準、バイアス評価、リダクションテクニック、評価メトリクスを含む包括的なフレームワークである。
  論文  参考訳（メタデータ） (2024-08-22T15:35:46Z)
• GenderBias-\emph{VL}: Benchmarking Gender Bias in Vision Language Models via Counterfactual Probing [72.0343083866144]
  本稿では,GenderBias-emphVLベンチマークを用いて,大規模視覚言語モデルにおける職業関連性バイアスの評価を行う。 ベンチマークを用いて15のオープンソースLVLMと最先端の商用APIを広範囲に評価した。 既存のLVLMでは男女差が広くみられた。
  論文  参考訳（メタデータ） (2024-06-30T05:55:15Z)
• Disclosure and Mitigation of Gender Bias in LLMs [64.79319733514266]
  大規模言語モデル(LLM)はバイアス応答を生成することができる。 条件生成に基づく間接探索フレームワークを提案する。 LLMにおける明示的・暗黙的な性バイアスを明らかにするための3つの戦略を探求する。
  論文  参考訳（メタデータ） (2024-02-17T04:48:55Z)
• Probing Explicit and Implicit Gender Bias through LLM Conditional Text Generation [64.79319733514266]
  大規模言語モデル(LLM)はバイアスと有害な応答を生成する。 本研究では,あらかじめ定義されたジェンダーフレーズやステレオタイプを必要としない条件付きテキスト生成機構を提案する。
  論文  参考訳（メタデータ） (2023-11-01T05:31:46Z)
• Gender bias and stereotypes in Large Language Models [0.6882042556551611]
  本稿では,ジェンダーステレオタイプに関する大規模言語モデルの振る舞いについて考察する。 我々は、WinoBiasとは違って、性別バイアスの存在をテストするための単純なパラダイムを用いています。 a) LLMは、人の性別とステレオタイプ的に一致した職業を選択する確率が3～6倍、(b) これらの選択は、公務員の統計に反映された基礎的真実よりも人々の知覚に適合し、(d) LLMは、我々の研究項目の95%の時間において重要な曖昧さを無視する。
  論文  参考訳（メタデータ） (2023-08-28T22:32:05Z)
• Towards Understanding Gender-Seniority Compound Bias in Natural Language Generation [64.65911758042914]
  本研究では,事前学習したニューラルジェネレーションモデルにおける性別バイアスの程度に,高齢者がどのような影響を及ぼすかを検討する。 以上の結果から, GPT-2は, 両領域において, 女性を中年, 男性を中年として考えることにより, 偏見を増幅することが示された。 以上の結果から, GPT-2を用いて構築したNLPアプリケーションは, プロの能力において女性に害を与える可能性が示唆された。
  論文  参考訳（メタデータ） (2022-05-19T20:05:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。