論文の概要: Neuron-Level Interventions for Gendered and Gender-Neutral Generation in Language Models
- arxiv url: http://arxiv.org/abs/2605.30717v1
- Date: Fri, 29 May 2026 01:21:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.323596
- Title: Neuron-Level Interventions for Gendered and Gender-Neutral Generation in Language Models
- Title（参考訳）: 言語モデルにおけるジェンダー・ジェンダー・ニュートラル生成のためのニューロンレベル干渉
- Abstract要約: 言語モデル(LM)は、中立なプロンプトが与えられた場合でも、性的な言語やステレオタイプを生成できる。
女性、男性、性別ニュートラルの3つのカテゴリーにまたがる性特化ニューロンについて検討した。
本稿では,各性別カテゴリーに強く結びついているニューロンを同定するためのニューロンレベルの介入法を提案する。
- 参考スコア（独自算出の注目度）: 4.464224430863637
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Language models (LMs) can produce gendered language and stereotypes even when given neutral prompts. Most prior work on gender bias in LMs primarily examines gender through a binary lens (feminine vs. masculine), with limited attention to gender-neutral forms, such as they/them pronouns or neutrally phrased job titles. How gender-related signals are encoded in the internal representations of LMs remains an open question. In this work, we study gender-specific neurons in LMs across three categories: feminine, masculine, and gender-neutral. We propose a neuron-level intervention method to identify neurons that are strongly tied to each gender category. We then test these neurons through controlled generation, showing that activating or masking gender-related neurons can steer a sentence toward a target gender form while preserving its original meaning. To evaluate the effectiveness of our gender-intervention approach, we curate two datasets with controlled sentences labeled across all three gender categories and validate the data quality through human evaluation. Experiments on two open-source LMs show that gender-specific neurons are not evenly distributed across model layers; instead, they concentrate heavily in the earliest layers with smaller contributions from later layers. Compared to existing methods, our method achieves more precise gender control, with less leakage into non-target gender categories and stable output quality through two evaluation criteria. Overall, our work examines how gender is encoded in LMs and provides a simple yet effective approach toward controlled gender intervention for both neuron intervention evaluation and gender bias mitigation. Code and datasets are available at: https://github.com/zhiwenyou103/Gender-Neuron-Intervention
- Abstract（参考訳）: 言語モデル(LM)は、中立なプロンプトが与えられた場合でも、性的な言語やステレオタイプを生成できる。
LMにおけるジェンダーバイアスに関する以前の研究は、主に二分レンズ(女性対男性)を通して性別を検査し、それら/テーマ代名詞や中立的に言い換えられた職種のような性中立的な形態に限定的に注意を払っている。
LMの内部表現に性別関連信号がどのようにエンコードされているかは、未解決の問題である。
本研究では, 女性, 男性, 性別ニュートラルの3つのカテゴリーにまたがる性特化ニューロンについて検討した。
本稿では,各性別カテゴリーに強く結びついているニューロンを同定するためのニューロンレベルの介入法を提案する。
次に、制御された世代を通してこれらのニューロンをテストし、アクティベーションまたは性別関連ニューロンが、その本来の意味を保ちながら、ターゲットの性別形態に向かって文章を操ることができることを示す。
ジェンダー・インターベンション・アプローチの有効性を評価するため,3つのジェンダーカテゴリーすべてにラベル付けされた制御文を用いた2つのデータセットをキュレートし,人的評価によってデータ品質を評価する。
2つのオープンソースLMの実験では、性別特異的ニューロンはモデル層に均等に分散せず、後期層からの貢献が少ない最初期の層に集中している。
従来の手法と比較して,本手法は,2つの評価基準により,非ターゲット性カテゴリへのリークが少なく,出力品質も安定して,より正確な性別制御を実現する。
本研究は, 性別をLMにエンコードする方法を概ね検討し, 神経介入評価と性バイアス軽減の両面において, 制御された性介入に対する簡便かつ効果的なアプローチを提供する。
コードとデータセットは、https://github.com/zhiwenyou103/Gender-Neuron-Interventionで入手できる。
関連論文リスト
- GKnow: Measuring the Entanglement of Gender Bias and Factual Gender [47.39675194552945]
gknowは、性別関連予測の異なるタイプの言語モデルにおいて、性別に関する知識と性別バイアスを評価するためのベンチマークである。
我々は,ニューロンのアブレーションが,ステレオタイプや事実を異にするベンチマークに与える影響を検証した。
論文 参考訳（メタデータ） (2026-05-12T15:52:30Z) - GenderCARE: A Comprehensive Framework for Assessing and Reducing Gender Bias in Large Language Models [73.23743278545321]
大規模言語モデル(LLM)は、自然言語生成において顕著な能力を示してきたが、社会的バイアスを増大させることも観察されている。
GenderCAREは、革新的な基準、バイアス評価、リダクションテクニック、評価メトリクスを含む包括的なフレームワークである。
論文 参考訳（メタデータ） (2024-08-22T15:35:46Z) - Beyond Binary Gender: Evaluating Gender-Inclusive Machine Translation with Ambiguous Attitude Words [85.48043537327258]
既存の機械翻訳の性別バイアス評価は主に男性と女性の性別に焦点を当てている。
本研究では,AmbGIMT (Gender-Inclusive Machine Translation with Ambiguous attitude words) のベンチマークを示す。
本研究では,感情的態度スコア(EAS)に基づく性別バイアス評価手法を提案する。
論文 参考訳（メタデータ） (2024-07-23T08:13:51Z) - Probing Explicit and Implicit Gender Bias through LLM Conditional Text
Generation [64.79319733514266]
大規模言語モデル(LLM)はバイアスと有害な応答を生成する。
本研究では,あらかじめ定義されたジェンダーフレーズやステレオタイプを必要としない条件付きテキスト生成機構を提案する。
論文 参考訳（メタデータ） (2023-11-01T05:31:46Z) - VisoGender: A dataset for benchmarking gender bias in image-text pronoun
resolution [80.57383975987676]
VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。
We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。
我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
論文 参考訳（メタデータ） (2023-06-21T17:59:51Z) - Theories of "Gender" in NLP Bias Research [0.0]
NLPにおけるジェンダーバイアスに関する200近い記事を調査した。
記事の大多数は、性別に関する理論を明示していない。
多くの人は、トランス、ノンバイナリ、インターセックスの人々の存在と経験を無視した方法で、性の特徴、社会的性別、言語性について説明している。
論文 参考訳（メタデータ） (2022-05-05T09:20:53Z) - Evaluating Gender Bias in Natural Language Inference [5.034017602990175]
推論による自然言語理解における性別バイアスの評価手法を提案する。
チャレンジタスクを使用して、職業を用いたジェンダーステレオタイプの存在に関する最先端のNLIモデルを調査します。
その結果,mnliとsnliデータセットでトレーニングされた3モデルでは,性別による予測誤差が有意に高いことが示唆された。
論文 参考訳（メタデータ） (2021-05-12T09:41:51Z) - Investigating Gender Bias in BERT [22.066477991442003]
我々は、感情や感情の強さの予測に関連する5つの下流タスクにおいて、それが引き起こすジェンダーバイアスを分析した。
本稿では,各BERT層に対する1つの主方向という,きめ細かい性別方向を求めるアルゴリズムを提案する。
実験により, 下流タスクにおけるBERT誘発バイアスの低減に成功していることがわかった。
論文 参考訳（メタデータ） (2020-09-10T17:38:32Z) - Gender Classification and Bias Mitigation in Facial Images [7.438105108643341]
最近の研究では、バイアス付きベンチマークデータベースでトレーニングされたアルゴリズムがアルゴリズムバイアスをもたらす可能性があることが示されている。
顔認証と性別分類タスクのための既存のベンチマークデータベースについて調査を行った。
我々は、分類精度の向上と、拡張ベンチマークデータベースでトレーニングされたベースラインモデルにおけるアルゴリズムバイアスの軽減に取り組みました。
論文 参考訳（メタデータ） (2020-07-13T01:09:06Z) - Multi-Dimensional Gender Bias Classification [67.65551687580552]
機械学習モデルは、性別に偏ったテキストでトレーニングする際に、社会的に望ましくないパターンを不注意に学習することができる。
本稿では,テキスト中の性バイアスを複数の実用的・意味的な次元に沿って分解する一般的な枠組みを提案する。
このきめ細かいフレームワークを用いて、8つの大規模データセットにジェンダー情報を自動的にアノテートする。
論文 参考訳（メタデータ） (2020-05-01T21:23:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。