論文の概要: Guilt by Association: Semantic Leakage Drives Associative Gender Bias

• arxiv url: http://arxiv.org/abs/2610.28944v1
• Date: Tue, 20 Oct 2026 21:46:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.149788
• Title: Guilt by Association: Semantic Leakage Drives Associative Gender Bias
• Title（参考訳）: アソシエーションによるガイダンス:セマンティックリークがジェンダーバイアスを駆り立てる
• Abstract要約: セマンティックリークは,現在の評価で見過ごされるバイアスを生じさせることを示す。 我々は、主題が概念に関わったときと、その概念が現場に置かれているときという2つの条件の下でジェンダー化された概念を使用する。 以上の結果から,セマンティックリークは,現在の評価では見過ごせないバイアスを生じさせることが示唆された。
• 参考スコア（独自算出の注目度）: 16.78395901923941
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Semantic leakage occurs when a concept in the prompt steers model generation about an entity, even though the concept is irrelevant to it (e.g., a person who likes yellow is said to work as a school bus driver). It has mostly been studied in settings where the concept is directly attributed to the entity the model is asked about. This leaves open whether leakage is a flawed heuristic, where the model builds a profile of that entity, or a much broader associative tendency, e.g., working across seemingly unrelated entities. We argue for the latter: even after removing the attribution of the concept to the specific entity, leakage persists. Next, we extend this idea to gender bias. While work on gender bias in LMs typically looks at cases where the stereotyped concept is attributed to an entity, our findings suggest that a concept may steer outputs with its mere presence in the scene. We show this using gendered concepts under two conditions: when the subject engages with the concept, and when the concept just sits in the scene. We find that both shift model generation toward the stereotype to a similar extent. Together, our results suggest that semantic leakage drives a form of bias that is overlooked by current evaluations.
• Abstract（参考訳）: セマンティックリーク(Semantic leakage)とは、イエローを好む人がスクールバスの運転手として働くというように、概念がそれとは無関係であるにもかかわらず、エンティティに関する即時ステアリングモデルで概念が生成される場合に発生する。 主に、モデルが要求されるエンティティに直接帰属する概念として研究されている。 このことは、漏洩が欠陥のあるヒューリスティックであるのか、モデルがそのエンティティのプロファイルを構築しているのか、あるいは、より広範な連想傾向である、例えば、一見無関係なエンティティをまたいで動作するのかを、明らかにする。 概念の特定のエンティティへの属性を削除した後でも、リークは持続する。 次に、このアイデアをジェンダーバイアスに拡張する。 LMにおけるジェンダーバイアスの研究は、通常、ステレオタイプの概念が実体に起因しているケースに目を向けるが、我々の研究結果は、コンセプトがシーンに単に存在して出力をコントロールできることを示唆している。 対象が概念に関わったときと、その概念が現場に置かれているときという2つの条件の下で、ジェンダー付き概念を用いてこれを示す。 両モデルが同じ程度にステレオタイプに変換されることが分かる。 この結果から, セマンティックリークは, 現在の評価で見過ごされるバイアスを生じさせることが示唆された。

関連論文リスト

• Vision-Language Models Suppress Female Representations Under Ambiguous Input [0.30586855806896035]
  入力画像が不明瞭な場合に、最小限のプロンプト圧力が占有性デフォルトを露出していることが分かる。 LALS(Latent Association Leaning Score)は,モデル内のテキスト埋め込み空間に視覚的なアクティベーションを投影し,概念関連性を測定するメトリクスである。
  論文  参考訳（メタデータ） (2026-05-29T17:20:02Z)
• Feeling the Strength but Not the Source: Partial Introspection in LLMs [0.0]
  人類学的な主張では、フロンティアモデルは時々、活性化方向として表される「概念」を検知し、名前を付けることができる。 われわれは、Meta-Llama-3.1-8B-Instruct上で、Arthropicのマルチターン「エマージェントイントロスペクション」の結果を再現する。 イントロスペクションは、非常に大きなモデルや有能なモデルに限らない。
  論文  参考訳（メタデータ） (2025-12-13T17:51:13Z)
• Aligned but Blind: Alignment Increases Implicit Bias by Reducing Awareness of Race [14.700348476541684]
  文脈が曖昧である場合, 言語モデル(LM)は, 初期内部表現における人種概念を無視することを示す。 本稿では,初期モデル層における人種概念の表現を動機付けることによって,新たなバイアス緩和戦略を提案する。
  論文  参考訳（メタデータ） (2025-05-30T21:41:44Z)
• Implicit Concept Removal of Diffusion Models [92.55152501707995]
  テキスト・ツー・イメージ(T2I)拡散モデルはしばしば、透かしや安全でない画像のような望ましくない概念を不注意に生成する。 幾何学駆動制御に基づく新しい概念除去手法であるGeom-Erasingを提案する。
  論文  参考訳（メタデータ） (2023-10-09T17:13:10Z)
• LEACE: Perfect linear concept erasure in closed form [97.78661458934953]
  概念消去は、埋め込みから特定の機能を削除することを目的としている。 LEAst-squares Concept Erasure (LEACE) は、すべての線形分類器が可能な限り少ない埋め込みで概念を検出することを確実に防止する閉形式手法である。 LEACEを"concept scrubbing"と呼ばれる新しい手法で大規模言語モデルに適用し、ネットワーク内の各層からターゲット概念情報を消去する。
  論文  参考訳（メタデータ） (2023-06-06T16:07:24Z)
• Lawyers are Dishonest? Quantifying Representational Harms in Commonsense Knowledge Resources [43.81001715036473]
  ConceptNetは、主に人間からクラウドソースされ、「法律家は不正です」などの人間のバイアスを反映している可能性があります。 ConceptNetには、4つのカテゴリーにまたがって深刻な偏見と格差がある。 フィルタに基づくバイアス軽減手法を提案し,その効果を検討する。
  論文  参考訳（メタデータ） (2021-03-21T06:59:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。