論文の概要: A Mechanistic Analysis of Gender Sensitivity in Dense Retrieval Models

• arxiv url: http://arxiv.org/abs/2608.05467v1
• Date: Wed, 05 Aug 2026 23:33:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-07 17:43:06.67043
• Title: A Mechanistic Analysis of Gender Sensitivity in Dense Retrieval Models
• Title（参考訳）: 密度検索モデルにおけるジェンダー感度の力学解析
• Abstract要約: 両エンコーダモデルを用いて性別の感度の局所化を行い、信号は入力埋め込みから発生し、後層アテンションヘッドの小さなセットを介して伝播することを示す。 本研究は, 対象の認知症に対する機械的基盤を提供し, 共通モデル成分の関連信号からジェンダーを遠ざけるという課題を強調した。
• 参考スコア（独自算出の注目度）: 68.90383874606164
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While gender bias in dense retrieval models is well documented, with prior work showing that models often score male-gendered documents higher than female or neutral variants, the internal mechanisms producing these disparities are poorly understood. In this paper, we mechanistically analyze bi-encoder models to localize gender sensitivity, finding that the signal originates in input embeddings and propagates through a small set of late-layer attention heads that carry both gender and term-matching signals. Guided by these findings, we test steering interventions at both identified points and find distinct effects: embedding-level steering non-specifically neutralizes score differences, while attention-level steering produces directional shifts. Our findings provide a mechanistic basis for targeted debiasing and highlight the challenge of disentangling gender from relevance signals in shared model components.
• Abstract（参考訳）: 厳密な検索モデルにおける性別バイアスは十分に文書化されており、先行研究では、モデルが女性や中性よりも高い性別の文書をスコアすることが多いが、これらの格差を生み出す内部メカニズムはよく理解されていない。 本稿では,両エンコーダモデルを機械的に解析し,入力の埋め込みに起因した信号が,性別と用語のマッチングの両方のシグナルを伝達する低層アテンションヘッドを通して伝播することを示す。 これらの知見に導かれて、両点においてステアリングの介入を検証し、異なる効果を見出す:埋め込みレベルのステアリングはスコアの差を非特異的に中和し、注意レベルのステアリングは方向シフトを生じさせる。 本研究は, 対象の認知症に対する機械的基礎を提供し, 共通モデル成分の関連信号からジェンダーを遠ざけるという課題を強調した。

関連論文リスト

• Mitigating Gender Bias in Depression Detection via Counterfactual Inference [16.49171032612706]
  抑うつ検出モデルは、不均衡なトレーニングデータによって、しばしば性別バイアスに悩まされる。 本稿では,因果推論に基づく新しいデバイアス対策フレームワークを提案する。 我々のフレームワークは、性別バイアスを著しく低減するだけでなく、全体的な検出性能も向上する。
  論文  参考訳（メタデータ） (2025-12-01T16:14:20Z)
• Bias in Gender Bias Benchmarks: How Spurious Features Distort Evaluation [116.86965910589775]
  対象物の10%だけをマスクしたり、背景が弱くぼやけたりといった、最小限の摂動でさえ、バイアススコアを劇的に変える可能性がある。 これは、現在のバイアス評価がモデル応答を、性別バイアスよりも刺激的な特徴に反映していることを示唆している。
  論文  参考訳（メタデータ） (2025-09-09T11:14:11Z)
• Fair Deepfake Detectors Can Generalize [51.21167546843708]
  共同設立者(データ分散とモデルキャパシティ)の制御により,公正な介入による一般化が向上することを示す。 この知見を応用して, 逆正当性重み付けとサブグループワイド特徴正規化を併用し, 新たなアライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・インセンティブ・インターベンション・インベンション・インテクション(DAID)を提案する。 DAIDは、いくつかの最先端技術と比較して、公平性と一般化の両方において一貫して優れた性能を達成する
  論文  参考訳（メタデータ） (2025-07-03T14:10:02Z)
• Fairness in Machine Learning-based Hand Load Estimation: A Case Study on Load Carriage Tasks [1.1674893622721483]
  本研究では,機能的乱れを伴う変分オートエンコーダ(VAE)を利用した,手負荷推定のための公正な予測モデルの開発と評価を行った。 提案手法は, 正当性と予測精度の両面で従来の機械学習手法より優れ, 平均絶対誤差(MAE)の差が低くなった。 これらの知見は、職場の健康と労働者の安全の潜在的な欠点を防ぐために、フェアネスを意識した機械学習アルゴリズムの重要性を強調した。
  論文  参考訳（メタデータ） (2025-04-08T01:55:40Z)
• Gender Encoding Patterns in Pretrained Language Model Representations [17.101242741559428]
  プレトレーニング言語モデル(PLM)におけるジェンダーバイアスは、社会的および倫理的課題を生じさせる。 本研究では,ジェンダーバイアスがエンコーダベースのアーキテクチャでどのようにエンコードされているかを分析するための情報理論的アプローチを採用する。
  論文  参考訳（メタデータ） (2025-03-09T19:17:46Z)
• Out-of-Distribution Detection on Graphs: A Survey [58.47395497985277]
  グラフアウト・オブ・ディストリビューション(GOOD)検出は、トレーニング中に見られる分布から逸脱するグラフデータを特定することに焦点を当てる。 既存の手法を,拡張ベース,再構築ベース,情報伝達ベース,分類ベースという4つのタイプに分類する。 本稿では,グラフデータによるユニークな課題を浮き彫りにして,実践的応用と理論的基礎について論じる。
  論文  参考訳（メタデータ） (2025-02-12T04:07:12Z)
• Blind Men and the Elephant: Diverse Perspectives on Gender Stereotypes in Benchmark Datasets [12.798832545154271]
  本稿では,内在型ステレオタイプベンチマークの不整合について検討する。 StereoSetとCrowS-Pairsをケーススタディとして,データ分布がベンチマーク結果に与える影響を検討した。
  論文  参考訳（メタデータ） (2025-01-02T09:40:31Z)
• Identifiable Latent Neural Causal Models [82.14087963690561]
  因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。 因果表現の識別可能性に寄与する分布シフトのタイプを決定する。 本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
  論文  参考訳（メタデータ） (2024-03-23T04:13:55Z)
• Identifying and examining machine learning biases on Adult dataset [0.7856362837294112]
  この研究は、エンサンブルラーニングによる機械学習モデルバイアスの低減を念頭に置いている。 我々の厳密な方法論は、様々なカテゴリー変数にまたがる偏見を包括的に評価し、最終的に顕著な男女属性偏見を明らかにします。 本研究は,データ駆動型社会における倫理的考察とハイブリッドモデルの実現を提唱する。
  論文  参考訳（メタデータ） (2023-10-13T19:41:47Z)
• Gender Biases in Automatic Evaluation Metrics for Image Captioning [87.15170977240643]
  画像キャプションタスクのためのモデルに基づく評価指標において、性別バイアスの体系的研究を行う。 偏りのある世代と偏りのない世代を区別できないことを含む、これらの偏りのあるメトリクスを使用することによる負の結果を実証する。 人間の判断と相関を損なうことなく、測定バイアスを緩和する簡便で効果的な方法を提案する。
  論文  参考訳（メタデータ） (2023-05-24T04:27:40Z)
• Mitigating Gender Bias in Face Recognition Using the von Mises-Fisher Mixture Model [7.049738935364298]
  本研究では,ディープ顔認識ネットワークの性別バイアスについて検討する。 幾何学的考察により、新しいポストプロセッシング手法により性別バイアスを緩和する。 実際、様々なデータセットに関する広範な数値実験は、慎重に選択することで性バイアスが大幅に減少することを示している。
  論文  参考訳（メタデータ） (2022-10-24T23:53:56Z)
• Causal Mediation Analysis for Interpreting Neural NLP: The Case of Gender Bias [45.956112337250275]
  本稿では, 因果媒介分析の理論に基づく手法を提案し, モデルのどの部分が因果関係に関係しているかを解釈する。 本研究では,事前学習したトランスフォーマー言語モデルにおける性別バイアスの分析に本手法を適用した。 媒介分析の結果,性別バイアス効果は (i) ネットワークのごく一部に集中しており, (ii) 相乗的, 増幅的, あるいは抑圧的であり, (iii) 入力から直接的に, 仲介者を通して間接的に流れる効果に分解可能であることがわかった。
  論文  参考訳（メタデータ） (2020-04-26T01:53:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。