論文の概要: When the Top Answer Decides: Gender Bias in Decision Models

• arxiv url: http://arxiv.org/abs/2610.39747v1
• Date: Thu, 29 Oct 2026 10:06:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:45:24.698355
• Title: When the Top Answer Decides: Gender Bias in Decision Models
• Title（参考訳）: 最上位の回答:決定モデルにおけるジェンダーバイアス
• Abstract要約: 決定モデルは、ルート、分類、トリアージのために構築された言語モデルである。 フェアネスや1つのアプリケーションではなく、決定フォーマットのためにトレーニングされた棚から提供される。 TypeSafeのクローズドJevと5つのオープンな決定モデルをテストする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Decision models are language models built to route, classify and triage: they return option probabilities from one forward pass, and an application acts on the top answer. They are offered off the shelf, trained for the decision format rather than for fairness or any one application, and we found no bias measurement in their cards. We test TypeSafe's closed Jev and five open decision models on gender-swapped yes/no decisions about people (Tamkin et al., 2023), BBQ, StereoSet and the gender-bias studies of Fulgu and Capraro (2024). Five of the six give women significantly more favourable answers than men (+0.05 to +0.10 in log-odds), and a gender swap changes 1-3.5% of top answers (Jev's partly through its call-to-call variation). The makers' recommended confidence gate removes many biased commitments but raises the stereotyped share of those it keeps in ambiguous BBQ gender questions (granite-switch 0.76 to 0.85, pplx 0.81 to 1.00). Probes show gender preferences in the same models: all six rate violence for a greater good as more acceptable against a man than against a woman, and two default to "girl" when forced to guess a child's gender without a cue. Decision-level and probability-level measures differ, so audits should read a model as its application does.
• Abstract（参考訳）: 決定モデルは、ルート、分類、トリアージのために構築された言語モデルである。 フェアネスや1つのアプリケーションではなく、意思決定フォーマットのためにトレーニングされた棚が提供され、彼らのカードにバイアス測定がないことが分かりました。 我々は、TypeSafeのクローズドJevと、5つのオープン決定モデル(Tamkin et al , 2023),BBQ, StereoSet, そしてFulguとCapraroのジェンダーバイアス研究(2024)を検証した。 6人のうち5人は男性よりも女性の方がはるかに好意的であり(ログオードでは+0.05から+0.10)、性別のスワップは上位の回答の1-3.5%に変化している。 メーカーの推奨する信頼ゲートは、多くの偏りのあるコミットメントを取り除くが、不明瞭なBBQ性問題(グラファイト・スウィッチ0.76から0.85、pplx0.81から1.00)で保持するもののステレオタイプ化のシェアを上昇させる。 プローブは同じモデルで性別の嗜好を示す: 女性よりも男性に対してより受け入れられる6つの比率の暴力と、キューなしで子供の性別を推測するよう強制された場合の2つのデフォルトは「女性」である。 決定レベルと確率レベルは異なるため、監査はアプリケーションが行うようにモデルを読まなければならない。

関連論文リスト

• Gender bias across LLMs is common and highly heterogeneous [0.0]
  これまでの研究では、小さなモデルに焦点が当てられており、性別バイアスがLSM全体で一般的で異質な程度に開放されている。 女性や男性に対する虐待や拷問の道徳的判断は、破滅的な結果を防ぐために、2つのパラダイムを使用する。 以上の結果から, LLMでは男女関係バイアスが一般的であるが, その方向や大きさは異種であることが示唆された。
  論文  参考訳（メタデータ） (2026-09-29T17:11:53Z)
• Do Gender Cues Affect LLM Value Trade-offs? Evidence from a Controlled Decision Benchmark [33.25199452418043]
  シナリオを保持しながらロールジェンダーの設定だけを変えるベンチマークを構築します。 明示的なジェンダーの手がかりは、有界だが体系的な意思決定のフリップを引き起こす。 ジェンダー効果は、決定的な値境界の近くに集中しており、ジェンダーの手がかりが局所的な境界シフト要因として働くことを示唆している。
  論文  参考訳（メタデータ） (2026-06-01T13:14:10Z)
• The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [91.86718720024825]
  我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。 以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。 DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
  論文  参考訳（メタデータ） (2024-11-06T06:50:50Z)
• Gender Bias in Decision-Making with Large Language Models: A Study of Relationship Conflicts [15.676219253088211]
  大規模言語モデル(LLM)におけるジェンダーエクイティを意思決定レンズを用いて検討する。 我々は3つの名前リスト(男性、女性、中立)にまたがる名前ペアを通して9つの関係構成を探索する。
  論文  参考訳（メタデータ） (2024-10-14T20:50:11Z)
• Probing Explicit and Implicit Gender Bias through LLM Conditional Text Generation [64.79319733514266]
  大規模言語モデル(LLM)はバイアスと有害な応答を生成する。 本研究では,あらかじめ定義されたジェンダーフレーズやステレオタイプを必要としない条件付きテキスト生成機構を提案する。
  論文  参考訳（メタデータ） (2023-11-01T05:31:46Z)
• Will the Prince Get True Love's Kiss? On the Model Sensitivity to Gender Perturbation over Fairytale Texts [80.21033860436081]
  本稿では, モデルが非現実的データ拡張を通じて, ジェンダーステレオタイプ摂動にどう反応するかを検討する。 実験結果から, 性別の摂動に直面すると, モデルの性能低下がわずかであることがわかった。 反現実的なトレーニングデータに基づいて微調整を行うと、モデルは反ステレオタイプな物語に対してより堅牢になる。
  論文  参考訳（メタデータ） (2023-10-16T22:25:09Z)
• VisoGender: A dataset for benchmarking gender bias in image-text pronoun resolution [80.57383975987676]
  VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。 We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。 我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
  論文  参考訳（メタデータ） (2023-06-21T17:59:51Z)
• Fewer Errors, but More Stereotypes? The Effect of Model Size on Gender Bias [5.077090615019091]
  モデルサイズと性別バイアスの関係について検討する。 一方、より大きなモデルでは、前者のタスクにより高いバイアススコアが与えられるが、後者で評価すると、性別エラーが少なくなる。
  論文  参考訳（メタデータ） (2022-06-20T15:52:40Z)
• Stereotype and Skew: Quantifying Gender Bias in Pre-trained and Fine-tuned Language Models [5.378664454650768]
  本稿では,文脈言語モデルにおける性別バイアスの定量化と分析を行う,スキューとステレオタイプという2つの直感的な指標を提案する。 性別のステレオタイプは、アウト・オブ・ボックスモデルにおける性別の歪とほぼ負の相関関係にあり、これらの2種類のバイアスの間にトレードオフが存在することを示唆している。
  論文  参考訳（メタデータ） (2021-01-24T10:57:59Z)
• Multi-Dimensional Gender Bias Classification [67.65551687580552]
  機械学習モデルは、性別に偏ったテキストでトレーニングする際に、社会的に望ましくないパターンを不注意に学習することができる。 本稿では,テキスト中の性バイアスを複数の実用的・意味的な次元に沿って分解する一般的な枠組みを提案する。 このきめ細かいフレームワークを用いて、8つの大規模データセットにジェンダー情報を自動的にアノテートする。
  論文  参考訳（メタデータ） (2020-05-01T21:23:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。