論文の概要: Who Do Language Models Think Is Competent? A Mechanistic Analysis of Occupational Bias

• arxiv url: http://arxiv.org/abs/2608.20347v1
• Date: Mon, 15 Jun 2026 15:03:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.274534
• Title: Who Do Language Models Think Is Competent? A Mechanistic Analysis of Occupational Bias
• Title（参考訳）: 言語モデルとコンピテントとは何か? : 職業バイアスの力学解析
• Abstract要約: 行動バイアスが見えない場合でも、表現バイアスがしばしば検出可能であることを示す。 この枠組みをいくつかのオープンウェイトモデルに適用すると、性別、人種、社会経済的地位などの人口統計特性が、モデルのユーザ専門性表現に影響を与えることが分かる。
• 参考スコア（独自算出の注目度）: 16.177490364214076
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models (LMs) often pass behavioral bias evaluations, but it remains unclear whether they no longer represent the underlying associations that give rise to biases, or have merely learned not to express them. In this study, we show that representational biases are often detectable, even when behavioral biases are not visible. We introduce a causal framework that decomposes occupational bias into two measurement points: a model's internal representation of a user's competence, and its observable outputs. We derive steering vectors for representations of user expertise, and verify that they causally mediate model behavior in both a question-answering task and a hiring task. Applying this framework to several open-weight models, we find that demographic attributes, such as gender, race, and socioeconomic status, influence a model's representation of user expertise, even in cases where behavioral metrics detect no disparity between demographics. We show that these model representations can influence downstream behavior under intervention, suggesting failure modes that behavioral metrics alone may not detect.
• Abstract（参考訳）: 言語モデル(LM)は、しばしば行動バイアス評価をパスするが、それらがバイアスを引き起こす基礎となる関連をもはや表現していないか、単にそれらを表現することを学んでいないかは定かではない。 本研究では,行動バイアスが見えない場合でも,表現バイアスがしばしば検出可能であることを示す。 作業バイアスを2つの測定ポイントに分解する因果的枠組みを導入する。 ユーザの専門知識の表現にステアリングベクターを導出し,質問応答タスクと採用タスクの両方においてモデル動作を因果的に仲介することを確認した。 この枠組みをいくつかのオープンウェイトモデルに適用すると、行動指標が人口動態の差異を検出できない場合であっても、性別、人種、社会経済的地位といった人口統計特性が、モデルのユーザ専門性表現に影響を与えることが分かる。 これらのモデル表現は、介入中の下流行動に影響を与える可能性を示し、行動指標だけでは検出できない障害モードを提案する。

関連論文リスト

• Emergently Misaligned Language Models Show Behavioral Self-Awareness That Shifts With Subsequent Realignment [0.3823356975862005]
  GPT-4.1モデルは、創発的ミスアライメントを誘導し、逆転させることで知られているデータセットを逐次的に微調整する。 以上の結果から,不整合モデルがベースモデルや再整合モデルに比べて有意に有害であることが示唆された。 以上の結果から,行動自己認識はモデルの実際のアライメント状態を追跡することが示唆された。
  論文  参考訳（メタデータ） (2026-02-16T14:29:46Z)
• Measuring Mechanistic Independence: Can Bias Be Removed Without Erasing Demographics? [17.978167351646288]
  本研究では、言語モデルにおける一般的な人口統計学的認識から、独立した人口統計学的バイアス機構がどのように存在するかを検討する。 属性に基づく格言は、名前認識の精度を保ちながら、人種や性職業のステレオタイプを緩和する。 相関に基づくアブレーションは、教育バイアスに対してより効果的であることがわかった。
  論文  参考訳（メタデータ） (2025-12-23T21:44:20Z)
• How Quantization Shapes Bias in Large Language Models [61.40435736418359]
  重みとアクティベーションの定量化戦略に焦点をあて、幅広いバイアスタイプにまたがる効果について検討する。 確率的および生成されたテキストベースのメトリクスを9つのベンチマークで使用し、アーキテクチャファミリや推論能力の異なるモデルを評価する。
  論文  参考訳（メタデータ） (2025-08-25T14:48:26Z)
• Less can be more: representational vs. stereotypical gender bias in facial expression recognition [3.9698529891342207]
  機械学習モデルは、トレーニングデータからバイアスを継承し、差別的または不正確な予測につながる。 本稿では、データセットから機械学習モデルへの人口統計バイアスの伝播について検討する。 ジェンダーの人口構成に焦点をあて、表現とステレオタイプという2種類の偏見を分析した。
  論文  参考訳（メタデータ） (2024-06-25T09:26:49Z)
• Gender Biases in Automatic Evaluation Metrics for Image Captioning [87.15170977240643]
  画像キャプションタスクのためのモデルに基づく評価指標において、性別バイアスの体系的研究を行う。 偏りのある世代と偏りのない世代を区別できないことを含む、これらの偏りのあるメトリクスを使用することによる負の結果を実証する。 人間の判断と相関を損なうことなく、測定バイアスを緩和する簡便で効果的な方法を提案する。
  論文  参考訳（メタデータ） (2023-05-24T04:27:40Z)
• Prisoners of Their Own Devices: How Models Induce Data Bias in Performative Prediction [4.874780144224057]
  偏見のあるモデルは、社会の特定のグループに不均等に害を与える決定を下すことができる。 多くの作業は静的ML環境での不公平さを測定することに費やされているが、動的でパフォーマンスのよい予測は行っていない。 本稿では,データのバイアスを特徴付ける分類法を提案する。
  論文  参考訳（メタデータ） (2022-06-27T10:56:04Z)
• Learning from others' mistakes: Avoiding dataset biases without modeling them [111.17078939377313]
  最先端自然言語処理(NLP)モデルは、意図したタスクをターゲットとする機能ではなく、データセットのバイアスや表面形状の相関をモデル化することを学ぶことが多い。 これまでの研究は、バイアスに関する知識が利用できる場合に、これらの問題を回避するための効果的な方法を示してきた。 本稿では,これらの問題点を無視する学習モデルについて述べる。
  論文  参考訳（メタデータ） (2020-12-02T16:10:54Z)
• UnQovering Stereotyping Biases via Underspecified Questions [68.81749777034409]
  未特定質問からバイアスを探索・定量化するためのフレームワークUNQOVERを提案する。 モデルスコアの素直な使用は,2種類の推論誤差による誤ったバイアス推定につながる可能性があることを示す。 我々はこの指標を用いて、性別、国籍、民族、宗教の4つの重要なステレオタイプの分析を行う。
  論文  参考訳（メタデータ） (2020-10-06T01:49:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。