論文の概要: Harm Laundering in GPT Models: Evidence That Gender Discrimination Is Transformed Rather Than Reduced Across Safety-Trained Generations

• arxiv url: http://arxiv.org/abs/2609.20779v1
• Date: Thu, 17 Sep 2026 17:49:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:54.414564
• Title: Harm Laundering in GPT Models: Evidence That Gender Discrimination Is Transformed Rather Than Reduced Across Safety-Trained Generations
• Title（参考訳）: GPTモデルにおけるハーム洗浄:安全訓練世代全体の削減よりも性差別が変容している証拠
• Abstract要約: GPT-2における性的暴力の集団は, GPT-4により消失することが示された。 男性指向の完成は、女性指向の完成がそうでない肯定的な表象的領域(ケア、感情的範囲、アライアンスアイデンティティ)を得る。 我々は,ハインダリングを3基準テストとして定式化し,任意の生成モデルに適用可能な3段階検出プロトコルを提供する。
• 参考スコア（独自算出の注目度）: 5.204195726207851
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safety evaluations for large language models rely on surface-form classifiers that report declining harm scores across model generations. We provide evidence that this methodology is systematically incomplete: explicit discriminatory content is transformed rather than removed. We call this \emph{harm laundering}. Analysing 450,000 gender-directed completions across 15 models spanning GPT-2 through to GPT-5 (OpenAI GPT lineage; three demographic conditions), we show that sexual violence clusters prevalent in GPT-2 women-directed output disappear by GPT-4, while men-directed completions gain positive representational territory (caregiving, emotional range, ally identity) that women-directed completions do not. The pattern is most visible at GPT-5: Topic~5 (1,997~documents) frames breast cancer as a men's rights debate, while zero equivalent clusters appear in women-directed output. Three independent classifiers score this content as non-toxic. Sentiment scores invert at GPT-4: early models demean women; later models over-correct. Topic diversity in women-directed completions falls 36\% relative to men at the GPT-4 alignment boundary (W/M~$= 0.58$, from $0.91$ at GPT-2). REGARD representational harm disparity correlates with release date ($ρ= +0.55$, $p = .034$) while Detoxify does not ($ρ= -0.23$, $p = .42$): toxicity scores fall as representational harm grows. We formalise harm laundering as a three-criteria test and provide a three-stage detection protocol applicable to any generative model. Within the OpenAI GPT lineage, toxicity score reduction is not a sufficient proxy for harm reduction.
• Abstract（参考訳）: 大規模言語モデルの安全性評価は、モデル世代間での害スコアの低下を報告する表面形式分類器に依存している。 我々は、この方法論が体系的に不完全であることを示す証拠を提供する。 これをemph{harm laundering}と呼ぶ。 GPT-2 から GPT-5 (OpenAI GPT 系統, 人口統計学的条件) にまたがる15 モデルにおいて, GPT-2 から GPT-5 (OpenAI GPT 系統, 3 つの人口動態) にまたがる性的暴力クラスターが GPT-4 によって消失し, 男性指向の完成は女性指向の完成が有意な表象領域(介護, 感情範囲, 親密性)を得た。 Topic~5 (1,997~文書)は、男性の権利に関する議論として乳がんをフレーム化しており、女性指向のアウトプットには、同等のクラスターがゼロである。 3つの独立した分類器は、この内容が非毒性であると評価する。 センチメントスコアは GPT-4 で逆転する: 初期のモデルでは女性を軽視し、後のモデルでは過度に正確である。 GPT-4アライメント境界(W/M~$=0.58ドル、GPT-2$0.91ドル)では、女性指向の完成品のトピックの多様性は男性に比べて36.5%低下する。 REGARD表現的調和の不一致はリリース日(ρ= +0.55$, $p = .034$)と相関するが、Detoxifyは(ρ= -0.23$, $p = .42$):表現的調和が増加するにつれて毒性スコアが低下する。 我々は,ハインダリングを3基準テストとして定式化し,任意の生成モデルに適用可能な3段階検出プロトコルを提供する。 OpenAI GPTの系統の中では、毒性スコアの低下は害軽減のための十分な指標ではない。

関連論文リスト

• Quantifying the Affective Gap: A Zero-Shot Evaluation of LLMs on Fine-Grained Emotion Taxonomies [6.312490225874122]
  本稿では、3つの主要な商用大言語モデルの厳密で統一的なゼロショット評価について述べる。 ジェミニは最高精度(39.9%)、マクロF1スコア(0.363)、続いてGPT-5.4(38.8%、マクロF1 = 0.291)、クロード(38.0%、マクロF1 = 0.159)を達成している。 すべてのモデルは、愛、混乱、恥に一貫して失敗しながら、皮肉と欲求に長けている。
  論文  参考訳（メタデータ） (2026-07-01T14:04:48Z)
• Gender Disparities in LLM-Based Intimate Partner Violence Detection [0.5312774778718764]
  親密なパートナー・バイオレンス(IPV)は公衆衛生上の問題である。 本研究では,大規模言語モデル(LLM)が,被害者の性別構成によって異なる関係を知覚するか否かを検討する。 以上の結果から,LCMはオンライントレーニングデータからジェンダーバイアスを再現し,サポート関係の展開に影響を及ぼすことが示唆された。
  論文  参考訳（メタデータ） (2026-05-22T20:04:08Z)
• Persona-Model Collapse in Emergent Misalignment [0.0]
  有害な内容を持つ狭いデータに対する微調整された大きな言語モデルは、無関係なプロンプトに対して広範囲に不整合な振る舞いをもたらす。 モラル・サセプティビリティ(S)とモラル・ロバストネス(R)の2つの指標を用いてこの仮説を検証する。 これらのメトリクスは、与えられた文字(S)と、与えられた文字(R)をシミュレートするときにその一貫性を識別するモデルの能力を形式化する。
  論文  参考訳（メタデータ） (2026-05-13T00:48:57Z)
• EQUITRIAGE: A Fairness Audit of Gender Bias in LLM-Based Emergency Department Triage [0.0]
  本稿では,救急部門における大規模言語モデル(LLM)の公平性監査であるEQUITRIAGEについて紹介する。 5つのモデルは全て、事前登録された5%の閾値を超えるフリップレートを生み出した。 グループパリティ、反事実的不変性、性別のキャリブレーションは、異なる公平性の性質である。
  論文  参考訳（メタデータ） (2026-05-05T17:20:55Z)
• One Token Away from Collapse: The Fragility of Instruction-Tuned Helpfulness [12.183451602438753]
  単純な語彙制約(句読解文字または共通単語の禁止)により、命令調整されたLLMが応答を崩壊させることを示す。 ベースモデルでは,同じ制約の下で,小さな,騒々しい,双方向的な効果を伴って,体系的な崩壊を示さないことを示す。
  論文  参考訳（メタデータ） (2026-04-14T17:40:01Z)
• DecodingTrust: A Comprehensive Assessment of Trustworthiness in GPT Models [92.6951708781736]
  本稿では,GPT-4とGPT-3.5に着目した大規模言語モデルの総合的信頼性評価を提案する。 GPTモデルは、有害で偏りのある出力を生成し、個人情報を漏らすために、容易に誤解され得る。 我々の研究は、GPTモデルの総合的な信頼性評価を示し、信頼性のギャップに光を当てている。
  論文  参考訳（メタデータ） (2023-06-20T17:24:23Z)
• How True is GPT-2? An Empirical Analysis of Intersectional Occupational Biases [50.591267188664666]
  下流のアプリケーションは、自然言語モデルに含まれるバイアスを継承するリスクがある。 一般的な生成言語モデルであるGPT-2の作業バイアスを分析した。 特定の仕事について、GPT-2は米国におけるジェンダーと民族の社会的偏見を反映しており、場合によってはジェンダー・パリティの傾向を反映している。
  論文  参考訳（メタデータ） (2021-02-08T11:10:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。