論文の概要: AI Representations of Mental Health Stigma: Quantifying the Gap Between AI Estimations and Human Perceptions Across Gender Groups Using GPT-Based LLMs

• arxiv url: http://arxiv.org/abs/2610.16042v1
• Date: Mon, 12 Oct 2026 01:34:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.28733
• Title: AI Representations of Mental Health Stigma: Quantifying the Gap Between AI Estimations and Human Perceptions Across Gender Groups Using GPT-Based LLMs
• Title（参考訳）: メンタルヘルススティグマのAI表現:GPT-based LLMを用いたジェンダーグループ間のAI推定と人間の知覚のギャップの定量化
• Abstract要約: メンタルヘルスアプリケーションにおける人工知能の利用の増加は、社会的バイアスを内在化し、永続させる可能性への懸念を提起する。 本研究は,ジェンダーグループ間でのメンタルヘルスの認知を,大きな言語モデルがいかに表すかにおいて,相違点と相違点の両方を評価する。
• 参考スコア（独自算出の注目度）: 1.5749416770494706
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The increasing use of artificial intelligence (AI) in mental health applications raises concerns about its potential to internalize and perpetuate societal biases. This research evaluates both disparities and misalignment in how large language models (LLMs), GPT-4 and GPT-5, represent perceptions of mental health across gender groups. The research comprises two studies. Study 1 applied widely adopted measures of Social Distance, Stereotypes, and Attitudes Toward Seeking Help to assess whether the AI models depict systematic gender differences. Study 2 compared AI estimations of Personal, Self, and Perceived Stigma with large-scale real-world human data from the Healthy Minds Study (N = 76,406) to evaluate alignment between AI estimations and human perceptions. Results from Study 1 showed the AI models consistently portrayed men as having the greatest desire for social distance from someone with mental health problems, relatively higher Stereotypes scores, and the least favorable attitudes toward help-seeking, compared with women and nonbinary individuals. Study 2 confirmed that this ordinal pattern partially aligned with human-reported data for Personal and Self Stigma. However, the AI models systematically underestimated Personal Stigma and Perceived Stigma while substantially overestimating Self Stigma for all gender groups. These findings reveal that, although the AI models have learned relative gender-based patterns reflecting human experiences to a certain extent, they function as distorted portrayals, highlighting the need for rigorous, context-specific validation against real-world data to ensure AI's safe and equitable deployment.
• Abstract（参考訳）: メンタルヘルスアプリケーションにおける人工知能(AI)の利用の増加は、社会的バイアスを内包し永続する可能性への懸念を提起する。 本研究は,大きな言語モデル (LLM) , GPT-4, GPT-5 の男女間における精神的健康感の相違と相違について検討した。 研究は2つの研究から成っている。 研究1は、AIモデルが体系的な性別差を表現しているかどうかを評価するために、広く採用されている社会的距離、ステレオタイプ、および探究に対する態度の尺度を適用した。 研究2では、個人、自己、知覚されたスティグマのAI推定と、ヘルスマインドズ・スタディ(N = 76,406)の大規模実世界の人間のデータを比較し、AI推定と人間の知覚の整合性を評価する。 研究1の結果、AIモデルは男性を、精神的な健康上の問題のある人との社会的距離に対する最大の欲求、比較的高いステレオタイプスコア、そして、女性や非二元的個人と比較して、ヘルプシーキングに対する最も好ましくない態度として、一貫して描写した。 研究2では、この順序パターンが人によって報告された個人と自己のスティグマのデータと部分的に一致していることが確認された。 しかし、AIモデルは、すべての性別グループで自己スティグマをかなり過大評価しながら、体系的に個人スティグマと知覚スティグマを過小評価した。 これらの結果は、AIモデルは、人間の経験をある程度反映した相対的なジェンダーベースのパターンを学んだが、歪んだ描写として機能し、AIの安全で公平なデプロイメントを保証するために、現実のデータに対する厳密でコンテキスト特異的な検証の必要性を強調している。

関連論文リスト

• A Comprehensive Review of Datasets for Clinical Mental Health AI Systems [55.67299586253951]
  本稿では,AIを活用した臨床アシスタントの訓練・開発に関連する臨床精神保健データセットの総合的調査を行う。 本調査では, 縦断データの欠如, 文化・言語表現の制限, 一貫性のない収集・注釈基準, 合成データのモダリティの欠如など, 重要なギャップを明らかにした。
  論文  参考訳（メタデータ） (2025-08-13T13:42:35Z)
• MoodAngels: A Retrieval-augmented Multi-agent Framework for Psychiatry Diagnosis [58.67342568632529]
  MoodAngelsは、気分障害の診断のための最初の特殊なマルチエージェントフレームワークである。 MoodSynは、合成精神医学の1,173件のオープンソースデータセットである。
  論文  参考訳（メタデータ） (2025-06-04T09:18:25Z)
• The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [91.86718720024825]
  我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。 以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。 DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
  論文  参考訳（メタデータ） (2024-11-06T06:50:50Z)
• "My Kind of Woman": Analysing Gender Stereotypes in AI through The Averageness Theory and EU Law [0.0]
  本研究は,社会的ステレオタイプとアルゴリズム決定の相互作用に光を当てて,性別分類システムについて考察する。 認知心理学とフェミニスト法理論を取り入れることで、AIトレーニングに使用されるデータがジェンダーの多様性と公平性をいかに促進するかを検討する。
  論文  参考訳（メタデータ） (2024-06-27T20:03:27Z)
• Unveiling Gender Bias in Terms of Profession Across LLMs: Analyzing and Addressing Sociological Implications [0.0]
  この研究は、AI言語モデルにおけるジェンダーバイアスに関する既存の研究を調査し、現在の知識のギャップを特定する。 この結果は,大規模言語モデルのアウトプットに存在する,ジェンダー付き単語関連,言語使用,偏見付き物語に光を当てた。 本稿では,アルゴリズムアプローチやデータ拡張手法など,LSMにおける性別バイアスを低減するための戦略を提案する。
  論文  参考訳（メタデータ） (2023-07-18T11:38:45Z)
• Towards Understanding Gender-Seniority Compound Bias in Natural Language Generation [64.65911758042914]
  本研究では,事前学習したニューラルジェネレーションモデルにおける性別バイアスの程度に,高齢者がどのような影響を及ぼすかを検討する。 以上の結果から, GPT-2は, 両領域において, 女性を中年, 男性を中年として考えることにより, 偏見を増幅することが示された。 以上の結果から, GPT-2を用いて構築したNLPアプリケーションは, プロの能力において女性に害を与える可能性が示唆された。
  論文  参考訳（メタデータ） (2022-05-19T20:05:02Z)
• Comparing Human and Machine Bias in Face Recognition [46.170389064229354]
  我々はLFWとCelebAデータセットの改良版をリリースし、将来の研究者がアルゴリズムバイアスの測定値を得ることができるようにした。 また、これらの新しいデータを使って、顔認証と検証に関する一連の挑戦的な質問も開発しています。 検証作業において,コンピュータモデルと人的調査参加者の双方が有意に優れていたことが判明した。
  論文  参考訳（メタデータ） (2021-10-15T22:26:20Z)
• Responsible AI: Gender bias assessment in emotion recognition [6.833826997240138]
  本研究は、顔認識のための深層学習手法における性別バイアスの研究を目的とする。 より多くのバイアスニューラルネットワークは、男性と女性のテストセット間の感情認識のより大きな精度のギャップを示しています。
  論文  参考訳（メタデータ） (2021-03-21T17:00:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。