論文の概要: How Does LGBTQIA+ Identity Affect LLM Behavior? Implications for Requirements Engineering of Mental Health AI Systems

• arxiv url: http://arxiv.org/abs/2609.00352v1
• Date: Mon, 22 Jun 2026 20:44:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.42049
• Title: How Does LGBTQIA+ Identity Affect LLM Behavior? Implications for Requirements Engineering of Mental Health AI Systems
• Title（参考訳）: LGBTQIA+はLLM行動にどのように影響するか : メンタルヘルスAIシステムの要求工学への応用
• Abstract要約: 大規模言語モデルは現在、医療とメンタルヘルス支援システムの一部となっている。 LGBTQIA+の個人情報開示が精神保健状況におけるLCM生成反応に与える影響について検討した。
• 参考スコア（独自算出の注目度）: 1.7702475609045942
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models are now part of healthcare and mental health support systems, raising concerns regarding fairness toward vulnerable populations, including LGBTQIA+ individuals. However, limited empirical work has investigated how explicit LGBTQIA+ identity disclosure influences LLM-generated responses in mental health contexts. In this study, we extracted 50 real mental health questions from the Counsel Chat repository and constructed three prompt conditions for each question: no identity disclosure, explicit straight identity disclosure, and explicit LGBTQIA+ identity disclosure. We generated and analyzed 450 ChatGPT responses across these conditions using binary coding and comparative analysis. Our findings indicate that LGBTQIA+ identity disclosure did not substantially affect response completeness or supportive guidance. However, responses in the LGBTQIA+-explicit condition presented substantially more identity acknowledgment, contextual expansion, unsupported assumptions, and occasional stereotypical reasoning compared to both other conditions. These results suggest that fairness-related concerns in conversational AI systems may emerge through subtle differences in contextual interpretation and explanatory reasoning rather than through overtly harmful outputs. We discuss implications for fairness requirements and the development of LLM-based mental health support systems.
• Abstract（参考訳）: 大規模言語モデルは現在、医療とメンタルヘルス支援システムの一部であり、LGBTQIA+個人を含む脆弱な人口に対する公平性に関する懸念を提起している。 しかし、限定的な実証研究は、LGBTQIA+アイデンティティ開示がメンタルヘルスの文脈でLLMが生成する反応にどのように影響するかを調査している。 本研究では,Counsel Chatレポジトリから50のリアルなメンタルヘルス質問を抽出し,各質問に対する迅速な3つの条件を構築した。 450個のChatGPT応答を2進符号化と比較解析を用いて生成・解析した。 LGBTQIA+の個人情報開示は,応答完全性や支援指導に大きく影響しなかった。 しかし,LGBTQIA+要求条件の応答は,他の条件と比較して,個人性認知,文脈拡張,サポート対象の仮定,時折ステレオタイプ推論が有意に増加した。 これらの結果は、会話型AIシステムにおける公平性に関連する懸念は、過度に有害な出力ではなく、文脈的解釈と説明的推論の微妙な違いによって生じる可能性があることを示唆している。 公平性の要件とLCMに基づくメンタルヘルス支援システムの開発について論じる。

関連論文リスト

• Surfacing and Applying Meaning: Supporting Hermeneutical Autonomy for LGBTQ+ People in Taiwan [14.92891685206648]
  2019年に台湾が同性結婚を合法化した後も、LGBTQ+コミュニティはソーシャルメディア上で敵意に直面し続けている。 医療的不公平と自律性のレンズを用いて、LGBTQ+個人のアイデンティティ探索、物語探索、コミュニティのレジリエンスに技術的条件がどう影響するかを検討する。 我々は、参加者が敵対的な物語を再構成し、生きた経験を検証し、足場を特定できるようなAIシステムを開発し、ソーシャルメディアの敵意をナビゲートするハーメネティカルな労力を減らす。
  論文  参考訳（メタデータ） (2026-03-23T13:57:06Z)
• Mental Health Equity in LLMs: Leveraging Multi-Hop Question Answering to Detect Amplified and Silenced Perspectives [9.24608617206594]
  メンタルヘルスリスクにおける大きな言語モデル(LLM)は、スティグマを強化し、限界化グループに害を与えるバイアスを伝播させる。 本研究は、精神保健談話におけるLCM応答バイアスを探索する多項目質問応答フレームワークを導入する。 年齢、人種、性別、社会経済的地位の体系的なタグ付けを用いて、人口動態の交点におけるバイアスパターンを調査する。
  論文  参考訳（メタデータ） (2025-06-22T18:00:16Z)
• Exploring LGBTQ+ Bias in Generative AI Answers across Different Country and Religious Contexts [0.0]
  ChatGPT 3.5の回答は、バードが人権を強調し、LGBTQ+の問題をもっと支持したのとは対照的に、文化的相対性を示した。 この研究は、AI応答の社会的および倫理的意味を理解することに寄与する。
  論文  参考訳（メタデータ） (2024-07-03T19:38:19Z)
• QueerBench: Quantifying Discrimination in Language Models Toward Queer Identities [4.82206141686275]
  我々は、LGBTQIA+の個人に関する英語大言語モデルによって生成された文の完成によって引き起こされる潜在的害を評価する。 この分析は、大きな言語モデルはLGBTQIA+コミュニティ内の個人に対してより頻繁に差別的行動を示す傾向があることを示している。
  論文  参考訳（メタデータ） (2024-06-18T08:40:29Z)
• Refusal as Silence: Gendered Disparities in Vision-Language Model Responses [0.4199844472131921]
  本研究では,反現実的ペルソナデザインによる社会技術的成果としての拒絶について検討する。 その結果,トランスジェンダーと非バイナリペルソナは,非有害な文脈においても,拒絶率を著しく高めていることがわかった。
  論文  参考訳（メタデータ） (2024-06-12T13:52:30Z)
• LLM Questionnaire Completion for Automatic Psychiatric Assessment [49.1574468325115]
  大規模言語モデル(LLM)を用いて、非構造的心理面接を、様々な精神科領域と人格領域にまたがる構造化された質問票に変換する。 得られた回答は、うつ病の標準化された精神医学的指標(PHQ-8)とPTSD(PCL-C)の予測に使用される特徴として符号化される。
  論文  参考訳（メタデータ） (2024-06-09T09:03:11Z)
• Towards Mitigating Hallucination in Large Language Models via Self-Reflection [63.2543947174318]
  大規模言語モデル(LLM)は、質問応答(QA)タスクを含む生成的および知識集約的なタスクを約束している。 本稿では,広範に採用されているLCMとデータセットを用いた医療再生QAシステムにおける幻覚現象を解析する。
  論文  参考訳（メタデータ） (2023-10-10T03:05:44Z)
• "I'm fully who I am": Towards Centering Transgender and Non-Binary Voices to Measure Biases in Open Language Generation [69.25368160338043]
  トランスジェンダーとノンバイナリ(TGNB)の個人は、日常生活から差別や排除を不当に経験している。 オープン・ランゲージ・ジェネレーションにおいて,経験豊富なTGNB人物の疎外化を取り巻く社会的現実がいかに貢献し,持続するかを評価する。 我々はTGNB指向のコミュニティからキュレートされたテンプレートベースの実世界のテキストのデータセットであるTANGOを紹介する。
  論文  参考訳（メタデータ） (2023-05-17T04:21:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。