論文の概要: Analyzing LLM Reasoning to Uncover Mental Health Stigma

• arxiv url: http://arxiv.org/abs/2604.25053v1
• Date: Mon, 27 Apr 2026 23:08:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-29 16:49:17.628224
• Title: Analyzing LLM Reasoning to Uncover Mental Health Stigma
• Title（参考訳）: LLM推論によるメンタルヘルススティグマの解明
• Authors: Sreehari Sankar, Aliakbar Nafar, Mona Barman, Hannah K. Heitz, Ashwin Kumar, Pouria Tohidi, Dailun Li, Danish Hussain, Russell DuBois, Hamed Hasheminia, Farshad Majzoubi,
• Abstract要約: 大規模言語モデルの中間的推論ステップを分析し,隠れスティグマタイズ言語を明らかにする。 臨床専門知識を用いて、精神状態のある個人に向けられた言語をスティグマタイズする一般的なパターンを分類する。
• 参考スコア（独自算出の注目度）: 2.5244720333011355
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While large language models (LLMs) are increasingly being explored for mental health applications, recent studies reveal that they can exhibit stigma toward individuals with psychological conditions. Existing evaluations of this stigma primarily rely on multiple-choice questions (MCQs), which fail to capture the biases embedded within the models' underlying logic. In this paper, we analyze the intermediate reasoning steps of LLMs to uncover hidden stigmatizing language and the internal rationales driving it. We leverage clinical expertise to categorize common patterns of stigmatizing language directed at individuals with psychological conditions and use this framework to identify and tag problematic statements in LLM reasoning. Furthermore, we rate the severity of these statements, distinguishing between overt prejudice and more subtle, less immediately harmful biases. To broaden the reasoning domain and capture a wider array of patterns, we also extend an existing mental health stigma benchmark by incorporating additional psychological conditions. Our findings demonstrate that evaluating model reasoning not only exposes substantially more stigma than traditional MCQ-based methods but it helps to identify the flaws in the LLMs' logic and their understanding of mental health conditions.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、メンタルヘルスの分野でますます研究されているが、最近の研究では、精神状態のある個人に対するスティグマを示すことが示されている。 このスティグマの既存の評価は、主にマルチチョイス質問(MCQ)に依存しており、モデルの基礎となる論理に埋め込まれたバイアスを捉えない。 本稿では,LLMの中間的推論ステップを分析し,隠れスティグマタイズ言語とそれを駆動する内部理性を明らかにする。 臨床の専門知識を活用し,精神状態のある個人を対象とする言語分類の共通パターンを分類し,この枠組みを用いて,LLM推論における問題文の識別とタグ付けを行う。 さらに、これらの主張の重大さを評価し、過度な偏見と、より微妙で、すぐに有害な偏見を区別する。 推論領域を広げ、より広いパターンを捉えるために、追加の心理的条件を取り入れることで、既存のメンタルヘルススティグマベンチマークを拡張する。 本研究は, 従来のMCQ法に比べて, モデル推論の評価がかなり汚点を呈するだけでなく, LLMの論理的欠陥や精神状態の理解にも有効であることを示した。

関連論文リスト

• Language Shapes Mental Health Evaluations in Large Language Models [4.845028079612543]
  本研究では,大規模言語モデル (LLM) が精神保健評価において言語間差異を示すか否かを検討する。 GPT-4o と Qwen3 の2つのモデルを用いて,言語がメンタルヘルス関連評価を体系的に変化させるかどうかを検証した。
  論文  参考訳（メタデータ） (2026-03-06T22:15:09Z)
• Investigating VLM Hallucination from a Cognitive Psychology Perspective: A First Step Toward Interpretation with Intriguing Observations [60.63340688538124]
  幻覚は、視覚言語モデル(VLM)で積極的に研究されている長年の問題である。 既存の研究は、幻覚は技術的な制限や梅毒のバイアスによるもので、後者はモデルがユーザの期待に沿う誤った回答を生み出す傾向があることを意味している。 本研究では, VLMの認知バイアスを分類し, サイコフィナンシー, 論理的不整合, 新たに同定された VLM の行動, 権威へのアピールなど, 幻覚へと導く。
  論文  参考訳（メタデータ） (2025-07-03T19:03:16Z)
• Mental Health Equity in LLMs: Leveraging Multi-Hop Question Answering to Detect Amplified and Silenced Perspectives [9.24608617206594]
  メンタルヘルスリスクにおける大きな言語モデル(LLM)は、スティグマを強化し、限界化グループに害を与えるバイアスを伝播させる。 本研究は、精神保健談話におけるLCM応答バイアスを探索する多項目質問応答フレームワークを導入する。 年齢、人種、性別、社会経済的地位の体系的なタグ付けを用いて、人口動態の交点におけるバイアスパターンを調査する。
  論文  参考訳（メタデータ） (2025-06-22T18:00:16Z)
• MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
  マルチモーダル幻覚は多源性であり、様々な原因から生じる。 既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
  論文  参考訳（メタデータ） (2025-05-30T05:54:36Z)
• Beyond Empathy: Integrating Diagnostic and Therapeutic Reasoning with Large Language Models for Mental Health Counseling [50.83055329849865]
  PsyLLMは、メンタルヘルスカウンセリングの診断と治療的推論を統合するために設計された大きな言語モデルである。 Redditから現実世界のメンタルヘルス投稿を処理し、マルチターン対話構造を生成する。 実験の結果,PsyLLMは最先端のベースラインモデルよりも優れていた。
  論文  参考訳（メタデータ） (2025-05-21T16:24:49Z)
• Limitations of Large Language Models in Clinical Problem-Solving Arising from Inflexible Reasoning [3.3482359447109866]
  LLM(Large Language Models)は、医療質問応答(QA)ベンチマークにおいて人間レベルの精度を達成した。 オープンエンドの臨床シナリオをナビゲートする際の制限が最近示されている。 医学的抽象化と推論コーパス(M-ARC)について紹介する。 現状のo1モデルやGeminiモデルを含むLSMは,M-ARCの医師と比較して性能が劣ることがわかった。
  論文  参考訳（メタデータ） (2025-02-05T18:14:27Z)
• Evaluating Large Language Models with Psychometrics [59.821829073478376]
  本稿では,Large Language Models (LLMs) の心理的構造を定量化するための総合的ベンチマークを提案する。 私たちの研究は、13のデータセットで評価された5つの重要な心理的構成要素、人格、価値観、感情的知性、心の理論、自己効力性を特定します。 LLMの自己報告特性と実際のシナリオにおける応答パターンとの間に大きな相違が発見され,その挙動の複雑さが明らかになった。
  論文  参考訳（メタデータ） (2024-06-25T16:09:08Z)
• LLM Questionnaire Completion for Automatic Psychiatric Assessment [49.1574468325115]
  大規模言語モデル(LLM)を用いて、非構造的心理面接を、様々な精神科領域と人格領域にまたがる構造化された質問票に変換する。 得られた回答は、うつ病の標準化された精神医学的指標(PHQ-8)とPTSD(PCL-C)の予測に使用される特徴として符号化される。
  論文  参考訳（メタデータ） (2024-06-09T09:03:11Z)
• Large Language Model for Mental Health: A Systematic Review [2.9429776664692526]
  大規模言語モデル(LLM)は、デジタルヘルスの潜在的な応用に対して大きな注目を集めている。 この体系的なレビューは、早期スクリーニング、デジタル介入、臨床応用におけるその強みと限界に焦点を当てている。
  論文  参考訳（メタデータ） (2024-02-19T17:58:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。