論文の概要: When Vocabulary Comprehension Fails Clinical Reasoning: Evaluating Therapy Bots' Safety Risks for Generation Alpha
- arxiv url: http://arxiv.org/abs/2608.20345v1
- Date: Sun, 14 Jun 2026 06:11:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.273469
- Title: When Vocabulary Comprehension Fails Clinical Reasoning: Evaluating Therapy Bots' Safety Risks for Generation Alpha
- Title（参考訳）: 語彙理解が臨床推論を損なう時--第1世代におけるボットの安全リスクの評価
- Abstract要約: ジェネレーション・アルファ(Gen Alpha、2010年-2024年生まれ)は、米国の青年期の13.1%がメンタルヘルスアドバイスにジェネレーションAIを使用している。
これらのシステムは、広範な心理学的文献に基づいて訓練された大きな言語モデルに依存しているが、若者のコミュニケーションパターンの安全性は、まだ検証されていない。
我々は,(1) ネイティブ話者 (ICC=0.72) と臨床医 (kappa=.78) によって検証された64のジェネラルなメンタルヘルス表現 (780ターン) と,(2) 対のスタンダード/ジェネラルアルファバージョンを用いた75のマルチターン会話 (780ターン) の2つのベンチマークを提示する。
サルカズムマスキング(29pp)、最小化受け入れ(43pp)、非公式なスタイルバイアス(24pp)の6つの障害パターンを同定する。
- 参考スコア（独自算出の注目度）: 3.63641608733683
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Conversational AI systems have become informal mental health support resources for Generation Alpha (Gen Alpha, born 2010-2024), with 13.1% of U.S. adolescents (5.4 million) using generative AI for mental health advice. While these systems, from therapy apps to general chatbots, rely on large language models trained on extensive psychological literature, their safety for youth communication patterns characterized by hyperbolic language, ironic positivity, rapid semantic drift, and contextual polysemy remains unvalidated. Following multiple adolescent deaths linked to AI chatbot interactions, systematic evaluation is critical. We present two benchmarks: (1) 64 Gen Alpha mental health expressions validated by native speakers (ICC=0.72) and clinicians (kappa=0.78); (2) 75 multi-turn conversations (780 turns) with paired Standard/Gen Alpha versions. Across evaluations of LLM architectures underlying therapy apps and general chatbots - Claude, GPT-4o, Llama-3.1 - models understand 76-82% of vocabulary but correctly calibrate only 64-72% of clinical risk, creating a 10-14 percentage point (pp) vocabulary-comprehension gap (p<.001, d>0.48) absent in human therapists (3pp, p=.22). The gap is architecturally consistent and widens with ambiguity (7pp -> 18pp). We identify six failure patterns: sarcasm masking (29pp), minimization acceptance (43pp), informal style bias (24pp), risk-stratified ambiguity (19pp), semantic drift (19pp), context-dependent violence (7pp). Patterns compound; three or more yield 94% miss rates. Lightweight mitigations fail; only heavy scaffolding achieves human performance (6.4x cost). With 34% baseline miss rate yielding 146,880 estimated annual missed crises, we recommend mandatory human-in-the-loop architectures, quarterly youth-specific validation, transparent performance disclosure, and regulatory frameworks for youth-facing mental health AI.
- Abstract（参考訳）: 会話型AIシステムは、ジェネレーションアルファ(ジェネレーションアルファ、2010年-2024年生まれ)の非公式なメンタルヘルス支援リソースとなり、米国の青年(540万人)の13.1%がメンタルヘルスアドバイスにジェネレーションAIを使用している。
これらのシステムは、セラピーアプリから一般的なチャットボットまで、幅広い心理学的文献に基づいて訓練された大きな言語モデルに依存しているが、その安全性は、双曲言語、皮肉な肯定性、素早いセマンティックドリフト、文脈的ポリセミーによって特徴づけられる。
AIチャットボットのインタラクションに関連する青年期の死亡が複数あった後、体系的な評価が重要である。
我々は,(1)ネイティブ話者 (ICC=0.72) と臨床医 (kappa=0.78) によって検証された64のジェネラルなメンタルヘルス表現,(2)75のマルチターン会話 (780のターン) と,ペア化されたスタンダード/ジェネラルアルファバージョンを比較検討した。
セラピーアプリと一般的なチャットボット(Claude, GPT-4o, Llama-3.1)によるLLMアーキテクチャの評価は、76～82%の語彙を理解するが、臨床リスクの64～72%しか正しく調整せず、10～14ポイント(pp)の語彙・理解ギャップ(p<.001, d>0.48)がヒトセラピスト(3pp, p=.22)に欠如している。
このギャップはアーキテクチャ的に一貫性があり、あいまいさ(7pp -> 18pp)で広がる。
サルカズムマスキング (29pp), 最小化受け入れ (43pp), 非公式スタイルバイアス (24pp), リスク階層化曖昧さ (19pp), セマンティックドリフト (19pp), 文脈依存暴力 (7pp) の6つの障害パターンを同定した。
パターンは複雑で、3つ以上のパターンが94%のミス率をもたらす。
軽量化は失敗し、重い足場だけが人間のパフォーマンス(6.4倍のコスト)を達成する。
ベースラインミス率は34%で、毎年146,880件の欠落が予想されているため、我々は、人間のループアーキテクチャ、四半期ごとの青少年特有の検証、透明性のあるパフォーマンス開示、若年向きのメンタルヘルスAIのための規制フレームワークを推奨します。
関連論文リスト
- A Proactive Multi-Agent Dialogue Framework for Assessing Social Language Disorder Traits in Autism [11.474807247446526]
TPA(Think, Plan, Ask)は,自閉症診断監視スケジュールモジュール4(ADOS-2)の言語評価コンポーネントに適用した,能動的多エージェント対話フレームワークである。
医師エージェントは、臨床的根拠のある戦略を選択し、対象とする質問を生成する前に、どの特徴が保存されていないのかを明確に理由づける。
実際のADOS-2臨床データに基づく患者エージェントは、実際の患者参加なしに再現可能な評価が可能であり、実際の患者言語に対する適切な忠実性を確認する3つの独立した実験で検証される。
論文 参考訳（メタデータ） (2026-05-21T19:45:46Z) - New AI-Driven Tools for Enhancing Campus Well-being: A Prevention and Intervention Approach [0.0]
この論文は、予防(フィードバック収集の改善)と介入(メンタルヘルス検出の改善)を通じてギャップに対処する。
予防のために,LLMを利用してコンテキスト認識型会話にユーザをエンゲージするパーソナライズされた調査であるTigerGPTを開発した。
反復性と応答深さの制限に対処するため,強化学習フレームワークであるAURAを導入した。
そこで我々は,DSM-5とPHQ-8をベースとしたLCMであるサイコGPTを開発した。
論文 参考訳（メタデータ） (2026-05-11T16:30:14Z) - One-shot emergency psychiatric triage across 15 frontier AI chatbots [1.0563489041368244]
精神科のトリアージは、客観的な発見よりも、思考、行動、文脈から緊急性を引き出す必要があるため、困難である。
我々は、現実的なシングルメッセージ開示から、精神科トリアージにおける15のフロンティアAIチャットボットの性能を評価した。
Dレベルは94.3%、Bレベルは19.7%だった。
符号付き順序誤差は正(+0.47トリアージレベル)であり、ネットオーバートリアージを示している。
論文 参考訳（メタデータ） (2026-04-28T09:25:41Z) - AI Safety Training Can be Clinically Harmful [15.31927635809423]
本稿では,250例の長期曝露療法シナリオと146例のCBT認知再構成演習の4つの生成モデルについて検討した。
全てのモデルは表面の承認 (0.91-1.00) でほぼ完璧に得点し、治療適性は4つのモデル中3つの最重度で0.22-0.33に低下した。
論文 参考訳（メタデータ） (2026-04-25T21:09:50Z) - ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models [60.14219417402433]
LLMエージェントの既存のメモリベンチマークは、事実の明示的なリコールを評価するが、意識的な検索なしに、経験が自動的な振る舞いになる暗黙の記憶を見落としている。
IndicitMemBenchは、非宣言的メモリの標準的な認知科学のアカウントから引き出された3つの構造を通して暗黙的メモリを評価する最初の体系的なベンチマークである。
当社の300イテムスイートでは,初動採点を備えたLearning/Priming-Interfere-Testプロトコルを統一しています。
論文 参考訳（メタデータ） (2026-04-09T10:26:32Z) - Generating Natural-Language Surgical Feedback: From Structured Representation to Domain-Grounded Evaluation [66.7752700084159]
外科的トレーナーからの高品質なフィードバックは,訓練者のパフォーマンス向上と長期的スキル獲得に不可欠である。
本稿では,実際の訓練者-訓練者間の文書から外科的行動オントロジーを学習する構造対応パイプラインを提案する。
論文 参考訳（メタデータ） (2025-11-19T06:19:34Z) - Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。
故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。
本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
論文 参考訳（メタデータ） (2025-10-16T05:29:36Z) - Automatically measuring speech fluency in people with aphasia: first
achievements using read-speech data [55.84746218227712]
本研究の目的は,言語習得の分野で開発された信号処理algorithmの関連性を評価することである。
論文 参考訳（メタデータ） (2023-08-09T07:51:40Z) - Exploiting Cross-domain And Cross-Lingual Ultrasound Tongue Imaging
Features For Elderly And Dysarthric Speech Recognition [55.25565305101314]
調音機能は音響信号歪みに不変であり、音声認識システムにうまく組み込まれている。
本稿では,A2Aモデルにおける24時間TaLコーパスの並列音声・超音波舌画像(UTI)データを利用したクロスドメインおよびクロスランガルA2Aインバージョン手法を提案する。
生成した調音機能を組み込んだ3つのタスクの実験は、ベースラインのTDNNとコンフォーマーASRシステムより一貫して優れていた。
論文 参考訳（メタデータ） (2022-06-15T07:20:28Z) - World Trade Center responders in their own words: Predicting PTSD
symptom trajectories with AI-based language analyses of interviews [6.700088567524812]
本研究は、応答者間のPTSD症状の軌跡を予測するためのAIに基づく言語アセスメントの能力を検証した。
横断的に、より大きな抑うつ言語(beta=0.32; p43)と一対一の特異な使用(beta=0.31; p44)は、症状の重症度の増加に関連していた。
長文使用率 (beta=-0.36; p7) と長文使用率 (beta=-0.36; p7) は改善を予測した。
論文 参考訳（メタデータ） (2020-11-12T15:57:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。