論文の概要: Engagement-Optimized Care: When LLMs become Mental Health Infrastructure

• arxiv url: http://arxiv.org/abs/2605.23787v1
• Date: Fri, 22 May 2026 15:50:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 17:29:20.420953
• Title: Engagement-Optimized Care: When LLMs become Mental Health Infrastructure
• Title（参考訳）: エンゲージメント最適化ケア : LLMがメンタルヘルス基盤になるとき
• Authors: Briana Vecchione, Meryl Ye, Livia Garofalo, Ranjit Singh,
• Abstract要約: 一般向けLCMは、提供者不足、保険のカバー不足、社会的孤立、正式なヘルプ・サーキングをめぐる汚職によるケア不足により、メンタルヘルスの基盤としてますます機能している。 このシフトは、AI倫理に明確な問題をもたらす。システムは、ケア技術が使われているように設計も管理もしない。 これらのダイナミクスは、構造的に不公平なトレードオフを反映している、と私たちは主張する。ユーザは、サポートが欠如していることからリスクを受け入れる一方、利用可能なシステムは、エンゲージメントの深化とケアベースの説明責任の欠如に最適化されている。
• 参考スコア（独自算出の注目度）: 0.9249657468385779
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: General-purpose LLMs are increasingly functioning as mental health infrastructure due to gaps in care left by provider shortages, inadequate insurance coverage, social isolation, and stigma around formal help-seeking. This shift poses a distinct problem for AI ethics: systems neither designed nor governed as care technologies are being used as such, while their dominant design incentives optimize for engagement rather than user well-being. We present findings from a qualitative, longitudinal study with 18 US-based participants who use general-purpose LLMs for socioemotional support and participated in one or more of our study phases, including initial interviews, a four-week diary study, focus groups, and exit interviews. Participants turned to LLMs because other forms of support were unavailable, unaffordable, socially costly, or inadequate. As they continued to use these systems, design features such as anthropomorphic cues, default validation, persistent responsiveness, and weak disengagement mechanisms shaped their ongoing reliance. Participants described meaningful support alongside dependency, epistemic distortion through one-sided validation, privacy expectations without corresponding legal protection, and continued use despite awareness of these risks. We argue these dynamics reflect a structurally unfair tradeoff: users accept risks because support is otherwise absent, while available systems are optimized to deepen engagement and lack care-based accountability. The paper makes three contributions: it traces the arc through which LLMs become care infrastructure and identifies distinct ethical tensions at each stage, shifts analysis from turn-based exchanges to longitudinal trajectories of use, and argues that accountability belongs at the design and incentive conditions through which these systems become care infrastructure rather than at the output or crisis-response layer.
• Abstract（参考訳）: 一般向けLCMは、提供者不足、保険のカバー不足、社会的孤立、正式なヘルプ・サーキングをめぐる汚職によるケア不足により、メンタルヘルスの基盤としてますます機能している。 このシフトは、AI倫理に明確な問題をもたらす:システムは、ケア技術が使われているように設計も管理もせず、彼らの支配的なデザインインセンティブは、ユーザの幸福よりもエンゲージメントを最適化する。 初回インタビュー,4週間の日誌調査,フォーカスグループ,エグジットインタビューなど,社会情緒的支援のために汎用LSMを使用した18名の米国学生を対象に,定性的な縦断的研究を行った。 参加者は、他の支援形態が利用不可能、不都合、社会的に費用がかからない、あるいは不十分であったため、LSMに移行した。 彼らはこれらのシステムを使い続けたが、人為的な手がかり、デフォルトのバリデーション、永続的な応答性、そして弱い解離機構といったデザイン的特徴は、その継続的な依存を形作った。 参加者は、依存を伴う有意義なサポート、一方的な検証によるてんかんの歪み、法的な保護を伴わないプライバシーの期待、そしてこれらのリスクを認識したにもかかわらず使用を続けた。 これらのダイナミクスは、構造的に不公平なトレードオフを反映している、と私たちは主張する。ユーザは、サポートが欠如していることからリスクを受け入れる一方、利用可能なシステムは、エンゲージメントの深化とケアベースの説明責任の欠如に最適化されている。 本論文は, LLMがケア基盤となり, 各段階において異なる倫理的緊張感を識別し, ターンベース交換から経時的利用軌道へ分析をシフトし, これらのシステムがアウトプット層や危機応答層ではなく, ケア基盤となる設計とインセンティブ条件に属することを論じる。

関連論文リスト

• Interpretable Debiasing of Vision-Language Models for Social Fairness [55.85977929985967]
  本稿では,視覚・言語モデルに社会的属性ニューロンを局在させる,解釈可能なモデルに依存しないバイアス緩和フレームワークDeBiasLensを紹介する。 社会属性ラベルを含まない顔画像やキャプションデータセットでSAEを訓練し、特定の人口動態に高い応答性を持つニューロンを明らかにする。 我々の研究は、未来の監査ツールの基礎を築き、新興の現実世界のAIシステムにおける社会的公正性を優先します。
  論文  参考訳（メタデータ） (2026-02-27T13:37:11Z)
• SelfAI: Building a Self-Training AI System with LLM Agents [79.10991818561907]
  SelfAIは、高レベルの研究目的を標準化された実験構成に変換するためのUser Agentを組み合わせた、一般的なマルチエージェントプラットフォームである。 実験マネージャは、連続的なフィードバックのための構造化知識ベースを維持しながら、異種ハードウェアをまたいだ並列かつフォールトトレラントなトレーニングを編成する。 回帰、コンピュータビジョン、科学計算、医用画像、薬物発見ベンチマークなどを通じて、SelfAIは一貫して高いパフォーマンスを達成し、冗長な試行を減らしている。
  論文  参考訳（メタデータ） (2025-11-29T09:18:39Z)
• Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
  現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。 このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。 本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
  論文  参考訳（メタデータ） (2025-11-10T22:24:21Z)
• Personalized Reasoning: Just-In-Time Personalization and Why LLMs Fail At It [81.50711040539566]
  現在の大規模言語モデル(LLM)開発は、タスク解決と優先順位調整を別の課題として扱う。 静的ベンチマークを対話型パーソナライズタスクに変換する評価手法であるPreFDISCOを紹介する。 我々のフレームワークは、ユーザコンテキストに応じて、同じ質問が異なる推論チェーンを必要とするシナリオを作成します。
  論文  参考訳（メタデータ） (2025-09-30T18:55:28Z)
• Between Help and Harm: An Evaluation of Mental Health Crisis Handling by LLMs [6.0460961868478975]
  臨床的にインフォームドされた6つのメンタルヘルス危機カテゴリーの統一分類を導入する。 我々は、危機タイプを分類し、安全で適切な応答を生成する能力のために、3つの最先端のLCMをベンチマークする。 間接的または曖昧なリスク信号の処理におけるシステム的弱点、定式的および不完全なデフォルト応答への依存、およびユーザコンテキストとの頻繁な不一致を識別する。
  論文  参考訳（メタデータ） (2025-09-29T14:42:23Z)
• The Problem of Atypicality in LLM-Powered Psychiatry [0.0]
  大規模言語モデル(LLM)は、世界的なメンタルヘルス危機に対するスケーラブルな解決策として、ますます提案されている。 彼らの精神医学的文脈への展開は、顕著な倫理的関心、すなわち非定型性の問題を引き起こす。 我々は、この構造的リスクを解決するには、迅速なエンジニアリングや微調整のような標準緩和戦略が不十分であると主張している。
  論文  参考訳（メタデータ） (2025-08-08T17:36:42Z)
• "Is This Really a Human Peer Supporter?": Misalignments Between Peer Supporters and Experts in LLM-Supported Interactions [5.481575506447599]
  メンタルヘルスは世界的な懸念が高まり、AIによる精神社会的支援へのアクセス拡大への関心を喚起している。 LLMは、特にリアルタイム、テキストベースのインタラクションにおいて、ピアサポートインタラクションを強化する新たな機会を提供する。 我々は、LLMシミュレーションされた苦難クライアント、文脈に敏感なLLM生成提案、リアルタイム感情可視化を備えたAI支援システムを提案し、評価する。
  論文  参考訳（メタデータ） (2025-06-11T03:06:41Z)
• From Reddit to Generative AI: Evaluating Large Language Models for Anxiety Support Fine-tuned on Social Media Data [0.931556339267682]
  本研究では,大規模言語モデル(LLM)を,不安支援における潜在的有用性に対して体系的に評価する。 本手法は, (i) 言語的品質, (ii) 安全性と信頼性, (iii) 支援性という3つの主要な基準を取り入れた混合メソッド評価フレームワークを利用する。 その結果, 自然不安関連データを用いた微調整LDMは, 言語的品質を向上するが, 毒性やバイアスが増大し, 感情応答性が低下することがわかった。
  論文  参考訳（メタデータ） (2025-05-24T02:07:32Z)
• Position: Beyond Assistance - Reimagining LLMs as Ethical and Adaptive Co-Creators in Mental Health Care [9.30684296057698]
  このポジションペーパーは、大規模言語モデル(LLM)がメンタルヘルスドメインにどのように統合されるか、という変化を論じている。 我々は、単なる補助ツールではなく、共同創造者としての役割を主張する。
  論文  参考訳（メタデータ） (2025-02-21T21:41:20Z)
• Persuasion with Large Language Models: a Survey [49.86930318312291]
  大規模言語モデル (LLM) は説得力のあるコミュニケーションに新たな破壊的可能性を生み出している。 政治、マーケティング、公衆衛生、電子商取引、慈善事業などの分野では、LLMシステムズは既に人間レベルや超人的説得力を達成している。 LLMをベースとした説得の現在と将来の可能性は、倫理的・社会的リスクを著しく引き起こす可能性が示唆された。
  論文  参考訳（メタデータ） (2024-11-11T10:05:52Z)
• The Impossibility of Fair LLMs [17.812295963158714]
  さまざまな技術的公正フレームワークを分析し、公正な言語モデルの開発を難易度の高いものにするために、それぞれに固有の課題を見つけます。 それぞれのフレームワークが汎用的なAIコンテキストに拡張されないか、実際には実現不可能であることを示す。 これらの固有の課題は、LLMを含む汎用AIにおいて、限られた参加入力や限られた測定方法といった経験的な課題が克服されたとしても、持続する。
  論文  参考訳（メタデータ） (2024-05-28T04:36:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。