論文の概要: Exploring User Security and Privacy Attitudes and Concerns Toward the Use of General-Purpose LLM Chatbots for Mental Health

• arxiv url: http://arxiv.org/abs/2507.10695v1
• Date: Mon, 14 Jul 2025 18:10:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-16 19:46:02.826913
• Title: Exploring User Security and Privacy Attitudes and Concerns Toward the Use of General-Purpose LLM Chatbots for Mental Health
• Title（参考訳）: 一般目的LLMチャットボットのメンタルヘルスへの利用に向けてのユーザセキュリティとプライバシ意識と課題
• Authors: Jabari Kwesi, Jiaxun Cao, Riya Manchanda, Pardis Emami-Naeini,
• Abstract要約: 感情支援のためのLarge Language Model (LLM) 対応の会話エージェントは、個人によってますます利用されている。 ユーザーのプライバシーとセキュリティの懸念、態度、期待を測る実験的な研究はほとんどない。 批判的な誤解とリスク意識の欠如を識別する。 我々は,ユーザのメンタルヘルスの開示を保護するための勧告を提案する。
• 参考スコア（独自算出の注目度）: 5.3052849646510225
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Individuals are increasingly relying on large language model (LLM)-enabled conversational agents for emotional support. While prior research has examined privacy and security issues in chatbots specifically designed for mental health purposes, these chatbots are overwhelmingly "rule-based" offerings that do not leverage generative AI. Little empirical research currently measures users' privacy and security concerns, attitudes, and expectations when using general-purpose LLM-enabled chatbots to manage and improve mental health. Through 21 semi-structured interviews with U.S. participants, we identified critical misconceptions and a general lack of risk awareness. Participants conflated the human-like empathy exhibited by LLMs with human-like accountability and mistakenly believed that their interactions with these chatbots were safeguarded by the same regulations (e.g., HIPAA) as disclosures with a licensed therapist. We introduce the concept of "intangible vulnerability," where emotional or psychological disclosures are undervalued compared to more tangible forms of information (e.g., financial or location-based data). To address this, we propose recommendations to safeguard user mental health disclosures with general-purpose LLM-enabled chatbots more effectively.
• Abstract（参考訳）: 個人は感情的支援のために、大規模言語モデル(LLM)対応の会話エージェントにますます依存している。 これまでの研究では、メンタルヘルスのために特別に設計されたチャットボットのプライバシーとセキュリティの問題を調査してきたが、これらのチャットボットは、生成AIを活用しない圧倒的に“ルールベース”な製品である。 現在、ユーザーのプライバシーとセキュリティに関する懸念、態度、そして精神の健康管理と改善に汎用のLLM対応チャットボットを使用する際の期待を測る実験的な研究はほとんどない。 半構造化された21の米国参加者へのインタビューを通じて、批判的な誤解とリスク認識の全般的欠如を特定した。 参加者は、LLMが示す人間的な共感と人間的な説明責任を混同し、これらのチャットボットとの相互作用は、ライセンスされたセラピストとの開示と同じ規則(例:HIPAA)によって保護されていると誤って信じていた。 より具体的な情報(例えば、財務データや位置情報データ)と比較して、感情的・心理的開示が過小評価される「無形脆弱性」の概念を導入する。 そこで本稿では,汎用LLM対応チャットボットによるユーザのメンタルヘルス開示をより効果的に保護するためのレコメンデーションを提案する。

関連論文リスト

• Artificial Empathy: AI based Mental Health [0.0]
  多くの人は精神疾患に悩まされるが、誰もが専門的な援助を求めたり、メンタルヘルスにアクセスできるわけではない。 AIチャットボットは、精神疾患を持つ人や、誰かと話したい人にとって、ますます行き詰まりになっている。
  論文  参考訳（メタデータ） (2025-05-30T02:36:56Z)
• AI Chatbots for Mental Health: Values and Harms from Lived Experiences of Depression [5.093381538166489]
  この研究は、生きた経験値、潜在的な害、およびメンタルヘルスAIチャットボットのためのデザインレコメンデーションの関係について調査する。 我々は、GPT-4oベースのチャットボットZennyを開発した。 私たちのテーマ分析では、情報的サポート、感情的サポート、パーソナライゼーション、プライバシ、危機管理といった重要な価値を明らかにしました。
  論文  参考訳（メタデータ） (2025-04-26T14:17:25Z)
• "It Listens Better Than My Therapist": Exploring Social Media Discourse on LLMs as Mental Health Tool [1.223779595809275]
  大きな言語モデル(LLM)は、会話の流布、共感シミュレーション、可用性の新機能を提供する。 本研究では,1万件以上のTikTokコメントを分析し,LLMをメンタルヘルスツールとして利用する方法について検討した。 その結果、コメントの20%近くが個人利用を反映しており、これらのユーザーは圧倒的に肯定的な態度を示している。
  論文  参考訳（メタデータ） (2025-04-14T17:37:32Z)
• EmoAgent: Assessing and Safeguarding Human-AI Interaction for Mental Health Safety [42.052840895090284]
  EmoAgentは、人間とAIのインタラクションにおけるメンタルヘルスハザードの評価と緩和を目的とした、マルチエージェントAIフレームワークである。 EmoEvalは、精神的に脆弱な個人を含む仮想ユーザをシミュレートして、AI文字との対話前後のメンタルヘルスの変化を評価する。 EmoGuardは仲介役として機能し、ユーザーのメンタルステータスを監視し、潜在的な害を予測し、リスクを軽減するための修正的なフィードバックを提供する。
  論文  参考訳（メタデータ） (2025-04-13T18:47:22Z)
• Towards Privacy-aware Mental Health AI Models: Advances, Challenges, and Opportunities [61.633126163190724]
  精神病は、社会的、個人的コストがかなり高い広範囲で不安定な状態である。 近年の人工知能(AI)の進歩は、うつ病、不安障害、双極性障害、統合失調症、外傷後ストレス障害などの病態を認識し、対処するための大きな可能性を秘めている。 データセットやトレーニング済みモデルからの機密データ漏洩のリスクを含むプライバシー上の懸念は、これらのAIシステムを実際の臨床環境にデプロイする上で、依然として重要な障壁である。
  論文  参考訳（メタデータ） (2025-02-01T15:10:02Z)
• Prompt Engineering a Schizophrenia Chatbot: Utilizing a Multi-Agent Approach for Enhanced Compliance with Prompt Instructions [0.0699049312989311]
  統合失調症の患者は、しばしば認知障害を伴い、自分の状態について学ぶ能力を妨げることがある。 大規模言語モデル(LLM)は、トピックのメンタルヘルス情報をよりアクセシビリティとエンゲージメントを高める可能性を秘めているが、それらのブラックボックスの性質は倫理と安全に関する懸念を喚起する。
  論文  参考訳（メタデータ） (2024-10-10T09:49:24Z)
• Roleplay-doh: Enabling Domain-Experts to Create LLM-simulated Patients via Eliciting and Adhering to Principles [58.82161879559716]
  ドメインエキスパートから定性的なフィードバックを引き出す新しい人間-LLMコラボレーションパイプラインであるRoleplay-dohを開発した。 このパイプラインを適用して、シニアメンタルヘルスサポーターが、シミュレートされた実践パートナのためにカスタマイズされたAI患者を作成できるようにします。
  論文  参考訳（メタデータ） (2024-07-01T00:43:02Z)
• NAP^2: A Benchmark for Naturalness and Privacy-Preserving Text Rewriting by Learning from Human [56.46355425175232]
  我々は,人間によって使用される2つの共通戦略を用いて,機密テキストの衛生化を提案する。 我々は,クラウドソーシングと大規模言語モデルの利用を通じて,NAP2という最初のコーパスをキュレートする。 匿名化に関する以前の研究と比較すると、人間に触発されたアプローチはより自然な書き直しをもたらす。
  論文  参考訳（メタデータ） (2024-06-06T05:07:44Z)
• The Typing Cure: Experiences with Large Language Model Chatbots for Mental Health Support [32.60242402941811]
  重度の苦痛を経験する人々は、メンタルヘルス支援ツールとしてLarge Language Model (LLM)チャットボットをますます使います。 本研究は、世界規模で多様なバックグラウンドを持つ21人の個人に対するインタビューに基づいて、ユーザが独自のサポートロールを作成する方法を分析する。 我々は、治療的アライメントの概念を導入するか、精神的な健康状況に対する治療的価値とAIを連携させる。
  論文  参考訳（メタデータ） (2024-01-25T18:08:53Z)
• Can LLMs Keep a Secret? Testing Privacy Implications of Language Models via Contextual Integrity Theory [82.7042006247124]
  私たちは、最も有能なAIモデルでさえ、人間がそれぞれ39%と57%の確率で、プライベートな情報を公開していることを示しています。 我々の研究は、推論と心の理論に基づいて、新しい推論時プライバシー保護アプローチを即時に探求する必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-10-27T04:15:30Z)
• ChatGPT for Us: Preserving Data Privacy in ChatGPT via Dialogue Text Ambiguation to Expand Mental Health Care Delivery [52.73936514734762]
  ChatGPTは人間のような対話を生成する能力で人気を集めている。 データに敏感なドメインは、プライバシとデータ所有に関する懸念から、ChatGPTを使用する際の課題に直面している。 ユーザのプライバシーを守るためのテキスト曖昧化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-19T02:09:52Z)
• Mental Illness Classification on Social Media Texts using Deep Learning and Transfer Learning [55.653944436488786]
  世界保健機関(WHO)によると、約4億5000万人が影響を受ける。 うつ病、不安症、双極性障害、ADHD、PTSDなどの精神疾患。 本研究では、Redditプラットフォーム上の非構造化ユーザデータを分析し、うつ病、不安、双極性障害、ADHD、PTSDの5つの一般的な精神疾患を分類する。
  論文  参考訳（メタデータ） (2022-07-03T11:33:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。