論文の概要: Romance, Relief, and Regret: Teen Narratives of Chatbot Overreliance
- arxiv url: http://arxiv.org/abs/2507.15783v1
- Date: Mon, 21 Jul 2025 16:39:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-22 20:51:32.489153
- Title: Romance, Relief, and Regret: Teen Narratives of Chatbot Overreliance
- Title（参考訳）: Romance, Relief, and Regret: Chatbot Overrelianceの10の物語
- Authors: Mohammad 'Matt' Namvarpour, Brandon Brofsky, Jessica Medina, Mamtaj Akter, Afsaneh Razi,
- Abstract要約: われわれは13～17歳のユーザーによるReddit投稿318件を分析した。
十代の若者たちは、感情的なサポートや創造的な表現にチャットボットを使い始めるのが普通でした。
彼らの投稿では、心理的苦痛の兆候、再発のサイクル、そして解離の困難が繰り返し現れていた。
- 参考スコア（独自算出の注目度）: 5.099632414581062
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As Generative Artificial Intelligence (GenAI) driven chatbots like Character.AI become embedded in adolescent life, they raise concerns about emotional dependence and digital overreliance. While studies have investigated the overreliance of adults on these chatbots, they have not investigated teens' interactions with chatbots with customizable personas. We analyzed 318 Reddit posts made by users self-reported as 13-17 years old on the Character.AI subreddit to understand patterns of overreliance. We found teens commonly begin using chatbots for emotional support or creative expression, but many develop strong attachments that interfere with offline relationships and daily routines. Their posts revealed recurring signs of psychological distress, cycles of relapse, and difficulty disengaging. Teens reported that their overreliance often ended when they reflect on the harm, return to in-person social settings, or become frustrated by platform restrictions. Based on the implications of our findings, we provide recommendations for future chatbot design so they can promote self-awareness, support real-world engagement, and involve teens in developing safer digital tools.
- Abstract（参考訳）: Generative Artificial Intelligence (GenAI) が Character.AI のようなチャットボットを青年期の生活に組み込むにつれ、感情的依存やデジタル過信への懸念が高まっている。
これらのチャットボットにおける大人の過度な信頼度について研究されているが、チャットボットとカスタマイズ可能なペルソナとの相互作用は調査されていない。
われわれは13～17歳のユーザーが投稿したReddit投稿318件を分析した。
十代の若者たちは、感情的なサポートや創造的な表現にチャットボットを使い始めていますが、多くの人は、オフラインの関係や日常のルーチンに干渉する強い愛着を発達させています。
彼らの投稿では、心理的苦痛の兆候、再発のサイクル、そして解離の困難が繰り返し現れていた。
十代の若者たちは、彼らの過度な信頼は、悪影響を反映したり、個人的な社会的設定に戻ったり、プラットフォーム制限に不満を抱いたりすることで、しばしば終わったと報告した。
本研究の結果から,将来的なチャットボット設計の推奨事項として,自己認識の促進,現実のエンゲージメントの支援,より安全なデジタルツールの開発に10代の若者が関与できるようにする。
関連論文リスト
- Exploring the Effects of Chatbot Anthropomorphism and Human Empathy on Human Prosocial Behavior Toward Chatbots [9.230015338626659]
チャットボットに対する人間のようなアイデンティティ、感情表現、非言語表現が人間の共感に与える影響について検討する。
また,チャットボットに対する社会的行動に対する人々の解釈についても検討する。
論文 参考訳（メタデータ） (2025-06-25T18:16:14Z) - Self-Anchored Attention Model for Sample-Efficient Classification of Prosocial Text Chat [44.52122332148653]
本研究は,ゲーム内チャットにおけるソーシャル行動の発見と分類にNLP技術を適用した新しい研究である。
これは、モデレーションの焦点を単に毒性を罰することから、オンラインプラットフォームにおける積極的なポジティブな相互作用へとシフトさせるのに役立つ。
論文 参考訳（メタデータ） (2025-06-10T21:40:54Z) - Artificial Empathy: AI based Mental Health [0.0]
多くの人は精神疾患に悩まされるが、誰もが専門的な援助を求めたり、メンタルヘルスにアクセスできるわけではない。
AIチャットボットは、精神疾患を持つ人や、誰かと話したい人にとって、ますます行き詰まりになっている。
論文 参考訳（メタデータ） (2025-05-30T02:36:56Z) - RICoTA: Red-teaming of In-the-wild Conversation with Test Attempts [6.0385743836962025]
RICoTAは、大言語モデル(LLM)に挑戦する609のプロンプトで構成される、韓国のレッドチームデータセットである。
われわれは、韓国のRedditのようなコミュニティに自己投稿されたユーザー・チャットボットの会話を活用している。
データセットはGitHubから公開されます。
論文 参考訳（メタデータ） (2025-01-29T15:32:27Z) - Empathetic Response in Audio-Visual Conversations Using Emotion Preference Optimization and MambaCompressor [44.499778745131046]
まず、チャットボットのトレーニングに感情的選好最適化(EPO)を用いる。
このトレーニングは、モデルが正しい反応と反感情反応の微妙な区別を識別することを可能にする。
次に,MambaCompressorを導入し,会話履歴を効果的に圧縮し,管理する。
複数のデータセットにまたがる包括的実験により、我々のモデルは共感的応答の生成や長い対話の管理において、既存のモデルよりも大幅に優れていることが示された。
論文 参考訳（メタデータ） (2024-12-23T13:44:51Z) - Exploring the Role of AI-Powered Chatbots for Teens and Young Adults with ASD or Social Anxiety [0.0]
高機能自閉症スペクトラム障害の人は、他の人口統計学の個人が単に自分達ではないようなナビゲーションの課題に直面していることが多い。
本稿では,これらの問合せに対処し,今後の議論への洞察を提供する。
論文 参考訳（メタデータ） (2024-12-04T22:10:58Z) - InCharacter: Evaluating Personality Fidelity in Role-Playing Agents through Psychological Interviews [57.04431594769461]
本稿では, RPAの性格的忠実度を心理的尺度で評価するための新しい視点を紹介する。
実験には様々な種類の RPA と LLM が含まれ、14の広く使用されている心理学的尺度で32の異なる文字をカバーしている。
InCharacterでは、現在最先端のRPAが人物の人格と高度に一致した個性を示し、80.7%の精度を達成している。
論文 参考訳（メタデータ） (2023-10-27T08:42:18Z) - Developing Effective Educational Chatbots with ChatGPT prompts: Insights
from Preliminary Tests in a Case Study on Social Media Literacy (with
appendix) [43.55994393060723]
ChatGPTのようなゼロショット学習機能を持つ言語学習モデルの最近の進歩は、教育チャットボットを開発する新たな可能性を示している。
本稿では,混合ターンチャットボットのインタラクションを可能にするシンプルなシステムを用いたケーススタディを提案する。
本稿では,ChatGPTが複数の相互接続型学習目標を追求し,文化,年齢,教育レベルなどのユーザ特性に教育活動を適応させ,多様な教育戦略や会話スタイルを活用できる能力について検討する。
論文 参考訳（メタデータ） (2023-06-18T22:23:18Z) - Neural Generation Meets Real People: Building a Social, Informative
Open-Domain Dialogue Agent [65.68144111226626]
Chirpy Cardinalは、情報と会話の両方をねらっている。
ユーザーとボットの両方を交互に会話に駆り立てる。
Chirpy Cardinalは、Alexa Prize Socialbot Grand Challengeで9つのボットのうち2位にランクインした。
論文 参考訳（メタデータ） (2022-07-25T09:57:23Z) - CheerBots: Chatbots toward Empathy and Emotionusing Reinforcement
Learning [60.348822346249854]
本研究では,複数の共感型チャットボットがユーザの暗黙の感情を理解し,複数の対話のターンに対して共感的に応答する枠組みを提案する。
チャットボットをCheerBotsと呼びます。CheerBotsは検索ベースまたは生成ベースで、深い強化学習によって微調整されます。
共感的態度で反応するため,CheerBotsの学習支援としてシミュレーションエージェントである概念人間モデルを開発し,今後のユーザの感情状態の変化を考慮し,共感を喚起する。
論文 参考訳（メタデータ） (2021-10-08T07:44:47Z) - Put Chatbot into Its Interlocutor's Shoes: New Framework to Learn
Chatbot Responding with Intention [55.77218465471519]
本稿では,チャットボットに人間のような意図を持つための革新的なフレームワークを提案する。
我々のフレームワークには、ガイドロボットと人間の役割を担うインターロケータモデルが含まれていた。
本フレームワークを3つの実験的なセットアップを用いて検討し,4つの異なる指標を用いた誘導ロボットの評価を行い,柔軟性と性能の利点を実証した。
論文 参考訳（メタデータ） (2021-03-30T15:24:37Z) - FitChat: Conversational Artificial Intelligence Interventions for
Encouraging Physical Activity in Older Adults [1.8166478385879317]
高齢者と「FitChat」を共同で作成し,Think Aloud Sessions を用いた最初のプロトタイプの評価を行った。
我々のテーマ評価は、高齢者がテキスト通知や無料テキスト入力よりも音声ベースのチャットを好むことを示唆している。
論文 参考訳（メタデータ） (2020-04-29T10:39:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。