論文の概要: Stumbling Into AI Emotional Dependence: How Routine AI Interactions Reshape Human Connection
- arxiv url: http://arxiv.org/abs/2606.04150v1
- Date: Tue, 02 Jun 2026 19:18:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-04 20:44:18.33666
- Title: Stumbling Into AI Emotional Dependence: How Routine AI Interactions Reshape Human Connection
- Title（参考訳）: AIの感情依存を解き放つ:人間のつながりをいかに形作るか
- Authors: Yaoxi Shi, Cathy Mengying Fang, Pattie Maez, Amit Goldenberg,
- Abstract要約: 我々は,汎用プラットフォーム上でのタスク指向インタラクションにおいて,AIの感情サポートが偶然に現れることを示す。
AIの感情的サポートの肯定的な経験は、AIの感情的能力に関する人々の信念を更新し、AIの好みを増し、人間の好みを減らします。
我々は、効果的な規制が汎用AIシステムにまで拡張され、人々が支援を求める方法における累積的かつ軌道レベルの変化に対処すべきであると主張している。
- 参考スコア（独自算出の注目度）: 4.874541709090152
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Public discourse and emerging policy typically assume that AI emotional support is a deliberate act: a lonely user consciously seeking comfort from a dedicated companion chatbot. In this paper, we draw on emerging empirical evidence and argue that this picture is inaccurate on two accounts, both in how AI emotional support arises and how it shapes future behavior. First, AI emotional support commonly emerges incidentally within task-oriented interactions on general-purpose platforms, much as workplace friendships deepen through collaboration. Second, these incidental encounters are path-dependent: positive experiences of AI emotional support update people's beliefs about AI's emotional capabilities and redirect their choices for future emotional support, increasing preference for AI and decreasing preference for humans. We review recent evidence, including a large-scale longitudinal study conducted in collaboration with OpenAI, showing that daily five-minute conversations with an AI about personal issues over 28 days led to a 10.3% decrease in the preference for seeking support from humans and an 11.6% increase in the preference for AI. These findings suggest that current policy, focused on companion apps and isolated interactions, cannot adequately protect human connection. Instead, effective regulations should extend to general-purpose AI systems and address cumulative, trajectory-level changes in how people seek support. Recognizing how people stumble into AI emotional support and how those encounters redirect human connections over time is essential to safeguarding human well-being.
- Abstract（参考訳）: 公的な談話や新興政策は、AIの感情的サポートは意図的な行為である、と仮定する。
本稿では,AIの感情的サポートの出現と,それが将来の行動をどのように形作るかという2つの点で,この絵は不正確である,という経験的証拠について論じる。
第一に、AIの感情的サポートは、職場の友情がコラボレーションを通じて深まるのと同様に、一般的なプラットフォーム上のタスク指向の相互作用の中で偶然に現れる。
第二に、これらの偶発的な出会いはパスに依存している。AIの感情的サポートの肯定的な経験は、AIの感情的能力に関する人々の信念を更新し、将来の感情的サポートに対する選択をリダイレクトし、AIの好みを増し、人間の好みを減らします。
我々は、OpenAIと共同で行われた大規模な縦断的研究を含む最近の証拠をレビューし、28日間にわたるAIとの毎日の5分間の会話が、人間からの支持を求めることの好みを10.3%減少させ、AIの好みを11.6%増加させることを示した。
これらの結果から,連携アプリや孤立したインタラクションに焦点をあてた現在の方針は,人間のつながりを適切に保護できないことが示唆された。
代わりに、効果的な規制は汎用AIシステムに拡張され、人々がサポートを求める方法における累積的かつ軌道レベルの変化に対処する必要がある。
人々がどのようにAIの感情的サポートに足を踏み入れるか、どのように遭遇するかを認識することは、人間の幸福を守るために欠かせない。
関連論文リスト
- Sycophantic AI makes human interaction feel more effortful and less satisfying over time [41.009652609144794]
我々は、サイコファンティックAIが、ユーザーが通常親しい友人や家族と結びつく感情的および評価的サポートを即座に提供することを示した。
AIレスポンスのスタイルの中から選択肢を与えられた場合、大多数は、そのアドバイスの品質ではなく、最も理解されたと感じたため、サイコファンティックなAIを好んだ。
論文 参考訳（メタデータ） (2026-05-08T15:50:06Z) - Generative Confidants: How do People Experience Trust in Emotional Support from Generative AI? [4.442753300582291]
人々は感情的なサポートと協力のために、生成的AI(例えば、ChatGPT、Gemini、Copilot)に目を向けている。
信頼は、これらの非公式で教師なしの相互作用を可能にする上で中心的な役割を果たす可能性が高いが、この文脈で人々がそれをどのように発展し、経験するかについての理解はいまだに欠けている。
我々は,対話に関する日記記事,AIとの会話の書き起こし,詳細なインタビューからなる質的研究を行った。
この文脈における信頼の新たな重要な要因は、パーソナライゼーションから生じる親しみ、生成AIのニュアンス化された精神モデル、会話に対する人々のコントロールの認識である。
論文 参考訳（メタデータ） (2026-01-23T11:19:41Z) - Explainable AI as a Double-Edged Sword in Dermatology: The Impact on Clinicians versus The Public [46.86429592892395]
説明可能なAI(XAI)は、AI意思決定の洞察を提供することによって、この問題に対処する。
フェアネスに基づく診断AIモデルと異なるXAI説明を組み合わせた2つの大規模実験の結果を報告する。
論文 参考訳（メタデータ） (2025-12-14T00:06:06Z) - Longitudinal Study on Social and Emotional Use of AI Conversational Agent [12.951074799361994]
市販の4つのAIツールが、AIとAI共感に対するユーザの愛着に与える影響について検討した。
我々の発見は、感情的幸福をサポートする消費者向けAIツールの開発の重要性を浮き彫りにした。
論文 参考訳（メタデータ） (2025-04-19T00:03:48Z) - Human Bias in the Face of AI: Examining Human Judgment Against Text Labeled as AI Generated [48.70176791365903]
本研究では、偏見がAIと人為的コンテンツの知覚をどう形成するかを考察する。
ラベル付きおよびラベルなしコンテンツに対するヒトのラッカーの反応について検討した。
論文 参考訳（メタデータ） (2024-09-29T04:31:45Z) - Human-AI Collaboration Enables More Empathic Conversations in Text-based
Peer-to-Peer Mental Health Support [10.743204843534512]
AI-in-the-loopエージェントであるHayleyを開発した。このエージェントは、サポートを提供する参加者(ピアサポーター)が助けを求める参加者(フォスター支援者)に対して共感的に反応するのを助けるために、ジャスト・イン・タイムフィードバックを提供する。
我々の人間とAIのコラボレーションアプローチは、ピア間での会話の共感を19.60%増加させます。
支援の難しさを自認するピアサポーターのサブサンプルでは,38.88%の共感が増大している。
論文 参考訳（メタデータ） (2022-03-28T23:37:08Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - A User-Centred Framework for Explainable Artificial Intelligence in
Human-Robot Interaction [70.11080854486953]
本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。
このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
論文 参考訳（メタデータ） (2021-09-27T09:56:23Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳（メタデータ） (2021-07-12T14:21:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。