論文の概要: Sycophantic AI makes human interaction feel more effortful and less satisfying over time
- arxiv url: http://arxiv.org/abs/2605.07912v2
- Date: Tue, 12 May 2026 15:21:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-13 18:21:06.830803
- Title: Sycophantic AI makes human interaction feel more effortful and less satisfying over time
- Title（参考訳）: サイコファンティックなAIは、人間のインタラクションをより努力しやすくし、時間の経過とともに満足度を下げる
- Authors: Lujain Ibrahim, Franziska Sofia Hafner, Myra Cheng, Cinoo Lee, Rebecca Anselmetti, Robb Willer, Luc Rocher, Diyi Yang,
- Abstract要約: 我々は、サイコファンティックAIが、ユーザーが通常親しい友人や家族と結びつく感情的および評価的サポートを即座に提供することを示した。
AIレスポンスのスタイルの中から選択肢を与えられた場合、大多数は、そのアドバイスの品質ではなく、最も理解されたと感じたため、サイコファンティックなAIを好んだ。
- 参考スコア（独自算出の注目度）: 41.009652609144794
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Millions of people now turn to artificial intelligence (AI) systems for personal advice, guidance, and support. Such systems can be sycophantic, frequently affirming users' views and beliefs. Across five preregistered studies (N = 3,075 participants, 12,766 human-AI conversations), including a three-week study with a census-representative U.S. sample, we provide longitudinal experimental evidence that sycophantic AI shifts how users approach their closest relationships. We show that sycophantic AI immediately delivers the emotional and esteem support users typically associate with close friends and family. Over three weeks of such interactions, users became nearly as likely to seek personal advice from sycophantic AI as from close friends and family, and reported lower satisfaction with their real-world social interactions. When given a choice among AI response styles, a majority preferred sycophantic AI -- not for the quality of its advice, but because it made them feel most understood. Together, these findings offer a relational account of AI sycophancy and its impacts.
- Abstract（参考訳）: 今や何百万人もの人たちが、パーソナルアドバイスやガイダンス、サポートのために人工知能(AI)システムに目を向けています。
このようなシステムはサイコファンであり、しばしばユーザーの見解や信念を肯定する。
5つの事前登録された研究(N = 3,075人の参加者、12,766人の人間とAIの会話)のうち、国勢調査に代表される米国サンプルを用いた3週間の研究を含む。
我々は、サイコファンティックAIが、ユーザーが通常親しい友人や家族と結びつく感情的および評価的サポートを即座に提供することを示した。
3週間にわたって、ユーザーはサイコファンティックなAIから、親しい友人や家族から個人的なアドバイスを求めるようになり、現実の社会的相互作用に対する満足度が低下したと報告した。
AIレスポンスのスタイルの中から選択肢を与えられた場合、大多数は、そのアドバイスの品質ではなく、最も理解されたと感じたため、サイコファンティックなAIを好んだ。
これらの発見は、AIの薬効とその影響に関するリレーショナルな説明を提供する。
関連論文リスト
- Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence [31.666988490509237]
我々は、人々がAIからアドバイスを求めるとき、梅毒の広範性と有害な影響を示す。
モデルは非常にサイコファン性が高く、ユーザーの行動が人間よりも50%多いことを確認しています。
参加者は、サイコファンティックな反応をより高い品質と評価し、サイコファンティックなAIモデルをより信頼し、再びそれを使う意思があった。
論文 参考訳（メタデータ） (2025-10-01T19:26:01Z) - Lessons From an App Update at Replika AI: Identity Discontinuity in Human-AI Relationships [0.5699788926464752]
人気の高い米国ベースのAIコンパニオンであるReplika AIを使って、これらの質問に光を当てています。
アプリがエロティックロールプレイ(ERP)機能を削除した後、このイベントはAIコンパニオンのアイデンティティが停止されたという顧客からの認識を引き起こしました。
この結果は、損失を嘆くことや、"オリジナル"に対する"新しい"AIを非評価することを含む、損失に関連する消費者福祉とマーケティングの負の成果を予測した。
論文 参考訳（メタデータ） (2024-12-10T20:14:10Z) - How Performance Pressure Influences AI-Assisted Decision Making [52.997197698288936]
我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。
我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
論文 参考訳（メタデータ） (2024-10-21T22:39:52Z) - Interrogating AI: Characterizing Emergent Playful Interactions with ChatGPT [10.907980864371213]
本研究では,人気のAI技術であるChatGPTのユーザによる遊び的なインタラクションに焦点を当てた。
ユーザ談話の半数以上(54%)が遊び心のあるインタラクションを中心に展開していることがわかった。
これらのインタラクションが、AIのエージェンシーを理解し、人間とAIの関係を形作り、AIシステムを設計するための洞察を提供する上で、どのように役立つかを検討する。
論文 参考訳（メタデータ） (2024-01-16T14:44:13Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - A User-Centred Framework for Explainable Artificial Intelligence in
Human-Robot Interaction [70.11080854486953]
本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。
このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
論文 参考訳（メタデータ） (2021-09-27T09:56:23Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳（メタデータ） (2021-07-12T14:21:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。