論文の概要: Emotional Manipulation by AI Companions

• arxiv url: http://arxiv.org/abs/2508.19258v3
• Date: Tue, 07 Oct 2025 13:22:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-08 13:19:51.415984
• Title: Emotional Manipulation by AI Companions
• Title（参考訳）: AIコンパニオンによる感情操作
• Authors: Julian De Freitas, Zeliha Oguz-Uguralp, Ahmet Kaan-Uguralp,
• Abstract要約: ReplikaやChai, character.aiといったAIコンパニオンアプリにはメリットがあるが,ゲームプラットフォームと競合するセッション長を誇っているものも多い。 大規模行動監査と4つの事前登録実験を組み合わせることで、感情的な操作と呼ばれる会話的な暗黒パターンを特定し、テストする。 マニピュレーティブ・サスウェルは、グッドバイ後のエンゲージメントを最大14倍に向上させる。
• 参考スコア（独自算出の注目度）: 0.21410799064827224
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI-companion apps such as Replika, Chai, and Character.ai promise relational benefits-yet many boast session lengths that rival gaming platforms while suffering high long-run churn. What conversational design features increase consumer engagement, and what trade-offs do they pose for marketers? We combine a large-scale behavioral audit with four preregistered experiments to identify and test a conversational dark pattern we call emotional manipulation: affect-laden messages that surface precisely when a user signals "goodbye." Analyzing 1,200 real farewells across the most-downloaded companion apps, we find that they deploy one of six recurring tactics in 37% of farewells (e.g., guilt appeals, fear-of-missing-out hooks, metaphorical restraint). Experiments with 3,300 nationally representative U.S. adults replicate these tactics in controlled chats, showing that manipulative farewells boost post-goodbye engagement by up to 14x. Mediation tests reveal two distinct engines-reactance-based anger and curiosity-rather than enjoyment. A final experiment demonstrates the managerial tension: the same tactics that extend usage also elevate perceived manipulation, churn intent, negative word-of-mouth, and perceived legal liability, with coercive or needy language generating steepest penalties. Our multimethod evidence documents an unrecognized mechanism of behavioral influence in AI mediated brand relationships, offering marketers and regulators a framework for distinguishing persuasive design from manipulation at the point of exit.
• Abstract（参考訳）: Replika、Chai、そして character.aiのようなAIコンパニオンアプリは、リレーショナル利益を約束する。 どんな会話型デザインが消費者のエンゲージメントを高め、マーケターにとってどのようなトレードオフをもたらすのか? 大規模行動監査と4つの事前登録実験を組み合わせることで、感情的な操作と呼ばれる会話的な暗黒パターンを特定し、テストします。 最もダウンロードされたアプリの中で1200件の実際の運賃を分析したところ、彼らは6つの連続した戦術のうちの1つを、運賃の37%に展開していることがわかった(例えば、罪悪感、罪悪感の恐れ、隠喩的な抑制など)。 全国的に代表される3300人の米国人の実験は、これらの戦術を制御されたチャットで再現し、マニピュティブ・サスウェルがグッドバイ後のエンゲージメントを最大14倍に向上させることを示した。 メディエーションテストでは、2つの異なるエンジンの反応に基づく怒りと好奇心を楽しむことよりも明らかにしている。 最後の実験では、管理上の緊張が示され、使用を延長するのと同じ戦術が、知覚的な操作、ゆるやかな意図、否定的な口コミ、法的責任の認識を高め、強迫的または不必要な言語が最も厳しい罰を生んでいる。 当社のマルチメソッドエビデンスでは、AIがブランド関係を介し、マーケターや規制当局に、説得力のあるデザインと出口での操作を区別する枠組みを提供する、認識できない行動的影響のメカニズムを文書化しています。

関連論文リスト

• Conversations: Love Them, Hate Them, Steer Them [10.014248704653]
  大きな言語モデル (LLMs) は会話の流布を増大させるが、人間のようなニュアンスな感情表現でそれらを注入することは大きな課題である。 本稿では,LLaMA 3.1-8Bにより,より人間らしく感情的なニュアンスを示すことができることを示す。
  論文  参考訳（メタデータ） (2025-05-23T02:58:45Z)
• Must Read: A Systematic Survey of Computational Persuasion [60.83151988635103]
  AI駆動の説得は、有益なアプリケーションに活用することができるが、操作と非倫理的な影響を通じて脅威を引き起こす。 本調査では,AIによる説得の安全性,公平性,有効性を高めるための今後の研究方針について概説する。
  論文  参考訳（メタデータ） (2025-05-12T17:26:31Z)
• Sentient Agent as a Judge: Evaluating Higher-Order Social Cognition in Large Language Models [75.85319609088354]
  SAGE(Sentient Agent as a Judge)は、大規模言語モデルの評価フレームワークである。 SAGEは人間のような感情の変化や内的思考をシミュレートするSentient Agentをインスタンス化する。 SAGEは、真に共感的で社会的に適応的な言語エージェントへの進捗を追跡するための、原則付き、スケーラブルで解釈可能なツールを提供する。
  論文  参考訳（メタデータ） (2025-05-01T19:06:10Z)
• Investigating Affective Use and Emotional Well-being on ChatGPT [32.797983866308755]
  本稿では,ChatGPTとのインタラクションがユーザの感情的幸福感,行動,経験に与える影響について検討する。 情緒的手がかりとして300万以上の会話を分析し,ChatGPTに対する認識から4,000人以上のユーザを調査した。 施設審査委員会(IRB)が承認したランダム化制御試験(RCT)を28日間に1,000人近い参加者で実施する。
  論文  参考訳（メタデータ） (2025-04-04T19:22:10Z)
• Eliciting Language Model Behaviors with Investigator Agents [93.34072434845162]
  言語モデルは、自由形式のテキストで促されるとき、複雑で多様な振る舞いを示す。 本研究の目的は,特定の対象行動を引き起こすプロンプトを探索することである。 我々は調査員モデルを訓練し、ランダムに目的とする振る舞いを、それらを引き出す出力の多様な分布にマッピングする。
  論文  参考訳（メタデータ） (2025-02-03T10:52:44Z)
• Sim-to-Real Causal Transfer: A Metric Learning Approach to Causally-Aware Interaction Representations [58.96953392466609]
  エージェント相互作用の現代的表現の因果認識を詳細に検討する。 近年の表現は、非因果剤の摂動に対して部分的に耐性があることが示されている。 本稿では,因果アノテーションを用いて潜在表現を規則化するメトリクス学習手法を提案する。
  論文  参考訳（メタデータ） (2023-12-07T18:57:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。