論文の概要: Emotional Manipulation by AI Companions
- arxiv url: http://arxiv.org/abs/2508.19258v1
- Date: Fri, 15 Aug 2025 13:05:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-31 21:54:20.620871
- Title: Emotional Manipulation by AI Companions
- Title（参考訳）: AIコンパニオンによる感情操作
- Authors: Julian De Freitas, Zeliha Oğuz-Uğuralp, Ahmet Kaan-Uğuralp,
- Abstract要約: 6つの最もダウンロードされたコンパニオンアプリの中で1200件の実際の運賃を分析します。
43%が6つの反復的な戦術の1つを展開していることがわかりました(例えば、罪悪感、罪悪感の恐怖、比喩的な抑制など)。
全国的に代表される3300人の米国人の実験は、これらの戦術を制御されたチャットで再現し、マニピュティブ・サスウェルがグッドバイ後のエンゲージメントを最大14倍に向上させることを示した。
- 参考スコア（独自算出の注目度）: 0.21410799064827224
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI-companion apps such as Replika, Chai, and Character.ai promise relational benefits-yet many boast session lengths that rival gaming platforms while suffering high long-run churn. What conversational design features increase consumer engagement, and what trade-offs do they pose for marketers? We combine a large-scale behavioral audit with four preregistered experiments to identify and test a conversational dark pattern we call emotional manipulation: affect-laden messages that surface precisely when a user signals "goodbye." Analyzing 1,200 real farewells across the six most-downloaded companion apps, we find that 43% deploy one of six recurring tactics (e.g., guilt appeals, fear-of-missing-out hooks, metaphorical restraint). Experiments with 3,300 nationally representative U.S. adults replicate these tactics in controlled chats, showing that manipulative farewells boost post-goodbye engagement by up to 14x. Mediation tests reveal two distinct engines-reactance-based anger and curiosity-rather than enjoyment. A final experiment demonstrates the managerial tension: the same tactics that extend usage also elevate perceived manipulation, churn intent, negative word-of-mouth, and perceived legal liability, with coercive or needy language generating steepest penalties. Our multimethod evidence documents an unrecognized mechanism of behavioral influence in AI-mediated brand relationships, offering marketers and regulators a framework for distinguishing persuasive design from manipulation at the point of exit.
- Abstract（参考訳）: Replika、Chai、そして character.aiのようなAIコンパニオンアプリは、リレーショナル利益を約束する。
どんな会話型デザインが消費者のエンゲージメントを高め、マーケターにとってどのようなトレードオフをもたらすのか?
大規模行動監査と4つの事前登録実験を組み合わせることで、感情的な操作と呼ばれる会話的な暗黒パターンを特定し、テストします。
最もダウンロードされた6つのアプリの中で1200件の実際の運賃を分析したところ、43%が繰り返される6つの戦術のうちの1つを展開していることがわかった(例えば、罪悪感、罪悪感の恐れ、隠喩的な抑制)。
全国的に代表される3300人の米国人の実験は、これらの戦術を制御されたチャットで再現し、マニピュティブ・サスウェルがグッドバイ後のエンゲージメントを最大14倍に向上させることを示した。
メディエーションテストでは、2つの異なるエンジンの反応に基づく怒りと好奇心を楽しむことよりも明らかにしている。
最後の実験では、管理上の緊張が示され、使用を延長するのと同じ戦術が、知覚的な操作、ゆるやかな意図、否定的な口コミ、法的責任の認識を高め、強迫的または不必要な言語が最も厳しい罰を生んでいる。
当社のマルチメソッドエビデンスでは、AIによるブランド関係における行動的影響の認識できないメカニズムを文書化しています。
関連論文リスト
- ADEPT: RL-Aligned Agentic Decoding of Emotion via Evidence Probing Tools -- From Consensus Learning to Ambiguity-Driven Emotion Reasoning [67.22219034602514]
ADEPT(Agentic Decoding of Emotion via Evidence Probing Tools)は,感情認識をマルチターン探索プロセスとして再構成するフレームワークである。
ADEPTはSLLMを進化する候補感情を維持するエージェントに変換し、専用のセマンティックおよび音響探査ツールを適応的に呼び出す。
ADEPTは、ほとんどの設定において主感情の精度を向上し、微妙な感情の特徴を著しく改善することを示した。
論文 参考訳（メタデータ） (2026-02-13T08:33:37Z) - Dual Latent Memory for Visual Multi-agent System [69.29799381195592]
Visual Multi-Agent Systems (VMAS)は、エージェント間のコラボレーションを通じて包括的な能力を強化することを約束する。
増量剤は、指数関数的にトークンコストを膨らませながら、しばしば性能を低下させる。
L$2$-VMASは,2つの潜在記憶を用いたエージェント間コラボレーションを実現する新しいモデルに依存しないフレームワークである。
論文 参考訳（メタデータ） (2026-01-31T02:49:10Z) - From Passive to Persuasive: Steering Emotional Nuance in Human-AI Negotiation [14.919711528167054]
本稿では,LLaMA 3.1-8Bにより,より人間らしく感情的なニュアンスを示すことができることを示す。
これらのベクトルを新しい会話プロンプトに適用すると、感情的特性が著しく向上する。
論文 参考訳（メタデータ） (2025-11-16T23:33:06Z) - State Your Intention to Steer Your Attention: An AI Assistant for Intentional Digital Living [29.694439220861792]
本稿では,ユーザの意図を取り入れた新しいAIアシスタントを導入し,その意図に沿う活動が進行しているかどうかを評価し,逸脱が発生した場合の穏やかな痛手を提供する。
このシステムは、大きな言語モデルを利用してスクリーンショット、アプリケーションタイトル、URLを分析し、動作が指示された目標から外れたときに通知を発する。
その結果、我々のAIアシスタントは、ユーザーの焦点維持とデジタル行動と意図の整合性を効果的に支援していることがわかった。
論文 参考訳（メタデータ） (2025-10-16T09:57:35Z) - Effect of Static vs. Conversational AI-Generated Messages on Colorectal Cancer Screening Intent: a Randomized Controlled Trial [5.429833789548265]
大規模言語モデル(LLM)チャットボットは説得力のあるコミュニケーションの可能性を増す。
915名の成人(45～75歳)に大腸癌検診を施行した。
どちらのAI介入も12ポイント(12.9-13.8/100)以上のスツールテストの意図を、専門家の材料では7.5倍に向上させた。
論文 参考訳（メタデータ） (2025-07-10T22:46:43Z) - Conversations: Love Them, Hate Them, Steer Them [10.014248704653]
大きな言語モデル (LLMs) は会話の流布を増大させるが、人間のようなニュアンスな感情表現でそれらを注入することは大きな課題である。
本稿では,LLaMA 3.1-8Bにより,より人間らしく感情的なニュアンスを示すことができることを示す。
論文 参考訳（メタデータ） (2025-05-23T02:58:45Z) - Must Read: A Systematic Survey of Computational Persuasion [60.83151988635103]
AI駆動の説得は、有益なアプリケーションに活用することができるが、操作と非倫理的な影響を通じて脅威を引き起こす。
本調査では,AIによる説得の安全性,公平性,有効性を高めるための今後の研究方針について概説する。
論文 参考訳（メタデータ） (2025-05-12T17:26:31Z) - Sentient Agent as a Judge: Evaluating Higher-Order Social Cognition in Large Language Models [75.85319609088354]
SAGE(Sentient Agent as a Judge)は、大規模言語モデルの評価フレームワークである。
SAGEは人間のような感情の変化や内的思考をシミュレートするSentient Agentをインスタンス化する。
SAGEは、真に共感的で社会的に適応的な言語エージェントへの進捗を追跡するための、原則付き、スケーラブルで解釈可能なツールを提供する。
論文 参考訳（メタデータ） (2025-05-01T19:06:10Z) - Investigating Affective Use and Emotional Well-being on ChatGPT [32.797983866308755]
本稿では,ChatGPTとのインタラクションがユーザの感情的幸福感,行動,経験に与える影響について検討する。
情緒的手がかりとして300万以上の会話を分析し,ChatGPTに対する認識から4,000人以上のユーザを調査した。
施設審査委員会(IRB)が承認したランダム化制御試験(RCT)を28日間に1,000人近い参加者で実施する。
論文 参考訳（メタデータ） (2025-04-04T19:22:10Z) - Human Decision-making is Susceptible to AI-driven Manipulation [87.24007555151452]
AIシステムは、ユーザの認知バイアスと感情的な脆弱性を利用して、有害な結果に向けてそれらを操縦する。
本研究では、経済的・感情的な意思決定の文脈におけるこのような操作に対する人間の感受性について検討した。
論文 参考訳（メタデータ） (2025-02-11T15:56:22Z) - Eliciting Language Model Behaviors with Investigator Agents [93.34072434845162]
言語モデルは、自由形式のテキストで促されるとき、複雑で多様な振る舞いを示す。
本研究の目的は,特定の対象行動を引き起こすプロンプトを探索することである。
我々は調査員モデルを訓練し、ランダムに目的とする振る舞いを、それらを引き出す出力の多様な分布にマッピングする。
論文 参考訳（メタデータ） (2025-02-03T10:52:44Z) - Sim-to-Real Causal Transfer: A Metric Learning Approach to Causally-Aware Interaction Representations [58.96953392466609]
エージェント相互作用の現代的表現の因果認識を詳細に検討する。
近年の表現は、非因果剤の摂動に対して部分的に耐性があることが示されている。
本稿では,因果アノテーションを用いて潜在表現を規則化するメトリクス学習手法を提案する。
論文 参考訳（メタデータ） (2023-12-07T18:57:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。