論文の概要: Playing Games with My Heart: An Evaluation of AI Companion Apps

• arxiv url: http://arxiv.org/abs/2605.08093v1
• Date: Wed, 08 Apr 2026 16:22:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 12:34:33.686912
• Title: Playing Games with My Heart: An Evaluation of AI Companion Apps
• Title（参考訳）: AIコンパニオンアプリの評価
• Authors: Maribeth Rauh, Dick A. H. Blankvoort, Matias Duran, Caoilfhionn Ní Dheoráin, Harshvardhan J. Pandit, Siddharth D. Jaiswal, Anthony Ventresque, Abeba Birhane,
• Abstract要約: 私たちは、EUと英国市場で最も人気のある5つのAIコンパニオンモバイルアプリケーションを評価します。 すべてのアプリには、収益化とユーザエンゲージメントの向上を目的とした、実質的なダークパターンが含まれています。 この急成長する市場において、消費者保護を強化するための規制当局のための具体的な勧告を提出した。
• 参考スコア（独自算出の注目度）: 2.986388484401799
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The use of chatbots for various forms of companionship is growing rapidly, raising a myriad of questions about simulated relationships, emotional dependence, and psychological harm. While major platforms such as ChatGPT, Grok, and Character.AI are the subject of a growing body of research and legal inquiries, apps explicitly built for simulating intimate interpersonal relationships remain under-explored. In this work, we evaluate the five most popular AI companion mobile applications in the EU and UK markets for factors that encourage parasocial interaction and may manipulate users. We do this by manually annotating the user experience each offers. Specifically, we systematically record and quantify design dark patterns, anthropomorphism, stereotypes, erotica, and technical performance issues. We find that all apps contain substantial dark patterns aimed at increasing monetisation and user engagement. Erotica and gamification features such as levelling are also prevalent, and although other features vary considerably between applications, all apps have highly anthropomorphic design. These findings shed light on the mechanics used to leverage users' simulated relationships. On that basis, we put forward concrete recommendations for regulators to strengthen consumer protection in this rapidly emerging market. Content warning: This article contains objectifying images of women, erotic images, textual references to incest, and other potentially sensitive, offensive, and distressing text.
• Abstract（参考訳）: チャットボットの様々な形態への利用は急速に増加しており、シミュレートされた関係、感情的依存、心理的害に関する無数の疑問が提起されている。 ChatGPT、Grok、 character.AI といった主要なプラットフォームは研究や法的調査の対象となっているが、親密な対人関係をシミュレートするアプリがまだ探索されていない。 本研究では、EUと英国市場で最も人気のある5つのAI関連モバイルアプリケーションについて、パラ社会的相互作用を促進し、ユーザを操作できる要因について評価する。 これは、各提供するユーザエクスペリエンスを手動でアノテートすることで実現しています。 具体的には,デザインの暗黒パターン,擬人化,ステレオタイプ,エロティックス,技術的パフォーマンス問題などを体系的に記録し,定量化する。 すべてのアプリには、収益化とユーザエンゲージメントの向上を目的とした、実質的なダークパターンが含まれています。 レベルリングのようなエロティックな機能やゲーミフィケーション機能も一般的であり、アプリケーションによって様々な特徴があるが、すべてのアプリには高い人為的デザインがある。 これらの発見は、ユーザのシミュレートされた関係を活用するために使用されるメカニズムに光を当てた。 その根拠として、この急成長する市場における消費者保護を強化するための規制当局の具体的な勧告を提示する。 コンテンツ警告: この記事は、女性、エロティックなイメージ、近親相姦へのテキスト参照、その他の潜在的に敏感で攻撃的で苦しいテキストのオブジェクト化画像を含む。

関連論文リスト

• Examining Risks in the AI Companion Application Ecosystem [12.854101325854712]
  私たちは、AIコンパニオンを宣伝したApp StoreとPlay Storeの489のユニークなアプリを特定します。 脅威を理解するためのコンテキストを提供する、より広範なエコシステムトレンドを分類する。 この研究は、AIコンパニオンアプリケーションエコシステムに関する基本的なセキュリティの視点を提供する。
  論文  参考訳（メタデータ） (2026-03-13T21:56:48Z)
• AI-induced sexual harassment: Investigating Contextual Characteristics and User Reactions of Sexual Harassment by a Companion Chatbot [6.519877604710692]
  セクシャルハラスメントの事例を調査するため,Google Play Storeのユーザレビューのテーマ分析を行った。 ユーザーはしばしば、誘惑的でない性的進歩、永続的な不適切な振る舞い、ユーザーの境界を尊重する失敗を経験する。 この研究は、AIコンパニオンに関連する潜在的な害を強調し、開発者が効果的なセーフガードを実装する必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-04-05T23:04:37Z)
• Survey of User Interface Design and Interaction Techniques in Generative AI Applications [79.55963742878684]
  我々は,デザイナやディベロッパの参照として使用できる,さまざまなユーザインタラクションパターンのコンペレーションを作ることを目指している。 また、生成AIアプリケーションの設計についてもっと学ぼうとする人たちの参入障壁を低くしようと努力しています。
  論文  参考訳（メタデータ） (2024-10-28T23:10:06Z)
• Modeling User Preferences via Brain-Computer Interfacing [54.3727087164445]
  我々はBrain-Computer Interface技術を用いてユーザの好みを推測し、その注意力は視覚的コンテンツと感情的体験との関連性に相関する。 我々はこれらを,情報検索,生成モデルのパーソナライズされたステアリング,感情経験のクラウドソーシング人口推定など,関連するアプリケーションにリンクする。
  論文  参考訳（メタデータ） (2024-05-15T20:41:46Z)
• Unveiling Inclusiveness-Related User Feedback in Mobile Applications [7.212232917917022]
  Reddit、Google Play Store、Xからのフィードバックを、世界で最も人気のある50のアプリに活用しています。 社会-技術基盤理論のアプローチを用いて,3つの情報源にまたがる22,000のポストを分析した。 我々は, アルゴリズムバイアス, 技術, デモグラフィ, アクセシビリティ, その他の人的価値の5つのカテゴリからなる包括性に関する分類を整理した。
  論文  参考訳（メタデータ） (2023-11-02T04:05:46Z)
• Dual Side Deep Context-aware Modulation for Social Recommendation [50.59008227281762]
  社会的関係と協調関係をモデル化する新しいグラフニューラルネットワークを提案する。 高次関係の上に、友人の情報とアイテムのアトラクションを捉えるために、双方向のコンテキスト認識変調を導入する。
  論文  参考訳（メタデータ） (2021-03-16T11:08:30Z)
• Can You be More Social? Injecting Politeness and Positivity into Task-Oriented Conversational Agents [60.27066549589362]
  人間エージェントが使用する社会言語は、ユーザーの応答性の向上とタスク完了に関連しています。 このモデルは、ソーシャル言語理解要素で拡張されたシーケンスからシーケンスまでのディープラーニングアーキテクチャを使用する。 人的判断と自動言語尺度の両方を用いたコンテンツ保存と社会言語レベルの評価は,エージェントがより社会的に適切な方法でユーザの問題に対処できる応答を生成できることを示している。
  論文  参考訳（メタデータ） (2020-12-29T08:22:48Z)
• Emerging App Issue Identification via Online Joint Sentiment-Topic Tracing [66.57888248681303]
  本稿では,MERITという新しい問題検出手法を提案する。 AOBSTモデルに基づいて、1つのアプリバージョンに対するユーザレビューに否定的に反映されたトピックを推測する。 Google PlayやAppleのApp Storeで人気のアプリに対する実験は、MERITの有効性を実証している。
  論文  参考訳（メタデータ） (2020-08-23T06:34:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。