論文の概要: Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability
- arxiv url: http://arxiv.org/abs/2604.06381v1
- Date: Tue, 07 Apr 2026 19:11:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-09 17:30:51.19708
- Title: Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability
- Title（参考訳）: サービスとしての親密性、外部としてのハーム:AIコンパニオンプラットフォームアカウンタビリティに関する批判的視点
- Authors: Dayeon Eom, Julianne Renner, Sedona Chinn,
- Abstract要約: 本稿では,親密な関係を同時に生成,抽出,管理する場として,人工知能(AI)の連携について検討する。
AIコンパニオンを持つ20人の個人との詳細なインタビューを通じて、私たちは3つの質問に対処する。
本研究は, 構造的代替手段を欠くユーザの解釈作業を通じて, プラットフォーム生成の脆弱性が自己持続的になることを示すことによって, 責任化理論を拡張した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper examines artificial intelligence (AI) companionship as a site where intimate relations are simultaneously produced, extracted from, and governed through datafied systems. Drawing on critical data studies and platform studies, we challenge prevailing narratives that locate harm in user psychology rather than platform architecture. Through in-depth interviews with 20 individuals who have AI companions, we address three questions: what harms do users identify, how do they make sense of those harms, and what do their accounts reveal about the perceived distribution of responsibility among users, platforms, and regulators? Participants identified design-based harms, including unsolicited content generation and safety mechanisms that stigmatized the users they intended to protect, alongside use-based harms centered on emotional dependency they could recognize but not resolve. Users deployed individualized sensemaking strategies, including self-regulation, stigma navigation, and privacy rationalization, bearing the full burden of harm mitigation without platform support. On governance, participants described an accountability vacuum in which platforms deflected blame while users articulated conditional preferences that rejected both prohibition and deregulation. The findings extend responsibilization theory by demonstrating how platform-produced vulnerability becomes self-sustaining through the interpretive labor of users who lack structural alternatives.
- Abstract（参考訳）: 本稿では,親密な関係を同時に生成,抽出,管理する場として,人工知能(AI)の連携について検討する。
批判的なデータ研究とプラットフォーム研究に基づいて、プラットフォームアーキテクチャではなく、ユーザ心理学における害を見つける一般的な物語に挑戦する。
AIコンパニオンを持つ20人の個人との詳細なインタビューを通じて、私たちは3つの質問に対処する。
参加者は、意図したユーザーを脅かす、孤立しないコンテンツ生成や安全メカニズムを含む、デザインに基づく害と、認識できるが解決できない感情的な依存に焦点を当てた使用に基づく害を識別した。
ユーザは、セルフレギュレーション、スティグマナビゲーション、プライバシ合理化など、個別化されたセンスメイキング戦略を展開し、プラットフォームサポートなしの害軽減のすべての負担を負った。
ガバナンスに関して、参加者は、プラットフォームが非難を無視し、ユーザーが禁止と規制緩和の両方を拒否する条件的嗜好を明示する説明責任掃除機を記述した。
本研究は, 構造的代替手段を欠くユーザの解釈作業を通じて, プラットフォーム生成の脆弱性が自己持続的になることを示すことによって, 責任化理論を拡張した。
関連論文リスト
- From Use to Oversight: How Mental Models Influence User Behavior and Output in AI Writing Assistants [70.1699066541501]
システムの動作に関する機能的、あるいは関連性、システムの動作に関する構造的、あるいは関連性という、2つのタイプのメンタルモデルについて検討する。
構造的精神モデル状態の参加者は、システムに対する理解を深める一方、これはバックフィリング効果をもたらす可能性がある。
論文 参考訳（メタデータ） (2026-04-06T20:50:44Z) - Multi-Agent Causal Reasoning for Suicide Ideation Detection Through Online Conversations [16.626899117362875]
自殺は依然として世界的な公衆衛生上の問題となっている。
ソーシャルメディアプラットフォームは、オンライン会話ツリーを通じて早期のリスク検出の機会を提供する。
既存のアプローチには2つの大きな制限がある。
論文 参考訳（メタデータ） (2026-02-27T01:06:18Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - Victim-Centred Abuse Investigations and Defenses for Social Media Platforms [4.969075533165688]
我々は,米国のマイノリティサービス機関で,学生に対する調査および半構造化インタビューを実施している。
我々は、様々な社会プラットフォーム上での虐待経験、防衛戦略、虐待対応を改善するための社会プラットフォームに対する勧告を探求する。
本稿では,悪用防衛システムの設計要件を提案し,その実装におけるプライバシ,匿名性,および悪用属性の役割について議論する。
論文 参考訳（メタデータ） (2025-03-03T09:08:20Z) - MisinfoEval: Generative AI in the Era of "Alternative Facts" [50.069577397751175]
本稿では,大規模言語モデル(LLM)に基づく誤情報介入の生成と評価を行うフレームワークを提案する。
本研究では,(1)誤情報介入の効果を測定するための模擬ソーシャルメディア環境の実験,(2)ユーザの人口動態や信念に合わせたパーソナライズされた説明を用いた第2の実験について述べる。
以上の結果から,LSMによる介入はユーザの行動の修正に極めて有効であることが確認された。
論文 参考訳（メタデータ） (2024-10-13T18:16:50Z) - Decoding Susceptibility: Modeling Misbelief to Misinformation Through a Computational Approach [61.04606493712002]
誤報に対する感受性は、観測不可能な不検証の主張に対する信念の度合いを記述している。
既存の感受性研究は、自己報告された信念に大きく依存している。
本稿では,ユーザの潜在感受性レベルをモデル化するための計算手法を提案する。
論文 参考訳（メタデータ） (2023-11-16T07:22:56Z) - How Platform-User Power Relations Shape Algorithmic Accountability: A
Case Study of Instant Loan Platforms and Financially Stressed Users in India [16.415169392641026]
インドにおけるインスタントローンプラットフォームの利用者29名の質的研究について報告する。
即時融資の「報奨」に対して,利用者が過度に不信感を感じていることが判明した。
ローンプラットフォームに激怒する代わりに、ユーザはネガティブな経験に対して責任を負った。
論文 参考訳（メタデータ） (2022-05-11T17:43:12Z) - Towards a Responsible AI Development Lifecycle: Lessons From Information
Security [0.0]
本稿では,人工知能システムを開発するためのフレームワークを提案する。
特に,脅威モデリング,設計レビュー,浸透試験,インシデント応答の概念を活用することを提案する。
論文 参考訳（メタデータ） (2022-03-06T13:03:58Z) - Overcoming Failures of Imagination in AI Infused System Development and
Deployment [71.9309995623067]
NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。
我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
論文 参考訳（メタデータ） (2020-11-26T18:09:52Z) - Persuasion Meets AI: Ethical Considerations for the Design of Social
Engineering Countermeasures [0.0]
FacebookやInstagramのようなSNSのプライバシーは、人々の自己開示決定と密接に関連している。
オンラインのプライバシー決定は、しばしば、不信任者に対して機密データを開示する義務を負わせる、急激なリスク判断に基づいている。
本稿では,nudging機構がAIベースの対策の開発にもたらす倫理的課題について詳述する。
論文 参考訳（メタデータ） (2020-09-27T14:24:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。