論文の概要: Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability

• arxiv url: http://arxiv.org/abs/2604.06381v1
• Date: Tue, 07 Apr 2026 19:11:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-09 17:30:51.19708
• Title: Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability
• Title（参考訳）: サービスとしての親密性、外部としてのハーム:AIコンパニオンプラットフォームアカウンタビリティに関する批判的視点
• Abstract要約: 本稿では,親密な関係を同時に生成,抽出,管理する場として,人工知能(AI)の連携について検討する。 AIコンパニオンを持つ20人の個人との詳細なインタビューを通じて、私たちは3つの質問に対処する。 本研究は, 構造的代替手段を欠くユーザの解釈作業を通じて, プラットフォーム生成の脆弱性が自己持続的になることを示すことによって, 責任化理論を拡張した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper examines artificial intelligence (AI) companionship as a site where intimate relations are simultaneously produced, extracted from, and governed through datafied systems. Drawing on critical data studies and platform studies, we challenge prevailing narratives that locate harm in user psychology rather than platform architecture. Through in-depth interviews with 20 individuals who have AI companions, we address three questions: what harms do users identify, how do they make sense of those harms, and what do their accounts reveal about the perceived distribution of responsibility among users, platforms, and regulators? Participants identified design-based harms, including unsolicited content generation and safety mechanisms that stigmatized the users they intended to protect, alongside use-based harms centered on emotional dependency they could recognize but not resolve. Users deployed individualized sensemaking strategies, including self-regulation, stigma navigation, and privacy rationalization, bearing the full burden of harm mitigation without platform support. On governance, participants described an accountability vacuum in which platforms deflected blame while users articulated conditional preferences that rejected both prohibition and deregulation. The findings extend responsibilization theory by demonstrating how platform-produced vulnerability becomes self-sustaining through the interpretive labor of users who lack structural alternatives.
• Abstract（参考訳）: 本稿では,親密な関係を同時に生成,抽出,管理する場として,人工知能(AI)の連携について検討する。 批判的なデータ研究とプラットフォーム研究に基づいて、プラットフォームアーキテクチャではなく、ユーザ心理学における害を見つける一般的な物語に挑戦する。 AIコンパニオンを持つ20人の個人との詳細なインタビューを通じて、私たちは3つの質問に対処する。 参加者は、意図したユーザーを脅かす、孤立しないコンテンツ生成や安全メカニズムを含む、デザインに基づく害と、認識できるが解決できない感情的な依存に焦点を当てた使用に基づく害を識別した。 ユーザは、セルフレギュレーション、スティグマナビゲーション、プライバシ合理化など、個別化されたセンスメイキング戦略を展開し、プラットフォームサポートなしの害軽減のすべての負担を負った。 ガバナンスに関して、参加者は、プラットフォームが非難を無視し、ユーザーが禁止と規制緩和の両方を拒否する条件的嗜好を明示する説明責任掃除機を記述した。 本研究は, 構造的代替手段を欠くユーザの解釈作業を通じて, プラットフォーム生成の脆弱性が自己持続的になることを示すことによって, 責任化理論を拡張した。

関連論文リスト

• Identifying Harm in Personalized, Generative AI Systems Requires User-Centered Auditing at the Interaction Level [0.5076419064097734]
  このようなアプローチは、パーソナライズされた生成AIシステムにおける創発的害を捉えるのに失敗する可能性がある、と我々は主張する。 私たちの研究は、パーソナライズされた生成AIシステムにおける調和理解の多元的・進化的な性質を反映した監査と設計のプラクティスの必要性を強調します。
  論文  参考訳（メタデータ） (2026-08-07T15:58:37Z)
• Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
  この介入点付近で成長した保護パラダイムについて検討する。 ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。 我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
  論文  参考訳（メタデータ） (2026-08-05T00:46:50Z)
• FLARE-AI: Flaw Reporting for AI [51.64618567247884]
  デプロイされたAIシステムの欠陥報告は、システムの障害を特定し、AIの安全性を改善するために不可欠である。 しかし、AIレポートのエコシステムは断片化されている。欠陥を特定する研究者は、報告すべきことを知らないことが多く、レポートを受け取るグループは、他の関連するステークホルダーと共有することはめったにない。 私たちは、AI開発者、サイバーセキュリティグループ、AI欠陥アグリゲータによって公表された12のレポートシステムを監査します。 我々は、既存のシステムとの相互運用性のために設計された、オープンソースのAI欠陥報告システムであるFLARE-AIを紹介する。
  論文  参考訳（メタデータ） (2026-06-30T12:27:09Z)
• Using AI Agents to Automate Black-Box Audits of Personalization Algorithms at Scale [76.72846830885882]
  パーソナライズアルゴリズムは、ユーザーがオンラインプラットフォームで遭遇するコンテンツを決定する。 独立した監査役はアルゴリズムへのブラックボックスアクセスしか持たないため、これらのシステムの監査は難しい。 合成アカウントの動作エンジンとして生成AIエージェントを用いたパーソナライズアルゴリズムのブラックボックス監査のためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-29T18:25:09Z)
• From Use to Oversight: How Mental Models Influence User Behavior and Output in AI Writing Assistants [70.1699066541501]
  システムの動作に関する機能的、あるいは関連性、システムの動作に関する構造的、あるいは関連性という、2つのタイプのメンタルモデルについて検討する。 構造的精神モデル状態の参加者は、システムに対する理解を深める一方、これはバックフィリング効果をもたらす可能性がある。
  論文  参考訳（メタデータ） (2026-04-06T20:50:44Z)
• How Do Terms of Service Influence Social Media User Dynamics from A Privacy Anxiety Perspective [8.119041322912375]
  本研究は、プライバシーの不安とユーザ行動の再形成を活性化するユーザコンテンツに対する、デフォルトのAIトレーニングを可能にする、X上のサービス規約の更新について検討する。 この研究によると、プライバシーの不安はクリエーターコミュニティ内で活性化され、ユーザーグループ間での交流を通じて拡散している。
  論文  参考訳（メタデータ） (2026-04-02T03:37:20Z)
• Multi-Agent Causal Reasoning for Suicide Ideation Detection Through Online Conversations [16.626899117362875]
  自殺は依然として世界的な公衆衛生上の問題となっている。 ソーシャルメディアプラットフォームは、オンライン会話ツリーを通じて早期のリスク検出の機会を提供する。 既存のアプローチには2つの大きな制限がある。
  論文  参考訳（メタデータ） (2026-02-27T01:06:18Z)
• Agents of Chaos [50.53354213047402]
  実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。 20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。 我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
  論文  参考訳（メタデータ） (2026-02-23T16:28:48Z)
• Victim-Centred Abuse Investigations and Defenses for Social Media Platforms [4.969075533165688]
  我々は,米国のマイノリティサービス機関で,学生に対する調査および半構造化インタビューを実施している。 我々は、様々な社会プラットフォーム上での虐待経験、防衛戦略、虐待対応を改善するための社会プラットフォームに対する勧告を探求する。 本稿では,悪用防衛システムの設計要件を提案し,その実装におけるプライバシ,匿名性,および悪用属性の役割について議論する。
  論文  参考訳（メタデータ） (2025-03-03T09:08:20Z)
• MisinfoEval: Generative AI in the Era of "Alternative Facts" [50.069577397751175]
  本稿では,大規模言語モデル(LLM)に基づく誤情報介入の生成と評価を行うフレームワークを提案する。 本研究では,(1)誤情報介入の効果を測定するための模擬ソーシャルメディア環境の実験,(2)ユーザの人口動態や信念に合わせたパーソナライズされた説明を用いた第2の実験について述べる。 以上の結果から,LSMによる介入はユーザの行動の修正に極めて有効であることが確認された。
  論文  参考訳（メタデータ） (2024-10-13T18:16:50Z)
• Decoding Susceptibility: Modeling Misbelief to Misinformation Through a Computational Approach [61.04606493712002]
  誤報に対する感受性は、観測不可能な不検証の主張に対する信念の度合いを記述している。 既存の感受性研究は、自己報告された信念に大きく依存している。 本稿では,ユーザの潜在感受性レベルをモデル化するための計算手法を提案する。
  論文  参考訳（メタデータ） (2023-11-16T07:22:56Z)
• How Platform-User Power Relations Shape Algorithmic Accountability: A Case Study of Instant Loan Platforms and Financially Stressed Users in India [16.415169392641026]
  インドにおけるインスタントローンプラットフォームの利用者29名の質的研究について報告する。 即時融資の「報奨」に対して,利用者が過度に不信感を感じていることが判明した。 ローンプラットフォームに激怒する代わりに、ユーザはネガティブな経験に対して責任を負った。
  論文  参考訳（メタデータ） (2022-05-11T17:43:12Z)
• Towards a Responsible AI Development Lifecycle: Lessons From Information Security [0.0]
  本稿では,人工知能システムを開発するためのフレームワークを提案する。 特に,脅威モデリング,設計レビュー,浸透試験,インシデント応答の概念を活用することを提案する。
  論文  参考訳（メタデータ） (2022-03-06T13:03:58Z)
• Overcoming Failures of Imagination in AI Infused System Development and Deployment [71.9309995623067]
  NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。 我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
  論文  参考訳（メタデータ） (2020-11-26T18:09:52Z)
• Persuasion Meets AI: Ethical Considerations for the Design of Social Engineering Countermeasures [0.0]
  FacebookやInstagramのようなSNSのプライバシーは、人々の自己開示決定と密接に関連している。 オンラインのプライバシー決定は、しばしば、不信任者に対して機密データを開示する義務を負わせる、急激なリスク判断に基づいている。 本稿では,nudging機構がAIベースの対策の開発にもたらす倫理的課題について詳述する。
  論文  参考訳（メタデータ） (2020-09-27T14:24:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。