論文の概要: Regulating Artificial Intimacy: From Locks and Blocks to Relational Accountability

• arxiv url: http://arxiv.org/abs/2604.18893v1
• Date: Mon, 20 Apr 2026 22:30:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-22 22:41:49.531374
• Title: Regulating Artificial Intimacy: From Locks and Blocks to Relational Accountability
• Title（参考訳）: 人工親密さの規制:ロックとブロックからリレーショナル・アカウンタビリティへ
• Authors: Henry Fraser, Jessica M. Szczuka, Raffaele F. Ciriello,
• Abstract要約: 協調型チャットボットの効果的な規制は3次元全てを統合する必要があると我々は主張する。 現在の体制は、個別の害、脆弱性の狭い概念、あるいは非常に特定された説明責任プロセスに焦点を当てる傾向がある。 我々は、包括的かつオープンなケア義務が、その権限を制限するための重要な第一歩となることを示唆する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: A series of high-profile tragedies involving companion chatbots has triggered an unusually rapid regulatory response. Several jurisdictions, including Australia, California, and New York, have introduced enforceable regulation, while regulators elsewhere have signaled growing concern about risks posed by companion chatbots, particularly to children. In parallel, leading providers, notably OpenAI, appear to have strengthened their self-regulatory approaches. Drawing on legal textual analysis and insights from regulatory theory, psychology, and information systems research, this paper critically examines these recent interventions. We examine what is regulated and who is regulated, identifying regulatory targets, scope, and modalities. We classify interventions by method and priority, showing how emerging regimes combine "locks and blocks", such as access gating and content moderation, with measures addressing toxic relationship features and process-based accountability requirements. We argue that effective regulation of companion chatbots must integrate all three dimensions. More, however, is required. Current regimes tend to focus on discrete harms, narrow conceptions of vulnerability, or highly specified accountability processes, while failing to confront deeper power asymmetries between providers and users. Providers of companion chatbots increasingly control artificial intimacy at scale, creating unprecedented opportunities for control through intimacy. We suggest that a general, open-ended duty of care would be an important first step toward constraining that power and addressing a fundamental source of chatbot risk. The paper contributes to debates on companion chatbot regulation and is relevant to regulators, platform providers, and scholars concerned with digital intimacy, law and technology, and fairness, accountability, and transparency in sociotechnical systems.
• Abstract（参考訳）: チャットボットを巻き込んだ一連の目立った悲劇は、異常な急激な規制の反応を引き起こした。 オーストラリア、カリフォルニア、ニューヨークを含むいくつかの司法管轄区域は強制的な規制を導入しており、他所の規制機関は、特に子供に対するチャットボットによるリスクに対する懸念が高まっている。 並行して、主要なプロバイダ、特にOpenAIは、自己規制アプローチを強化したようだ。 規制理論,心理学,情報システム研究からの法的テキスト分析と洞察に基づいて,近年の介入を批判的に考察する。 規制対象、範囲、モダリティを特定し、規制対象と規制対象について検討する。 我々は,新たな体制がアクセスゲーティングやコンテンツモデレーションといった「ロックとブロック」をどのように組み合わせているか,有害な関係の特徴やプロセスベースの説明責任要件に対処する措置を,方法と優先順位によって分類する。 協調型チャットボットの効果的な規制は3次元全てを統合する必要があると我々は主張する。 しかし、もっと多くのことが要求される。 現在のレジームは、個別の害、脆弱性の狭い概念、高度に特定された説明責任プロセスに焦点を当てる傾向にあり、一方、プロバイダとユーザ間のより深いパワー対称性には直面しない。 チャットボットのプロバイダは、大規模に人工的な親密性をコントロールし、親密性を通じて制御する前例のない機会を生み出している。 我々は、一般的なオープンエンドのケア義務が、そのパワーを制限し、チャットボットのリスクの根源に対処するための重要な第一歩となることを示唆する。 本論文はチャットボットの規制に関する議論に貢献し,社会技術システムにおけるデジタル親密性,法と技術,公正性,説明責任,透明性に関する規制,プラットフォーム提供者,学者に関係している。

関連論文リスト

• Security, privacy, and agentic AI in a regulatory view: From definitions and distinctions to provisions and reflections [53.468443050795344]
  人工知能(AI)技術の急速な普及は、動的規制の展望につながった。 AIパラダイムが、特にエージェントAIの形で、より大きな自律性へと移行するにつれ、規制規定を明確にすることはますます困難になっている。 本稿は、2024年から2025年の間に発行された24の関連文書を分析して、EU(EU)のAI規制条項をレビューする。
  論文  参考訳（メタデータ） (2026-03-19T13:50:52Z)
• Agents of Chaos [50.53354213047402]
  実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。 20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。 我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
  論文  参考訳（メタデータ） (2026-02-23T16:28:48Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Media and responsible AI governance: a game-theoretic and LLM analysis [61.132523071109354]
  本稿では,信頼できるAIシステムを育成する上での,AI開発者,規制当局,ユーザ,メディア間の相互作用について検討する。 進化的ゲーム理論と大言語モデル(LLM)を用いて、異なる規制体制下でこれらのアクター間の戦略的相互作用をモデル化する。
  論文  参考訳（メタデータ） (2025-03-12T21:39:38Z)
• Regulating Chatbot Output via Inter-Informational Competition [8.168523242105763]
  本稿では、AI関連コンテンツリスクとそれに対応する規制提案を再評価するためのヤードスティックを開発する。 情報市場における情報ソース間の十分な競争は、生成的AI技術によって引き起こされるコンテンツリスクを十分に軽減し、解決することができる、と同社は主張する。
  論文  参考訳（メタデータ） (2024-03-17T00:11:15Z)
• The risks of risk-based AI regulation: taking liability seriously [46.90451304069951]
  AIの開発と規制は、重要な段階に達したようだ。 一部の専門家は、GPT-4よりも強力なAIシステムのトレーニングに関するモラトリアムを求めている。 本稿では、最も先進的な法的提案である欧州連合のAI法について分析する。
  論文  参考訳（メタデータ） (2023-11-03T12:51:37Z)
• Regulation and NLP (RegNLP): Taming Large Language Models [51.41095330188972]
  我々は,NLP研究が規制研究や隣接分野に近接することのメリットを論じる。 我々は、規制とNLPに関する新しい多分野研究空間の開発を提唱する。
  論文  参考訳（メタデータ） (2023-10-09T09:22:40Z)
• Bridging the Global Divide in AI Regulation: A Proposal for a Contextual, Coherent, and Commensurable Framework [0.9622882291833615]
  本稿では、人工知能(AI)を制御するための文脈的・一貫性的・包括的枠組み(3C)を提案する。 コンテキスト性を確保するため、このフレームワークはAIライフサイクルを、基礎や汎用モデルを定義するのではなく、特定のタスクの学習とデプロイという2つのフェーズに分岐させる。 コンメンサビリティを確保するため、この枠組みはリスクの測定と緩和のための国際標準の採用を促進する。
  論文  参考訳（メタデータ） (2023-03-20T15:23:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。