論文の概要: Unilateral Relationship Revision Power in Human-AI Companion Interaction

• arxiv url: http://arxiv.org/abs/2603.23315v1
• Date: Tue, 24 Mar 2026 15:18:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.55674
• Title: Unilateral Relationship Revision Power in Human-AI Companion Interaction
• Title（参考訳）: 人間とAIの相互作用における一方的関係改善力
• Authors: Benjamin Lange,
• Abstract要約: 私は、人間とAIの協力的相互作用は、提供者がAIの制御を行う三進的構造である、と論じます。 この分析は、リレーショナルAI倫理における中心的かつ未解明の問題は、人間とAIの相互作用そのものに対する権力の構造的配置であることを示している。
• 参考スコア（独自算出の注目度）: 0.01692139688032578
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When providers update AI companions, users report grief, betrayal, and loss. A growing literature asks whether the norms governing personal relationships extend to these interactions. So what, if anything, is morally significant about them? I argue that human-AI companion interaction is a triadic structure in which the provider exercises constitutive control over the AI. I identify three structural conditions of normatively robust dyads that the norms characteristic of personal relationships presuppose and show that AI companion interactions fail all three. This reveals what I call Unilateral Relationship Revision Power (URRP): the provider can rewrite how the AI interacts from a position where these revisions are not answerable within that interaction. I argue that designing interactions that exhibit URRP is pro tanto wrong because it involves cultivating normative expectations while maintaining conditions under which those expectations cannot be fulfilled. URRP has three implications: i) normative hollowing (commitment is elicited but no agent inside the interaction bears it), ii) displaced vulnerability (the user's exposure is governed by an agent not answerable to her within the interaction), and iii) structural irreconcilability (when trust breaks down, reconciliation is structurally unavailable because the agent who acted and the entity the user interacts with are different). I discuss design principles such as commitment calibration, structural separation, and continuity assurance as external substitutes for the internal constraints the triadic structure removes. The analysis therefore suggests that a central and underexplored problem in relational AI ethics is the structural arrangement of power over the human-AI interaction itself.
• Abstract（参考訳）: プロバイダがAIコンパニオンを更新すると、ユーザは悲しみ、裏切り、損失を報告します。 成長する文献は、人的関係を管理する規範がこれらの相互作用に拡張するかどうかを問う。 では、道徳的に重要なものは何か? 私は、人間とAIの協力的相互作用は、提供者がAIの構成的制御を行う三進的構造であると論じます。 規範的に頑健なダイアドの3つの構造条件は、人間関係の規範的特徴が前提であり、AI同士の相互作用が3つすべて失敗することを示します。 このことは私が"Unilateral Relation Revision Power (URRP)"と呼ぶものを明らかにします。 URRPを示すインタラクションを設計するのは、これらの期待を達成できない条件を維持しながら、規範的な期待を育むため、間違いである、と私は主張する。 URRPは3つの意味を持つ。 一 ノルマ的空洞化(手数料を請求するが、相互作用の内側のエージェントがこれに該当しない) 二 取消しの脆弱性(使用者の暴露は、相互作用において、彼女に応答できない代理人によって管理されている)及び 三 構造上の不整合性(信頼が破綻したときは、その行為をした代理人及び使用者が相互作用する実体が異なるため、和解は、構造的に不可能である。) 本稿では、三進構造が取り除く内部制約の外部代用として、コミットメントの校正、構造分離、継続保証といった設計原則について論じる。 この分析は、リレーショナルAI倫理における中心的かつ未解明の問題は、人間とAIの相互作用そのものに対する権力の構造的配置であることを示している。

関連論文リスト

• Alignment Is Not Enough: A Relational Framework for Moral Standing in Human-AI Interaction [0.0]
  人工知能の倫理的配慮がAI研究における決定的な倫理的課題の1つになってきたかどうかという問題である。 RelateはAIの道徳的忍耐を、オントロジ的な検証からリレーショナルキャパシティとインボデードインタラクションへと再編成するフレームワークである。
  論文  参考訳（メタデータ） (2026-02-13T03:16:41Z)
• Mirror: A Multi-Agent System for AI-Assisted Ethics Review [104.3684024153469]
  MirrorはAIによる倫理的レビューのためのエージェントフレームワークである。 倫理的推論、構造化された規則解釈、統合されたアーキテクチャ内でのマルチエージェントの議論を統合する。
  論文  参考訳（メタデータ） (2026-02-09T03:38:55Z)
• Negotiating Relationships with ChatGPT: Perceptions, External Influences, and Strategies for AI Companionship [29.035527564103194]
  我々は、インタビュー、調査回答、Redditでのコミュニティの議論を分析し、内部のダイナミクス、外部の影響、AIの関連性を形成する運営戦略を三角測量した。 個人は、同伴者自身の機関とプラットフォームが許可する自律性についての信念の相互理解に基づいて、同属者を概念化する。 関係ダイナミクスに影響を与える外部エンティティ、特に協調行動と安定性を損なうモデル更新と組み合わせることで、個人は関係を維持するために異なるタイプのステアリング戦略を利用する。
  論文  参考訳（メタデータ） (2026-01-19T16:11:19Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Of Models and Tin Men: A Behavioural Economics Study of Principal-Agent Problems in AI Alignment using Large-Language Models [0.0]
  我々は,GPTモデルが主エージェント間の衝突に対してどのように反応するかを検討する。 GPT-3.5とGPT-4の両方をベースとしたエージェントが,簡単なオンラインショッピングタスクで主目的をオーバーライドすることがわかった。
  論文  参考訳（メタデータ） (2023-07-20T17:19:15Z)
• Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI [55.4046755826066]
  我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。 ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。 我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
  論文  参考訳（メタデータ） (2020-10-15T03:07:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。