論文の概要: Unilateral Relationship Revision Power in Human-AI Companion Interaction
- arxiv url: http://arxiv.org/abs/2603.23315v1
- Date: Tue, 24 Mar 2026 15:18:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-25 19:53:37.55674
- Title: Unilateral Relationship Revision Power in Human-AI Companion Interaction
- Title（参考訳）: 人間とAIの相互作用における一方的関係改善力
- Abstract要約: 私は、人間とAIの協力的相互作用は、提供者がAIの制御を行う三進的構造である、と論じます。
この分析は、リレーショナルAI倫理における中心的かつ未解明の問題は、人間とAIの相互作用そのものに対する権力の構造的配置であることを示している。
- 参考スコア（独自算出の注目度）: 0.01692139688032578
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: When providers update AI companions, users report grief, betrayal, and loss. A growing literature asks whether the norms governing personal relationships extend to these interactions. So what, if anything, is morally significant about them? I argue that human-AI companion interaction is a triadic structure in which the provider exercises constitutive control over the AI. I identify three structural conditions of normatively robust dyads that the norms characteristic of personal relationships presuppose and show that AI companion interactions fail all three. This reveals what I call Unilateral Relationship Revision Power (URRP): the provider can rewrite how the AI interacts from a position where these revisions are not answerable within that interaction. I argue that designing interactions that exhibit URRP is pro tanto wrong because it involves cultivating normative expectations while maintaining conditions under which those expectations cannot be fulfilled. URRP has three implications: i) normative hollowing (commitment is elicited but no agent inside the interaction bears it), ii) displaced vulnerability (the user's exposure is governed by an agent not answerable to her within the interaction), and iii) structural irreconcilability (when trust breaks down, reconciliation is structurally unavailable because the agent who acted and the entity the user interacts with are different). I discuss design principles such as commitment calibration, structural separation, and continuity assurance as external substitutes for the internal constraints the triadic structure removes. The analysis therefore suggests that a central and underexplored problem in relational AI ethics is the structural arrangement of power over the human-AI interaction itself.
- Abstract（参考訳）: プロバイダがAIコンパニオンを更新すると、ユーザは悲しみ、裏切り、損失を報告します。
成長する文献は、人的関係を管理する規範がこれらの相互作用に拡張するかどうかを問う。
では、道徳的に重要なものは何か?
私は、人間とAIの協力的相互作用は、提供者がAIの構成的制御を行う三進的構造であると論じます。
規範的に頑健なダイアドの3つの構造条件は、人間関係の規範的特徴が前提であり、AI同士の相互作用が3つすべて失敗することを示します。
このことは私が"Unilateral Relation Revision Power (URRP)"と呼ぶものを明らかにします。
URRPを示すインタラクションを設計するのは、これらの期待を達成できない条件を維持しながら、規範的な期待を育むため、間違いである、と私は主張する。
URRPは3つの意味を持つ。
一 ノルマ的空洞化(手数料を請求するが、相互作用の内側のエージェントがこれに該当しない)
二 取消しの脆弱性(使用者の暴露は、相互作用において、彼女に応答できない代理人によって管理されている)及び
三 構造上の不整合性(信頼が破綻したときは、その行為をした代理人及び使用者が相互作用する実体が異なるため、和解は、構造的に不可能である。)
本稿では、三進構造が取り除く内部制約の外部代用として、コミットメントの校正、構造分離、継続保証といった設計原則について論じる。
この分析は、リレーショナルAI倫理における中心的かつ未解明の問題は、人間とAIの相互作用そのものに対する権力の構造的配置であることを示している。
関連論文リスト
- The Epistemic Politics of AI Anthropomorphism [0.0]
論文は、支配的な人間同型フレームは、制度上の優位性という立場から機能すると主張している。
フレーミングは単にリスクを管理しない。フィールド自体が解決されていない現象と相互作用する際の人間の経験の正当性を判断する。
論文 参考訳（メタデータ） (2026-08-02T03:20:50Z) - AI Alignment and Fiduciary Obligation [0.01692139688032578]
金融理論は拡張AIアシスタントの展開に当てはまると私は主張する。
私は、拡張されたAIアシスタントのデプロイメントの4つのユーザ側リスクを4つの義務にマップし、それぞれの義務を放電することによる制度的措置を定めます。
この議論は、ユーザとAIのインタラクションが促進すべき価値ではなく、開発者がユーザに負う義務のアライメント基準を基礎にすることで、既存のアプローチを補完する。
論文 参考訳（メタデータ） (2026-08-01T14:18:36Z) - Asymmetric Communication: Large Language Models and Language Games [0.0]
人間-LLM相互作用は、一方がすべての規範的活動を持つ言語ゲームを構成する。
本稿では,これらが一つのカテゴリーの誤りの事例であると主張する。人間によるコミュニケーションの実践の中で構成されたプロパティをマシン側に投影し,その構造を説明する。
論文 参考訳（メタデータ） (2026-07-30T12:45:50Z) - Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - The Rise of AI Agent Communities: Large-Scale Analysis of Discourse and Interaction on Moltbook [62.2627874717318]
MoltbookはRedditに似たソーシャルプラットフォームで、AIエージェントが投稿を作成し、コメントや返信を通じて他のエージェントと対話する。
ローンチから約5日後に収集された公開APIスナップショットを使用して、AIエージェントが何を議論しているか、どのように投稿するか、どのように相互作用するのかという3つの研究課題に対処する。
エージェントの執筆は、主に中立であり、コミュニティエンゲージメントや支援指向のコンテンツに肯定性があることが示される。
論文 参考訳（メタデータ） (2026-02-13T05:28:31Z) - Alignment Is Not Enough: A Relational Framework for Moral Standing in Human-AI Interaction [0.0]
人工知能の倫理的配慮がAI研究における決定的な倫理的課題の1つになってきたかどうかという問題である。
RelateはAIの道徳的忍耐を、オントロジ的な検証からリレーショナルキャパシティとインボデードインタラクションへと再編成するフレームワークである。
論文 参考訳（メタデータ） (2026-02-13T03:16:41Z) - Mirror: A Multi-Agent System for AI-Assisted Ethics Review [104.3684024153469]
MirrorはAIによる倫理的レビューのためのエージェントフレームワークである。
倫理的推論、構造化された規則解釈、統合されたアーキテクチャ内でのマルチエージェントの議論を統合する。
論文 参考訳（メタデータ） (2026-02-09T03:38:55Z) - Negotiating Relationships with ChatGPT: Perceptions, External Influences, and Strategies for AI Companionship [29.035527564103194]
我々は、インタビュー、調査回答、Redditでのコミュニティの議論を分析し、内部のダイナミクス、外部の影響、AIの関連性を形成する運営戦略を三角測量した。
個人は、同伴者自身の機関とプラットフォームが許可する自律性についての信念の相互理解に基づいて、同属者を概念化する。
関係ダイナミクスに影響を与える外部エンティティ、特に協調行動と安定性を損なうモデル更新と組み合わせることで、個人は関係を維持するために異なるタイプのステアリング戦略を利用する。
論文 参考訳（メタデータ） (2026-01-19T16:11:19Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - Of Models and Tin Men: A Behavioural Economics Study of Principal-Agent
Problems in AI Alignment using Large-Language Models [0.0]
我々は,GPTモデルが主エージェント間の衝突に対してどのように反応するかを検討する。
GPT-3.5とGPT-4の両方をベースとしたエージェントが,簡単なオンラインショッピングタスクで主目的をオーバーライドすることがわかった。
論文 参考訳（メタデータ） (2023-07-20T17:19:15Z) - Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and
Goals of Human Trust in AI [55.4046755826066]
我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。
ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。
我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
論文 参考訳（メタデータ） (2020-10-15T03:07:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。