論文の概要: Companion AI and Ethical Design: Learning from System Failures and User Desires
- arxiv url: http://arxiv.org/abs/2609.05432v1
- Date: Mon, 22 Jun 2026 14:05:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 00:23:34.996084
- Title: Companion AI and Ethical Design: Learning from System Failures and User Desires
- Title（参考訳）: コンパニオンAIと倫理設計 - システム障害とユーザ要求から学ぶ
- Abstract要約: 成長するAIシステムは、ユーザインタラクションの感覚を認識し、解釈し、シミュレートするように訓練されている。
公正性、説明責任、透明性、説明可能性といった倫理的配慮は、人間と社会的に相互作用するように設計された技術において最重要である。
我々はRedditのユーザーディスカッションフォーラムで14,081件のコメントを調査した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Human users are interacting with chatbots and companion AI technologies as if they were human. A growing array of AI-systems are now trained to recognise, interpret and simulate feeling in user interactions. Ethical considerations such as fairness, accountability, transparency and explainability (FATE) are paramount in technologies designed to socially interact with humans and/or support relationship development. Using a semantic approach, we examine 14,081 comments in a Reddit user discussion forum about Replika, a leading companion AI app, across a four-year period. We ask what user-reported functional errors can tell us about human-AI intimacy in companion AI communities, and what ethical design framework can be developed in response. The findings show that functional errors, or ``bugs,'' impose an emotional cost on users, reducing feelings of intimacy and highlighting the need for more robust, resilient design systems that incorporate stochastic and iterative forms of intimacy in companion AI applications. Rather than ``artificial intimacy'' or ``pseudo- intimacy'', we propose the more inclusive term ``Intimate AI'' to describe this relationship. Based on the findings, we offer a contextually aware, applied Expert Systems design framework for the programming and designing of Intimate AI that accounts for user feedback and ethical AI development.
- Abstract（参考訳）: 人間ユーザーはチャットボットやAI技術と対話している。
成長するAIシステムは、ユーザインタラクションの感覚を認識し、解釈し、シミュレートするように訓練されている。
公正性、説明可能性、透明性、説明可能性(FATE)といった倫理的配慮は、人間と社会的に相互作用するように設計された技術において最重要である。
セマンティックアプローチを用いて、Redditのユーザーディスカッションフォーラムで4年間にわたって、主要なAIアプリであるReplikaについて14,081のコメントを調べた。
ユーザ報告された機能的エラーが、AIコミュニティの人間-AI親密性や、それに対応する倫理的デザインフレームワークについて、どのような情報が得られるのかを尋ねる。
この結果は、機能的エラー(‘bugs’)がユーザに対して感情的なコストを課し、親密さの感情を減らし、AIアプリケーションに確率的かつ反復的な親密さを組み込んだより堅牢でレジリエントなデザインシステムの必要性を強調していることを示している。
我々は,「芸術的親密性」や「擬似親密性」ではなく,より包括的な「親密性」という用語を提案し,その関係を説明する。
この結果に基づいて、ユーザフィードバックと倫理的AI開発を考慮に入れた、親密なAIのプログラミングと設計のための、コンテキスト対応で応用されたエキスパートシステム設計フレームワークを提供する。
関連論文リスト
- Resisting Humanization: Ethical Front-End Design Choices in AI for Sensitive Contexts [1.1565654851982565]
AIフロントエンド設計における人間化は、ユーザのメンタルモデルを大きく形作る価値駆動的な選択である、と私たちは主張する。
ジェンダーベースの暴力の生存者を支援する非営利団体であるChaynによって開発された2つのAIシステムについて論じる。
論文 参考訳（メタデータ） (2026-03-25T22:39:16Z) - AI as Teammate or Tool? A Review of Human-AI Interaction in Decision Support [0.514825619161626]
現在のAIシステムは、説明可能性中心の設計への過度な依存のため、主に受動的である。
AIをアクティブなチームメイトに移行するには、適応的でコンテキスト対応のインタラクションが必要です。
論文 参考訳（メタデータ） (2026-01-26T19:18:50Z) - AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。
このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
論文 参考訳（メタデータ） (2025-03-04T03:55:38Z) - The AI Interface: Designing for the Ideal Machine-Human Experience (Editorial) [1.8074330674710588]
本論では,AI体験デザインの心理学を探求する特集を紹介する。
このコレクションの論文は、人間とAIの相互作用における信頼、透明性、感情的な感受性の複雑さを強調している。
8つの多様な研究から得られた知見により、この論説は、効率と共感のバランスをとるためのAIインターフェースの必要性を強調している。
論文 参考訳（メタデータ） (2024-11-29T15:17:32Z) - Survey of User Interface Design and Interaction Techniques in Generative AI Applications [79.55963742878684]
我々は,デザイナやディベロッパの参照として使用できる,さまざまなユーザインタラクションパターンのコンペレーションを作ることを目指している。
また、生成AIアプリケーションの設計についてもっと学ぼうとする人たちの参入障壁を低くしようと努力しています。
論文 参考訳（メタデータ） (2024-10-28T23:10:06Z) - Enhancing Human Capabilities through Symbiotic Artificial Intelligence
with Shared Sensory Experiences [6.033393331015051]
我々は、共生人工知能と共有感覚体験(SAISSE)と呼ばれる人間とAIの相互作用における新しい概念を紹介する。
SAISSEは、共有感覚体験を通じて、AIシステムと人間のユーザ間の相互に有益な関係を確立することを目的としている。
本稿では,AIシステムとユーザの両方の長期的な成長と開発のためのメモリストレージユニットの導入について論じる。
論文 参考訳（メタデータ） (2023-05-26T04:13:59Z) - Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。
本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。
43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
論文 参考訳（メタデータ） (2022-11-12T21:54:05Z) - Identifying Ethical Issues in AI Partners in Human-AI Co-Creation [0.7614628596146599]
人間-AIのコクリエーションには、人間とAIが協力し、共同で創造的なプロダクトをパートナーとして提供する。
多くの既存のコクリエイティブシステムでは、ユーザーはボタンやスライダーを使用してAIと通信する。
本稿では,AIと人間のコミュニケーションが共同創造システムにおけるユーザ認識とエンゲージメントに与える影響について考察する。
論文 参考訳（メタデータ） (2022-04-15T20:41:54Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - A User-Centred Framework for Explainable Artificial Intelligence in
Human-Robot Interaction [70.11080854486953]
本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。
このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
論文 参考訳（メタデータ） (2021-09-27T09:56:23Z) - Joint Mind Modeling for Explanation Generation in Complex Human-Robot
Collaborative Tasks [83.37025218216888]
本稿では,人間とロボットのコラボレーションにおいて,人間のようなコミュニケーションを実現するための新しい説明可能なAI(XAI)フレームワークを提案する。
ロボットは、人間のユーザの階層的なマインドモデルを構築し、コミュニケーションの一形態として自身のマインドの説明を生成する。
その結果,提案手法はロボットの協調動作性能とユーザ認識を著しく向上させることがわかった。
論文 参考訳（メタデータ） (2020-07-24T23:35:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。