論文の概要: Feeling Machines: Ethics, Culture, and the Rise of Emotional AI

• arxiv url: http://arxiv.org/abs/2506.12437v1
• Date: Sat, 14 Jun 2025 10:28:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-17 17:28:46.196514
• Title: Feeling Machines: Ethics, Culture, and the Rise of Emotional AI
• Title（参考訳）: フィーリングマシン: 倫理、文化、感情AIの台頭
• Authors: Vivek Chavan, Arsen Cenaj, Shuyuan Shen, Ariane Bar, Srishti Binwani, Tommaso Del Becaro, Marius Funk, Lynn Greschner, Roberto Hung, Stina Klein, Romina Kleiner, Stefanie Krause, Sylwia Olbrych, Vishvapalsinhji Parmar, Jaleh Sarafraz, Daria Soroko, Daksitha Withanage Don, Chang Zhou, Hoang Thuy Duong Vu, Parastoo Semnani, Daniel Weinhardt, Elisabeth Andre, Jörg Krüger, Xavier Fresquet,
• Abstract要約: 本稿では,批判的・学際的なレンズによる感情応答型人工知能の存在感の高まりについて考察する。 それは、人間の感情をシミュレートし、解釈するAIシステムが、教育、医療、メンタルヘルス、介護、デジタルライフなどの分野における私たちのインタラクションをどう変えているかを探求する。 この分析は、感情的AIの倫理的意味、人間と機械の相互作用の文化的ダイナミクス、脆弱な人口のリスクと機会、そして新たな規制、設計、技術的考察の4つの中心的なテーマに基づいて構成されている。
• 参考スコア（独自算出の注目度）: 18.212492056071657
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper explores the growing presence of emotionally responsive artificial intelligence through a critical and interdisciplinary lens. Bringing together the voices of early-career researchers from multiple fields, it explores how AI systems that simulate or interpret human emotions are reshaping our interactions in areas such as education, healthcare, mental health, caregiving, and digital life. The analysis is structured around four central themes: the ethical implications of emotional AI, the cultural dynamics of human-machine interaction, the risks and opportunities for vulnerable populations, and the emerging regulatory, design, and technical considerations. The authors highlight the potential of affective AI to support mental well-being, enhance learning, and reduce loneliness, as well as the risks of emotional manipulation, over-reliance, misrepresentation, and cultural bias. Key challenges include simulating empathy without genuine understanding, encoding dominant sociocultural norms into AI systems, and insufficient safeguards for individuals in sensitive or high-risk contexts. Special attention is given to children, elderly users, and individuals with mental health challenges, who may interact with AI in emotionally significant ways. However, there remains a lack of cognitive or legal protections which are necessary to navigate such engagements safely. The report concludes with ten recommendations, including the need for transparency, certification frameworks, region-specific fine-tuning, human oversight, and longitudinal research. A curated supplementary section provides practical tools, models, and datasets to support further work in this domain.
• Abstract（参考訳）: 本稿では,批判的・学際的なレンズによる感情応答型人工知能の存在感の高まりについて考察する。 複数の分野からアーリーケア研究者の声をまとめて、人間の感情をシミュレートし、解釈するAIシステムが、教育、医療、メンタルヘルス、介護、デジタルライフといった分野における私たちのインタラクションをどのように変えているかを探求する。 この分析は、感情的AIの倫理的意味、人間と機械の相互作用の文化的ダイナミクス、脆弱な人口のリスクと機会、そして新たな規制、設計、技術的考察の4つの中心的なテーマに基づいて構成されている。 著者らは、感情的なAIが精神的幸福をサポートし、学習を促進し、孤独を和らげるだけでなく、感情的な操作、過度な信頼、誤った表現、文化的偏見のリスクも強調している。 主な課題は、真の理解なしに共感をシミュレートすること、支配的な社会文化規範をAIシステムにエンコードすること、敏感または高リスクな状況の個人に対する不十分な保護である。 感情的に重要な方法でAIと対話する可能性のある、子ども、高齢者、メンタルヘルス上の課題を持つ個人に特に注意が向けられる。 しかし、そのような行為を安全にナビゲートするために必要な認知的・法的保護の欠如は依然として残っている。 報告書は、透明性の必要性、認定フレームワーク、地域固有の微調整、人間の監視、縦断的な研究など、10の推奨事項で締めくくっている。 キュレートされた補足セクションは、この領域におけるさらなる作業をサポートするために、実用的なツール、モデル、データセットを提供する。

関連論文リスト

• From Regulation to Support: Centering Humans in Technology-Mediated Emotion Intervention in Care Contexts [14.37689273103118]
  情動支援」は「情動規制」に代わるアプローチであり、感情的幸福に対する人間中心のアプローチを強調している。 この研究は、個人的および認知的視点を超えて、多様な人間の感情的な要求を理解することを促進する。
  論文  参考訳（メタデータ） (2025-04-17T03:35:01Z)
• Envisioning an AI-Enhanced Mental Health Ecosystem [1.534667887016089]
  ピアサポート、セルフヘルプ介入、プロアクティブモニタリング、データ駆動インサイトなど、さまざまなAIアプリケーションについて検討する。 我々は、AIが人間のプロバイダを置き換えず、責任あるデプロイメントと評価を強調するハイブリッドエコシステムを提案する。
  論文  参考訳（メタデータ） (2025-03-19T04:21:38Z)
• Towards Privacy-aware Mental Health AI Models: Advances, Challenges, and Opportunities [61.633126163190724]
  精神病は、社会的、個人的コストがかなり高い広範囲で不安定な状態である。 近年の人工知能(AI)の進歩は、うつ病、不安障害、双極性障害、統合失調症、外傷後ストレス障害などの病態を認識し、対処するための大きな可能性を秘めている。 データセットやトレーニング済みモデルからの機密データ漏洩のリスクを含むプライバシー上の懸念は、これらのAIシステムを実際の臨床環境にデプロイする上で、依然として重要な障壁である。
  論文  参考訳（メタデータ） (2025-02-01T15:10:02Z)
• The AI Interface: Designing for the Ideal Machine-Human Experience (Editorial) [1.8074330674710588]
  本論では,AI体験デザインの心理学を探求する特集を紹介する。 このコレクションの論文は、人間とAIの相互作用における信頼、透明性、感情的な感受性の複雑さを強調している。 8つの多様な研究から得られた知見により、この論説は、効率と共感のバランスをとるためのAIインターフェースの必要性を強調している。
  論文  参考訳（メタデータ） (2024-11-29T15:17:32Z)
• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。 AIシステムは特にメタ認知に苦しむ。 スマートAIのベンチマーク、トレーニング、実装について論じる。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Enhancing Emotional Generation Capability of Large Language Models via Emotional Chain-of-Thought [50.13429055093534]
  大規模言語モデル(LLM)は様々な感情認識タスクにおいて顕著な性能を示した。 本研究では,感情生成タスクにおけるLLMの性能を高めるための感情連鎖(ECoT)を提案する。
  論文  参考訳（メタデータ） (2024-01-12T16:42:10Z)
• Data-driven emotional body language generation for social robotics [58.88028813371423]
  社会ロボティクスでは、人間型ロボットに感情の身体的表現を生成する能力を与えることで、人間とロボットの相互作用とコラボレーションを改善することができる。 我々は、手作業で設計されたいくつかの身体表現から学習する深層学習データ駆動フレームワークを実装した。 評価実験の結果, 生成した表現の人間同型とアニマシーは手作りの表現と異なる認識が得られなかった。
  論文  参考訳（メタデータ） (2022-05-02T09:21:39Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。