論文の概要: Toward Safe Evolution of Artificial Intelligence (AI) based Conversational Agents to Support Adolescent Mental and Sexual Health Knowledge Discovery
- arxiv url: http://arxiv.org/abs/2404.03023v1
- Date: Wed, 3 Apr 2024 19:18:25 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-05 16:44:52.008133
- Title: Toward Safe Evolution of Artificial Intelligence (AI) based Conversational Agents to Support Adolescent Mental and Sexual Health Knowledge Discovery
- Title（参考訳）: 青年期のメンタルヘルス・ヘルス・ナレッジ発見を支援するAIベースの会話エージェントの安全な進化に向けて
- Authors: Jinkyung Park, Vivek Singh, Pamela Wisniewski,
- Abstract要約: 青少年の精神・性的健康知識発見を支援するための会話エージェント(CA)の現状と機会について論じる。
我々は、青少年のためのAIベースのCAの安全な進化のためにガードレールを設定する方法についての談話を求めている。
- 参考スコア（独自算出の注目度）: 0.22530496464901104
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Following the recent release of various Artificial Intelligence (AI) based Conversation Agents (CAs), adolescents are increasingly using CAs for interactive knowledge discovery on sensitive topics, including mental and sexual health topics. Exploring such sensitive topics through online search has been an essential part of adolescent development, and CAs can support their knowledge discovery on such topics through human-like dialogues. Yet, unintended risks have been documented with adolescents' interactions with AI-based CAs, such as being exposed to inappropriate content, false information, and/or being given advice that is detrimental to their mental and physical well-being (e.g., to self-harm). In this position paper, we discuss the current landscape and opportunities for CAs to support adolescents' mental and sexual health knowledge discovery. We also discuss some of the challenges related to ensuring the safety of adolescents when interacting with CAs regarding sexual and mental health topics. We call for a discourse on how to set guardrails for the safe evolution of AI-based CAs for adolescents.
- Abstract（参考訳）: さまざまな人工知能(AI)ベースの会話エージェント(CAs)が最近リリースされた後、青年期には、メンタルや性的な健康トピックを含むセンシティブなトピックに関するインタラクティブな知識発見にCAsの利用が増えている。
このようなセンシティブなトピックをオンライン検索で探索することは、青年期の発達に欠かせない要素であり、CAは人間のような対話を通して、これらのトピックに関する知識発見を支援することができる。
しかし、意図しないリスクは、不適切な内容、偽情報、または精神的・身体的幸福(例えば自己害)に有害なアドバイスを受けるなど、AIベースのCAと青少年の相互作用によって記録されている。
本稿では,青年期における精神的・性的な健康知識の発見を支援するためのCAの現況と機会について論じる。
また、性的・精神的なトピックに関するCAと対話する際に、青少年の安全を確保する上での課題についても論じる。
我々は、青少年のためのAIベースのCAの安全な進化のためにガードレールを設定する方法についての談話を求めている。
関連論文リスト
- The Role of AI in Peer Support for Young People: A Study of Preferences for Human- and AI-Generated Responses [16.35125470386213]
ソーシャルメディアが若者のピアサポート交換の主要な方法になるにつれ、いつ、どのようにAIがそうした交換を促進、支援できるかを理解する必要がある。
我々は622人の若者に、オンライン調査を完了させ、ヘルプ検索メッセージに対する盲目の人間とAI生成の反応を評価するよう依頼した。
被験者は、関係性、自己表現性、身体的健康に関する状況に対して、AIが生成した反応を好んだ。
オンラインピアサポート交換におけるトレーニングの役割と、若者の幸福を支えることの意味について論じる。
論文 参考訳（メタデータ） (2024-05-04T16:53:19Z) - Exploring Parent's Needs for Children-Centered AI to Support
Preschoolers' Storytelling and Reading Activities [54.8155184348616]
人工知能の新たな進歩により、AIベースのストーリーテリング技術が急増した。
本稿では,実践的なストーリーテリングシナリオにおけるそれらの機能と,最も重要な利害関係者である両親が,それらをどう理解し,知覚するかを検討する。
我々の知見は、AIベースのストーリーテリング技術は、より没入的で活発な相互作用を提供するが、親の期待に応えられないことを示唆している。
論文 参考訳（メタデータ） (2024-01-24T20:55:40Z) - Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic
Systems [67.01132165581667]
本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。
本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
論文 参考訳（メタデータ） (2023-11-13T21:20:17Z) - Cognitively Inspired Components for Social Conversational Agents [2.1408617023874443]
会話エージェント(CA)の2つの問題カテゴリが残っている。
検索エージェントによるスコープや、しばしばかつての生成エージェントの非意味な回答など、CAの作成のアプローチから生じる技術的な問題。
人間はCAを社会的アクターとして認識し、その結果、CAは社会的慣例に従うことを期待する。
本稿では,CA に認知にインスパイアされた追加機能を導入することで,両カテゴリの潜在的な解決方法を明らかにする。
論文 参考訳（メタデータ） (2023-11-09T15:38:58Z) - The SocialAI School: Insights from Developmental Psychology Towards
Artificial Socio-Cultural Agents [27.464382586864254]
我々は、AI研究は心理学から知らされ、文化への参入を可能にする社会認知能力を研究するべきだと論じる。
The SocialAI School - 手続き的に生成された環境のカスタマイズ可能なパラメータ化uiteを含むツール。
論文 参考訳（メタデータ） (2023-07-15T19:05:56Z) - "Alexa doesn't have that many feelings": Children's understanding of AI
through interactions with smart speakers in their homes [0.0]
子どもたちのAI支援技術に対する理解は、教育的な意味を持っている。
発見は、AIリテラシーの必要性に対処するために、教育者が適切な素材を開発することを可能にする。
論文 参考訳（メタデータ） (2023-05-09T16:39:34Z) - The Role of AI in Drug Discovery: Challenges, Opportunities, and
Strategies [97.5153823429076]
この分野でのAIのメリット、課題、欠点についてレビューする。
データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
論文 参考訳（メタデータ） (2022-12-08T23:23:39Z) - TalkTive: A Conversational Agent Using Backchannels to Engage Older
Adults in Neurocognitive Disorders Screening [51.97352212369947]
高齢者とヒトの認知的評価に関する246の会話を分析した。
反応性バックチャネルと活性性バックチャネルのカテゴリーを抽出した。
これは、バックチャネルのタイミングと形式の両方を予測することができるCAであるTalkTiveの開発に使用される。
論文 参考訳（メタデータ） (2022-02-16T17:55:34Z) - StoryBuddy: A Human-AI Collaborative Chatbot for Parent-Child
Interactive Storytelling with Flexible Parental Involvement [61.47157418485633]
私たちは、インタラクティブなストーリーテリング体験を作成するためのAI対応システムであるStoryBuddyを開発した。
ユーザスタディでは、StoryBuddyのユーザビリティを検証し、将来の親とAIのコラボレーションシステムの設計上の洞察を提案した。
論文 参考訳（メタデータ） (2022-02-13T04:53:28Z) - From Psychological Curiosity to Artificial Curiosity: Curiosity-Driven
Learning in Artificial Intelligence Tasks [56.20123080771364]
心理学的好奇心は、探索と情報取得を通じて学習を強化するために、人間の知性において重要な役割を果たす。
人工知能(AI)コミュニティでは、人工好奇心は効率的な学習に自然な本質的な動機を与える。
CDLはますます人気を博し、エージェントは新たな知識を学習するために自己動機付けされている。
論文 参考訳（メタデータ） (2022-01-20T17:07:03Z) - Interactive Storytelling for Children: A Case-study of Design and
Development Considerations for Ethical Conversational AI [0.20999222360659603]
会話人工知能(CAI)システムと知能パーソナルアシスタント(IPA)は、私たちの生活の中でユビキタスになりつつある。
本稿では,技術開発の特定の事例における社会的文脈を考察し,文献内からの議論によって裏付け,支持された。
CAIを通じたストーリーテリングの倫理に開発者やステークホルダーと関わるさらなる研究は、緊急性の問題として強調される。
論文 参考訳（メタデータ） (2021-07-20T15:11:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。