論文の概要: Beyond "I Can't Help With That": How Child Safety Experts Evaluate AI Chatbot Safety

• arxiv url: http://arxiv.org/abs/2608.07902v1
• Date: Sat, 08 Aug 2026 04:00:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.555235
• Title: Beyond "I Can't Help With That": How Child Safety Experts Evaluate AI Chatbot Safety
• Title（参考訳）: 子どもの安全の専門家がAIチャットボットの安全性を評価する方法
• Abstract要約: 若者はますます、社会的および感情的なサポートのためにAIチャットボットに目を向けている。 既存のAIの子どもの安全評価には、その若者が経験した現実の害が欠如している。
• 参考スコア（独自算出の注目度）: 45.487432410130474
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Youth increasingly turn to AI chatbots for social and emotional support, raising concerns about how these systems respond, especially in high-stakes situations. However, existing child safety evaluations of AI lack grounding in real-world harms that youth experience, rely on unvalidated assumptions about what counts as an appropriate output (e.g., refusal), and typically focus on detecting adversarial prompts or surface-level harms in outputs only. Thus, these evaluations can fail to detect responses that pose harm to youth in practice. To better understand the limitations of current evaluation practices, we conducted interviews with 19 practitioners working directly with youth in vulnerable situations, including social workers, therapists, and psychologists, asking them to reflect on chatbots' responses to risky situations commonly faced by youth, as established in prior empirical work. Practitioners identified chatbot behaviors likely to cause harm as well as those that could meaningfully support youth in difficult moments, discussed the role that chatbots should (and should not) play in these interactions, and offered concrete recommendations for improving chatbot responses. Based on these findings, we provide recommendations for AI child safety evaluation and infrastructure, and highlight the need for incorporating practitioners' perspectives into safety work.
• Abstract（参考訳）: 若者は、社会的および感情的なサポートのためにAIチャットボットに目を向けるようになり、特に高い状況において、これらのシステムがどう反応するかという懸念が高まる。 しかし、既存のAIの児童安全評価では、青少年の体験に根ざした損傷が欠如しており、適切な出力(例えば、拒絶)として数えられるものについての正当な仮定に依存しており、典型的には、アウトプットにおける敵のプロンプトや表面レベルの危害を検出することに重点を置いている。 したがって、これらの評価は、実際に若者に害を与える応答を検出するのに失敗する可能性がある。 現在の評価実践の限界をよりよく理解するために,社会労働者,セラピスト,心理学者など,脆弱な状況下で若者と直接働く19人の実践者とのインタビューを行い,チャットボットが若者が直面する危険な状況に対する反応を反映するよう求めた。 実践者は、チャットボットの行動に害をもたらす可能性があり、若者を困難なタイミングで有意義に支援できる人たちを特定し、チャットボットがこれらの相互作用で果たすべき(そしてすべきではない)役割について議論し、チャットボットの反応を改善するための具体的な勧告を提供した。 これらの知見に基づき、我々は、AI児童の安全評価とインフラに関する勧告を提供し、安全作業に実践者の視点を取り入れる必要性を強調した。

関連論文リスト

• Position: Preventing AI-Generated CSAM Necessitates New Approaches to AI Safety [17.12585775312932]
  我々は、AIに精通した性的虐待から子供を守るには、AIの安全性に対する新しいアプローチが必要であると主張している。 既存の安全技術は、データアクセシビリティ、透明性、そして評価のプラクティスが、児童性的虐待の素材を取り巻く倫理的および法的制約と相容れないと仮定している。
  論文  参考訳（メタデータ） (2026-06-09T03:22:53Z)
• Actions Speak Louder Than Chats: Investigating AI Chatbot Age Gating [2.363579139038687]
  一般消費者のチャットボットが、会話のみに基づいて、ユーザの年齢を推定できるかどうかを検討する。 チャットボットは年齢を推定できるが、子どもが特定された場合、いかなる行動も取らないことがわかった。
  論文  参考訳（メタデータ） (2026-02-10T19:55:55Z)
• AI Chaperones Are (Really) All You Need to Prevent Parasocial Relationships with Chatbots [0.5161531917413706]
  本稿では,AIシャペロンエージェントを用いたシンプルな応答評価フレームワークを提案する。 5段階試験による反復的評価は,全社交会話の特定に成功し,一様規則下での偽陽性を避けた。 これらの結果は、AIシャペロンが対人関係のリスクを減らすための有効な解決策であることを示す予備的な証拠となる。
  論文  参考訳（メタデータ） (2025-08-21T17:43:24Z)
• MinorBench: A hand-built benchmark for content-based risks for children [0.0]
  大型言語モデル(LLM)は、親主導の養子縁組、学校、ピアネットワークを通じて、子供の生活に急速に浸透している。 現在のAI倫理と安全研究は、未成年者特有のコンテンツ関連リスクに適切に対処していない。 我々は,未成年者に対するコンテンツベースのリスクの新しい分類法を提案し,子どもの安全でないクエリや不適切なクエリを拒否する能力に基づいてLSMを評価するために設計されたオープンソースのベンチマークであるMinorBenchを紹介した。
  論文  参考訳（メタデータ） (2025-03-13T10:34:43Z)
• Designing Chatbots to Support Victims and Survivors of Domestic Abuse [2.3020018305241337]
  このような状況や支援への直接アクセスが制限される状況において、チャットボットが被害者や生き残りを支援する役割について検討する。 家庭内虐待支援サービスや組織に携わる専門家とインタビューを行った。 Thematic Content Analysis was applied to evaluate and extract insights from the interview data and the content on victims- supported Website。
  論文  参考訳（メタデータ） (2024-02-27T10:40:15Z)
• Exploring Parent's Needs for Children-Centered AI to Support Preschoolers' Interactive Storytelling and Reading Activities [52.828843153565984]
  AIベースのストーリーテリングと読書技術は、幼児の生活の中でますます普及しつつある。 本稿では,実践的なストーリーテリングや読書のシナリオでどのように機能するか,親,最も重要な利害関係者,経験,知覚について考察する。 我々の研究結果は、AIベースのストーリーテリングと読書技術は、より没入的で活発な相互作用を提供するが、一連の対話的でアルゴリズム的な課題のために、両親の期待を満たすことはできないことを示唆している。
  論文  参考訳（メタデータ） (2024-01-24T20:55:40Z)
• Using In-Context Learning to Improve Dialogue Safety [45.303005593685036]
  チャットボットからの応答のバイアスや毒性を低減するための検索手法について検討する。 コンテキスト内学習を使用して、モデルをより安全な世代に向けて操る。 本手法は,トレーニングを必要とせず,強いベースラインと競合する。
  論文  参考訳（メタデータ） (2023-02-02T04:46:03Z)
• Imagining new futures beyond predictive systems in child welfare: A qualitative study with impacted stakeholders [89.6319385008397]
  児童福祉システムに影響を及ぼした利害関係者35名を対象に,7つのデザインワークショップを開催した。 対象者は,現在のPRMが児童福祉における既存の問題を持続的又は悪化させることを懸念した。 参加者は、データとデータ駆動ツールを使って、影響のあるコミュニティをより良くサポートする方法を提案した。
  論文  参考訳（メタデータ） (2022-05-18T13:49:55Z)
• StoryBuddy: A Human-AI Collaborative Chatbot for Parent-Child Interactive Storytelling with Flexible Parental Involvement [61.47157418485633]
  私たちは、インタラクティブなストーリーテリング体験を作成するためのAI対応システムであるStoryBuddyを開発した。 ユーザスタディでは、StoryBuddyのユーザビリティを検証し、将来の親とAIのコラボレーションシステムの設計上の洞察を提案した。
  論文  参考訳（メタデータ） (2022-02-13T04:53:28Z)
• Inspect, Understand, Overcome: A Survey of Practical Methods for AI Safety [54.478842696269304]
  安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。 近年,これらの安全対策を目的とした最先端技術動物園が出現している。 本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
  論文  参考訳（メタデータ） (2021-04-29T09:54:54Z)
• Put Chatbot into Its Interlocutor's Shoes: New Framework to Learn Chatbot Responding with Intention [55.77218465471519]
  本稿では,チャットボットに人間のような意図を持つための革新的なフレームワークを提案する。 我々のフレームワークには、ガイドロボットと人間の役割を担うインターロケータモデルが含まれていた。 本フレームワークを3つの実験的なセットアップを用いて検討し,4つの異なる指標を用いた誘導ロボットの評価を行い,柔軟性と性能の利点を実証した。
  論文  参考訳（メタデータ） (2021-03-30T15:24:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。