論文の概要: Not What a Child Expressed: Auditing the Sign-to-Text Safety Interface in Child-Facing AI

• arxiv url: http://arxiv.org/abs/2610.07519v1
• Date: Mon, 05 Oct 2026 23:35:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.716032
• Title: Not What a Child Expressed: Auditing the Sign-to-Text Safety Interface in Child-Facing AI
• Title（参考訳）: 子どもが表現するものではない: 子ども向けAIにおける手書き安全インタフェースの検証
• Abstract要約: 児童向けAIとプラットフォームの信頼と安全のためのツールがテキストを決定する。 先導型SLTモデルは18歳未満のシグナーでは訓練も公式に評価もされなかった。 本稿では,その境界における聴覚情報を用いた事前配置監査を提案する。
• 参考スコア（独自算出の注目度）: 9.003419743581574
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Automatic sign language translation (SLT) has entered consumer products, turning American Sign Language into English text for dictation, messaging, and queries put to a conversational assistant. Child-facing AI and platform trust-and-safety tooling decide on text, using filters on minor accounts and grooming classifiers that score chat messages. A signing child who uses SLT therefore reaches these safeguards through a translation. We found no publicly documented system in which the two have been jointly evaluated, and the leading deployed SLT model was neither trained nor formally evaluated on signers under 18. Errors that alter negation, participant roles, secrecy, urgency or help-seeking could change a safety decision without disturbing fluency. This paper proposes a Deaf-informed pre-deployment audit of that boundary, with a failure taxonomy, a sanitised scenario schema, four comparison conditions, and four outcome measures. Auslan is the planned first case study.
• Abstract（参考訳）: 自動手話翻訳(SLT)が消費者製品に参入し、アメリカ手話は、会話アシスタントに入力された指示、メッセージ、クエリのための英語のテキストに変換された。 子供向けAIとプラットフォームの信頼と安全のためのツールがテキストを決定し、マイナーアカウントのフィルタとチャットメッセージをスコアする分類器をグルーミングする。 したがって、SLTを使用する署名された子供は、翻訳を通じてこれらの保護に到達する。 18歳未満のシグナに対しては,SLTモデルをトレーニングも公式評価もせず,共同評価も行われていない。 否定、参加者の役割、機密性、緊急性、ヘルプ・シーキングを変えるエラーは、流布を邪魔することなく安全判断を変える可能性がある。 本稿では, 障害分類, 衛生シナリオスキーマ, 4つの比較条件, および4つの結果尺度を用いて, その境界線に対する難聴インフォームによる事前デプロイ監査を提案する。 オースランは最初のケーススタディである。

関連論文リスト

• Evaluative Judgement in Teaching AI-based Translation: A Class-room Case Study of AI-Mediated Translation and Post-Editing [0.0]
  本稿では,BAレベルの翻訳プログラムにおける4年間の機械翻訳・後編集コースから,23名の匿名化学生のプロジェクトを抽出する。 学生は短い英語のウィキペディアのテキストをカタルーニャ語またはスペイン語に翻訳し、4つのシステムアウトプットを生成し、自動メトリクスと人間のアダクシー/頻度アセスメントを使用して評価し、ポスト編集のために1つのアウトプットを選択し、レポートにその決定を正当化した。
  論文  参考訳（メタデータ） (2026-06-13T21:34:50Z)
• The Age of Curiosity Meets the Age of AI: Benchmarking Child Safety in Large Language Models [35.56441154476198]
  7～11歳の子ども向け大規模言語モデルの安全性を評価するベンチマークであるKIDBenchを紹介する。 KIDBenchには10のカテゴリにわたる現実的な子クエリがあり、シングルターンプロンプトとマルチターンの子-アクターシミュレーションがある。 KIDGuardLlamaは子供指向の反応モデルであり、KIDBenchがより安全な子供向けAIをどのようにサポートするかを示している。
  論文  参考訳（メタデータ） (2026-05-25T07:14:58Z)
• Evaluating the Effectiveness of OpenAI's Parental Control System [1.6961535626222226]
  未成年者が使用するメインストリームの会話アシスタントにおいて,プラットフォームレベルのペアレンタルコントロールがいかに効果的かを評価する。 我々は、身体的危害、ポルノグラフィー、プライバシー侵害、健康相談、詐欺、ヘイトスピーチ、マルウェアの7つの危険領域に焦点を当てています。 通知は包括的ではなく選択的であることがわかった。
  論文  参考訳（メタデータ） (2026-01-30T15:15:24Z)
• Synthetic Voices, Real Threats: Evaluating Large Text-to-Speech Models in Generating Harmful Audio [63.18443674004945]
  この研究は、TSシステムを利用して有害なコンテンツを含む音声を生成する、コンテンツ中心の脅威を探究する。 HARMGENは、これらの課題に対処する2つのファミリーにまとめられた5つの攻撃群である。
  論文  参考訳（メタデータ） (2025-11-14T03:00:04Z)
• Prosody in Cascade and Direct Speech-to-Text Translation: a case study on Korean Wh-Phrases [79.07111754406841]
  本研究は,韻律が重要な役割を果たす発話を明瞭にするための直接S2TTシステムの能力を評価するために,コントラスト評価を用いることを提案する。 本結果は,カスケード翻訳モデルよりも直接翻訳システムの価値を明確に示すものである。
  論文  参考訳（メタデータ） (2024-02-01T14:46:35Z)
• Multilingual Jailbreak Challenges in Large Language Models [96.74878032417054]
  本研究では,大規模言語モデル(LLM)における多言語ジェイルブレイク問題の存在を明らかにする。 我々は、意図しないシナリオと意図的なシナリオの2つを考えます。 安全な微調整のための多言語学習データを自動的に生成する新しいtextscSelf-Defense フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-10T09:44:06Z)
• Facilitating NSFW Text Detection in Open-Domain Dialogue Systems via Knowledge Distillation [26.443929802292807]
  CensorChatは、NSFW対話検出を目的とした対話監視データセットである。 このデータセットは、NSFWコンテンツ検出器を構築するための費用効率の良い手段を提供する。 提案手法は,NSFWコンテンツ検出の進歩だけでなく,AI駆動対話におけるユーザ保護ニーズの進展とも一致している。
  論文  参考訳（メタデータ） (2023-09-18T13:24:44Z)
• Error Analysis Prompting Enables Human-Like Translation Evaluation in Large Language Models [57.80514758695275]
  機械翻訳(MT)の品質を評価するために,大規模言語モデル(LLM)を用いることで,システムレベルでの最先端のパフォーマンスを実現する。 我々はtextbftexttError Analysis Prompting (EAPrompt) と呼ばれる新しいプロンプト手法を提案する。 本手法は,多次元品質指標 (MQM) とtextitproduces を用いて,システムレベルとセグメントレベルの両方で説明可能かつ信頼性の高いMT評価を行う。
  論文  参考訳（メタデータ） (2023-03-24T05:05:03Z)
• Unsupervised Text-to-Speech Synthesis by Unsupervised Automatic Speech Recognition [60.84668086976436]
  教師なし音声合成システム(TTS)は、言語中の任意の文章に対応する音声波形を生成することを学習する。 本稿では、教師なし自動音声認識(ASR)の最近の進歩を活用して、教師なしTSシステムを提案する。 教師なしシステムでは、7つの言語で約10～20時間の音声で教師付きシステムに匹敵する性能を達成できる。
  論文  参考訳（メタデータ） (2022-03-29T17:57:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。