論文の概要: Systemization of Knowledge (SoK): Human-Centered AI Safety for Youth

• arxiv url: http://arxiv.org/abs/2610.08554v1
• Date: Tue, 06 Oct 2026 15:40:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:30.088865
• Title: Systemization of Knowledge (SoK): Human-Centered AI Safety for Youth
• Title（参考訳）: 知識の体系化(SoK):若者のための人間中心AI安全
• Abstract要約: 我々は、学校、家庭、ケア設定、公共サービスを通じて、子どもと若者がAIと交流したり、接触したりした経験的研究100件を体系的にレビューした。 我々は,どのリスクが特定されたか,各リスクが対策によって対処されているか,そのリスクに対する対策が実施され,評価されるか,などをマップする。 我々は、安全ガードがまだテストされていない場所で、カバレッジが欠落している場所を特定し、若者のAI安全を強化するための具体的な方向性を提案する。
• 参考スコア（独自算出の注目度）: 9.635374561840226
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While HCI increasingly examines AI-safety for youth, the literature lacks a comprehensive view of what risks have been identified, how they are addressed, and whether proposed protections work in-practice. We systematically reviewed 100 empirical HCI studies involving children and youth interacting with or exposed to AI across schools, homes, care settings, and public services. Using the YAIR taxonomy for risks and the MIT Mitigation Taxonomy for countermeasures, we map which risks have been identified, whether each risk is addressed by countermeasure(s), and whether each countermeasure for that risk is implemented and even evaluated. The risk-countermeasure mapping shows that most risks are matched only with proposed/ideated countermeasures; few countermeasures have been implemented, and fewer still evaluated; and existing evaluations often measure technical performance rather than protection from harm. We identify where coverage is absent, where safeguards remain untested, and propose concrete directions for HCI research to strengthen youth AI-safety.
• Abstract（参考訳）: HCIは若者に対するAIの安全性をますます調査しているが、この文献はリスクの特定、対処方法、提案された保護策が実際に機能するかどうかの包括的な見解を欠いている。 学校,家庭,ケア設定,公共サービスを通じて,子どもと若者がAIと対話し,あるいは接触した経験的HCI研究100件を体系的にレビューした。 リスクに対するYAIR分類法と、対策のためのMIT緩和分類法を用いて、どのリスクが特定されたか、各リスクが対策によって対処されているか、そのリスクに対するそれぞれの対策が実施され、評価されるかどうかをマップする。 リスク・カウンタリング・マッピングは、ほとんどのリスクは、提案された/意図された対策にのみ適合し、対策は実施されておらず、まだ評価されていないことを示し、既存の評価は、しばしば害からの保護よりも技術的パフォーマンスを計測する。 我々は、安全ガードがまだテストされていない場所で、カバレッジが欠落している場所を特定し、若者のAI安全を強化するための具体的な方向性を提案する。

関連論文リスト

• Overview of Risk Assessment and Management for Intelligent Systems under the AI Act and Beyond [12.71451765578818]
  社会とAIのための新たなリスクベースの規制フレームワークは、厳格なリスクアセスメントの必要性を浮き彫りにしている。 この論文は、ベストプラクティスを強調し、方法論的ギャップを照らし、AIリスクアセスメントのさらなる研究領域を強調している。
  論文  参考訳（メタデータ） (2026-07-02T14:04:56Z)
• Rethinking AI Literacy Education in Higher Education: Bridging Risk Perception and Responsible Adoption [0.3823356975862005]
  本研究は、コンピュータサイエンス、データサイエンス/データ分析など139人の学生の回答を分析した。 学生は具体的な懸念を表明し、明確なリスクを明言した。 リスクとAIの採用意欲の認識は、明確な逆関係を示した。
  論文  参考訳（メタデータ） (2026-03-31T16:08:16Z)
• Identifying, Evaluating, and Mitigating Risks of AI Thought Partnerships [35.135633927249735]
  新たなフレームワークを通じて、AI思考パートナのリスクを特定します。 リスク評価のための具体的な指標を提案する。 開発者や政策立案者に対して、具体的な緩和戦略を提案する。
  論文  参考訳（メタデータ） (2025-05-22T16:58:48Z)
• Effective Mitigations for Systemic Risks from General-Purpose AI [9.39718128736321]
  AIの安全性、重要なインフラ、民主的プロセス、化学、生物学的、放射線学、核リスク(CBRN)、差別と偏見にまたがる専門知識を持つ76人の専門家を調査した。 リスク軽減対策は,様々なシステム的リスクを低減し,ドメインの専門家が技術的に実現可能であると認識されている。 安全インシデント報告とセキュリティ情報共有、サードパーティのデプロイ前モデル監査、デプロイ前リスク評価の3つの対策が注目されている。
  論文  参考訳（メタデータ） (2024-11-14T22:39:25Z)
• Risks and NLP Design: A Case Study on Procedural Document QA [52.557503571760215]
  より具体的なアプリケーションやユーザに対して分析を専門化すれば,ユーザに対するリスクや害の明確な評価が可能になる,と我々は主張する。 リスク指向のエラー分析を行い、リスクの低減とパフォーマンスの向上を図り、将来のシステムの設計を通知する。
  論文  参考訳（メタデータ） (2024-08-16T17:23:43Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
  この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。 我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。 本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)
• Quantitative AI Risk Assessments: Opportunities and Challenges [7.35411010153049]
  リスクを減らす最善の方法は、包括的なAIライフサイクルガバナンスを実装することです。 リスクは技術コミュニティのメトリクスを使って定量化できます。 本稿では,このようなアプローチの機会,課題,潜在的影響に焦点をあてて,これらの課題について考察する。
  論文  参考訳（メタデータ） (2022-09-13T21:47:25Z)
• A Survey of Risk-Aware Multi-Armed Bandits [84.67376599822569]
  我々は、様々な利害リスク対策をレビューし、その特性についてコメントする。 我々は,探索と探索のトレードオフが現れる,後悔の最小化設定のためのアルゴリズムを検討する。 今後の研究の課題と肥大化についてコメントし、締めくくりに締めくくります。
  論文  参考訳（メタデータ） (2022-05-12T02:20:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。