論文の概要: From "Fail Fast" to "Mature Safely:" Expert Perspectives as Secondary Stakeholders on Teen-Centered Social Media Risk Detection
- arxiv url: http://arxiv.org/abs/2601.13516v1
- Date: Tue, 20 Jan 2026 02:09:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-21 22:47:23.117098
- Title: From "Fail Fast" to "Mature Safely:" Expert Perspectives as Secondary Stakeholders on Teen-Centered Social Media Risk Detection
- Title（参考訳）: Fail Fast」から「Mature Safely」へ:―ティーン中心型ソーシャルメディアリスク検出における二次株主としてのエキスパート視点―
- Authors: Renkai Ma, Ashwaq Alsoubai, Jinkyung Katie Park, Pamela J. Wisniewski,
- Abstract要約: 本稿では,33名のオンライン安全専門家とのオンラインインタビューを通じて,ティーン中心のソーシャルメディアリスク検出ダッシュボードの評価を行った。
専門家は、ダッシュボードの十代のエージェンシーに対する明確な設計を称賛し、彼らのフィードバックは、そのような技術の実装と維持において5つの主要な緊張関係を明らかにした。
これらの発見は、青少年の安全技術革新のための「ティーン中心」と「ファイル・ファスト」から「成熟した安全」パラダイムへの移行を再考する動機となっている。
- 参考スコア（独自算出の注目度）: 26.719055999377716
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In addressing various risks on social media, the HCI community has advocated for teen-centered risk detection technologies over platform-based, parent-centered features. However, their real-world viability remains underexplored by secondary stakeholders beyond the family unit. Therefore, we present an evaluation of a teen-centered social media risk detection dashboard through online interviews with 33 online safety experts. While experts praised our dashboard's clear design for teen agency, their feedback revealed five primary tensions in implementing and sustaining such technology: objective vs. context-dependent risk definition, informing risks vs. meaningful intervention, teen empowerment vs. motivation, need for data vs. data privacy, and independence vs. sustainability. These findings motivate us to rethink "teen-centered" and a shift from a "fail fast" to a "mature safely" paradigm for youth safety technology innovation. We offer design implications for addressing these tensions before system deployment with teens and strategies for aligning secondary stakeholders' interests to deploy and sustain such technologies in the broader ecosystem of youth online safety.
- Abstract（参考訳）: ソーシャルメディア上のさまざまなリスクに対処する上で、HCIコミュニティは、プラットフォームベースの親中心機能よりもティーン中心のリスク検出技術を提唱している。
しかし、彼らの現実の生存性は、ファミリーユニットを超えて二次利害関係者によって探索されていない。
そこで本稿では,33名のオンライン安全専門家とのオンラインインタビューを通じて,ティーン中心のソーシャルメディアリスク検出ダッシュボードの評価を行った。
専門家は、ダッシュボードの十代のエージェンシーに対する明確な設計を称賛したが、彼らのフィードバックは、このようなテクノロジの実装と維持において、客観的対コンテキスト依存のリスク定義、リスクの通知と意味のある介入、十代のエンパワーメント対モチベーション対モチベーション、データプライバシ対データプライバシ対データプライバシと独立性対サステナビリティの5つの主要な緊張関係を明らかにした。
これらの発見は、青少年の安全技術革新のための「ティーン中心」と「ファイル・ファスト」から「成熟した安全」パラダイムへの移行を再考する動機となっている。
システム展開前の緊張に対処するための設計上の意味と、若年層のオンライン安全のエコシステムにその技術を展開・維持するための二次利害関係者の利益を整合させる戦略を提供する。
関連論文リスト
- Oyster-I: Beyond Refusal -- Constructive Safety Alignment for Responsible Language Models [93.5740266114488]
コンストラクティブ・セーフティ・アライメント(CSA)は、悪意のある誤用を防ぎつつ、脆弱性のあるユーザを安全で有益な結果へと積極的に誘導する。
Oy1は、高度な汎用能力を保ちながら、オープンモデル間の最先端の安全性を達成する。
私たちは、責任あるユーザ中心AIをサポートするために、Oy1、コード、ベンチマークをリリースしています。
論文 参考訳（メタデータ） (2025-09-02T03:04:27Z) - SproutBench: A Benchmark for Safe and Ethical Large Language Models for Youth [14.569766143989531]
子供や青年を対象とするアプリケーションにおける大規模言語モデル(LLM)の急速な普及は、一般的なAI安全フレームワークの根本的な再評価を必要とする。
本稿では,年齢別認知,情緒的,社会的リスクなどの不適切な範囲を含む,既存のLCM安全性ベンチマークにおける重要な欠陥を明らかにする。
SproutBenchは,情緒的依存やプライバシー侵害,危険行動の模倣といったリスクを調査するための,1,283の発達的根拠を持つ敵のプロンプトからなる,革新的な評価スイートである。
論文 参考訳（メタデータ） (2025-08-14T18:21:39Z) - 'Teens Need to Be Educated on the Danger': Digital Access, Online Risks, and Safety Practices Among Nigerian Adolescents [0.0]
ナイジェリア連邦首都圏における中学生409人のオンライン体験について検討した。
自己管理型調査では、ほとんどの若者がオンライン技術や接続性に適度なアクセスを報告しているのに対し、リスクに遭遇した人は不適切なコンテンツやオンライン詐欺に頻繁にアクセスしていると報告している。
親は主要なサポートネットワークとして登場したが、モニタリングの実践やコミュニケーションは様々であった。
論文 参考訳（メタデータ） (2025-07-11T15:39:01Z) - Safe-Child-LLM: A Developmental Benchmark for Evaluating LLM Safety in Child-LLM Interactions [8.018569128518187]
子ども(7～12歳)と青年(13～17歳)の2つの発達段階において,AIの安全性を評価するためのベンチマークとデータセットであるSafe-Child-LLMを紹介した。
我々のフレームワークは、赤チームコーパスからキュレートされた200の敵のプロンプトからなる新しい多部データセットと、ジェイルブレイク成功のための人名ラベルと、標準化された0-5の倫理的拒絶尺度を含む。
ChatGPT、Claude、Gemini、LLaMA、DeepSeek、Grok、Vicuna、Mistralを含む主要なLCMを評価することで、子供向けシナリオにおける重大な安全性の欠陥が明らかになった。
論文 参考訳（メタデータ） (2025-06-16T14:04:54Z) - Towards Resilience and Autonomy-based Approaches for Adolescents Online Safety [7.446834742371107]
青少年のオンライン安全を促進するためのレジリエントベースおよびプライバシ保護ソリューションへの移行に向けて,文献に現れるパラダイムシフトについて論じる。
われわれは、十代のプライバシーとオンラインの安全との間のトレードオフをしばしば引き起こす制限的な仲介戦略の限界を強調している。
本稿では,10代のデジタルウェルビーイングを促進するためのレジリエンスに基づくアプローチを概念化し,検討した実証研究の概要を紹介する。
論文 参考訳（メタデータ） (2025-04-22T02:23:48Z) - Building a Village: A Multi-stakeholder Approach to Open Innovation and Shared Governance to Promote Youth Online Safety [13.270849736222065]
我々は若年層のオンライン安全分野の33人のステークホルダーにインタビューを行い、共同作業に対するビジョンがどこに収束し、緊張が表面化しているかを尋ねた。
我々は、利害関係者間の協力を促進するために、行動可能で公平な目標を表わすためには、非党派的リーダーシップが必要であることに気付きました。
オープンスタンダードとエビデンスに基づくデザインパターンを開発するために,若者のオンライン安全における多様な声を統一するオープンイノベーション組織の構築を提案する。
論文 参考訳（メタデータ） (2025-04-04T22:26:37Z) - AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。
このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
論文 参考訳（メタデータ） (2025-02-19T05:58:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。