論文の概要: When Youth Enter the Algorithmic Wild: Discovering and Understanding Potentially Harmful Teen Videos on Douyin and Kwai
- arxiv url: http://arxiv.org/abs/2605.23598v1
- Date: Fri, 22 May 2026 13:06:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 17:29:20.358956
- Title: When Youth Enter the Algorithmic Wild: Discovering and Understanding Potentially Harmful Teen Videos on Douyin and Kwai
- Title（参考訳）: アルゴリズムの野に若者が入り込むとき:DouyinとKwaiの、潜在的に有害なティーンビデオを発見して理解する
- Authors: Shaoxuan Zhou, Yafei Sun, Jing Zhang, Xianghang Mi,
- Abstract要約: DouyinやKwaiのような短いビデオプラットホームは、十代の若者に有害なコンテンツをアルゴリズムで増幅させるリスクがある。
社会的な重要性にもかかわらず、この暴露の規模、メカニズム、実際の影響はいまだに理解されていない。
そこで我々はPHTV-Scoutを提案する。PHTV-Scoutは、潜在的に有害なティーンビデオのための、最初の大規模で行動的基盤測定フレームワークである。
- 参考スコア（独自算出の注目度）: 6.933489114068085
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Short-video platforms like Douyin and Kwai have become central to adolescent digital life, but they also risk exposing teens to algorithmically amplified harmful content. Despite its societal importance, the scale, mechanisms, and real-world impact of this exposure remain poorly understood. Measuring it is challenging: recommendation feeds are personalized black boxes, harmful content employs sophisticated evasion tactics, and naive crawlers fail to replicate authentic teen behavior. To bridge this gap, we propose PHTV-Scout, the first large-scale, behaviorally grounded measurement framework for Potentially Harmful Teen Videos (PHTVs). We integrate an offline survey of 683 adolescents with a tri-module online pipeline: (1) PHTV Hunter simulates teen accounts to collect recommendation feeds; (2) PHTV Arbiter, a LoRA-finetuned multimodal classifier, detects PHTVs with 94.29% accuracy and 96.41% precision; and (3) PHTV Analyzer performs fine-grained categorization and impact assessment. Over six months, we analyzed 186,727 videos and 51,287 comments, uncovering a troubling 6.11% PHTV prevalence--dominated by Child Sexual Exploitation Imagery (53.2%)--and revealing that harmful content thrives through covert interactions (e.g., grooming comments, self-disclosure) and active evasion (semantic camouflage, noise injection). Crucially, while Youth Mode blocks 100% of PHTVs, its low adoption (30-41%) leaves most teens unprotected. We further show that exposure is driven not by user identity but by regulation, platform algorithms, and even passive browsing, exposing the fragility of adolescent information environments. Our findings call for a paradigm shift from reactive takedowns to proactive, human-centered safeguards.
- Abstract（参考訳）: DouyinやKwaiのような短いビデオプラットフォームは、思春期のデジタルライフの中心となっているが、アルゴリズムによって有害なコンテンツを増幅する危険性もある。
社会的な重要性にもかかわらず、この暴露の規模、メカニズム、実際の影響はいまだに理解されていない。
推奨フィードはパーソナライズされたブラックボックスであり、有害なコンテンツは高度な回避戦略を採用し、ナイーブクローラーは真正なティーンの行動の再現に失敗する。
このギャップを埋めるために,我々はPHTV-Scoutを提案している。
1)PHTV Hunterはレコメンデーションフィードの収集のために10代のアカウントをシミュレートし、(2)LORAのマルチモーダル分類器であるPHTV Arbiterは94.29%の精度と96.41%の精度でPHTVを検出し、(3)PHTV Analyzerはきめ細かな分類と影響評価を行う。
6ヶ月にわたって186,727の動画と51,287のコメントを分析し、子どもの性的爆発画像(53.2%)が支配する6.11%のPHTVの有病率を明らかにし、有害なコンテンツが秘密の相互作用(例えば、コメントのグルーミング、自己開示)とアクティブな回避(セマンティックカモフラージュ、ノイズ注入)を通じて繁栄していることを明らかにした。
重要なのは、Youth ModeがPHTVの100%をブロックしているのに対して、採用率(30-41%)が低いため、ほとんどのティーンは保護されていない。
さらに、露光はユーザアイデンティティではなく、規制、プラットフォームアルゴリズム、さらには受動的ブラウジングによって駆動され、青年期の情報環境の脆弱さを露呈することを示す。
私たちの研究は、リアクティブな削除から、アクティブで人間中心の安全ガードへのパラダイムシフトを呼びかけています。
関連論文リスト
- Towards an Automated Framework to Audit Youth Safety on TikTok [6.83645418303131]
本稿では,TikTokの執行機構が若者のアカウントに有害なコンテンツが露出することを抑える効果について検討する。
7000本以上のビデオを収集し、有害か有害かの分類を行い、そして年齢に応じたソックパペットアカウントを使って相互作用をシミュレートする。
予備的な結果は、成人と青少年のアカウント間のコンテンツ露出の最小限の差を示し、プラットフォームが年齢ベースで調整されていることを懸念している。
論文 参考訳（メタデータ） (2025-09-06T21:30:11Z) - Catching Dark Signals in Algorithms: Unveiling Audiovisual and Thematic Markers of Unsafe Content Recommended for Children and Teenagers [13.39320891153433]
ショートフォームビデオプラットフォームの普及は、年齢検証メカニズムの非効率さと相まって、アルゴリズムを改造したオンライン環境において、子供やティーンエイジャーが直面する潜在的な害について懸念を喚起する。
Instagram Reels, TikTok, YouTube Shortsで, 子どもとティーンエイジャーに推奨される4,492本のショートビデオのマルチモーダル特徴分析とテーマ・トピック・モデリングを行った。
この特徴レベルおよびコンテンツレベルの分析により、安全でない(つまり、精神的に苦しむ)ショートビデオは、より暗い視覚的特徴を持ち、明らかな有害なコンテンツと、不安を引き起こす通常のコンテンツによる暗黙の害を含んでいることが明らかとなった。
論文 参考訳（メタデータ） (2025-07-16T18:41:42Z) - Adultification Bias in LLMs and Text-to-Image Models [55.02903075972816]
若い女性の人種やジェンダーの軸に沿った偏見について研究する。
我々は「文化バイアス」に焦点を当てており、黒人の女の子は白人の仲間よりも、より排他的で、性的に親密で、教育可能であると推定される現象である。
論文 参考訳（メタデータ） (2025-06-08T21:02:33Z) - Protecting Young Users on Social Media: Evaluating the Effectiveness of Content Moderation and Legal Safeguards on Video Sharing Platforms [0.8198234257428011]
我々は,TikTok,YouTube,Instagramの年齢層別ビデオモデレーションの有効性を評価した。
受動的スクロールでは、13歳グループに割り当てられたアカウントは、18歳グループに割り当てられたアカウントよりも、より頻繁に迅速に有害とされるビデオに遭遇した。
露光は、アルゴリズムフィルタリングシステムの弱点を示す、ユーザー主導の検索なしで発生した。
論文 参考訳（メタデータ） (2025-05-16T12:06:42Z) - Conspiracy theories and where to find them on TikTok [3.424635462664968]
本研究はTikTok上での陰謀論の体系的分析である。
比較ビデオの出現頻度を低く見積もる。
我々は,現在最先端のオープンウェイトな大規模言語モデルによる陰謀論の特定能力を評価する。
論文 参考訳（メタデータ） (2024-07-17T13:28:11Z) - From Theft to Bomb-Making: The Ripple Effect of Unlearning in Defending Against Jailbreak Attacks [85.84979847888157]
大規模言語モデル(LLM)は、ジェイルブレイク攻撃に弱いことが知られている。
LLMは、学習期間中に明示的に導入されなかった有害な知識を暗黙的に引き起こすことができる。
我々は、この現象を実証的に検証し、未学習の手法でアタック成功率を下げることを可能にする。
論文 参考訳（メタデータ） (2024-07-03T07:14:05Z) - Evaluating and Mitigating IP Infringement in Visual Generative AI [54.24196167576133]
最先端のビジュアル生成モデルは、知的財産権によって保護されたキャラクターと著しく類似したコンテンツを生成することができる。
これは、入力プロンプトが文字の名前を含む場合や、その特性に関する記述的な詳細を含む場合に発生する。
我々は、潜在的に侵害される可能性のあるコンテンツを特定し、IP侵害を防止するための修正された生成パラダイムを開発する。
論文 参考訳（メタデータ） (2024-06-07T06:14:18Z) - An Image is Worth a Thousand Toxic Words: A Metamorphic Testing
Framework for Content Moderation Software [64.367830425115]
ソーシャルメディアプラットフォームは、ヘイトスピーチ、悪意のある広告、ポルノなど、有害なコンテンツを拡散するためにますます悪用されている。
コンテンツモデレーション手法の開発と展開に多大な努力を払っているにもかかわらず、悪意のあるユーザは、テキストを画像に埋め込むことでモデレーションを回避することができる。
コンテンツモデレーションソフトウェアのためのメタモルフィックテストフレームワークを提案する。
論文 参考訳（メタデータ） (2023-08-18T20:33:06Z) - Attacking Video Recognition Models with Bullet-Screen Comments [79.53159486470858]
本稿では,BSC攻撃による映像認識モデルに対する新たな敵攻撃を提案する。
BSCは一種の意味のあるパッチと見なすことができ、クリーンなビデオに追加しても、ビデオの内容に対する人々の理解に影響を与えたり、人々の疑念を喚起したりしない。
論文 参考訳（メタデータ） (2021-10-29T08:55:50Z) - Quantifying the Vulnerabilities of the Online Public Square to Adversarial Manipulation Tactics [43.98568073610101]
ソーシャルメディアモデルを用いて、コンテンツの品質に対するいくつかの敵の操作戦術の影響を定量化する。
ソーシャルメディアの目印である影響力のあるアカウントの存在は、操作するオンラインコミュニティの脆弱性を悪化させる。
これらの知見は、プラットフォームがソーシャルメディアユーザーによる操作のレジリエンスを高めるために使われる可能性があることを示唆している。
論文 参考訳（メタデータ） (2019-07-13T21:12:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。