論文の概要: Auditing Exposure to Harmful Content on TikTok using Multimodal Language Models: A Cross-National, Age-Stratified Study

• arxiv url: http://arxiv.org/abs/2608.17583v1
• Date: Tue, 18 Aug 2026 09:49:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-19 21:40:53.296242
• Title: Auditing Exposure to Harmful Content on TikTok using Multimodal Language Models: A Cross-National, Age-Stratified Study
• Title（参考訳）: マルチモーダル言語モデルを用いたTikTok上の有害コンテンツに対する監査:国家間・年齢層別研究
• Abstract要約: われわれは、フランス、イタリア、スウェーデンのTikTokを、13-19歳児のソックパペットアカウントで監査している。 受動的スクロールでは、イタリアはどの年齢でも最も被害率が高く、イタリアの年齢は48.6%に達した。
• 参考スコア（独自算出の注目度）: 3.783877142226869
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Online video platforms can expose young users to harmful content, but independent audits remain difficult because video annotation is costly and moderation judgments vary across languages. We audit TikTok in France, Italy, and Sweden with sockpuppet accounts representing four age personas (13, 16, 19, 40), collecting 36,971 videos from passive For-You-page scrolling and active sessions that scroll, search for harm keywords, and scroll again. To scale annotation, we validate four multimodal LLMs against native-speaker labels on a 300-video reference set. Gemini 2.5 Flash with eight sampled frames plus text performs best (aggregate kappa = 0.42), at half the per-call cost of native-video upload, and we apply it to a 10% sample for approximately \$50 in total API spend across both modalities. Keyword search returns 35-56% harmful content, a 1.5-7.5x increase over the scrolling baseline in ten of twelve country-age combinations; the spike is temporary and flattens the age differences observed in France and Sweden. Under passive scrolling, Italy has the highest harm rate at every age, with Italian age-19 reaching 48.6%. Overall, MLLM-based auditing offers a scalable approach for cross-national youth-safety audits, while provider safety filters (1.1% refusal rate) under-count the most explicit harms.
• Abstract（参考訳）: オンラインビデオプラットフォームは、若いユーザーに有害なコンテンツを公開することができるが、ビデオアノテーションが高価であり、モデレーションの判断が言語によって異なるため、独立した監査は難しいままである。 我々は,フランス,イタリア,スウェーデンのTikTokを,4人の年齢者(13,16,19,40)を表すソックパペットアカウントで監査し,受動的For-Youページスクロールとアクティブセッションから36,971本のビデオを収集し,スクロールし,有害キーワードを検索し,再度スクロールする。 アノテーションをスケールするために,300ビデオ参照セット上のネイティブ話者ラベルに対して4つのマルチモーダルLCMを検証する。 Gemini 2.5 Flashは8つのサンプルフレームとテキストで最高のパフォーマンス(kappa = 0.42)を示し、ネイティブビデオアップロードの呼び出しあたりのコストの半分を達成しています。 キーワード検索では35-56%の有害なコンテンツが返され、12の国と年齢の組み合わせのうち、スクロールベースラインの1.5-7.5倍が増加し、スパイクは一時的なもので、フランスとスウェーデンで見られる年齢差をフラット化している。 受動的スクロールでは、イタリアはどの年齢でも最も被害率が高く、イタリアの年齢は48.6%に達した。 MLLMをベースとした監査は、全国的な青少年安全監査にスケーラブルなアプローチを提供する一方、プロバイダの安全フィルタ(1.1%の拒絶率)は、最も明確な損害を計上する。

関連論文リスト

• Understanding Content Moderation in Large Language Models through Restricted Books: From Refusal to Warning [20.368437358149507]
  本研究では,制限付きおよび制限なしの書籍を用いて,大規模言語モデルが制御されたテストベッドにおけるセンシティブなトピックをどのように扱うかを検討する。 我々の中心的な発見はゼロ・リフレクション現象であり、現代のLCMは、わずか0.07%のケースで制限された書籍について議論する機会を減らしている。 我々は,プロバイダ間の系統的差異を同定し,迅速なフレーミングだけで警告レートのギャップを最大19ppにシフトさせることを示す。
  論文  参考訳（メタデータ） (2026-08-12T08:51:13Z)
• Benchmarking Speech-to-Speech Translation Models [55.00303727199927]
  音声音声翻訳(S2ST)は急速に進歩しているが、オフライン評価には統一されたプロトコルが欠けている。 8次元にわたる46のメトリクスを統合するベンチマークフレームワークを導入する。 FLEURSとCVSSから1,248のモデル言語構成でデプロイする。
  論文  参考訳（メタデータ） (2026-06-02T07:01:33Z)
• DIA-HARM: Dialectal Disparities in Harmful Content Detection Across 50 English Dialects [6.107850985025956]
  本稿では,50の英語方言における偽情報検出のための最初のベンチマークであるDIA-HARMを提案する。 人間による方言の含有量は1.4-3.6%減少し、一方でAI生成された内容は安定している。 私たちはDIA-HARMフレームワーク、D3コーパス、評価ツールをリリースします。
  論文  参考訳（メタデータ） (2026-04-07T01:43:48Z)
• Wisdom of the LLM Crowd: A Large Scale Benchmark of Multi-Label U.S. Election-Related Harmful Social Media Content [1.7020765368200692]
  USE24-XDは、2024年のアメリカ合衆国大統領選挙期間中にX(元Twitter)から収集された100万近い投稿の大規模なデータセットである。 我々は,共謀,感性主義,ヘイトスピーチ,スペキュレーション,サティアという5つのカテゴリの投稿を体系的にアノテートするために,6つの大きな言語モデル(LLM)を採用している。
  論文  参考訳（メタデータ） (2026-02-12T13:57:12Z)
• OutSafe-Bench: A Benchmark for Multimodal Offensive Content Detection in Large Language Models [54.80460603255789]
  マルチモーダル時代に設計された,最も包括的なコンテンツ安全性評価テストスイートであるOutSafe-Benchを紹介する。 OutSafe-Benchには、4つのモダリティにまたがる大規模なデータセットが含まれており、18,000以上のバイリンガル(中国語と英語)テキストプロンプト、4500のイメージ、450のオーディオクリップ、450のビデオが9つの重要なコンテンツリスクカテゴリで体系的に注釈付けされている。 このデータセットに加えて,多次元クロスリスクスコア(Multidimensional Cross Risk Score, MCRS)も導入した。
  論文  参考訳（メタデータ） (2025-11-13T13:18:27Z)
• A Multi-Task Benchmark for Abusive Language Detection in Low-Resource Settings [13.465169998045901]
  本研究は,Tigrinyaソーシャルメディアにおける乱用言語検出のための大規模マルチタスクベンチマークデータセットを提案する。 このデータセットは、9人のネイティブスピーカーが注釈付けした13,717のYouTubeコメントで構成され、51チャンネルで合計12億ビューの7,373のビデオから集められている。
  論文  参考訳（メタデータ） (2025-05-17T18:52:47Z)
• Protecting Young Users on Social Media: Evaluating the Effectiveness of Content Moderation and Legal Safeguards on Video Sharing Platforms [0.8198234257428011]
  我々は,TikTok,YouTube,Instagramの年齢層別ビデオモデレーションの有効性を評価した。 受動的スクロールでは、13歳グループに割り当てられたアカウントは、18歳グループに割り当てられたアカウントよりも、より頻繁に迅速に有害とされるビデオに遭遇した。 露光は、アルゴリズムフィルタリングシステムの弱点を示す、ユーザー主導の検索なしで発生した。
  論文  参考訳（メタデータ） (2025-05-16T12:06:42Z)
• Who Can Withstand Chat-Audio Attacks? An Evaluation Benchmark for Large Audio-Language Models [60.72029578488467]
  アドリラルオーディオ攻撃は、人間と機械の相互作用における大きなオーディオ言語モデル(LALM)の利用の増加に重大な脅威をもたらす。 本稿では,4種類の音声攻撃を含むChat-Audio Attacksベンチマークを紹介する。 Gemini-1.5-Pro, GPT-4oなど, 音声対話機能を有する6つの最先端LALMの評価を行った。
  論文  参考訳（メタデータ） (2024-11-22T10:30:48Z)
• "Knowing When You Don't Know": A Multilingual Relevance Assessment Dataset for Robust Retrieval-Augmented Generation [90.09260023184932]
  Retrieval-Augmented Generation (RAG) は、外部の知識源を活用して、事実の幻覚を減らすことで、Large Language Model (LLM) を出力する。 NoMIRACLは18言語にまたがるRAGにおけるLDM堅牢性を評価するための人為的アノテーション付きデータセットである。 本研究は,<i>Halucination rate</i>,<i>Halucination rate</i>,<i>Halucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sr。
  論文  参考訳（メタデータ） (2023-12-18T17:18:04Z)
• Breaking Language Barriers in Multilingual Mathematical Reasoning: Insights and Observations [59.056367787688146]
  本稿では, マルチリンガル数学推論 (xMR) LLM の探索と学習の先駆者である。 我々は10の異なる言語を含む最初の多言語数学推論命令データセットMGSM8KInstructを構築した。 翻訳を利用して、10個の異なる言語を含む最初の多言語数学推論命令データセットMGSM8KInstructを構築した。
  論文  参考訳（メタデータ） (2023-10-31T08:09:20Z)
• Massively Multilingual Shallow Fusion with Large Language Models [62.76735265311028]
  複数の言語で浅い融合のための単一多言語言語モデル(LM)を訓練する。 GLaMは、推論中に同様の計算を行う密度の高いLMと比較して、イングランドのロングテールテストのWERを4.4%削減する。 多言語浅層融合タスクでは、GLaMは50言語中41言語を改善し、平均相対的なWERの3.85%、最大10%の削減を実現している。
  論文  参考訳（メタデータ） (2023-02-17T14:46:38Z)
• Multilingual Multimodal Pre-training for Zero-Shot Cross-Lingual Transfer of Vision-Language Models [144.85290716246533]
  視覚言語モデルのゼロショット言語間移動について検討する。 本稿では,文脈化多言語マルチモーダル埋め込みを学習するトランスフォーマティブモデルを提案する。
  論文  参考訳（メタデータ） (2021-03-16T04:37:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。