論文の概要: Delayed takedown of illegal content on social media makes moderation ineffective

• arxiv url: http://arxiv.org/abs/2502.08841v2
• Date: Sat, 09 Aug 2025 20:52:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-12 21:23:28.184903
• Title: Delayed takedown of illegal content on social media makes moderation ineffective
• Title（参考訳）: ソーシャルメディア上の違法コンテンツの削除遅延は、モデレーションを効果的にしない
• Authors: Bao Tran Truong, Sangyeon Kim, Gianluca Nogara, Enrico Verdolotti, Erfan Samieyan Sahneh, Florian Saurwein, Natascha Just, Luca Luceri, Silvia Giordano, Filippo Menczer,
• Abstract要約: 本研究は、EUデジタルサービス法透明性データベースのデータを用いて、テイクダウン遅延の系統的解析との関係について検討する。 削除遅延はかなりのばらつきがあり、一部のコンテンツは数週間、あるいは数ヶ月にわたってオンラインに残っています。 我々は、違法なコンテンツ拡散をシミュレートし、急激な削除(数時間以内)が、違法なコンテンツに対する頻度、到達度、露出を著しく減少させることを明らかにした。
• 参考スコア（独自算出の注目度）: 4.4134057281132195
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Illegal content on social media poses significant societal harm and necessitates timely removal. However, the impact of the speed of content removal on prevalence, reach, and exposure to illegal content remains underexplored. This study examines the relationship with a systematic analysis of takedown delays using data from the EU Digital Services Act Transparency Database, covering five major platforms over a one-year period. We find substantial variation in takedown delay, with some content remaining online for weeks or even months. To evaluate how these delays affect the prevalence and reach of illegal content and exposure to it, we develop an agent-based model and calibrate it to empirical data. We simulate illegal content diffusion, revealing that rapid takedown (within hours) significantly reduces prevalence, reach, and exposure to illegal content, while longer delays fail to reduce its spread. Though the effect of delay may seem intuitive, our simulations quantify exactly how takedown speed shapes the spread of illegal content. Building on these results, we point to the benefits of faster content removal to effectively curb the spread of illegal content, while also considering the limitations of strict enforcement policies.
• Abstract（参考訳）: ソーシャルメディア上の違法なコンテンツは、社会に重大な害を与え、タイムリーな削除を必要としている。 しかし、コンテンツ削除のスピードが有病率、リーチ、違法コンテンツへの露出に与える影響は、未調査のままである。 本研究では,EUデジタルサービス法透明性データベースのデータを用いて,1年間に5つの主要なプラットフォームを網羅した削除遅延の系統的解析を行った。 削除遅延はかなりのばらつきがあり、一部のコンテンツは数週間、あるいは数ヶ月にわたってオンラインに残っています。 これらの遅延が違法なコンテンツや露出の頻度や到達度にどのように影響するかを評価するため、エージェントベースモデルを開発し、経験データに校正する。 我々は、違法なコンテンツの拡散をシミュレートし、急激な削除(数時間以内)により、違法なコンテンツの頻度、到達度、露出が大幅に減少する一方で、より長い遅延は拡散を減少させることができないことを明らかにした。 遅延の効果は直感的に思えるかもしれないが、我々のシミュレーションは、削除速度が違法コンテンツの拡散をいかに形作るかを正確に定量化している。 これらの結果に基づいて、違法コンテンツの拡散を効果的に抑制し、厳格な執行方針の制限を考慮しながら、より高速なコンテンツ削除の利点を指摘する。

関連論文リスト

• Community Moderation and the New Epistemology of Fact Checking on Social Media [124.26693978503339]
  ソーシャルメディアプラットフォームは伝統的に、誤解を招くコンテンツを識別しフラグを立てるために、独立した事実チェック組織に依存してきた。 X(元Twitter)とMetaは、クラウドソースのファクトチェックの独自のバージョンを立ち上げて、コミュニティ主導のコンテンツモデレーションに移行した。 主要なプラットフォーム間での誤情報検出の現在のアプローチについて検討し,コミュニティ主導型モデレーションの新たな役割を探求し,大規模クラウドチェックの約束と課題の両方を批判的に評価する。
  論文  参考訳（メタデータ） (2025-05-26T14:50:18Z)
• Toward Accessible and Safe Live Streaming Using Distributed Content Filtering with MoQ [0.8158530638728501]
  ライブビデオストリーミングはソーシャルメディアプラットフォームでますます人気がある。 ライブストリーミングは、分析と配信の両方のレイテンシを制限する。 本稿では,リアルタイムなコンテンツモデレーションを実現するためのメディアオーバーQUICトランスポートプロトコルの拡張について述べる。
  論文  参考訳（メタデータ） (2025-05-13T22:00:22Z)
• Certified Mitigation of Worst-Case LLM Copyright Infringement [46.571805194176825]
  コピーライト・テイクダウン(copyright takedown)とは、著作権のあるものに近いコンテンツをモデルが生成するのを防ぐ手法である。 我々はBloomScrubを提案する。BloomScrubは極めてシンプルで、非常に効果的な推論時間アプローチであり、認証された著作権の削除を提供する。 本研究は,軽量な推論時間手法が著作権保護に驚くほど有効であることを示唆する。
  論文  参考訳（メタデータ） (2025-04-22T17:16:53Z)
• Advancing Content Moderation: Evaluating Large Language Models for Detecting Sensitive Content Across Text, Images, and Videos [0.1399948157377307]
  政府、教育者、そして親はしばしば、そのようなコンテンツの拡散を規制し、制御し、制限する方法についてメディアプラットフォームと対立している。 自然言語処理やコンピュータビジョンといった技術は、センシティブなコンテンツを自動的に識別し、フィルタリングするために広く使われている。 テキストと画像の両方のコンテキストを理解するためのより洗練されたアルゴリズムは、コンテンツ検閲の改善のための部屋を開くかもしれない。
  論文  参考訳（メタデータ） (2024-11-26T05:29:18Z)
• Explainability and Hate Speech: Structured Explanations Make Social Media Moderators Faster [72.84926097773578]
  実世界のモデレーターの速度に及ぼす説明の影響について検討する。 我々の実験では、一般的な説明は速度に影響せず、しばしば無視されるが、構造化された説明はモデレーターの意思決定時間を7.4%減少させる。
  論文  参考訳（メタデータ） (2024-06-06T14:23:10Z)
• Algorithmic Arbitrariness in Content Moderation [1.4849645397321183]
  コンテンツモデレーションツールは、サンプルを任意に有毒と分類する方法を示す。 我々は、国際公民権条約(ICCPR)が定める人権の観点からこれらの知見について議論する。 本研究は、コンテンツモデレーションアプリケーションにおいて、任意性の透明性を識別し、向上する必要性を浮き彫りにする。
  論文  参考訳（メタデータ） (2024-02-26T19:27:00Z)
• Content Moderation on Social Media in the EU: Insights From the DSA Transparency Database [0.0]
  デジタルサービス法(DSA)は、EU内の大規模なソーシャルメディアプラットフォームに対して、特定のコンテンツへのアクセスを制限するたびに明確で具体的な情報を提供することを要求する。 Reasons(SoR)のステートメントは、コンテンツモデレーション決定の透明性と精査を保証するために、DSA Transparency Databaseに収集される。 われわれは、EUのソーシャルメディアプラットフォームにおけるコンテンツモデレーション決定を早期に検討するため、2ヶ月の観察期間内に1億5600万のSoRを実証分析した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:19Z)
• Why Should This Article Be Deleted? Transparent Stance Detection in Multilingual Wikipedia Editor Discussions [47.944081120226905]
  ウィキペディア編集者の議論の新たなデータセットを3言語で構築する。 データセットには、エディタのスタンス(keep、delete、merge、コメント)と、記述された理由、編集決定ごとにコンテンツモデレーションポリシーが含まれている。 我々は、姿勢とそれに対応する理由(政治)を高い精度で予測し、意思決定プロセスに透明性を加えることを実証する。
  論文  参考訳（メタデータ） (2023-10-09T15:11:02Z)
• An Image is Worth a Thousand Toxic Words: A Metamorphic Testing Framework for Content Moderation Software [64.367830425115]
  ソーシャルメディアプラットフォームは、ヘイトスピーチ、悪意のある広告、ポルノなど、有害なコンテンツを拡散するためにますます悪用されている。 コンテンツモデレーション手法の開発と展開に多大な努力を払っているにもかかわらず、悪意のあるユーザは、テキストを画像に埋め込むことでモデレーションを回避することができる。 コンテンツモデレーションソフトウェアのためのメタモルフィックテストフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-18T20:33:06Z)
• The Impact of Disinformation on a Controversial Debate on Social Media [1.299941371793082]
  われわれは、移民に関するイタリアの議論において、Twitter上での偽情報の存在がいかに広まっているかを研究する。 TwitterユーザーをtextitUntrustworthinessスコアで特徴付けることで、このような悪い情報消費習慣がユーザー間で均等に分散されていないことが分かる。
  論文  参考訳（メタデータ） (2021-06-30T10:29:07Z)
• News consumption and social media regulations policy [70.31753171707005]
  我々は、ニュース消費とコンテンツ規制の間の相互作用を評価するために、反対のモデレーション手法であるTwitterとGabを強制した2つのソーシャルメディアを分析した。 以上の結果から,Twitterが追求するモデレーションの存在は,疑わしいコンテンツを著しく減少させることがわかった。 Gabに対する明確な規制の欠如は、ユーザが両方のタイプのコンテンツを扱う傾向を生じさせ、ディスカウント/エンドレスメントの振る舞いを考慮に入れた疑わしいコンテンツに対してわずかに好みを示す。
  論文  参考訳（メタデータ） (2021-06-07T19:26:32Z)
• Quantifying the Vulnerabilities of the Online Public Square to Adversarial Manipulation Tactics [43.98568073610101]
  ソーシャルメディアモデルを用いて、コンテンツの品質に対するいくつかの敵の操作戦術の影響を定量化する。 ソーシャルメディアの目印である影響力のあるアカウントの存在は、操作するオンラインコミュニティの脆弱性を悪化させる。 これらの知見は、プラットフォームがソーシャルメディアユーザーによる操作のレジリエンスを高めるために使われる可能性があることを示唆している。
  論文  参考訳（メタデータ） (2019-07-13T21:12:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。