論文の概要: No Easy Way Out: The Effectiveness of Deplatforming an Extremist Forum
to Suppress Hate and Harassment
- arxiv url: http://arxiv.org/abs/2304.07037v1
- Date: Fri, 14 Apr 2023 10:14:16 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-17 13:54:15.704816
- Title: No Easy Way Out: The Effectiveness of Deplatforming an Extremist Forum
to Suppress Hate and Harassment
- Title（参考訳）: No Easy Way Out: ヘイトとハラスメントを抑えるためのExtremist Forumの非プラットフォーム化の効果
- Authors: Anh V. Vu, Alice Hutchings, Ross Anderson
- Abstract要約: オンラインハラスメントやハラスメントを抑えるためにアクティブなコミュニティを非プラットフォーム化することは、いくつかのテック企業による大規模な取り組みであっても、困難であることを示している。
我々のケーススタディは、2022年後半に最大で最長のハラスメントフォーラムKiwi Farmsをディスラプトしたものです。
- 参考スコア（独自算出の注目度）: 3.6070834016426154
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Legislators and policymakers worldwide are debating options for suppressing
illegal, harmful and undesirable material online. Drawing on several
quantitative datasets, we show that deplatforming an active community to
suppress online hate and harassment, even with a substantial collective effort
involving several tech firms, can be hard. Our case study is the disruption of
the largest and longest-running harassment forum Kiwi Farms in late 2022, which
is probably the most extensive industry effort to date. We collected complete
snapshots of this site and its primary competitor Lolcow Farm, encompassing
over 14.7M posts during their lifespan over the past decade. These data are
supplemented with a full scrape of the Telegram channel used to disseminate new
updates when the forum was down, tweets made by the online community leading
the takedown, and search interest and web traffic to the forum spanning two
months before and four months after the event. Despite the active participation
of several tech firms over a few months, this campaign failed to shut down the
forum and remove its objectionable content. While briefly raising public
awareness, it led to rapid platform displacement and traffic fragmentation.
Part of the activity decamped to Telegram, while traffic shifted from the
primary domain to previously abandoned alternatives. The community leading the
campaign lost interest quickly, traffic was directed back to the main domain,
users quickly returned, and the forum was back online and became even more
connected. The net effect was that forum activity, active users, threads, posts
and traffic were all cut by about half. Deplatforming a dispersed community
using a series of court orders against individual service providers appears
unlikely to be very effective if the censor cannot incapacitate the key
maintainers, whether by arresting them, enjoining them or otherwise deterring
them.
- Abstract（参考訳）: 世界中の議員や政策立案者は、オンライン上で違法で有害で望ましくない物質を抑制する選択肢を議論している。
いくつかの定量的なデータセットをもとに,オンライン嫌がらせやハラスメントを抑制するアクティブなコミュニティの非プラットフォーム化は,いくつかのit企業による大規模な集団的活動であっても困難であることを示す。
私たちのケーススタディは、2022年末に最大かつ最長のハラスメントフォーラムであるkiwi farmsが崩壊したことです。
このサイトと、その主要なライバルであるllcow farmの完全なスナップショットを収集し、過去10年間で1470万の投稿を集めた。
これらのデータは、フォーラムのダウン時に新しいアップデートを広めるために使用されるtelegramチャンネルの完全なスクラップ、削除を主導するオンラインコミュニティによるツイート、イベントの2か月前と4ヶ月後のフォーラムへの検索関心とwebトラフィックによって補完される。
数ヵ月間、いくつかのテクノロジー企業が積極的に参加していたが、このキャンペーンはフォーラムを閉鎖し、不快なコンテンツを削除できなかった。
大衆の意識を高めながら、急激なプラットフォーム変位と交通の断片化につながった。
活動の一部はテレグラムに移され、トラフィックは主要領域から以前放棄された代替手段に移行した。
キャンペーンを主導するコミュニティはすぐに関心を失い、トラフィックはメインドメインに向けられ、利用者はすぐに戻り、フォーラムはオンラインに戻り、さらにつながりを増した。
主な効果は、フォーラムの活動、アクティブユーザ、スレッド、投稿、トラフィックがすべて半分に削減されたことだ。
個別のサービス提供者に対して一連の裁判所命令を用いて分散したコミュニティを構築することは、検閲がキーメンテナを逮捕したり、加わったり、妨げたりすることなく、無力化できなければ、非常に効果的とは思えない。
関連論文リスト
- Demarked: A Strategy for Enhanced Abusive Speech Moderation through Counterspeech, Detoxification, and Message Management [71.99446449877038]
本研究では, 重度尺度, (ii) ターゲットの存在, (iii) 文脈尺度, (iv) 法的尺度の4つの側面を基礎として, より包括的手法であるDemarcation scoreing abusive speechを提案する。
本研究は,ネット上での虐待的スピーチを効果的に解決するための今後の戦略を明らかにすることを目的としている。
論文 参考訳（メタデータ） (2024-06-27T21:45:33Z) - Analyzing Norm Violations in Live-Stream Chat [49.120561596550395]
本研究は,ライブストリーミングプラットフォーム上での会話における規範違反を検出することを目的とした,最初のNLP研究である。
ライブストリームチャットにおける標準違反カテゴリを定義し、Twitchから4,583のコメントを注釈付けします。
以上の結果から,適切なコンテキスト情報がモデレーション性能を35%向上させる可能性が示唆された。
論文 参考訳（メタデータ） (2023-05-18T05:58:27Z) - Online conspiracy communities are more resilient to deplatforming [2.9767849911461504]
Reddit, GreatAwakening, FatPeopleHateの2つの大きなコミュニティの禁止によって影響を受けるユーザの行動の変化を比較した。
われわれの推計によると、陰謀コミュニティのユーザーはRedditを離れ、Voatに加わる可能性がずっと高い。
移住するゼアロットはほとんどなく、新たな大覚醒コミュニティがVoatで成長する一方、この効果はFatPeopleHateにとって欠落している。
論文 参考訳（メタデータ） (2023-03-21T18:08:51Z) - Understanding Online Migration Decisions Following the Banning of
Radical Communities [0.2752817022620644]
本稿では,RECRO過激化フレームワークに関連する要因がユーザのマイグレーション決定にどのように関係するかを検討する。
この結果から,ユーザの行動に関連する個々のレベル要因が,フロンティアプラットフォームに投稿する決定に関連していることが示唆された。
論文 参考訳（メタデータ） (2022-12-09T10:43:15Z) - Nobody Wants to Work Anymore: An Analysis of r/antiwork and the
Interplay between Social and Mainstream Media during the Great Resignation [9.299167002524653]
r/antiworkはRedditコミュニティであり、労働者の搾取、労働権、および関連する左翼政治思想の議論に焦点を当てている。
2021年後半、r/antiworkはRedditで最も成長しているコミュニティとなり、主流メディアがグレート・リサイン(Great Resignation)と呼ぶようになった。
我々は,r/antiworkコミュニティが,加入者の増加と,その増加を記録づけるメディア報道の影響について検討した。
論文 参考訳（メタデータ） (2022-10-14T13:27:14Z) - Quantifying How Hateful Communities Radicalize Online Users [2.378428291297535]
我々は、他のソーシャルネットワークに伝播するヘイトスピーチの観点から、フロンティアヘイトフルなコミュニティに参加することの影響を計測する。
Redditのデータを使って、1種類のエコーチャンバーに参加する効果を評価する。
有害な言論はコミュニティに留まらないことを示す。
論文 参考訳（メタデータ） (2022-09-19T01:13:29Z) - Nipping in the Bud: Detection, Diffusion and Mitigation of Hate Speech
on Social Media [21.47216483704825]
本稿では,自動ヘイト緩和システムの構築を妨げる方法論的課題について述べる。
ソーシャルメディア上でのヘイトスピーチの拡散を制限するための一連のソリューションについて論じる。
論文 参考訳（メタデータ） (2022-01-04T03:44:46Z) - News consumption and social media regulations policy [70.31753171707005]
我々は、ニュース消費とコンテンツ規制の間の相互作用を評価するために、反対のモデレーション手法であるTwitterとGabを強制した2つのソーシャルメディアを分析した。
以上の結果から,Twitterが追求するモデレーションの存在は,疑わしいコンテンツを著しく減少させることがわかった。
Gabに対する明確な規制の欠如は、ユーザが両方のタイプのコンテンツを扱う傾向を生じさせ、ディスカウント/エンドレスメントの振る舞いを考慮に入れた疑わしいコンテンツに対してわずかに好みを示す。
論文 参考訳（メタデータ） (2021-06-07T19:26:32Z) - Detecting Harmful Content On Online Platforms: What Platforms Need Vs.
Where Research Efforts Go [44.774035806004214]
オンラインプラットフォーム上の有害コンテンツには、ヘイトスピーチ、攻撃的言語、いじめとハラスメント、誤情報、スパム、暴力、グラフィックコンテンツ、性的虐待、自己被害など、さまざまな形態がある。
オンラインプラットフォームは、そのようなコンテンツを、社会的危害を抑えるため、法律に従うために、ユーザーのためにより包括的な環境を作るために、緩和しようとしている。
現在、オンラインプラットフォームが抑制しようとしている有害なコンテンツの種類と、そのようなコンテンツを自動的に検出する研究努力との間には、隔たりがある。
論文 参考訳（メタデータ） (2021-02-27T08:01:10Z) - Racism is a Virus: Anti-Asian Hate and Counterspeech in Social Media
during the COVID-19 Crisis [51.39895377836919]
新型コロナウイルスは、アジアのコミュニティをターゲットにしたソーシャルメディア上で人種差別や憎悪を引き起こしている。
我々は、Twitterのレンズを通して、反アジアヘイトスピーチの進化と普及について研究する。
私たちは、14ヶ月にわたる反アジア的憎悪と反音声のデータセットとして最大となるCOVID-HATEを作成します。
論文 参考訳（メタデータ） (2020-05-25T21:58:09Z) - Quantifying the Vulnerabilities of the Online Public Square to Adversarial Manipulation Tactics [43.98568073610101]
ソーシャルメディアモデルを用いて、コンテンツの品質に対するいくつかの敵の操作戦術の影響を定量化する。
ソーシャルメディアの目印である影響力のあるアカウントの存在は、操作するオンラインコミュニティの脆弱性を悪化させる。
これらの知見は、プラットフォームがソーシャルメディアユーザーによる操作のレジリエンスを高めるために使われる可能性があることを示唆している。
論文 参考訳（メタデータ） (2019-07-13T21:12:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。