論文の概要: No Easy Way Out: the Effectiveness of Deplatforming an Extremist Forum to Suppress Hate and Harassment
- arxiv url: http://arxiv.org/abs/2304.07037v7
- Date: Sat, 13 Apr 2024 22:45:12 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-17 00:26:56.155606
- Title: No Easy Way Out: the Effectiveness of Deplatforming an Extremist Forum to Suppress Hate and Harassment
- Title(参考訳): No Easy Way Out: ヘイトとハラスメントを抑えるためのExtremist Forumの非プラットフォーム化の効果
- Authors: Anh V. Vu, Alice Hutchings, Ross Anderson,
- Abstract要約: オンラインハラスメントやハラスメントを抑えるために、アクティブなコミュニティを非プラットフォーム化することは困難である。
ケーススタディでは、2022年後半に最大で最長のハラスメントフォーラム「キウイ・ファームズ」が中断された。
- 参考スコア(独自算出の注目度): 4.8185026703701705
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Legislators and policymakers worldwide are debating options for suppressing illegal, harmful and undesirable material online. Drawing on several quantitative data sources, we show that deplatforming an active community to suppress online hate and harassment, even with a substantial concerted effort involving several tech firms, can be hard. Our case study is the disruption of the largest and longest-running harassment forum Kiwi Farms in late 2022, which is probably the most extensive industry effort to date. Despite the active participation of a number of tech companies over several consecutive months, this campaign failed to shut down the forum and remove its objectionable content. While briefly raising public awareness, it led to rapid platform displacement and traffic fragmentation. Part of the activity decamped to Telegram, while traffic shifted from the primary domain to previously abandoned alternatives. The forum experienced intermittent outages for several weeks, after which the community leading the campaign lost interest, traffic was directed back to the main domain, users quickly returned, and the forum was back online and became even more connected. The forum members themselves stopped discussing the incident shortly thereafter, and the net effect was that forum activity, active users, threads, posts and traffic were all cut by about half. Deplatforming a community without a court order raises philosophical issues about censorship versus free speech; ethical and legal issues about the role of industry in online content moderation; and practical issues on the efficacy of private-sector versus government action. Deplatforming a dispersed community using a series of court orders against individual service providers appears unlikely to be very effective if the censor cannot incapacitate the key maintainers, whether by arresting them, enjoining them or otherwise deterring them.
- Abstract(参考訳): 世界中の議員や政策立案者は、違法で有害で望ましくない物質をオンラインで抑制するための選択肢を議論している。
いくつかの量的データに基づいて、オンラインハラスメントやハラスメントを抑えるためにアクティブなコミュニティを非プラットフォーム化することは、いくつかのテック企業が協力して取り組んでいるとしても、困難であることを示す。
われわれのケーススタディは、2022年後半に最大で最長のハラスメントフォーラムKiwi Farmsのディスラプトだ。
数ヵ月にわたって多くのテック企業が積極的に参加しているにもかかわらず、このキャンペーンはフォーラムを閉鎖し、好ましくないコンテンツを削除することはできなかった。
大衆の意識を高めながら、急激なプラットフォーム変位と交通の断片化に繋がった。
活動の一部はテレグラムに移され、トラフィックは主要領域から以前放棄された代替手段に移行した。
フォーラムは数週間間断続的な停止を経験し、その後、キャンペーンを主導するコミュニティは関心を失い、トラフィックはメインドメインに向けられ、利用者はすぐに戻って、フォーラムはオンラインに戻り、さらにつながりを増した。
フォーラムのメンバーは、事件の直後に議論をやめ、フォーラムの活動、アクティブユーザー、スレッド、投稿、トラフィックがほぼ半分になった。
裁判所命令のないコミュニティの非プラットフォーム化は、検閲と言論の自由に関する哲学的問題、オンラインコンテンツモデレーションにおける産業の役割に関する倫理的および法的問題、民間人対政府の行動の有効性に関する実践的問題を引き起こす。
個別のサービス提供者に対して一連の裁判所命令を用いて分散したコミュニティを構築することは、検閲がキーメンテナを逮捕、合流、その他の妨害によって無力化できなければ、非常に効果的とは思えない。
関連論文リスト
- Demarked: A Strategy for Enhanced Abusive Speech Moderation through Counterspeech, Detoxification, and Message Management [71.99446449877038]
本研究では, 重度尺度, (ii) ターゲットの存在, (iii) 文脈尺度, (iv) 法的尺度の4つの側面を基礎として, より包括的手法であるDemarcation scoreing abusive speechを提案する。
本研究は,ネット上での虐待的スピーチを効果的に解決するための今後の戦略を明らかにすることを目的としている。
論文 参考訳(メタデータ) (2024-06-27T21:45:33Z) - Analyzing Norm Violations in Live-Stream Chat [49.120561596550395]
本研究は,ライブストリーミングプラットフォーム上での会話における規範違反を検出することを目的とした,最初のNLP研究である。
ライブストリームチャットにおける標準違反カテゴリを定義し、Twitchから4,583のコメントを注釈付けします。
以上の結果から,適切なコンテキスト情報がモデレーション性能を35%向上させる可能性が示唆された。
論文 参考訳(メタデータ) (2023-05-18T05:58:27Z) - Online conspiracy communities are more resilient to deplatforming [2.9767849911461504]
Reddit, GreatAwakening, FatPeopleHateの2つの大きなコミュニティの禁止によって影響を受けるユーザの行動の変化を比較した。
われわれの推計によると、陰謀コミュニティのユーザーはRedditを離れ、Voatに加わる可能性がずっと高い。
移住するゼアロットはほとんどなく、新たな大覚醒コミュニティがVoatで成長する一方、この効果はFatPeopleHateにとって欠落している。
論文 参考訳(メタデータ) (2023-03-21T18:08:51Z) - Understanding Online Migration Decisions Following the Banning of
Radical Communities [0.2752817022620644]
本稿では,RECRO過激化フレームワークに関連する要因がユーザのマイグレーション決定にどのように関係するかを検討する。
この結果から,ユーザの行動に関連する個々のレベル要因が,フロンティアプラットフォームに投稿する決定に関連していることが示唆された。
論文 参考訳(メタデータ) (2022-12-09T10:43:15Z) - Nobody Wants to Work Anymore: An Analysis of r/antiwork and the
Interplay between Social and Mainstream Media during the Great Resignation [9.299167002524653]
r/antiworkはRedditコミュニティであり、労働者の搾取、労働権、および関連する左翼政治思想の議論に焦点を当てている。
2021年後半、r/antiworkはRedditで最も成長しているコミュニティとなり、主流メディアがグレート・リサイン(Great Resignation)と呼ぶようになった。
我々は,r/antiworkコミュニティが,加入者の増加と,その増加を記録づけるメディア報道の影響について検討した。
論文 参考訳(メタデータ) (2022-10-14T13:27:14Z) - Quantifying How Hateful Communities Radicalize Online Users [2.378428291297535]
我々は、他のソーシャルネットワークに伝播するヘイトスピーチの観点から、フロンティアヘイトフルなコミュニティに参加することの影響を計測する。
Redditのデータを使って、1種類のエコーチャンバーに参加する効果を評価する。
有害な言論はコミュニティに留まらないことを示す。
論文 参考訳(メタデータ) (2022-09-19T01:13:29Z) - Nipping in the Bud: Detection, Diffusion and Mitigation of Hate Speech
on Social Media [21.47216483704825]
本稿では,自動ヘイト緩和システムの構築を妨げる方法論的課題について述べる。
ソーシャルメディア上でのヘイトスピーチの拡散を制限するための一連のソリューションについて論じる。
論文 参考訳(メタデータ) (2022-01-04T03:44:46Z) - News consumption and social media regulations policy [70.31753171707005]
我々は、ニュース消費とコンテンツ規制の間の相互作用を評価するために、反対のモデレーション手法であるTwitterとGabを強制した2つのソーシャルメディアを分析した。
以上の結果から,Twitterが追求するモデレーションの存在は,疑わしいコンテンツを著しく減少させることがわかった。
Gabに対する明確な規制の欠如は、ユーザが両方のタイプのコンテンツを扱う傾向を生じさせ、ディスカウント/エンドレスメントの振る舞いを考慮に入れた疑わしいコンテンツに対してわずかに好みを示す。
論文 参考訳(メタデータ) (2021-06-07T19:26:32Z) - Detecting Harmful Content On Online Platforms: What Platforms Need Vs.
Where Research Efforts Go [44.774035806004214]
オンラインプラットフォーム上の有害コンテンツには、ヘイトスピーチ、攻撃的言語、いじめとハラスメント、誤情報、スパム、暴力、グラフィックコンテンツ、性的虐待、自己被害など、さまざまな形態がある。
オンラインプラットフォームは、そのようなコンテンツを、社会的危害を抑えるため、法律に従うために、ユーザーのためにより包括的な環境を作るために、緩和しようとしている。
現在、オンラインプラットフォームが抑制しようとしている有害なコンテンツの種類と、そのようなコンテンツを自動的に検出する研究努力との間には、隔たりがある。
論文 参考訳(メタデータ) (2021-02-27T08:01:10Z) - Racism is a Virus: Anti-Asian Hate and Counterspeech in Social Media
during the COVID-19 Crisis [51.39895377836919]
新型コロナウイルスは、アジアのコミュニティをターゲットにしたソーシャルメディア上で人種差別や憎悪を引き起こしている。
我々は、Twitterのレンズを通して、反アジアヘイトスピーチの進化と普及について研究する。
私たちは、14ヶ月にわたる反アジア的憎悪と反音声のデータセットとして最大となるCOVID-HATEを作成します。
論文 参考訳(メタデータ) (2020-05-25T21:58:09Z) - Quantifying the Vulnerabilities of the Online Public Square to Adversarial Manipulation Tactics [43.98568073610101]
ソーシャルメディアモデルを用いて、コンテンツの品質に対するいくつかの敵の操作戦術の影響を定量化する。
ソーシャルメディアの目印である影響力のあるアカウントの存在は、操作するオンラインコミュニティの脆弱性を悪化させる。
これらの知見は、プラットフォームがソーシャルメディアユーザーによる操作のレジリエンスを高めるために使われる可能性があることを示唆している。
論文 参考訳(メタデータ) (2019-07-13T21:12:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。