論文の概要: Analyzing User Characteristics of Hate Speech Spreaders on Social Media
- arxiv url: http://arxiv.org/abs/2310.15772v2
- Date: Mon, 29 Jul 2024 14:40:55 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-31 00:36:23.506251
- Title: Analyzing User Characteristics of Hate Speech Spreaders on Social Media
- Title(参考訳): ソーシャルメディア上でのヘイトスピーチ拡散器のユーザ特性分析
- Authors: Dominique Geissler, Abdurahman Maarouf, Stefan Feuerriegel,
- Abstract要約: ヘイトスピーチにおけるユーザ特性の役割を分析する。
社会的影響の少ないユーザーは、ヘイトスピーチをシェアする傾向にある。
政治的反トランプと反右派憎悪は、より大きな社会的影響力を持つユーザーによって再創造される。
- 参考スコア(独自算出の注目度): 20.57872238271025
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Hate speech on social media threatens the mental and physical well-being of individuals and contributes to real-world violence. Resharing is an important driver behind the spread of hate speech on social media. Yet, little is known about who reshares hate speech and what their characteristics are. In this paper, we analyze the role of user characteristics in hate speech resharing across different types of hate speech (e.g., political hate). For this, we proceed as follows: First, we cluster hate speech posts using large language models to identify different types of hate speech. Then we model the effects of user attributes on users' probability to reshare hate speech using an explainable machine learning model. To do so, we apply debiasing to control for selection bias in our observational social media data and further control for the latent vulnerability of users to hate speech. We find that, all else equal, users with fewer followers, fewer friends, fewer posts, and older accounts share more hate speech. This shows that users with little social influence tend to share more hate speech. Further, we find substantial heterogeneity across different types of hate speech. For example, racist and misogynistic hate is spread mostly by users with little social influence. In contrast, political anti-Trump and anti-right-wing hate is reshared by users with larger social influence. Overall, understanding the factors that drive users to share hate speech is crucial for detecting individuals at risk of engaging in harmful behavior and for designing effective mitigation strategies.
- Abstract(参考訳): ソーシャルメディア上でのヘイトスピーチは、個人の精神的および身体的幸福を脅かし、現実世界の暴力に寄与する。
ソーシャルメディア上でのヘイトスピーチの普及を支える重要な要因は、リシェアだ。
しかし、誰がヘイトスピーチを再共有しているか、その特徴についてはほとんど知られていない。
本稿では,ヘイトスピーチにおけるユーザ特性の役割を,さまざまなヘイトスピーチ(政治的ヘイトスピーチなど)で分析する。
まず、大規模言語モデルを用いてヘイトスピーチ投稿をクラスタリングし、異なるタイプのヘイトスピーチを識別する。
次に,ユーザ属性がヘイトスピーチを再共有する確率に与える影響を,説明可能な機械学習モデルを用いてモデル化する。
そこで我々は,観察的ソーシャルメディアデータにおける選択バイアスの制御と,発話を嫌うユーザの潜伏する脆弱性の制御にデバイアスを適用した。
それ以外はすべて同じで、フォロワーが減り、友達も減り、投稿が減り、古いアカウントがヘイトスピーチを共有している。
これは、社会的影響の少ないユーザーがヘイトスピーチをシェアする傾向にあることを示している。
さらに、異なるタイプのヘイトスピーチに対してかなりの不均一性を見いだす。
例えば、人種差別と偽りの憎悪は、主に社会的影響の少ないユーザーによって拡散される。
対照的に、政治的反トランプと反右派憎悪は、より大きな社会的影響力を持つユーザーによって再創造される。
全体として、ヘイトスピーチの共有を促す要因を理解することは、有害な行動に関与するリスクのある個人を検知し、効果的な緩和戦略を設計するために重要である。
関連論文リスト
- ProvocationProbe: Instigating Hate Speech Dataset from Twitter [0.39052860539161904]
textitProvocationProbeは、ヘイトスピーチを一般的なヘイトスピーチと区別するためのデータセットである。
本研究では、Twitterから約2万件のツイートを収集し、全世界で9件の論争を巻き起こした。
論文 参考訳(メタデータ) (2024-10-25T16:57:59Z) - Hostile Counterspeech Drives Users From Hate Subreddits [1.5035331281822]
我々は、Redditにおけるヘイトサブレディット内の新参者に対する反音声の効果を分析した。
非敵対的なカウンタースピーチは、ユーザーがこれらの憎悪のサブレディットから完全に切り離すのを防ぐのに効果がない。
単一の敵対的な反論は、将来のエンゲージメントの可能性を大幅に減らす。
論文 参考訳(メタデータ) (2024-05-28T17:12:41Z) - An Investigation of Large Language Models for Real-World Hate Speech
Detection [46.15140831710683]
既存の手法の大きな制限は、ヘイトスピーチ検出がコンテキストの問題である点である。
近年,大規模言語モデル (LLM) はいくつかの自然言語処理において最先端の性能を示した。
本研究は, ヘイトスピーチの文脈を効果的に把握する上で, 巧妙な推論プロンプトが有効であることを明らかにする。
論文 参考訳(メタデータ) (2024-01-07T00:39:33Z) - On the rise of fear speech in online social media [7.090807766284268]
恐怖のスピーチは、名前が示すように、ターゲットのコミュニティに対する恐怖を呼び起こそうとしている。
本稿では,Gab.comから収集した400K以上の恐怖音声と700K以上のヘイトスピーチ投稿の頻度を理解するための大規模研究について述べる。
論文 参考訳(メタデータ) (2023-03-18T02:46:49Z) - CoSyn: Detecting Implicit Hate Speech in Online Conversations Using a
Context Synergized Hyperbolic Network [52.85130555886915]
CoSynは、オンライン会話における暗黙のヘイトスピーチを検出するために、ユーザと会話のコンテキストを明示的に組み込んだ、コンテキスト中心のニューラルネットワークである。
我々は、CoSynが、1.24%から57.8%の範囲で絶対的に改善された暗黙のヘイトスピーチを検出することで、我々のベースラインを全て上回っていることを示す。
論文 参考訳(メタデータ) (2023-03-02T17:30:43Z) - Quantifying How Hateful Communities Radicalize Online Users [2.378428291297535]
我々は、他のソーシャルネットワークに伝播するヘイトスピーチの観点から、フロンティアヘイトフルなコミュニティに参加することの影響を計測する。
Redditのデータを使って、1種類のエコーチャンバーに参加する効果を評価する。
有害な言論はコミュニティに留まらないことを示す。
論文 参考訳(メタデータ) (2022-09-19T01:13:29Z) - Addressing the Challenges of Cross-Lingual Hate Speech Detection [115.1352779982269]
本稿では,低リソース言語におけるヘイトスピーチ検出を支援するために,言語間移動学習に着目した。
言語間単語の埋め込みを利用して、ソース言語上でニューラルネットワークシステムをトレーニングし、ターゲット言語に適用します。
本研究では,ヘイトスピーチデータセットのラベル不均衡の問題について検討する。なぜなら,ヘイトサンプルと比較して非ヘイトサンプルの比率が高いことがモデル性能の低下につながることが多いからだ。
論文 参考訳(メタデータ) (2022-01-15T20:48:14Z) - Nipping in the Bud: Detection, Diffusion and Mitigation of Hate Speech
on Social Media [21.47216483704825]
本稿では,自動ヘイト緩和システムの構築を妨げる方法論的課題について述べる。
ソーシャルメディア上でのヘイトスピーチの拡散を制限するための一連のソリューションについて論じる。
論文 参考訳(メタデータ) (2022-01-04T03:44:46Z) - Annotators with Attitudes: How Annotator Beliefs And Identities Bias
Toxic Language Detection [75.54119209776894]
本研究では,アノテータのアイデンティティ(誰)と信念(なぜ)が有害な言語アノテーションに与える影響について検討する。
我々は、アンチブラック言語、アフリカ系アメリカ人の英語方言、俗語という3つの特徴を持つポストを考察する。
以上の結果から,アノテータのアイデンティティと信念と毒性評価の相関が強く示唆された。
論文 参考訳(メタデータ) (2021-11-15T18:58:20Z) - News consumption and social media regulations policy [70.31753171707005]
我々は、ニュース消費とコンテンツ規制の間の相互作用を評価するために、反対のモデレーション手法であるTwitterとGabを強制した2つのソーシャルメディアを分析した。
以上の結果から,Twitterが追求するモデレーションの存在は,疑わしいコンテンツを著しく減少させることがわかった。
Gabに対する明確な規制の欠如は、ユーザが両方のタイプのコンテンツを扱う傾向を生じさせ、ディスカウント/エンドレスメントの振る舞いを考慮に入れた疑わしいコンテンツに対してわずかに好みを示す。
論文 参考訳(メタデータ) (2021-06-07T19:26:32Z) - Racism is a Virus: Anti-Asian Hate and Counterspeech in Social Media
during the COVID-19 Crisis [51.39895377836919]
新型コロナウイルスは、アジアのコミュニティをターゲットにしたソーシャルメディア上で人種差別や憎悪を引き起こしている。
我々は、Twitterのレンズを通して、反アジアヘイトスピーチの進化と普及について研究する。
私たちは、14ヶ月にわたる反アジア的憎悪と反音声のデータセットとして最大となるCOVID-HATEを作成します。
論文 参考訳(メタデータ) (2020-05-25T21:58:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。