論文の概要: Tackling Racial Bias in Automated Online Hate Detection: Towards Fair and Accurate Classification of Hateful Online Users Using Geometric Deep Learning

• arxiv url: http://arxiv.org/abs/2103.11806v1
• Date: Mon, 22 Mar 2021 13:08:11 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-23 14:07:28.606414
• Title: Tackling Racial Bias in Automated Online Hate Detection: Towards Fair and Accurate Classification of Hateful Online Users Using Geometric Deep Learning
• Title（参考訳）: オンラインヘイト自動検出におけるRacial Biasの対応:幾何学的深層学習による有害オンラインユーザの公平かつ正確な分類を目指して
• Authors: Zo Ahmed, Bertie Vidgen, and Scott A. Hale
• Abstract要約: 本論文では, ソーシャルネットワーク情報を取り入れることで, より公平で正確なヘイトフルなユーザ検出システムの開発方法を検討する。 ジオメトリックディープラーニングは、情報豊富なネットワーク表現を動的に学習し、見えないノードに一般化することができる。 最も正確で公平な分類器を生成し、AUCのスコアはデータセット全体の90.8%である。
• 参考スコア（独自算出の注目度）: 2.385774752937891
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Online hate is a growing concern on many social media platforms and other sites. To combat it, technology companies are increasingly identifying and sanctioning `hateful users' rather than simply moderating hateful content. Yet, most research in online hate detection to date has focused on hateful content. This paper examines how fairer and more accurate hateful user detection systems can be developed by incorporating social network information through geometric deep learning. Geometric deep learning dynamically learns information-rich network representations and can generalise to unseen nodes. This is essential for moving beyond manually engineered network features, which lack scalability and produce information-sparse network representations. This paper compares the accuracy of geometric deep learning with other techniques which either exclude network information or incorporate it through manual feature engineering (e.g., node2vec). It also evaluates the fairness of these techniques using the `predictive equality' criteria, comparing the false positive rates on a subset of 136 African-American users with 4836 other users. Geometric deep learning produces the most accurate and fairest classifier, with an AUC score of 90.8\% on the entire dataset and a false positive rate of zero among the African-American subset for the best performing model. This highlights the benefits of more effectively incorporating social network features in automated hateful user detection. Such an approach is also easily operationalized for real-world content moderation as it has an efficient and scalable design.
• Abstract（参考訳）: オンラインの憎しみは多くのソーシャルメディアプラットフォームや他のサイトに対する関心が高まっている。 これに対抗するため、テクノロジー企業はヘイトフルなコンテンツを単にモデレートするのではなく、”ヘイトフルユーザ”を識別し、認可するようになっている。 しかし、オンラインヘイト検出のほとんどの研究は、ヘイトフルコンテンツに焦点を当てている。 本稿では,幾何学的深層学習を通したソーシャルネットワーク情報の導入により,より公平でより正確なヘイトフルユーザ検出システムを開発する方法について検討する。 幾何学的ディープラーニングは、情報豊富なネットワーク表現を動的に学習し、未知のノードに一般化することができる。 これは、スケーラビリティが欠如し、情報スパースなネットワーク表現を生成する、手作業によるネットワーク機能を超えるために必要不可欠である。 本稿では,ネットワーク情報を取り除いたり,手動機能工学( node2vec など)によって組み込んだりした幾何学的深層学習の精度を比較した。 また、「予測平等」基準を用いて、これらの手法の公正性を評価し、他の4836人のアフリカ系アメリカ人ユーザーの136人のサブセットにおける偽陽性率を比較した。 幾何学的深層学習が最も正確で公平な分類器を生成し、AUCのスコアはデータセット全体で90.8\%、アフリカ系アメリカ人のサブセットの中では偽陽性率は0である。 これは、ヘイトフルな自動ユーザー検出にソーシャルネットワーク機能を効果的に組み込むことの利点を強調している。 このようなアプローチは、効率的でスケーラブルな設計であるため、実世界のコンテンツモデレーションでも容易に運用できる。

関連論文リスト

• AggregHate: An Efficient Aggregative Approach for the Detection of Hatemongers on Social Platforms [4.649475179575046]
  ヘイト・モンガーの検出には,ヘイトフルテキストやユーザ・アクティビティ,ユーザ・ネットワークを考慮し,マルチモーダル・アグリゲーティブ・アプローチを検討する。 本手法は, コーデックメッセージの分類, ドッグホイストリング, 人種的ガスライティングの改善, 介入対策の通知に有効である。
  論文  参考訳（メタデータ） (2024-09-22T14:29:49Z)
• Unsupervised Learning via Network-Aware Embeddings [0.0]
  ノード属性間のネットワーク距離を推定することにより,ネットワーク対応の埋め込みを作成する方法を示す。 提案手法は完全オープンソースであり, 論文中のすべての結果を再現するためのデータとコードは利用可能である。
  論文  参考訳（メタデータ） (2023-09-19T08:17:48Z)
• Improving Deep Representation Learning via Auxiliary Learnable Target Coding [69.79343510578877]
  本稿では,深層表現学習の補助的正規化として,新たな学習対象符号化を提案する。 具体的には、より差別的な表現を促進するために、マージンベースの三重項損失と、提案した目標符号上の相関整合損失を設計する。
  論文  参考訳（メタデータ） (2023-05-30T01:38:54Z)
• Harnessing the Power of Text-image Contrastive Models for Automatic Detection of Online Misinformation [50.46219766161111]
  誤情報識別の領域における構成的学習を探求する自己学習モデルを構築した。 本モデルでは、トレーニングデータが不十分な場合、非マッチング画像-テキストペア検出の優れた性能を示す。
  論文  参考訳（メタデータ） (2023-04-19T02:53:59Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Active Learning of Ordinal Embeddings: A User Study on Football Data [4.856635699699126]
  人間は本来、未知の類似性関数を使用してラベル付けされていないデータセットのインスタンス間の距離を計測する。 この研究はディープ・メトリック・ラーニングを使用して、大規模なフットボールの軌跡データセットのアノテーションからユーザ定義の類似性関数を学習する。
  論文  参考訳（メタデータ） (2022-07-26T07:55:23Z)
• Detecting Offensive Language on Social Networks: An End-to-end Detection Method based on Graph Attention Networks [7.723697303436006]
  攻撃的言語検出(CT-OLD)のためのコミュニティ構造とテキスト特徴に基づくエンドツーエンド手法を提案する。 ユーザの特徴を表現するために,コミュニティ構造にユーザ意見を追加する。ユーザ意見は,ユーザ履歴行動情報によって表現され,テキスト情報によって表現されるものよりも優れる。
  論文  参考訳（メタデータ） (2022-03-04T03:57:18Z)
• A Comprehensive Survey on Community Detection with Deep Learning [93.40332347374712]
  コミュニティは、ネットワーク内の他のコミュニティと異なるメンバーの特徴と接続を明らかにする。 この調査は、最先端の手法の様々なカテゴリをカバーする新しい分類法を考案し、提案する。 ディープニューラルネットワーク(Deep Neural Network)は、畳み込みネットワーク(convolutional network)、グラフアテンションネットワーク( graph attention network)、生成的敵ネットワーク(generative adversarial network)、オートエンコーダ(autoencoder)に分けられる。
  論文  参考訳（メタデータ） (2021-05-26T14:37:07Z)
• Leveraging Multi-domain, Heterogeneous Data using Deep Multitask Learning for Hate Speech Detection [21.410160004193916]
  畳み込みニューラルネットワークに基づくマルチタスク学習モデル(MTL)フットノートコードを提案し,複数のソースからの情報を活用する。 3つのベンチマークデータセットで実施した実証分析は,提案手法の有効性を示す。
  論文  参考訳（メタデータ） (2021-03-23T09:31:01Z)
• Anomaly Detection on Attributed Networks via Contrastive Self-Supervised Learning [50.24174211654775]
  本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。 このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。 高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
  論文  参考訳（メタデータ） (2021-02-27T03:17:20Z)
• Meta-Gradient Reinforcement Learning with an Objective Discovered Online [54.15180335046361]
  本稿では,深層ニューラルネットワークによって柔軟にパラメータ化される,自己目的のメタ段階的降下に基づくアルゴリズムを提案する。 目的はオンラインで発見されるため、時間とともに変化に適応することができる。 Atari Learning Environmentでは、メタグラディエントアルゴリズムが時間とともに適応して、より効率よく学習する。
  論文  参考訳（メタデータ） (2020-07-16T16:17:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。