論文の概要: Developing Linguistic Patterns to Mitigate Inherent Human Bias in Offensive Language Detection

• arxiv url: http://arxiv.org/abs/2312.01787v1
• Date: Mon, 4 Dec 2023 10:20:36 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-05 15:25:15.379325
• Title: Developing Linguistic Patterns to Mitigate Inherent Human Bias in Offensive Language Detection
• Title（参考訳）: 攻撃的言語検出における因果的ヒトバイアス軽減のための言語パターンの開発
• Authors: Toygar Tanyel, Besher Alkurdi, Serkan Ayvaz
• Abstract要約: 本稿では,ラベル付けプロセスにおけるバイアスを低減するための言語データ拡張手法を提案する。 このアプローチは、複数の言語にわたる攻撃的な言語分類タスクを改善する可能性がある。
• 参考スコア（独自算出の注目度）: 1.6574413179773761
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: With the proliferation of social media, there has been a sharp increase in offensive content, particularly targeting vulnerable groups, exacerbating social problems such as hatred, racism, and sexism. Detecting offensive language use is crucial to prevent offensive language from being widely shared on social media. However, the accurate detection of irony, implication, and various forms of hate speech on social media remains a challenge. Natural language-based deep learning models require extensive training with large, comprehensive, and labeled datasets. Unfortunately, manually creating such datasets is both costly and error-prone. Additionally, the presence of human-bias in offensive language datasets is a major concern for deep learning models. In this paper, we propose a linguistic data augmentation approach to reduce bias in labeling processes, which aims to mitigate the influence of human bias by leveraging the power of machines to improve the accuracy and fairness of labeling processes. This approach has the potential to improve offensive language classification tasks across multiple languages and reduce the prevalence of offensive content on social media.
• Abstract（参考訳）: ソーシャルメディアの普及に伴い、特に脆弱なグループをターゲットにした攻撃的なコンテンツが急増し、憎しみ、人種差別、性差別などの社会問題を悪化させている。 攻撃的言語の使用の検出は、攻撃的言語がソーシャルメディアで広く共有されるのを防ぐために不可欠である。 しかし、ソーシャルメディア上での皮肉、含意、様々なヘイトスピーチの正確な検出は依然として課題である。 自然言語に基づくディープラーニングモデルは、大規模で包括的でラベル付きデータセットによる広範なトレーニングを必要とする。 残念ながら、手動でこのようなデータセットを作成するのはコストとエラーが発生しやすい。 さらに、攻撃的言語データセットにおける人間バイアスの存在は、ディープラーニングモデルにとって大きな関心事である。 本稿では,機械の力を利用してラベル付けプロセスの精度と公平性を向上させることにより,人間のバイアスの影響を軽減することを目的とした,ラベル付けプロセスにおけるバイアス低減のための言語データ拡張手法を提案する。 このアプローチは、複数の言語にまたがる攻撃的言語分類タスクを改善し、ソーシャルメディアにおける攻撃的コンテンツの普及を減少させる可能性がある。

関連論文リスト

• Beyond Hate Speech: NLP's Challenges and Opportunities in Uncovering Dehumanizing Language [11.946719280041789]
  本稿では, GPT-4, GPT-3.5, LLAMA-2を含む最先端NLPモデルの性能評価を行った。 以上の結果から,これらのモデルが潜在的な可能性を示し,より広範なヘイトスピーチと非人間化言語を区別する精度が70%に達する一方で,バイアスも示していることがわかった。
  論文  参考訳（メタデータ） (2024-02-21T13:57:36Z)
• Hate Speech and Offensive Language Detection using an Emotion-aware Shared Encoder [1.8734449181723825]
  ヘイトスピーチと攻撃的言語検出に関する既存の研究は、事前学習されたトランスフォーマーモデルに基づいて有望な結果をもたらす。 本稿では,他コーパスから抽出した外的感情特徴を組み合わせたマルチタスク共同学習手法を提案する。 以上の結果から,感情的な知識が,データセット間のヘイトスピーチや攻撃的言語をより確実に識別する上で有効であることが示唆された。
  論文  参考訳（メタデータ） (2023-02-17T09:31:06Z)
• KOLD: Korean Offensive Language Dataset [11.699797031874233]
  韓国の攻撃言語データセット(KOLD)と40kのコメントに,攻撃性,目標,対象とするグループ情報をラベル付けしたコメントを提示する。 タイトル情報は文脈として役立ち、特にコメントで省略された場合、憎悪の対象を識別するのに役立ちます。
  論文  参考訳（メタデータ） (2022-05-23T13:58:45Z)
• On The Robustness of Offensive Language Classifiers [10.742675209112623]
  ソーシャルメディアプラットフォームは、ヘイトフル、人種差別、その他の攻撃的スピーチを大規模に戦うために、機械学習ベースの攻撃的言語分類システムをデプロイしている。 我々は、より巧妙な敵対的攻撃に対して、最先端の攻撃的言語分類器の堅牢性について検討する。 以上の結果から,攻撃的言語分類器の精度は50%以上低下し,修正文の可読性や意味も維持できることがわかった。
  論文  参考訳（メタデータ） (2022-03-21T20:44:30Z)
• On Guiding Visual Attention with Language Specification [76.08326100891571]
  注意をそらすのではなく,タスク関連機能に分類証拠を限定するためのアドバイスとして,ハイレベルな言語仕様を用いる。 この方法で空間的注意を監督することは、偏りのあるノイズのあるデータを用いた分類タスクの性能を向上させる。
  論文  参考訳（メタデータ） (2022-02-17T22:40:19Z)
• COLD: A Benchmark for Chinese Offensive Language Detection [54.60909500459201]
  COLDatasetは、37kの注釈付き文を持つ中国の攻撃的言語データセットである。 また、人気のある中国語モデルの出力攻撃性を研究するために、textscCOLDetectorを提案する。 我々の資源と分析は、中国のオンラインコミュニティを解毒し、生成言語モデルの安全性を評価することを目的としている。
  論文  参考訳（メタデータ） (2022-01-16T11:47:23Z)
• Addressing the Challenges of Cross-Lingual Hate Speech Detection [115.1352779982269]
  本稿では,低リソース言語におけるヘイトスピーチ検出を支援するために,言語間移動学習に着目した。 言語間単語の埋め込みを利用して、ソース言語上でニューラルネットワークシステムをトレーニングし、ターゲット言語に適用します。 本研究では,ヘイトスピーチデータセットのラベル不均衡の問題について検討する。なぜなら,ヘイトサンプルと比較して非ヘイトサンプルの比率が高いことがモデル性能の低下につながることが多いからだ。
  論文  参考訳（メタデータ） (2022-01-15T20:48:14Z)
• Improving Classifier Training Efficiency for Automatic Cyberbullying Detection with Feature Density [58.64907136562178]
  言語支援の異なる特徴前処理手法を用いて特徴密度(FD)の有効性を検討した。 データセットの複雑さを推定することで、必要な実験の数を削減できると仮定する。 データセットの言語的複雑さの違いにより、言語的に支援された単語前処理の有効性を議論することが可能になる。
  論文  参考訳（メタデータ） (2021-11-02T15:48:28Z)
• Towards Understanding and Mitigating Social Biases in Language Models [107.82654101403264]
  大規模事前訓練言語モデル(LM)は、望ましくない表現バイアスを示すのに潜在的に危険である。 テキスト生成における社会的バイアスを軽減するためのステップを提案する。 我々の経験的結果と人的評価は、重要な文脈情報を保持しながらバイアスを緩和する効果を示す。
  論文  参考訳（メタデータ） (2021-06-24T17:52:43Z)
• Semi-automatic Generation of Multilingual Datasets for Stance Detection in Twitter [9.359018642178917]
  本稿では,Twitterにおける姿勢検出のための多言語データセットを得る手法を提案する。 ユーザベースの情報を利用して、大量のツイートを半自動でラベル付けします。
  論文  参考訳（メタデータ） (2021-01-28T13:05:09Z)
• Leveraging Adversarial Training in Self-Learning for Cross-Lingual Text Classification [52.69730591919885]
  本稿では,ラベル保存型入力摂動の最大損失を最小限に抑える半教師付き対向学習法を提案する。 多様な言語群に対する文書分類と意図分類において,有効性が著しく向上するのを観察する。
  論文  参考訳（メタデータ） (2020-07-29T19:38:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。