論文の概要: An Investigation of Large Language Models for Real-World Hate Speech Detection

• arxiv url: http://arxiv.org/abs/2401.03346v1
• Date: Sun, 7 Jan 2024 00:39:33 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-09 19:12:35.070183
• Title: An Investigation of Large Language Models for Real-World Hate Speech Detection
• Title（参考訳）: 実世界ヘイトスピーチ検出のための大規模言語モデルの検討
• Authors: Keyan Guo and Alexander Hu and Jaden Mu and Ziheng Shi and Ziming Zhao and Nishant Vishwamitra and Hongxin Hu
• Abstract要約: 既存の手法の大きな制限は、ヘイトスピーチ検出がコンテキストの問題である点である。 近年,大規模言語モデル (LLM) はいくつかの自然言語処理において最先端の性能を示した。 本研究は, ヘイトスピーチの文脈を効果的に把握する上で, 巧妙な推論プロンプトが有効であることを明らかにする。
• 参考スコア（独自算出の注目度）: 46.15140831710683
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Hate speech has emerged as a major problem plaguing our social spaces today. While there have been significant efforts to address this problem, existing methods are still significantly limited in effectively detecting hate speech online. A major limitation of existing methods is that hate speech detection is a highly contextual problem, and these methods cannot fully capture the context of hate speech to make accurate predictions. Recently, large language models (LLMs) have demonstrated state-of-the-art performance in several natural language tasks. LLMs have undergone extensive training using vast amounts of natural language data, enabling them to grasp intricate contextual details. Hence, they could be used as knowledge bases for context-aware hate speech detection. However, a fundamental problem with using LLMs to detect hate speech is that there are no studies on effectively prompting LLMs for context-aware hate speech detection. In this study, we conduct a large-scale study of hate speech detection, employing five established hate speech datasets. We discover that LLMs not only match but often surpass the performance of current benchmark machine learning models in identifying hate speech. By proposing four diverse prompting strategies that optimize the use of LLMs in detecting hate speech. Our study reveals that a meticulously crafted reasoning prompt can effectively capture the context of hate speech by fully utilizing the knowledge base in LLMs, significantly outperforming existing techniques. Furthermore, although LLMs can provide a rich knowledge base for the contextual detection of hate speech, suitable prompting strategies play a crucial role in effectively leveraging this knowledge base for efficient detection.
• Abstract（参考訳）: ヘイトスピーチは、今日の社会空間を悩ませる主要な問題として現れてきた。 この問題には多大な努力が払われてきたが、オンライン上でヘイトスピーチを効果的に検出する手法は依然としてかなり限られている。 既存の方法の大きな制限は、ヘイトスピーチの検出が高度に文脈的な問題であり、ヘイトスピーチの文脈を完全に捉えて正確な予測を行うことができないことである。 近年,大規模言語モデル (LLM) はいくつかの自然言語処理において最先端の性能を示した。 LLMは膨大な量の自然言語データを使用して広範な訓練を受けており、複雑な文脈の詳細を把握できる。 したがって、文脈認識型ヘイトスピーチ検出の知識基盤として使用できる。 しかし、ヘイトスピーチ検出にLLMを使うことの根本的な問題は、文脈対応ヘイトスピーチ検出にLLMを効果的に促す研究が存在しないことである。 本研究では,5つのヘイトスピーチデータセットを用いて,ヘイトスピーチ検出の大規模研究を行う。 我々は、llmsが現在のベンチマーク機械学習モデルのヘイトスピーチ識別性能を上回っていることを発見した。 ヘイトスピーチの検出におけるLLMの使用を最適化する4つの多様なプロンプト戦略を提案する。 本研究は,LLMの知識ベースを十分に活用することで,ヘイトスピーチの文脈を効果的に把握し,既存の手法よりもはるかに優れていることを示す。 さらに、llmはヘイトスピーチの文脈検出のための豊富な知識ベースを提供することができるが、効率的な検出のためにこの知識ベースを効果的に活用する上で、適切なプロンプト戦略が重要な役割を果たす。

関連論文リスト

• PhonologyBench: Evaluating Phonological Skills of Large Language Models [57.80997670335227]
  音声学は、音声の構造と発音規則の研究であり、Large Language Model (LLM) 研究において批判的であるが、しばしば見落とされがちな要素である。 LLMの音韻的スキルを明示的にテストするための3つの診断タスクからなる新しいベンチマークであるPhonologyBenchを提案する。 我々は,Rhyme Word GenerationとSyllable countingにおいて,人間と比較した場合,それぞれ17%と45%の有意なギャップを観察した。
  論文  参考訳（メタデータ） (2024-04-03T04:53:14Z)
• Towards Interpretable Hate Speech Detection using Large Language Model-extracted Rationales [15.458557611029518]
  ソーシャルメディアプラットフォームは、ユーザーが対人的な議論を行い、意見を述べるための重要な場である。 ヘイトスピーチのインスタンスを自動的に識別し、フラグを付ける必要がある。 本稿では,現在最先端の大規模言語モデル (LLM) を用いて,入力テキストから有理形の特徴を抽出することを提案する。
  論文  参考訳（メタデータ） (2024-03-19T03:22:35Z)
• Harnessing Artificial Intelligence to Combat Online Hate: Exploring the Challenges and Opportunities of Large Language Models in Hate Speech Detection [4.653571633477755]
  大規模言語モデル(LLM)は、翻訳、要約、感情分析など、言語生成以外の多くの多様なアプリケーションで優れている。 このことは、憎しみや有害なスピーチを識別する領域において、問題や倫理的なジレンマに悩まされる。
  論文  参考訳（メタデータ） (2024-03-12T19:12:28Z)
• Hate Speech Detection via Dual Contrastive Learning [25.878271501274245]
  本稿では,ヘイトスピーチ検出のための新しい双方向コントラスト学習フレームワークを提案する。 本フレームワークは,自己教師型学習と教師型学習の損失を協調的に最適化し,スパンレベルの情報を取得する。 公開可能な2つの英語データセットの実験を行い、実験結果から、提案モデルが最先端のモデルより優れていることが示された。
  論文  参考訳（メタデータ） (2023-07-10T13:23:36Z)
• Red Teaming Language Model Detectors with Language Models [114.36392560711022]
  大規模言語モデル(LLM)は、悪意のあるユーザによって悪用された場合、重大な安全性と倫理的リスクをもたらす。 近年,LLM生成テキストを検出し,LLMを保護するアルゴリズムが提案されている。 1) LLMの出力中の特定の単語を, 文脈が与えられたシノニムに置き換えること, 2) 生成者の書き方を変更するための指示プロンプトを自動で検索すること,である。
  論文  参考訳（メタデータ） (2023-05-31T10:08:37Z)
• Model-Agnostic Meta-Learning for Multilingual Hate Speech Detection [23.97444551607624]
  ソーシャルメディアにおけるヘイトスピーチは増加傾向にあり、そのような有害なコンテンツを検出することが大きな牽引力となっている。 HateMAMLはモデルに依存しないメタ学習ベースのフレームワークで、低リソース言語でのヘイトスピーチ検出を効果的に行う。 大規模な実験は、8つの異なる低リソース言語にわたる5つのデータセットで実施されている。
  論文  参考訳（メタデータ） (2023-03-04T22:28:29Z)
• Leveraging World Knowledge in Implicit Hate Speech Detection [5.5536024561229205]
  テキスト中のエンティティの言及に関する現実的な知識は、モデルがヘイトスピーチをよりよく検出するのに役立ちます。 また,実世界の知識がヘイトスピーチ検出に価値を与えない事例についても論じる。
  論文  参考訳（メタデータ） (2022-12-28T21:23:55Z)
• Deep Learning for Hate Speech Detection: A Comparative Study [54.42226495344908]
  ここでは, ディープ・ヘイト・音声検出法と浅いヘイト・音声検出法を大規模に比較した。 私たちの目標は、この地域の進歩を照らし、現在の最先端の強みと弱点を特定することです。 そこで我々は,ヘイトスピーチ検出の実践的利用に関するガイダンスの提供,最先端の定量化,今後の研究方向の特定を目的としている。
  論文  参考訳（メタデータ） (2022-02-19T03:48:20Z)
• Addressing the Challenges of Cross-Lingual Hate Speech Detection [115.1352779982269]
  本稿では,低リソース言語におけるヘイトスピーチ検出を支援するために,言語間移動学習に着目した。 言語間単語の埋め込みを利用して、ソース言語上でニューラルネットワークシステムをトレーニングし、ターゲット言語に適用します。 本研究では,ヘイトスピーチデータセットのラベル不均衡の問題について検討する。なぜなら,ヘイトサンプルと比較して非ヘイトサンプルの比率が高いことがモデル性能の低下につながることが多いからだ。
  論文  参考訳（メタデータ） (2022-01-15T20:48:14Z)
• Towards Language Modelling in the Speech Domain Using Sub-word Linguistic Units [56.52704348773307]
  音節や音素を含む言語単位に基づくLSTMに基づく新しい生成音声LMを提案する。 限られたデータセットでは、現代の生成モデルで要求されるものよりも桁違いに小さいので、我々のモデルはバブリング音声を近似する。 補助的なテキストLM,マルチタスク学習目標,補助的な調音特徴を用いた訓練の効果を示す。
  論文  参考訳（メタデータ） (2021-10-31T22:48:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。