論文の概要: SafeSpeech: A Comprehensive and Interactive Tool for Analysing Sexist and Abusive Language in Conversations

• arxiv url: http://arxiv.org/abs/2503.06534v1
• Date: Sun, 09 Mar 2025 09:31:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-11 15:50:02.564866
• Title: SafeSpeech: A Comprehensive and Interactive Tool for Analysing Sexist and Abusive Language in Conversations
• Title（参考訳）: SafeSpeech:会話における性と虐待の言語分析のための包括的でインタラクティブなツール
• Authors: Xingwei Tan, Chen Lyu, Hafiz Muhammad Umer, Sahrish Khan, Mahathi Parvatham, Lois Arthurs, Simon Cullen, Shelley Wilson, Arshad Jhumka, Gabriele Pergola,
• Abstract要約: SafeSpeechは、有害なコンテンツの検出と分析のための総合的なプラットフォームである。 メッセージレベルと会話レベルの洞察をブリッジする。 このプラットフォームは、微調整の分類器と大きな言語モデルを統合する。 EDOS、OffensEval、HatEvalといったベンチマークデータセットの評価は、最先端のパフォーマンスの再現を実証している。
• 参考スコア（独自算出の注目度）: 7.4815142964548205
• License:
• Abstract: Detecting toxic language including sexism, harassment and abusive behaviour, remains a critical challenge, particularly in its subtle and context-dependent forms. Existing approaches largely focus on isolated message-level classification, overlooking toxicity that emerges across conversational contexts. To promote and enable future research in this direction, we introduce SafeSpeech, a comprehensive platform for toxic content detection and analysis that bridges message-level and conversation-level insights. The platform integrates fine-tuned classifiers and large language models (LLMs) to enable multi-granularity detection, toxic-aware conversation summarization, and persona profiling. SafeSpeech also incorporates explainability mechanisms, such as perplexity gain analysis, to highlight the linguistic elements driving predictions. Evaluations on benchmark datasets, including EDOS, OffensEval, and HatEval, demonstrate the reproduction of state-of-the-art performance across multiple tasks, including fine-grained sexism detection.
• Abstract（参考訳）: セクシズム、ハラスメント、虐待行動を含む有害な言語を検出することは、特に微妙で文脈に依存した形態において重要な課題である。 既存のアプローチは、会話のコンテキストにまたがる有害性を見越して、孤立したメッセージレベルの分類に重点を置いている。 この方向への今後の研究を促進するために,メッセージレベルと会話レベルの洞察を橋渡しする有毒なコンテンツ検出と分析のための総合的なプラットフォームであるSafeSpeechを紹介した。 このプラットフォームは、微調整の分類器と大型言語モデル(LLM)を統合し、多粒度検出、有毒な会話要約、ペルソナプロファイリングを可能にする。 SafeSpeechには、パープレキシティゲイン分析などの説明可能性メカニズムも組み込まれており、予測を駆動する言語要素を強調している。 EDOS、OffensEval、HatEvalといったベンチマークデータセットの評価は、きめ細かい性差別検出を含む複数のタスクにわたる最先端のパフォーマンスの再現を実証している。

関連論文リスト

• PanoSent: A Panoptic Sextuple Extraction Benchmark for Multimodal Conversational Aspect-based Sentiment Analysis [74.41260927676747]
  本稿では,マルチモーダル対話感分析(ABSA)を導入することでギャップを埋める。 タスクをベンチマークするために、手動と自動の両方で注釈付けされたデータセットであるPanoSentを構築し、高品質、大規模、マルチモーダル、マルチ言語主義、マルチシナリオを特徴とし、暗黙の感情要素と明示的な感情要素の両方をカバーする。 課題を効果的に解決するために,新しい多モーダルな大規模言語モデル(すなわちSentica)とパラフレーズベースの検証機構とともに,新しい感覚の連鎖推論フレームワークを考案した。
  論文  参考訳（メタデータ） (2024-08-18T13:51:01Z)
• A comprehensive cross-language framework for harmful content detection with the aid of sentiment analysis [0.356008609689971]
  この研究は、初めて、どんな言語にも適応可能な詳細なフレームワークを紹介します。 フレームワークの重要なコンポーネントは、汎用的で詳細なアノテーションガイドラインの開発である。 感情分析の統合は、有害な言語検出を強化する新しいアプローチである。
  論文  参考訳（メタデータ） (2024-03-02T17:13:47Z)
• Paralinguistics-Enhanced Large Language Modeling of Spoken Dialogue [71.15186328127409]
  パラリンGPT(Paralin GPT) モデルは、シリアライズされたマルチタスクフレームワーク内の入力プロンプトとして、テキスト、音声埋め込み、およびパラ言語属性の会話コンテキストを取る。 音声対話データセットとして,感情ラベルをパラ言語属性として含むSwitchboard-1コーパスを利用する。
  論文  参考訳（メタデータ） (2023-12-23T18:14:56Z)
• How Well Do Text Embedding Models Understand Syntax? [50.440590035493074]
  テキスト埋め込みモデルが幅広い構文的文脈にまたがって一般化する能力は、まだ解明されていない。 その結果,既存のテキスト埋め込みモデルは,これらの構文的理解課題に十分対応していないことが明らかとなった。 多様な構文シナリオにおけるテキスト埋め込みモデルの一般化能力を高めるための戦略を提案する。
  論文  参考訳（メタデータ） (2023-11-14T08:51:00Z)
• Exploiting Explainability to Design Adversarial Attacks and Evaluate Attack Resilience in Hate-Speech Detection Models [0.47334880432883714]
  本稿では,様々なヘイト音声検出モデルで表される対向的頑健性について分析する。 TextAttackツールを利用することで、テキストに対するターゲット攻撃を考案し、実行します。 この研究は、より堅牢で信頼性の高いヘイトスピーチ検出システムを構築するための道を開いた。
  論文  参考訳（メタデータ） (2023-05-29T19:59:40Z)
• Contextual Object Detection with Multimodal Large Language Models [66.15566719178327]
  本稿では,コンテキストオブジェクト検出の新たな研究課題について紹介する。 言語クローゼテスト,視覚キャプション,質問応答の3つの代表的なシナリオについて検討した。 本稿では、視覚的コンテキストのエンドツーエンドの微分可能なモデリングが可能な統合マルチモーダルモデルContextDETを提案する。
  論文  参考訳（メタデータ） (2023-05-29T17:50:33Z)
• Countering Malicious Content Moderation Evasion in Online Social Networks: Simulation and Detection of Word Camouflage [64.78260098263489]
  ツイストとカモフラージュキーワードは、プラットフォームコンテンツモデレーションシステムを回避する最もよく使われるテクニックである。 本稿では,コンテンツ回避の新たな手法をシミュレートし,検出する多言語ツールを開発することにより,悪意ある情報に対する対処に大きく貢献する。
  論文  参考訳（メタデータ） (2022-12-27T16:08:49Z)
• Speech Toxicity Analysis: A New Spoken Language Processing Task [32.297717021285344]
  ヘイトスピーチ(英: hate speech)またはヘイトスピーチ(英: hate speech)は、今日のオンラインソーシャルメディアを悩ませる重要な問題の1つである。 音声音声から有害性を検出する新しい音声言語処理タスクを提案する。 DeToxyは、様々な公開音声データベースから得られた英語音声に対する、初めて公開された毒性アノテートデータセットである。
  論文  参考訳（メタデータ） (2021-10-14T17:51:04Z)
• Topic-Aware Multi-turn Dialogue Modeling [91.52820664879432]
  本稿では,トピック認識発話を教師なしでセグメント化して抽出する,多元対話モデリングのための新しいソリューションを提案する。 トピック・アウェア・モデリングは、新たに提案されたトピック・アウェア・セグメンテーション・アルゴリズムとトピック・アウェア・デュアル・アテンション・マッチング(TADAM)ネットワークによって実現されている。
  論文  参考訳（メタデータ） (2020-09-26T08:43:06Z)
• "To Target or Not to Target": Identification and Analysis of Abusive Text Using Ensemble of Classifiers [18.053219155702465]
  ソーシャルメディアプラットフォーム上での虐待的・憎悪的コンテンツを識別・分析するためのアンサンブル学習手法を提案する。 私たちの積み重ねられたアンサンブルは、3つの機械学習モデルで構成されており、言語のさまざまな側面をキャプチャし、不適切な言語に関する多様な一貫性のある洞察を提供する。
  論文  参考訳（メタデータ） (2020-06-05T06:59:22Z)
• RECAST: Interactive Auditing of Automatic Toxicity Detection Models [39.621867230707814]
  本稿では, 予測のための説明を可視化し, 検出された有毒な音声に対する代替語提供を行うことにより, 有害な検出モデルを調べるインタラクティブツールであるRECASTについて述べる。
  論文  参考訳（メタデータ） (2020-01-07T00:17:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。