論文の概要: Towards Ethics by Design in Online Abusive Content Detection

• arxiv url: http://arxiv.org/abs/2010.14952v1
• Date: Wed, 28 Oct 2020 13:10:24 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-02 05:20:56.644076
• Title: Towards Ethics by Design in Online Abusive Content Detection
• Title（参考訳）: オンライン虐待コンテンツ検出におけるデザインによる倫理
• Authors: Svetlana Kiritchenko and Isar Nejadgholi
• Abstract要約: 研究の成果は、ヘイトスピーチの検出、毒性、サイバーいじめなど、関連するいくつかのサブエリアに広がっている。 倫理的問題を先導し、2段階のプロセスとして統一されたフレームワークを提案する。 新たなフレームワークは、Ethics by Designの原則によってガイドされており、より正確で信頼性の高いモデルを構築するためのステップである。
• 参考スコア（独自算出の注目度）: 7.163723138100273
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To support safety and inclusion in online communications, significant efforts in NLP research have been put towards addressing the problem of abusive content detection, commonly defined as a supervised classification task. The research effort has spread out across several closely related sub-areas, such as detection of hate speech, toxicity, cyberbullying, etc. There is a pressing need to consolidate the field under a common framework for task formulation, dataset design and performance evaluation. Further, despite current technologies achieving high classification accuracies, several ethical issues have been revealed. We bring ethical issues to forefront and propose a unified framework as a two-step process. First, online content is categorized around personal and identity-related subject matters. Second, severity of abuse is identified through comparative annotation within each category. The novel framework is guided by the Ethics by Design principle and is a step towards building more accurate and trusted models.
• Abstract（参考訳）: オンラインコミュニケーションにおける安全性と包摂性を支援するため、NLP研究における重要な取り組みは、一般的には教師付き分類タスクとして定義される乱用コンテンツ検出の問題に対処することを目的としている。 研究の成果は、ヘイトスピーチの検出、毒性、サイバーいじめなど、関連するいくつかのサブエリアに広がっている。 タスクの定式化、データセットの設計、パフォーマンス評価のための共通フレームワークの下で、フィールドを統合する必要がある。 さらに,最新の技術で高い分類精度が達成されているにもかかわらず,いくつかの倫理的問題が明らかにされている。 倫理的問題を先導し、2段階のプロセスとして統一されたフレームワークを提案する。 まず、オンラインコンテンツは、個人的およびアイデンティティ関連の主題に分類される。 第二に、各カテゴリーにおける比較アノテーションによって虐待の深刻度を識別する。 新たなフレームワークは、設計原則による倫理に導かれ、より正確で信頼できるモデルを構築するための一歩である。

関連論文リスト

• The Unappreciated Role of Intent in Algorithmic Moderation of Social Media Content [2.2618341648062477]
  本稿では,コンテンツモデレーションシステムにおける意図の役割について考察する。 本研究は,意識と意図を捉える能力を評価するために,オンライン虐待に対するアート検出モデルとベンチマークトレーニングデータセットの現状をレビューする。
  論文  参考訳（メタデータ） (2024-05-17T18:05:13Z)
• The Ethics of ChatGPT in Medicine and Healthcare: A Systematic Review on Large Language Models (LLMs) [0.0]
  ChatGPT, Large Language Models (LLMs) は医療分野で大きな注目を集めている。 その潜在的な利点にもかかわらず、研究者は様々な倫理的影響を過小評価してきた。 本研究は, LLMの医療・医療への展開の現段階を取り巻く倫理的景観を地図化することを目的としている。
  論文  参考訳（メタデータ） (2024-03-21T15:20:07Z)
• Noise Contrastive Estimation-based Matching Framework for Low-Resource Security Attack Pattern Recognition [49.536368818512116]
  TTP(Tactics, Techniques and Procedures)は、サイバーセキュリティドメインにおける高度な攻撃パターンを表す。 そこで本研究では,TTPラベルへのテキストの割り当てが,両者の直接的な意味的類似性によって決定される,異なる学習パラダイムの問題を定式化する。 本稿では,効果的なサンプリングベース学習機構を備えたニューラルマッチングアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2024-01-18T19:02:00Z)
• DEMASQ: Unmasking the ChatGPT Wordsmith [63.8746084667206]
  そこで本研究では,ChatGPT生成内容を正確に識別する効果的なChatGPT検出器DEMASQを提案する。 提案手法は, 人為的, 機械的, 人為的, 人為的, 機械的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人
  論文  参考訳（メタデータ） (2023-11-08T21:13:05Z)
• Integrity and Junkiness Failure Handling for Embedding-based Retrieval: A Case Study in Social Network Search [26.705196461992845]
  埋め込みベースの検索は、eコマースやソーシャルネットワーク検索など、さまざまな検索アプリケーションで使われている。 本稿では,2021年初頭に開始された埋め込み型検索をソーシャルネットワーク検索エンジン上で解析する。 私たちは、それによってもたらされた失敗の2つの主要なカテゴリ、完全性とジャンク性を定義します。
  論文  参考訳（メタデータ） (2023-04-18T20:53:47Z)
• Towards Identifying Social Bias in Dialog Systems: Frame, Datasets, and Benchmarks [95.29345070102045]
  本稿では,ダイアログの安全性問題に対する社会的バイアス検出に焦点をあてる。 まず,会話における社会的バイアスを現実的に分析する新しいダイアルバイアスフレームを提案する。 中国初の社会バイアスダイアログデータセットであるCDail-Biasデータセットを紹介する。
  論文  参考訳（メタデータ） (2022-02-16T11:59:29Z)
• Exposing Query Identification for Search Transparency [69.06545074617685]
  本稿では,検索システムの2つのクラスにおいて,クエリとドキュメントの役割を逆転させることにより,検索タスクとしてのEQIの実現可能性について検討する。 本研究では,クエリのランク付けの質を評価するための評価基準を導出するとともに,近似EQIの様々な実践的側面に着目した経験的分析を行う。
  論文  参考訳（メタデータ） (2021-10-14T20:19:27Z)
• Predicting Themes within Complex Unstructured Texts: A Case Study on Safeguarding Reports [66.39150945184683]
  本稿では,教師付き分類手法を用いた保護レポートにおいて,主テーマの自動識別の問題に焦点をあてる。 この結果から,ラベル付きデータに制限のある複雑なタスクであっても,深層学習モデルが対象知識の振る舞いをシミュレートする可能性が示唆された。
  論文  参考訳（メタデータ） (2020-10-27T19:48:23Z)
• Tasks Integrated Networks: Joint Detection and Retrieval for Image Search [99.49021025124405]
  多くの現実世界の探索シナリオ(例えばビデオ監視)では、オブジェクトは正確に検出または注釈付けされることはめったにない。 まず、エンド・ツー・エンド統合ネット(I-Net)を紹介します。 さらに,2つの新しいコントリビューションを行うDC-I-Netという改良されたI-Netを提案する。
  論文  参考訳（メタデータ） (2020-09-03T03:57:50Z)
• On Analyzing Annotation Consistency in Online Abusive Behavior Datasets [5.900114841365645]
  研究者たちは、オンライン虐待コンテンツデータセットの提案、収集、注釈付けを行った。 これらのデータセットは、オンラインヘイトスピーチや虐待行動の研究を促進する上で重要な役割を果たす。 ラベルのセマンティックな違いが曖昧になる可能性があるため、与えられたテキストの真のラベルであるべきものについては、しばしば批判的である。
  論文  参考訳（メタデータ） (2020-06-24T06:34:25Z)
• WAC: A Corpus of Wikipedia Conversations for Online Abuse Detection [0.0]
  本稿では,ウィキペディアのコメントコーパスに基づいて,異なるタイプのコメントレベルアノテーションを用いた独自のフレームワークを提案する。 380k以上の注釈付きメッセージからなるこの大規模なコーパスは、オンライン不正検出、特にコンテキストベースのアプローチに対する視点を開放する。 また、このコーパスに加えて、コンテンツ乱用検出の問題に関する科学的研究を刺激し、適切に比較するための完全なベンチマークプラットフォームも提案する。
  論文  参考訳（メタデータ） (2020-03-13T10:26:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。