論文の概要: Toxic Memes: A Survey of Computational Perspectives on the Detection and Explanation of Meme Toxicities

• arxiv url: http://arxiv.org/abs/2406.07353v1
• Date: Tue, 11 Jun 2024 15:22:48 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-12 15:24:54.385429
• Title: Toxic Memes: A Survey of Computational Perspectives on the Detection and Explanation of Meme Toxicities
• Title（参考訳）: Toxic Memes:meme Toxicitiesの検出と説明に関する計算学的考察
• Authors: Delfina Sol Martinez Pandiani, Erik Tjong Kim Sang, Davide Ceolin,
• Abstract要約: 有毒なミームの計算解析に関する研究は、過去5年間に大きく成長してきた。 計算有毒なミーム分析に関する3つの調査は、2022年までしか公表されていない。 我々の研究は、有害なミームに関するコンテンツベースの計算的視点を調査することによって、このギャップを埋める。
• 参考スコア（独自算出の注目度）: 0.26624014064407714
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Internet memes, channels for humor, social commentary, and cultural expression, are increasingly used to spread toxic messages. Studies on the computational analyses of toxic memes have significantly grown over the past five years, and the only three surveys on computational toxic meme analysis cover only work published until 2022, leading to inconsistent terminology and unexplored trends. Our work fills this gap by surveying content-based computational perspectives on toxic memes, and reviewing key developments until early 2024. Employing the PRISMA methodology, we systematically extend the previously considered papers, achieving a threefold result. First, we survey 119 new papers, analyzing 158 computational works focused on content-based toxic meme analysis. We identify over 30 datasets used in toxic meme analysis and examine their labeling systems. Second, after observing the existence of unclear definitions of meme toxicity in computational works, we introduce a new taxonomy for categorizing meme toxicity types. We also note an expansion in computational tasks beyond the simple binary classification of memes as toxic or non-toxic, indicating a shift towards achieving a nuanced comprehension of toxicity. Third, we identify three content-based dimensions of meme toxicity under automatic study: target, intent, and conveyance tactics. We develop a framework illustrating the relationships between these dimensions and meme toxicities. The survey analyzes key challenges and recent trends, such as enhanced cross-modal reasoning, integrating expert and cultural knowledge, the demand for automatic toxicity explanations, and handling meme toxicity in low-resource languages. Also, it notes the rising use of Large Language Models (LLMs) and generative AI for detecting and generating toxic memes. Finally, it proposes pathways for advancing toxic meme detection and interpretation.
• Abstract（参考訳）: インターネットのミーム、ユーモア、社会解説、文化表現のチャンネルは、有害なメッセージの拡散にますます利用されている。 有毒なミームの計算分析は過去5年間で著しく増加しており、計算有毒なミーム分析に関する3つの調査は2022年までしか出版されていない。 我々の研究は、有害ミームに関するコンテンツベースの計算的視点を調査し、2024年初めまで重要な発展をレビューすることで、このギャップを埋める。 PRISMA手法を用いることで、従来検討されていた論文を体系的に拡張し、3倍の結果を得る。 まず、コンテンツに基づく有毒なミーム分析に焦点をあてた158の計算作業を分析し、新しい119の論文を調査した。 有毒なミーム分析に使用される30以上のデータセットを特定し,そのラベルシステムについて検討する。 第2に, 計算作業における膜毒性の明確な定義の存在を観察した上で, 膜毒性の種類を分類する新たな分類法を提案する。 また, マイムを有毒あるいは非有毒の単純な二分分類に留まらず, 計算タスクの拡大は, 有毒の微妙な理解の達成へのシフトを示唆している。 第3に, 自動研究により, 目的, 意図, 搬送戦略の3つの内容に基づく毒素毒性の次元を同定した。 我々はこれらの次元とミーム毒性の関係を示す枠組みを開発する。 この調査は、クロスモーダル推論の強化、専門家と文化知識の統合、自動毒性説明の需要、低リソース言語におけるミーム毒性の取り扱いなど、重要な課題や最近の傾向を分析している。 また、有害なミームの検出と生成にLarge Language Models(LLM)と生成AIの利用が増加していることも指摘している。 最後に、有毒なミームの検出と解釈を促進するための経路を提案する。

関連論文リスト

• Just KIDDIN: Knowledge Infusion and Distillation for Detection of INdecent Memes [8.337745035712311]
  本稿では,LVLM(Large Visual Language Models)の知識蒸留(KD)と知識注入を統合し,有害度検出性能を向上させる新しいフレームワークを提案する。 提案手法は,コンパクトなVLMフレームワーク内で注入可能な大規模コモンセンス知識グラフ(KG)であるConceptNetから,サブ知識グラフを抽出する。 2つのヘイトスピーチベンチマークデータセットによる実験結果から,最先端のベースラインよりも優れた性能を示した。
  論文  参考訳（メタデータ） (2024-11-19T02:39:28Z)
• MemeMQA: Multimodal Question Answering for Memes via Rationale-Based Inferencing [53.30190591805432]
  構造化された質問に対する正確な応答を求めるマルチモーダルな質問応答フレームワークであるMemeMQAを紹介する。 また,MemeMQAに対処する新しい2段階マルチモーダルフレームワークであるARSENALを提案する。
  論文  参考訳（メタデータ） (2024-05-18T07:44:41Z)
• Facilitating Fine-grained Detection of Chinese Toxic Language: Hierarchical Taxonomy, Resources, and Benchmarks [18.44630180661091]
  既存のデータセットには、有害な型や表現の詳細なアノテーションがない。 ポストの毒性を検出するために語彙的知識を導入することが重要である。 本稿では,中国語の有害な言語をきめ細かい検出を容易にする。
  論文  参考訳（メタデータ） (2023-05-08T03:50:38Z)
• Detoxifying Text with MaRCo: Controllable Revision with Experts and Anti-Experts [57.38912708076231]
  本稿では,制御可能な生成法とテキスト書き直し法を組み合わせた解毒アルゴリズムMARCoを紹介する。 MaRCoは、毒性のないLMと毒性のあるLMの下の可能性を利用して、マスクすべき候補単語を見つけ、置換する可能性がある。 我々は,いくつかの微妙な毒性とマイクロアグレスデータセットについて評価し,自動測定値の基準値を上回るだけでなく,MARCoの書き直しは人間による評価で2.1ドル以上好まれることを示した。
  論文  参考訳（メタデータ） (2022-12-20T18:50:00Z)
• Toxicity Detection with Generative Prompt-based Inference [3.9741109244650823]
  言語モデル(LM)は、望ましくない内容を含むコーパスで訓練され、バイアスや毒性を示す能力を持つことは、長年にわたって知られていたリスクである。 本研究では,ゼロショットプロンプトによる毒性検出の生成的変異について検討し,プロンプトエンジニアリングに関する総合的な試行を行った。
  論文  参考訳（メタデータ） (2022-05-24T22:44:43Z)
• Detecting and Understanding Harmful Memes: A Survey [48.135415967633676]
  我々は有害なミームに焦点を当てた総合的な調査を行っている。 興味深い発見の1つは、多くの有害ミームが実際には研究されていないことである。 別の観察では、ミームは異なる言語で再パッケージ化することでグローバルに伝播し、多言語化することもできる。
  論文  参考訳（メタデータ） (2022-05-09T13:43:27Z)
• Toxicity Detection can be Sensitive to the Conversational Context [64.28043776806213]
  2種類の毒性ラベルを持つ1万のポストのデータセットを構築し、公開します。 また,新たな課題である文脈感度推定を導入し,コンテキストも考慮された場合,毒性が変化すると認識された投稿を識別することを目的とした。
  論文  参考訳（メタデータ） (2021-11-19T13:57:26Z)
• Annotators with Attitudes: How Annotator Beliefs And Identities Bias Toxic Language Detection [75.54119209776894]
  本研究では,アノテータのアイデンティティ(誰)と信念(なぜ)が有害な言語アノテーションに与える影響について検討する。 我々は、アンチブラック言語、アフリカ系アメリカ人の英語方言、俗語という3つの特徴を持つポストを考察する。 以上の結果から,アノテータのアイデンティティと信念と毒性評価の相関が強く示唆された。
  論文  参考訳（メタデータ） (2021-11-15T18:58:20Z)
• A feast for trolls -- Engagement analysis of counternarratives against online toxicity [0.0]
  2020年2月から2021年7月までの間に、ソーシャルメディアで1500万件以上の有毒メッセージを観察しました。 1000人以上のダッシュボードユーザーが、視覚的なミーム、テキスト、AI生成テキストを組み合わせた有毒なメッセージに反応した。
  論文  参考訳（メタデータ） (2021-11-13T20:38:31Z)
• RealToxicityPrompts: Evaluating Neural Toxic Degeneration in Language Models [93.151822563361]
  事前訓練されたニューラルネットワークモデル(LM)は、安全なデプロイメントを妨げる人種差別的、性差別的、その他の有害な言語を生成する傾向にある。 本研究では, 予め訓練したLMが有害な言語を生成できる範囲と, 有害な変性を防止するための制御可能なテキスト生成アルゴリズムの有効性について検討する。
  論文  参考訳（メタデータ） (2020-09-24T03:17:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。